ネット時代も嘘だらけだった。それでも僕たちは使ってきた。ハルシネーションについて考える。

2025/10/15

こんにちは、おぐりんです。

AI時代のリスクとしてよく語られるものの一つに「ハルシネーション」があります。
つまり、AIが間違った情報をもっともらしく提示することです。

これに対して、「だからAIは信用できない」と結論づける声も少なくありません。

しかし、本当にそうでしょうか？

インターネット時代だって「嘘の情報」はあふれていた

そもそも、「間違った情報」「陰謀論」「個人的バイアスに基づく誤解」。こうしたものはインターネット以前からずっと存在していました。

我々は常に情報の取捨選択を強いられて生きてきたのです。
要は「情報ソースの正誤を見極める力」は、AI以前から常に求められていたリテラシーであって、AIが登場したから新しく生まれた課題ではないはずです。

AIが出力する情報に誤りが含まれる可能性がある。
それは事実です。

でも、そのせいでAIを使わないというのは、あまりにももったいない。

なぜなら、AIには「整合性を自分で取りに行かせること」ができるからです。

たとえば、

などのプロンプト設計やリクエスト次第で精度を高められるし、
そもそも人間が「それっぽく見える間違い」をすぐに信じてしまうなら、それはリテラシーの問題です。

むしろ、AIはハルシネーションを含むからこそ：

といった側面もあります。

ネットが登場したときにも「デマが増える」と批判されたように、
新しいテクノロジーは必ず“不安”とセットで語られるものです。

でも、実際には使う側がどうリテラシーを持ち、どう仕組み化するかの方が圧倒的に重要です。

企業研修でも、誤情報のリスクは生成AIによって突然生まれた問題ではないと伝えています。 検索が中心だった時代にも、古い記事、個人の見解、広告、偏った情報はありました。答えを得る手段が検索から生成AIへ変わっても、根拠・日付・発信元・用途を見る必要は変わりません。

一方で、AIの出力をすべて同じ厳しさで確認する必要もありません。重要なのは、誰が見るのか、何の判断に使うのか、誤りがどれほど影響するのかに応じて、確認の深さを変えることです。

同じAI出力でも、用途が変われば確認すべきことは変わります。 すべてを疑い続けるのではなく、リスクに応じて確認レベルを設計する方が、実務では持続します。

AIが出典名やURLを示しても、その見た目がもっともらしいだけで確認完了にはできません。複数のAIが同じ答えを返した場合も、同じWeb情報や二次情報を参照している可能性があります。重要な判断では、出典が実在するかだけでなく、その原本が主張を本当に支えているかを人が確かめます。

AIは判断材料をつくれますが、業務として採用し、説明し、外部へ出す責任までは引き受けません。 出典の妥当性をどこまで確認するかを決め、最終責任を持つのは、AIを使う人と組織です。

こうした確認レベルの設計をチームの実務へ落とし込みたい場合は、AidiaのAI研修でも、業務やリスクに合わせた使い分けを一緒に整理しています。