ハルシネーションってなに？

「AIに聞いたら堂々と嘘をつかれた」「ハルシネーション」… ここ最近、AIを使う人の間でよく出てくる言葉。

ChatGPT や Claude に何か聞くと、もっともらしい言葉でスラスラ答えてくれる——でも、たまに「それ、よく見たら違うんじゃない？」という回答が混じる。これがハルシネーションと呼ばれる現象。今回は、なぜそんなことが起きるのか、ふんわり見ていきます。

ハルシネーションってなに？

ざっくり言うと、ハルシネーションは AIが “知らないこと” を、自信ありげに答えてしまう現象 です。

イメージは、「“分からない” と言えない博士」。

• 本当はものすごく博識で、たいていのことは正確に答えられる
• でも、知らないことを聞かれても “分かりません” と言えない仕組み
• だから推測で埋めて、いつもと同じ自信ありげな口調で答える
• → 聞いた側からは、もっともらしい間違いを言っているように見える

→ 大事なのは、AI に 嘘をつこうという意図はない ということ。仕組み上、知らないことも何か答えてしまう——それがハルシネーションの正体です。

なぜ “分からない” と言えないの？

「博士なら、分からないなら “分かりません” と言えばいいのに」と思いますよね。ここに AI の本質的な仕組みがあります。

AI（ChatGPT や Claude）は、内部では「辞書から知識を引いてる」のではなく、「文章として一番自然な続きを予測してる」 だけです。

• 学習した大量の文章から、「こう聞かれたら、こう答えるのが自然」というパターンを覚えてる
• だから、質問されると必ず “それっぽい続き” を作って返す
• 学習した中に正解があれば → 正確に答えられる
• 学習した中に 明確な正解がなければ → “それっぽい続き” を作ってしまう（これがハルシネーション）

→ つまり AI には、内部で 「これは知ってる」「これは知らない」を区別する仕組みがない。常に「博士の口調で、最も自然な続き」を出力しているだけ、というわけです。

実例：弁護士の架空判例事件

「そんなの、ちょっと変だなと思えば気づくでしょ？」と思いますよね。でも、専門家でも引っかかった事件が実際にあります。

2023年、アメリカの弁護士が裁判の準備で ChatGPT に「過去の似た判例を教えて」と聞きました。すると ChatGPT は、「Varghese v. China Southern Airlines」など、6件の判例をスラスラと返してきた——出典・年・要旨まで、まるで本物のように完璧な形式で。

弁護士はそれを信じて、裁判所に正式な書面として提出。ところが——

• 6件のうち、全部が AI が作り出した架空の判例だった
• 裁判官が裏取りしようとしても、どこにも実在しない
• 弁護士は裁判所から制裁（罰金5,000ドル）

この弁護士の本人談がすごい。「私は ChatGPT が判例をデッチ上げるとは思っていなかった」。

→ 怖いのは、プロでも引っかかること。形式が整っていて、口調が自信に満ちていると、人は内容を信じてしまう。これがハルシネーションの本当の怖さです。

※ 出典：ChatGPT生成の “存在しない判例” を使った米弁護士、約72万円の支払いを命じられる（ITmedia NEWS）

AIの3つのクセ：忘れる・動く・間違える

ここまでに紹介してきた AI の特徴は、実はぜんぶ AIの “クセ” として整理できます。

• 忘れる ＝ 長い会話で前の内容が抜け落ちる（コンテキストウィンドウの記事）
• 動く ＝ 自分で判断して道具を使って作業する（AIエージェントの記事）
• 間違える ＝ 知らないことも自信ありげに答えてしまう（この記事）

→ どれも AIの仕組み上、避けられないクセ。完璧な存在ではなく、強みと弱みがある “新しい仲間” として付き合うのが、AI時代の作法です。

どう付き合えばいいの？

「じゃあ AI 信用できない…」と思ってしまいそうですが、ちょっとしたコツで安全に使えます。

• 自信ありげな回答ほど、確認する：固有名詞・数字・日付・引用は 特に怪しい。原典で裏取り
• 重要な情報は別のAIにも聞く：ChatGPT と Claude で同じことを聞いてみて、答えが一致するか確認
• 「分かりません」と答えさせる工夫：「知らないなら “分かりません” と答えてください」と前置きすると、ハルシネーション率は減らせる

→ AI の答えは「博士の意見 くらい」の扱いで聞いて、鵜呑みにせず1段クッションを置く。これだけで、AI時代の事故はぐっと減らせます。

まとめ

AIが間違うのは、悪意があるからじゃない——仕組み上、知らないことも答えてしまう だけ。コンテキストウィンドウ・AIエージェント・LLM API と組み合わせて読むと、AIの “クセ” と上手な付き合い方 が一気に繋がります 🌱