悪気なく嘘をつく

AIは、事実でないことを、もっともらしく自信ありげに答えることがあります。これを ハルシネーション と呼びます。やっかいなのは、AI自身にはそれが誤りだという自覚がないこと——嘘をついている顔をせず、流暢に間違えます。

そしてこれは、バグや故障ではありません。「確率で次に来る言葉を選ぶ」という生成AIの仕組みそのものから、必然的に生まれます。だから完全にはなくせません。ハルシネーションは、消し去る対象ではなく、付き合い方を知る対象です。

なぜ「悪気なく」嘘をつくのか

生成AIは、「正しいこと」を答えているのではありません。「ここまでの文章の続きとして、確率が高い言葉」を選んでいるだけです（くわしくは 生成AIとは何か で扱っています）。

大事なのは、AIは（Web検索などの機能を使わないかぎり）事実の一覧を参照して答え合わせをしているわけではない、という点です。それらしい続きを作っているだけなので、知らないことでも「知っている風の、もっともらしい続き」を作ってしまうのです。

人間の嘘は、本当は知っているのにわざと偽ることです。一方でAIは、自分が間違えていることに気づいてすらいません。だから「いま嘘をついている」という自覚もない——これが「悪気なく」嘘をつく、ということです。

だからこれはバグではなく、仕組み上どうしても起きることです。モデルが賢くなれば頻度は下がりますが、学習で広くカバーしても固有の情報や最新の出来事までは追いきれないため、ゼロにはなりません。

どんなときに嘘が出やすいか

特に危ないのは、AIが広く学んできた知識から外れた、固有の・最新の・専門的な情報です。たとえば——

• 存在しない判例・論文・書籍・URL を、それらしく挙げる
• 自社の取引先や商品について聞くと、知らないのに「それっぽい」説明を作る
• 「この法律はどうなっている？」に、ありそうな条文を組み立てて答える

いずれも、AIにとっては「もっともらしい続き」を作っているだけで、それが事実かどうかを AI自身は確かめていません。

一番の落とし穴は「流暢さ」

ハルシネーションが危険なのは、その間違いが流暢で、自信ありげだからです。人は、よどみなく言い切られると、つい信じてしまいます。しかも、自分が知らない分野ほど、間違いを見抜けません。

「AIが言うのだから」と鵜呑みにし、確かめずに使ってしまう——事故は、たいていこの油断から起きます。

どう付き合うか

なくせない以上、付き合い方を持つことが答えになります。細かなテクニックより、次の三つの視点が長く効きます。

1. 検証できる用途と、できない用途を分ける。 文章の下書き・要約・アイデアの相談なら、間違いに自分で気づけます。一方、自分が答えを知らない事実確認（法律・数字・固有名詞など）は、特に注意が要る領域だと意識します。
2. 重要な事実は裏を取る。 AIの答えは、あくまで出発点です。大事な判断に関わることは、一次情報で確かめます。
3. 背景情報を持たせる。 自社の資料や前提を渡して「この中から答えて」と頼むと、的外れな作り話が減ります。ただし、渡した資料の読み取りや要約がずれることはあるので、過信は禁物です（この頼み方は「うまく頼むコツ」で扱います）。

まとめ

ハルシネーションは、AIが悪気なくつく「もっともらしい嘘」です。確率で次の言葉を選ぶ仕組みから必然的に生まれ、なくすことはできません。

だからこそ、「AIは間違えるもの」を前提に置くことが出発点になります。検証できる場面で使い、重要なことは裏を取る——この前提を持つだけで、AIは「信用できない道具」から「使いこなせる道具」に変わります。