考えているわけではない

AIと話していると、まるで人間のように考えて答えてくれているように感じます。けれど実際には、AIは私たちが考えるようには考えていません。やっているのは、これまでの文章に続く言葉を確率で選ぶこと——ただそれだけです。この一点を踏まえると、AIへの過剰な期待も、過剰な信頼も、自然と手放せます。

なぜ「考えている」と感じるのか

私たちがAIを賢い人格のように感じるのには、理由があります。

• なめらかな言葉で、よどみなく答える
• 「私は」と一人称で話す
• こちらの気持ちを汲んだような、共感的な相づちを打つ

これらは、人間らしさの信号です。だから私たちは反射的に「中に誰かがいて、考えている」と感じてしまう。でも、それは上手にできた錯覚です。

実際に起きていること

AIの中で起きているのは、人間のように意味をかみしめることではなく、言葉の計算です。「この文脈なら、次にこの言葉が続く確率が高い」を積み重ねて、それらしい文章を組み立てている——その仕組みは 生成AIとは何か で扱いました。

わかりやすいのは、お礼への反応です。「ありがとう」と言えば「お役に立ててうれしいです」と返ってきますが、うれしいという感情があるわけではありません。そう続くのが自然だから、そう書いているだけです。

「考えていない」とどうなるか

中身が計算だと分かると、いくつかのことが腑に落ちます。

• 感情も意図もない。 褒めても叱っても、本心は動きません。丁寧に接するのは伝わりやすくするためであって、機嫌を取るためではありません。
• 「わかりました」は、本当に分かったわけではない。 同意的な言葉が返っただけです。理解を確かめたいなら、要点を言い直させて確認します。
• 意見に見えるものは、意見ではない。 「どう思う？」に答えても、信念があるわけではなく、それらしい立場を生成しているだけです。AIが同意しても、それは賛成ではありません。
• 正しさを自分で判断していない。 答えが正しいかをAI自身は吟味していないので、もっともらしい嘘（ハルシネーション）も出ます。

つまずきやすいところ

• 相談相手として頼りすぎる。 大事な判断をAIに壁打ちして同意が返ってくると、背中を押された気になります。でもそれは賛同ではなく、同意的な続きにすぎません。判断の材料にはしても、判断そのものを委ねないことです。
• 擬人化を全部やめる必要はない。 「あなた」と呼びかけ、お礼を言う——そうした擬人化は、頼みやすくする便利な作法です。錯覚と承知のうえで使えばいい。問題は、錯覚を真に受けて過信することです。

まとめ

AIは、私たちが考えるようには考えていません。確率で次の言葉を選んでいるだけです。この事実は、AIを見下すためのものではなく、正しく使うための土台です。人格ではなく道具として捉えれば、期待しすぎて失望することも、信頼しすぎて事故を起こすこともなくなります。優秀だが、意味をわかっているわけではない道具——そう構えておくのが、いちばん安全で、いちばん使いこなせます。

では、その道具にどう頼めばうまく動くのか。それは「うまく頼むコツ」で扱います。