長い会話で質が落ちる

AIとの会話は、長く続けるほど答えの質が落ちやすくなります。故障でも、その日の調子でもありません。対話型AIは、応答のたびにその会話の最初からのやり取り全体を読み直して、次の答えを作っています。だから、途中で混ざった間違いや話のずれも毎回一緒に読み直され、影響が残りやすいのです。

この記事では、長い会話で質が落ちる仕組みを整理し、「こじれたら新しいチャットで始め直す」という判断につなげます。

毎回、最初から読み直している

生成AIの基本動作は、それまでの文章を見て、次に来る言葉を選ぶことでした（→ 生成AIとは何か）。チャットで言う「それまでの文章」とは、その会話（スレッド。「チャット」とは呼び名が違うだけで同じものです）でこれまでに交わしたやり取りの全部です。

会話がつながって見えても、AIが前の発言を覚えて積み上げているわけではありません。応答のたびに、最初の発言から直前の発言までをまるごと読み直し、その続きとして次の答えを作っています。

1往復目 AIが読む材料：発言①

答えを返す

2往復目 AIが読む材料：発言①＋答え①＋発言②

答えを返す

3往復目 AIが読む材料：発言①＋答え①＋発言②＋答え②＋発言③

会話が進むほど、AIが読み直す材料は積み増されていきます。

この積み増しは、それまでの流れを踏まえた答えを生む力の源です。ただし——材料には、良いものも悪いものも、区別なく積まれていきます。

訂正しても、間違いは消えない

長い会話の落とし穴の代表が、途中で混ざった間違いです。

たとえば、補助金の要件を調べながら申請の相談をしていて、途中でAIが実在しない要件をもっともらしく挙げたとします。AIが悪気なくつく嘘＝ハルシネーションです（→ 悪気なく嘘をつく）。気づいて指摘すれば、たいていは認めて言い直します。これで解決したように見えます。ところが、そのまま会話を続けていると、しばらくしてまた同じ要件を前提にした答えが返ってくることがあります。訂正したはずの間違いを、いつまでも引きずるのです。

なぜか。訂正は追記であって、上書きではないからです。「さっきのは間違い」と伝えても、間違いの記述そのものが会話から消えるわけではありません。AIは毎回、間違いと訂正の両方を読み直しながら、流れに沿った続きを作ります。間違いが材料に残っているかぎり、それに引っ張られた続きが、また顔を出しうるのです。

「悪気なく嘘をつく」が扱ったのは、もっともらしい嘘が生まれる瞬間でした。長い会話では、そこに一度生まれた嘘が消えずに残り続けるという、もう一つの問題が乗ってきます。

指示と一緒に渡す背景をコンテキストと呼びますが、会話を続けているときは、それまでのやり取り全体が、次の答えを作る材料として同じように渡っています。間違いが混ざったまま会話が進むと、この材料が汚れていきます——「コンテキストの汚染」と呼ばれることもある状態です。

長いだけでも、焦点は薄まる

間違いが混ざらなくても、長さそのものが質を下げていきます。

読む材料が増えるほど、どれが今の本題かはぼやけます。序盤に伝えた指示と、途中で変えた方針が混ざる。話題を切り替えたのに、前の話題の前提を引きずる。相談も下書きも調べものも1つのスレッドで続けていると、材料の中に「今の話と関係ないもの」が増え、答えの狙いが甘くなっていきます。

また、AIが一度に読める量には上限があります。会話がそこに近づくと、ツールの側で古いやり取りが省かれたり、まとめ直されたりすることもあり、序盤の内容は答えに反映されにくくなります。いずれにしても、長くなった会話の全体をむらなく踏まえた答えは、作りにくくなっていきます。

こじれたら、新しいチャットで始め直す

対処はシンプルです。話がこじれてきたと感じたら、そのスレッドで訂正を重ねて粘るより、新しいチャットで始め直す方が早い——これが基本の判断です。

「他の会話を覚えているか」で見たとおり、スレッドは1つずつ独立していて、新しいチャットは白紙から始まります。あちらでは「説明し直しになる」という不便の側から見た性質でした。しかし、こじれた会話を手放したいときには、同じ性質が味方になります。白紙で始めれば、混ざった間違いも、ずれた流れも持ち越されません。ツールの記憶の機能が過去の会話を見に行くことはありますが、その確認と管理のしかたは「他の会話を覚えているか」で扱ったとおりです。

一度伝えたことを前提に話を続けたいから、とスレッドを変えずに使い続ける——その気持ちには理由があります。ただ、引き継ぎたい要点は、新しいチャットの最初に渡し直せば済みます。一方で、混ざった間違いは、スレッドを変えないかぎり材料の中に残り続けます。要点は持ち出せて、汚れは置いていける。始め直しは、損の少ない選択です。

つまずきやすいところ

• 訂正すれば直るはず、と粘ってしまう。 人間どうしなら、訂正すれば相手は認識を改めてくれます。AIは、間違いも訂正も同じ材料として毎回読み直します。訂正を重ねるほど会話は長くなり、材料はさらに濁る——粘るほど直りにくくなることがあるのです。
• 長い会話が、いつも悪いわけではありません。 同じ仕事をひと続きで進めているなら、積み上がったやり取りがそのまま背景として効きます。問題は長さそのものではなく、間違いが混ざったまま続けることと、関係ない話題を同じスレッドに混ぜること。「長くなったから変える」ではなく、「こじれてきたから変える」が目安です。

まとめ

対話型AIは、応答のたびに会話の最初からのやり取り全体を読み直して、次の答えを作っています。だから、混ざった間違いは訂正しても追記にしかならず、消えません。長くなるほど焦点も薄まります。長い会話で質が落ちるのは、故障ではなく仕組みの帰結です。

こじれたら、新しいチャットで始め直す。要点は渡し直せば引き継げて、汚れは置いていけます。何を渡せば新しい会話が早く立ち上がるか——その基本は「指示と背景をセットで渡す」で扱っています。続けるか見切るかの実践的な見極めは、いずれ別の記事で扱います。