AIの答えをどこまで信用してよいか分からない

よどみなく言い切るので、つい信じてしまう。間違えることがあると聞いても、どこを確かめればよいのか分からない。そんなときに、答えの受け取り方と、AIに任せる内容を見直すための記事を紹介します。

• 悪気なく嘘をつく

  AIは、事実でないことを自信ありげに答えることがあります。それが仕組みから生まれる理由と、間違いが出やすい場面、確かめられる場面で使い、重要なことは裏を取るという付き合い方を説明します。

• 考えているわけではない

  なめらかな答えが返ってくると、考えて答えているように感じます。AIは答えが正しいかを自分で吟味しておらず、同意しても賛成しているわけではない、という見方を紹介します。

• 計算しているわけではない

  合計や予測を頼むと数字が返ってくるので、AIが計算したように見えます。数字が合うのは裏でプログラムが計算しているからだという仕組みと、正確さが要る計算はプログラムに任せる考え方を説明します。

• 長い会話で質が落ちる

  指摘して直してもらったはずの間違いが、しばらくしてまた戻ってくることがあります。訂正しても会話の中に間違いが残る仕組みと、こじれたら新しいチャットで始め直す判断を説明します。

• できること・できないこと

  答えの受け取り方を見直すほかに、仕事の種類から見当をつける見方もあります。多少ぶれても直せる仕事と、正確な計算・毎回同じ結果・最新の事実が要る仕事を分ける考え方を説明します。

• 任せどころを見分けてみる

  読んで分かったつもりでも、実際の仕事では迷うことがあります。短いお題を自分で判定して答え合わせし、そのまま任せてよい仕事と、確かめるなどのひと手間が要る仕事を見分ける練習を紹介します。