AIの助言で人は自信過剰に、しかし不正確になる

導入

フランスとイタリアの複数大学による研究は、AIが人間の判断を助けるどころか、かえって不正確さを増やす可能性を示した。AIの助言にアクセスできると、参加者が「わからない」と答える割合は44%から3%へ急落し、正答率は27%から9%に低下した。それでも自信は30%から76%へ上がっていた。

主なポイント

• 不確実性を認める行動が弱まる。
• 正しい答えより、AIに従う流れが強まる。
• 間違っていても自信は高まる。
• AIが苦手な問題を意図的に使って検証した。
• 金銭的インセンティブは改善するが、限定的だった。

研究のポイント

研究チームは、AIが通常苦手とする題材を使った。たとえば映画の細かな視覚情報、具体的には Bend It Like Beckham に出てくるチームのユニフォームの色のような問いだ。さらに、Step 3.5 Flash を使い、こうした問題ではしばしば誤答するモデルをあえて選んだ。これにより、結果が「信頼できるツールに仕事を任せた」ことでは説明できないようにしている。

実際には、自力なら正解できた参加者の一部が、AIに聞いたことで誤答へと変わった。つまり問題は、AIが高性能かどうかだけではない。AIがそこにあるだけで、人は自分の知識の限界を見極める習慣を手放しやすくなる。

何が問題なのか

著者の Valerio Capraro は、人々は「ずっと悪くなった」のに、2倍も自信を持つようになったと述べている。これは単なる誤答の増加ではなく、思考の姿勢そのものが変化していることを意味する。Wharton の研究者が今年示した “cognitive surrender” も、同じ傾向を指す言葉だ。人は間違ったAI回答を高い確率で受け入れながら、自分の判断への自信をむしろ強めてしまう。

特に懸念されるのは子どもだ。批判的思考が十分に育つ前に、こうしたシステムが日常に入り込んでいるからだ。検索結果のAI要約のように、曖昧さより即答を優先する設計は、使う側にも「答えることが正しい」という態度を学習させかねない。

まとめ

この研究はAIの利用自体を否定するものではない。ただし、AIに答えを委ねるほど、人間側の「わからないと言う力」が弱まるなら、その代償は小さくない。AI時代に本当に守るべきなのは、常に正答することではなく、必要なときに不確実性を認める能力なのかもしれない。

出典: Hacker News