LLMはなぜ思考を止められないのか：「思考慣性」を検証

はじめに

近年の大規模言語モデルには、回答前により長く推論させる「思考モード」が搭載されるようになった。利用者はモデルに時間をかけて考えるよう指示できるが、その反対に、考えを表示せず答えだけを返させる能力については、比較的研究が少ない。

論文「Thinking Inertia: LLMs Keep Thinking When Told Not To」は、モデルが明確な無思考指示に従えるかを調べた。ここで重要なのは、正解できることと、指示どおりに推論を表示しないことは別の能力だという点である。モデルは正しい答えを返しながら、その前に分析や説明、推論らしい文章を付け加えることがある。研究者は、このような状態を「思考慣性」と名付けている。

無思考をどう測るか

従来は、思考モードを無効にすることや、回答が短いことを無思考の代理指標として使う場合が多かった。しかし、モードを無効にしても推論に見える文章が出る可能性があり、長い文章が必ずしも本当の推論を意味するわけでもない。

そこで研究では、各回答を「最終回答より前のテキスト」と「最終回答」に分け、前半部分を三つの観点から評価した。

• 空思考率：前置きや推論を一切出さず、答えだけを返せた割合。
• 質問・回答前テキスト関連性：回答前の文章が質問とどの程度関係しているかを測る指標。
• 明示的推論率：LLMによる判定を使い、回答前の文章に明確な推論が含まれるかを評価する指標。

この組み合わせにより、答えだけを返すケース、質問に関連しているものの推論とは言えない文章、そして明示的な推論を表示するケースを区別できる。

実験で分かったこと

研究者は、六つのLLMに対して六種類のプロンプト介入を行い、二値問題、選択問題、自由記述問題で比較した。結果として、無思考を明示的に指示しても、可視的な推論を安定して消すことはできなかった。モデルは厳しい制御下でも、答えの前に分析を続けることがある。

課題の形式による違いも確認された。二値問題と選択問題では、推論表示を抑えても正確さはおおむね維持された。一方、自由記述問題では思考慣性がより目立った。答えの選択肢が広がるほど、モデルは分析や説明を回答に組み込みやすくなる。素材では、自由記述において回答性能と無思考指示への従属の間にトレードオフが現れる可能性も示されているが、より具体的な数値は示されていない。

意義と影響

この研究は、「思考モードを切った」ことと、「推論の文章が表示されなかった」ことを同一視すべきではないと示している。短い回答であることだけから、モデルが思考を止めたと判断するのも危険だ。

簡潔な出力、厳密な形式、低遅延、あるいは中間過程を表示しないことが求められるシステムでは、無思考動作を直接測る必要がある。開発者にとっては、無思考を単純なスイッチで実現するのではなく、専用の学習や生成制御、行動評価が必要になる可能性がある。モデルは考える方法だけでなく、いつ推論の表示を止めるべきかも学ばなければならない。

出典：Hugging Face Daily Papers