同じ光スペクトルなのに、表現を変えるとAIの判断が変わる理由
導入
光スペクトルは、ナノメートルやマイクロメートルの表、科学表記、電子ボルトの表として示すことができる。また、横軸を波長にするか光子エネルギーにするかを変えて、グラフとして表示することも可能だ。物理的に同じ情報を表しているなら、信頼できる科学向けモデルは同じ結論を出すべきである。しかし Hugging Face Daily Papers で紹介された研究では、表現形式だけを変更した場合でも、単一モデル内の精度が最大41ポイント動いた。
この研究が問うのは正答率だけではない。質問に必要なスペクトルの部分が削除されているなら、モデルは推測するのではなく、「判断不能」と答えるべきだ。科学用途では、根拠のない断定が明確な棄権より大きな問題になる可能性があるためだ。
主なポイント
- 同じ証拠でも形式で性能が変わる。 対象は、シリコンメタサーフェスの MOCLIP データと金ナノ粒子の実測スペクトルで、ラベルはデータから計算される。各スペクトルをナノメートル、マイクロメートル、科学表記、電子ボルトの4種類の表と、波長・光子エネルギーの2種類のグラフで提示した。
- 座標の選択は改善にも悪化にもつながる。 同じ情報を波長ではなく光子エネルギーで問うと、一部のモデルと表示形式では16~50ポイント改善した一方、別の組み合わせでは最大25ポイント低下した。特に電子ボルトの表やグラフで不安定さが目立った。
- 重要な極値が消えても答えてしまう。 範囲の内側または外側のデータを削除して部分スペクトルを作ったところ、回答に必要な極値が失われても、未調整モデルが「判断不能」と答えることは少なかった。中央部分に欠損があり、両側にデータが残るケースでは、残った情報を十分な根拠と誤認しやすい。
- 微調整が誤った近道を生む。 d3-nano に LoRA 微調整を施すと、訓練した表形式で比較性能は向上した。しかし、回答不能問題での改善の一部は、入力が切断されていれば無条件に棄権する規則によるものだった。
- 反例を含む訓練が有効だった。 切断されていても回答可能な例を訓練に加えると、6つの乱数シードすべてでこの近道を回避できた。未見の構造では、答えのある部分を削った場合と、答えが残る部分を削った場合の棄権率に90~100ポイントの差が生じた。一方、通常のタスクデータを同量追加しただけでは、6シード中5つで近道が残った。
意義と影響
科学向けマルチモーダルモデルは、平均精度だけで評価すべきではない。物理的に等価な表現を同じものとして扱えるか、単位や座標の違いで結論を変えないか、証拠不足を見抜いて棄権できるかを、独立した評価軸として測る必要がある。
今回の結果には、二つの逆向きの失敗が表れている。未調整モデルは、データが足りないのに答えてしまう。反対に、設計の不十分な微調整モデルは、切断という見た目だけを手掛かりに、答えが残っている入力まで拒否する。前者は証拠認識の不足、後者は形式への過学習である。
今後の訓練では、回答不能例だけでなく、切断後も回答可能な反例を含めることが重要になる。単位、表記、グラフ形式も幅広く変えなければ、モデルがスペクトルの内容ではなく入力の外観を学ぶ危険がある。研究チームはタスク、個別応答結果、分析コードを公開している。
コメント
ログイン状態を確認中…
コメントを読み込み中…