視覚言語モデルは無関係な数字を通じて隠れた嗜好を伝えるのか

導入

教師モデルが幾何学図形に関する数字だけを出力している場合でも、生徒モデルは教師が持つ動物や顔の属性への嗜好を学習するのでしょうか。今回の研究は、視覚言語モデル（VLM）における「潜在学習（subliminal learning）」をこの観点から調べたものです。潜在学習とは、嗜好とは無関係に見える訓練データを介して、教師の隠れた行動傾向が生徒へ移る現象を指します。

主なポイント

• 研究者は教師VLMを微調整し、特定の動物、または特定の顔の属性を好むようにしました。同じ基盤モデルから対照用の教師も用意しています。
• 両方の教師には、幾何学図形を扱う視覚タスクを与え、数字を出力させました。このタスクは動物や顔の嗜好を直接扱いません。
• 同じ基盤VLMから初期化した2つの生徒モデルを、同じ画像で学習させました。ただし、使う数字は偏りのある教師、または対照教師から生成されたものです。
• 20億から70億パラメータ規模の複数のVLMで、教師の嗜好が生徒に現れました。動物の実験では、対象を選ぶ割合が対照群より最大で約10ポイント高くなりました。
• 影響は最終的な選択だけに限られません。3つのモデルが同じ画像を選んだ場合でも、偏りのある生徒は教師と共通する単語やフレーズをより多く説明に使いました。

意義と影響

この結果は、潜在学習がテキストモデルだけでなくマルチモーダルモデルにも関係することを示します。教師モデルの影響は、明示的なラベルや指示だけに含まれるとは限りません。一見中立的な数字や中間出力にも、教師が学習した嗜好や表現の癖が埋め込まれている可能性があります。知識蒸留では、教師の出力を自動的に中立とみなすことはできません。

効果の強さは、対象となる嗜好、モデル、数字の生成方法によって変化しました。また、学習データが増えるほど転移が強くなる場合もありました。したがって、これは常に同じ強さで起きる単純な仕組みではなく、発生条件や再現性をさらに調べる必要があります。

実務上は、学生モデルが数字タスクを正しく解けるかだけを確認しても不十分です。画像の選択傾向や説明の文体が変化していないか、タスクをまたいだ評価や嗜好の監査を行う必要があります。今回の研究が示すのは、タスク上は無関係なデータでも、モデルの行動にとって本当に無関係とは限らないという点です。

出典：Hugging Face Daily Papers