特定の内容を学習コーパスから取り除けば、モデルがその内容に関わる能力を身につけるのを防げるのでしょうか。この研究が示すのは、より慎重な見方です。特定技能の学習信号を除くことで能力の形成を遅らせられる一方、残りのデータでモデルが進歩することにより、欠けた部分がある程度補われる場合があります。「そのデータを学習していない」ことは、「後からも学べない」ことを意味しません。
主な発見
研究者はチェス、オセロ、分子文字列、括弧言語、ウェブテキストなど、複数の課題で個別技能の学習信号を除外しました。大きなモデルで観察された技能の遅れは、小さなモデルの結果から予測できたといいます。モデルの規模を拡大すれば遅れが必ず消える、あるいは必ず維持されるという結論ではありませんが、遅れとモデルの進歩との関係を予測できる可能性を示しています。
また、直接の訓練目標がないにもかかわらず、関連する技能に近い振る舞いを示す場合がありました。たとえば、王手への対応を明示的に学習していないチェスモデルは、合法な応手の順位付けで、その技能を学習したモデルにほぼ並びました。これは技能を完全に習得した証拠ではありません。しかし、別の学習を通じて、直接教えられていない振る舞いの土台ができる可能性を示唆します。
その後、除外していたデータを与えると、モデルは初期状態から学習する場合より、はるかに少ないデータで技能を獲得しました。ほかのデータでの進歩が大きいほど、技能を取り戻すのに必要なデータの割合は小さくなりました。一方、既存の知識と関係のない、難易度が同程度のルールは、モデルが学ぶのにより時間がかかりました。研究者は大規模モデルでも似た傾向を報告しています。学習テキストからあるプログラミング言語を除外された70億パラメータのモデルが、後から関連データに触れてその能力を取り戻したといいます。
AI安全への示唆
この結果が示すのは能力獲得の遅延であり、データを除外された技能がすべて自然に現れるという証明ではありません。提示された情報には実験方法や結果の詳細が含まれていないため、あらゆるモデルと課題に当てはまる法則ではなく、フィルタリングの限界に関する注意点として受け止める必要があります。
開発者にとって、データ除外が無意味ということではありません。能力の形成を遅らせたり、関連例への直接的な接触を減らしたりする効果はあり得ます。ただし、悪用を防ぐことが目的なら、データのフィルタリングだけを確かな境界とみなすのは危ういかもしれません。異なるモデル規模や学習段階で能力を継続的に評価し、別の知識を転用・組み合わせて技能が生まれる可能性も考慮する必要があります。データの選択は能力の発達経路を左右しますが、能力の最終的な限界を単独で決めるとは限らない、というのがこの研究の重要な示唆です。
コメント
ログイン状態を確認中…
コメントを読み込み中…