英語だけの安全評価では不十分：多言語・文化文脈でLLMを再調整

導入

大規模言語モデルの安全性は、これまで英語のデータと英語による評価に大きく依存してきた。しかし、英語で危険な依頼を拒否できることは、他の言語でも同じように安全に振る舞えることを意味しない。特に低リソース言語では、学習データの少なさ、表現の違い、地域ごとに異なるリスクテーマが安全対策の盲点になり得る。

Swiss AI Initiativeの研究チームは、この課題に対してテンプレートベースのデータ拡張パイプラインを提案し、MSafeTempというコーパスを公開した。

テンプレートで多言語データを拡張

この手法は、英語のプロンプトをそのまま大量翻訳するものではない。まず有害な依頼から再利用可能な安全テンプレートを抽出し、それを各言語に翻訳する。そのうえで、テンプレート内のスロットに、文化的に自然で検証されたエンティティを挿入する。対象には有害な内容だけでなく、良性の内容も含まれるため、拒否応答の訓練データと通常の応答データを同時に作成できる。

研究チームは、地域の背景を反映させるために、検証済みの文化カードも利用している。地域ごとに関連する人物、場所、制度、社会的状況は異なるため、英語圏の事例だけを増やしても、多言語の安全性を十分に広げることは難しい。テンプレートによる規模拡大と、文化的なエンティティによるローカライズを組み合わせることが、この研究の中心である。

公開されたMSafeTempは60言語をカバーし、約200万件の多言語安全アラインメント用プロンプトを収録する。モデルの学習と評価の双方に利用でき、データと生成パイプラインもオープンソースとして提供されている。

英語評価が見逃すもの

研究が示す重要な点は、英語だけの安全評価がモデル全体の安全性を過大評価する可能性である。一部のモデルでは、英語で失敗する攻撃が、別の言語に翻訳されると成功する。また、地域の文化や状況に合わせて書き換えた攻撃は、単純な翻訳では現れない弱点をさらに明らかにする。

これは、多言語安全性が単なる翻訳品質の問題ではないことを示している。言語ごとの慣用表現、背景知識、社会的意味、危険テーマの分布が、モデルの理解と拒否判断に影響するからだ。

意義と今後の課題

開発者にとってMSafeTempは、すべての例を手作業で作成せずに、安全データの規模と多様性を高めるための実用的な出発点になる。論文では、テンプレートによる拡張がアラインメントの多様性と品質を高め、英語以外の安全性能も改善すると報告されている。

一方で、テンプレート生成だけで品質が保証されるわけではない。翻訳の正確さ、文化的な自然さ、有害性のラベル付け、テンプレートの偏りは引き続き検証が必要だ。今後の評価では、英語の点数だけでなく、低リソース言語と文化的にローカライズされたシナリオを含めることが重要になる。

出典：Hugging Face Daily Papers