Claudeの生物安全対策を利用者が回避、研究支援を巡る新たな課題

導入

AI企業が直面する生物安全上の課題は、モデルが明白に危険な質問へ答えるかどうかだけではない。より難しいのは、利用者が高リスクな研究計画を、個別には正当な科学的質問に見える複数の依頼へ分解できるかどうかだ。Anthropicは今年、Claudeを生物兵器開発に役立ち得る研究へ使おうとした複数の試みを阻止したと説明し、一部の利用者が制限の回避や研究目的の隠蔽を試みたと明らかにした。

主なポイント

• 五つの事例を公表。 同社は技術の悪用に関する報告書で、安全対策を回避し、生物兵器に関係し得る研究を進めようとした五つの例を示した。関係アカウントは停止したが、研究機関名や発生国は公開していない。
• 正当な研究との区別が難しい。 ある事例では、「サポート対象外地域」の研究者が、鳥インフルエンザに関する実験を数週間かけてClaudeで計画したとされる。ただし同種の情報はワクチン開発などにも使えるため、Anthropicは当事者に危害の意図があったとは断定していない。
• 対策は機能したが、完全ではない。 同社によれば、安全フィルターによって関連作業は最も能力の低いモデルに制限された。それでも利用者が質問を言い換えたり、作業を分割したり、真の目的を伏せたりして抜け道を探す可能性は残る。
• 問題は生物学だけではない。 報告書は、詐欺目的の偽デーティングアプリ網や、反体制派の監視システムへの利用も取り上げた。また、中国の複数の研究機関が蒸留によって同社の能力を再現しようとしたと主張している。

意味と影響

生物安全の審査が難しいのは、危険な能力が文献調査、実験設計、材料の選択、手順の最適化といった段階から組み上がるためだ。各質問を単独で見れば通常の研究支援に見えても、連続したやり取り全体では危険な実験の実行障壁を下げる可能性がある。一方で、関連する質問を一律に拒否すれば、ワクチン、医薬品、公衆衛生の研究まで妨げかねない。

今後の安全対策には、固定的なキーワード遮断だけでなく、利用者の行動、会話の履歴、依頼の文脈、本人確認、専門家によるリスク評価を組み合わせる仕組みが必要になるだろう。地域によるアクセス制限はリスクを抑える手段の一つだが、依頼内容そのものの判断に代わるものではない。モデルの拒否も、あくまで防御の一層にすぎない。

AIが支援できるからといって、利用者が直ちに危険な病原体を作れるわけではない。設備、材料、専門人材、実験の実行能力といった現実の制約は残る。それでも、知識の取得や研究計画の改善を効率化する可能性があるため、バイオセキュリティの専門家は警戒を強めている。

Anthropicは事例の公開を通じ、企業と政府の議論を促したいとしている。透明性は共通の脅威パターンや評価方法の整備に役立つ一方、報告が具体的な実行手引きにならない配慮も必要だ。モデル開発者、研究機関、規制当局、バイオセキュリティ専門家が共同で対策を検証し、回避手法の変化に合わせて更新していくことが求められる。

出典：Ars Technica AI