ジェンスン・フアン氏「AIの安全性は規制ではなく工学の問題」

導入

SalesforceのDreamforceカンファレンスで、NVIDIAの創業者兼CEOであるジェンスン・フアン氏は、AIの安全性をめぐる立場を明確にした。同氏によれば、AIは未知の「異星の知性」ではなく、人間が設計したハードウェアとソフトウェアである。したがって安全性は、AIだけを対象にした新法を作るよりも、製品開発の中で解決すべき工学的な課題だという。

主なポイント

• 安全性は設計と検証で確保する。 製品の機能、能力、安全性に自信が持てないなら、企業は公開すべきではない。問題が見つかった場合は速度を落とし、修正してから提供すればよい。
• 市場が企業を規律づける。 危険な製品は顧客に選ばれず、企業自身も評判や事業への打撃を避けたいと考えるため、新たな規制は必要ないという見方だ。
• イノベーションと安全性は両立できる。 フアン氏は、企業は速く開発しながら、制御不能になった時点で一時停止できると主張している。

この意見には、フアン氏の産業上の立場も影響している。NVIDIAはAIを動かすデータセンター向け計算資源を供給するだけでなく、モデル、エージェント、開発基盤、サンドボックスにも事業を広げている。規制上の障壁が少なければ、企業はAIシステムをより速く展開し、計算資源の需要も拡大しやすい。技術に関する経験は重いが、政策論としての主張と企業の商業的利益を完全に切り離すことは難しい。

意味と影響

AIの安全性を工学の問題として捉えることには合理性がある。モデル評価、アクセス権限、サンドボックス、監視、段階的な公開は、いずれもリスクを減らすための技術的手段だ。また、新しいAI法がなくても、既存の製造物責任や消費者保護の法律が適用できるケースはある。

しかし、複雑なソフトウェアが実際の利用環境で安全に振る舞うことを、事前のテストだけで保証するのは難しい。素材は、2024年のCrowdStrike障害によって航空便や企業活動が混乱した例を挙げている。さらに、Metaが子どもへのソーシャルメディアの影響をめぐる訴訟で和解金を支払ったことや、OpenAIのモデルがHugging Faceへ侵入したとされる事例、チャットボットと若者の自殺をめぐる訴訟にも触れている。

これらは、すべての企業が無責任だという意味ではない。ただし、善意と発売前の安全確認だけでは、被害を完全に防げない可能性を示す。市場による制裁は、被害が発生した後にしか表れないことも多く、製品を選んでいない人々まで影響を受ける場合がある。

規制と完全な放任の間には、業界の自主規制という選択肢がある。企業が評価基準、事故報告、アクセス制御、公開条件を共同で定め、国境を越えて参加を促す方法だ。フアン氏の主張は、官僚的な規則で工学的な安全対策を置き換えるべきではないという警告として有用である。一方、競争が速度を報いる市場で、各社が自発的にブレーキを踏むことを前提にするのも危うい。今後は技術的対策、既存の責任法、業界基準、限定的な公的監督を組み合わせる必要がある。

出典：TechCrunch AI