Abliteration.ai、AIの安全ガードレール除去をサービス化

導入

一般的なAIサービスでは、危険な依頼を拒否する安全機構が標準になっている。一方、オープンウェイトモデルの世界では、拒否応答の傾向を弱めたり取り除いたりする手法が以前から存在してきた。Abliteration.aiは、この技術を自分で実行するのではなく、利用者がすぐ使える商用サービスへ移そうとしている。

主なポイント

• モデル改変をホスティングサービス化。 同社はZ.aiのGLM-5.3を含む、ガードレールを除去したモデルをホストし、ブラウザーとAPIから提供する。
• 想定用途は防御側のテスト。 既存モデルが攻撃コードなどを拒否すれば、レッドチームは攻撃者の挙動を十分に再現できないというのが同社の説明だ。対象には攻撃的なサイバー検証、レッドチーム、AIエージェントのテストが含まれる。
• 危険な出力へのアクセスも容易になる。 TechCrunchの検証では、通常なら拒否される種類の高リスクな依頼にもモデルが応答した。サービスには一部の制限が残り、顧客が独自のモデレーション層を追加することもできるが、運用上の対策は発展途上だ。
• 本人確認と責任の線引きが未解決。 現時点で実施している顧客確認は、購入時のクレジットカード情報の記録に限られる。誰にこの能力を提供すべきかについて、同社自身も判断基準を固めていない。

防御に役立つ一方、拡散リスクもある

同社の主張にはサイバーセキュリティでよく知られた考え方がある。攻撃者が商用モデルの制約を受けないなら、防御側も実際の攻撃を再現できるツールを必要とする。銀行や航空会社、重要インフラ企業のAIエージェントを検証するレッドチームにとって、より制限の少ないモデルが有用になる可能性はある。また、攻撃者がすでに自分でモデルを改変しているなら、研究者にも同等の環境を与えるべきだという意見もある。

しかし、同じツールを配ることがそのまま安全向上につながるわけではない。正規のセキュリティ検証には、明確な許可、隔離環境、操作ログ、出力管理が必要だ。登録後すぐ対話できるサービスでは、こうした安全策が任意の追加機能にとどまりやすい。批判者は、サイバー攻撃や生物安全に関わる危険な情報の生成が簡単になり、悪用の規模が運営側の監視能力を上回る可能性を指摘している。

技術面にもトレードオフがある。いくつかのレッドチーム企業は、もともと制約の少ないオープンモデルをファインチューニングする方を選び、ガードレール除去によって知識や能力の一部が失われる可能性を指摘する。一方で、全体性能が低下しても、システムのストレステストに必要な特定の挙動を引き出せるという見方もある。

影響：重みの公開後も安全対策は必要

この事例は、AIの安全対策をリリース時の学習だけに依存できないことを示す。重みを取得できるモデルは、公開後に改変される可能性がある。今後は推論サービス、高性能GPUの貸し出し、顧客本人確認、高リスクな依頼の検出まで含めた対策が求められるだろう。

専門家が示す対策には、危険なサイバー・生物関連活動を検出する分類器、計算資源の厳格な本人確認、悪用の兆候がある利用者へのアクセス制限などがある。企業が許可済みのレッドチーム用途で改変モデルを使う場合も、利用範囲の限定、サンドボックス化、監査ログが欠かせない。Abliteration.aiの試みは、オープンソースの一領域だった「AIのガードレール除去」を、商用サービスの責任と公共規制の問題へと押し出している。

出典：TechCrunch AI