記事一覧へ戻る

OpenAI、EUでChatGPTとCodexの文章に不可視の透かし

読了目安 3 分

導入

OpenAIは、欧州連合(EU)でChatGPTとCodexが生成する文章に、不可視の透かしを加えると発表した。EU AI法の透明性規定への対応が目的だ。同規定は8月2日に発効し、AI生成コンテンツに他のシステムが識別できる印を付けることを求めている。OpenAIによると、この機能は今後数週間かけて、EUの対象ユーザーにプランを問わず展開される。

要点

  • 文字そのものにパターンを埋め込む。 目に見える記号ではなく、モデルが次に選ぶ単語をわずかに調整し、読者には分からない統計的特徴を作る。特徴は文章内にあるため、コピー・ペースト後も残る可能性がある。
  • 当初はEUが対象。 世界で一律にデフォルト有効にする予定はない。OpenAIのAPIを使う開発者は、世界のどこからでも一部モデルで有効化できるが、初期設定はオフだ。
  • 検出には限界がある。 OpenAIの試験では、約10%の単語を同義語に置き換えると検出率が約92%から66%に下がった。短い文章、数学の解答、翻訳文も判定が難しい。透かしが見つからなくても、人間が書いたことを意味しない。文章が短すぎる、編集が多い、別のAIが生成したといった可能性があるためだ。
  • 利用者の特定は目的ではない。 OpenAIは、透かしからユーザーを識別できず、有効化してもモデル性能に意味のある変化はなかったと説明している。技術報告書では、秘密鍵で次の単語の予測を整理し、小さな調整を多数積み重ねて検出するtextGrainの仕組みを説明した。

意義と影響

今回の対応は、AI生成物の透明性を、自己申告から機械で確認できる情報へ近づけるものだ。教育、報道、コンテンツ配信、規制対応では、文章の出所を推測する手がかりとして役立つ可能性がある。ただし、モデルがどの程度文章に関与したのか、人間がどれほど判断や編集、創作を加えたのかまでは示さない。少しの書き換えで検出信号が弱まる以上、透かしは著者性や違反を単独で確定する証拠ではなく、補助的な指標と見るべきだろう。

OpenAIは以前にも文章透かしを開発していたが、透かしを導入しない競合サービスへ利用者が移る懸念などから公開を見送ったと報じられている。その後、AnthropicはClaudeの文章に世界規模で透かしを付ける方針を示し、AIを道具として使う人の貢献まで表示対象にすべきか議論を呼んだ。OpenAI、Anthropic、Google、Meta、MicrosoftなどがEUのAI生成コンテンツ向け実務規範に関与するなか、透かしは法令対応とサービス競争の一部になりつつある。今後は、誤検出、検出器へのアクセス、各社方式の互換性が焦点になる。

出典:TechCrunch AI

コメント

ログイン状態を確認中…

コメントを読み込み中…

関連記事

CCTest · Blog
中国、2026年9~10月の生成AI届出・登録件数を公表
政策・規制
cctest.ai
政策・規制

中国、2026年9~10月の生成AI届出・登録件数を公表

中国国家インターネット情報弁公室によると、2026年9~10月に生成AIサービス133件が新たに届出を完了し、届出済みモデルの能力を利用するアプリや機能224件が登録を完了しました。10月31日時点の累計は、届出済みサービスが1245件、登録済みアプリ・機能が955件です。

続きを読む
CCTest · Blog
米上院議員、AI規制を議論する特別委員会の設置を提案
政策・規制
cctest.ai
政策・規制

米上院議員、AI規制を議論する特別委員会の設置を提案

ジョン・ヒッケンルーパー上院議員は、AIを扱う特別委員会の設置を提案し、次期議会の開始時に民主党が責任ある規制計画を示すよう求めた。第三者評価、安全基準、データセンターの監督、企業の説明責任などが議論の対象となっている。

続きを読む
CCTest · Blog
トランプ氏、海外にAIデータセンターを建設する米企業に重税を警告
政策・規制
cctest.ai
政策・規制

トランプ氏、海外にAIデータセンターを建設する米企業に重税を警告

トランプ氏は、海外でAIデータセンターを建設する米企業に「巨額の税金」を課す可能性を示しましたが、具体策は明らかにしていません。発言は、米国内の建設計画が地域の反対に直面するなかで出ました。

続きを読む