AIによる無効な報告が急増、Googleがオープンソース向けバグ報奨金制度を一時停止

導入

バグ報奨金制度は、外部のセキュリティ研究者から脆弱性の発見と検証を受ける仕組みだ。しかし、生成AIの普及によって、報告を作成して送信するコストが大きく下がっている。Googleは、オープンソースソフトウェア脆弱性報奨金制度を10月1日から一時停止した。自動化された投稿が「大幅に増加」し、その大半が有効ではなかったためだという。今後については、2027年第1四半期に更新を行うとしている。

主なポイント

• 対象は限定された制度：停止されたのは、Googleのオープンソースソフトウェアにある脆弱性を発見した研究者に報奨金を支払う制度だ。
• 焦点は報告の質：Googleは、自動化された報告の大半が無効だと説明している。TechCrunchがTom’s Hardwareの報道として紹介した内容によれば、Googleの技術者やオープンソースメンテナーは、無効な内容やAIの幻覚を含む報告にも対応していた。
• 再開日は未定：Googleは具体的な再開日を示しておらず、2027年第1四半期に更新を知らせるとしている。
• 他の制度は案内を継続：参加者には、停止期間中、Googleが運営する別のバグ報奨金制度を検討するよう求めている。

意味と影響

今回の件は、セキュリティ調査の自動化と、調査の品質向上が同じではないことを示している。AIはコードを分析し、脆弱性の可能性を指摘し、整った形式の報告書を短時間で作成できる。しかし、もっともらしい説明だけでは、実際の脆弱性を証明したことにはならない。再現手順、影響の根拠、対象コードとの関係が確認されなければ、報告は有用な情報ではなく、追加の選別作業になり得る。

この負担は、オープンソースの保守現場で特に重くなる。エンジニアやメンテナーは、開発、修正、リリース、研究者への対応を同時に進めなければならない。低品質な報告が大量に届けば、正当な脆弱性を見つけるまでの時間が伸びる可能性がある。問題はAIが間違うことだけではない。自動化によって、未検証の推測まで大規模に送信される点にある。

Googleの判断は、報奨金制度の審査方法にも見直しを促す。今後は、再現性や証拠、人による検証を、正式な審査に進む前の条件として重視する制度が増えるかもしれない。これはAIを使った調査を否定するものではない。AIを仮説検証の補助に使うことと、検証前の出力をそのまま脆弱性として提出することを区別する必要があるということだ。

今回の停止は、AIが脆弱性発見に役立たないという意味ではない。人間による確認を経て、実際の問題と影響範囲を示せる報告には価値がある。ほかのバグ報奨金運営者にとっては、AIによる自動投稿が増えるほど、選別と検証が制度運営の中心的な機能になるという警告だろう。

出典：TechCrunch AI