Claudeを日記代わりに使った女性、攻撃計画の記述で重罪に問われる

はじめに

生成AIは、文章作成の補助だけでなく、考えを整理する相手やデジタル日記としても使われている。画面の向こうに人がいないため、紙の日記に近い感覚で利用する人もいるだろう。しかしチャットボットは、企業が運営し、安全機能やデータ処理のルールに従うオンラインサービスだ。フロリダ州で起きた今回の事例は、その違いをはっきり示している。

何が起きたのか

TechSpotが引用した逮捕報告書によると、フロリダ州ボニータスプリングス在住のCarli Michelle Heller氏は、9月26日に保安官事務所を襲撃する予定だとClaudeに書いた。その後、本人はAnthropicのチャットボットを「日記」のように使っていると説明したという。

Claudeの安全システムは該当する記述を検知し、人間のレビュアーへエスカレーションした。レビュアーは現実的な脅威の可能性があると判断し、警察へ情報を報告した。警 deputiesはHeller氏を特定して自宅を訪れ、衝突なしに身柄を拘束した。その後、郡保安官事務所の情報担当捜査官が調査を引き継いだ。

Heller氏は、フロリダ州法に基づく書面による暴力脅迫の罪に問われている。素材によれば、同州法は、殺害や傷害、大量銃撃、テロ行為を行うと脅す書面・電子記録を、他者が閲覧できる形で伝達した場合、二級重罪と定めている。ただし、今回確認できるのは報告内容であり、最終的な事実認定や法的責任は司法手続きに委ねられる。

要点

• Claudeの安全対策は、危険な内容を遮断するだけでなく、人間による確認へ回す場合がある。
• Anthropicは、死亡または重大な身体的危害を防ぐために必要と判断する限定的な緊急事態では、ユーザー情報を共有する可能性があるとしている。
• チャットボットを「日記」と呼んでも、紙の日記と同じ秘密性が保証されるわけではない。
• 企業には、創作、感情の吐露、現実に実行可能な脅迫をどう区別するかという難題がある。

意味と影響

今回の焦点は、単に一つのメッセージを通報すべきだったかどうかだけではない。生成AIは、親密な会話画面と、自動検知・人的レビューを組み合わせた製品になっている。利用者は秘密を聞く相手として接していても、事業者側は入力を安全上のシグナルとして扱うことがある。

介入が強すぎれば、怒りや不安の表明、フィクションの文章まで脅威と受け取られ、利用者の信頼を失う可能性がある。反対に、反応が遅ければ現実の危険を見逃しかねない。サービス提供者には、会話が確認される条件、人的レビューに進む基準、緊急時の情報開示方針を、より分かりやすく説明することが求められる。

利用者側の教訓も明確だ。AIチャットは、絶対的に私的な空間でも、法律上の守秘義務がある相談窓口でもない。現実の暴力に関わる危険がある場合は、AIを自分だけの紙の日記とみなすのではなく、適切な専門機関や緊急サービスに相談すべきだ。

出典：Hacker News