AIが作った架空証人を殺人事件の控訴書面に記載、弁護士に5000ドルの罰金

導入

生成AIは、法律文書を自然で説得力のある文章に整えることができます。しかし、文章が流暢であることは、内容が事実であることを意味しません。ニューメキシコ州最高裁は、殺人事件の控訴書面にAIが生成した虚偽情報を含めた弁護士Stephen Aaronsに、5000ドルの罰金を科し、法廷侮辱と判断しました。

報道によると、問題の書面には実在しない証人と、その証言が記載されていました。さらに、警察の証言や、銃撃犯の服装・外見に関する不正確な記述も含まれていたとされています。これは事務所内の下書きにとどまる誤りではなく、殺人有罪判決に対する控訴手続きで裁判所に提出された文書に入り込んだものです。

主なポイント

• 問題は検証を怠ったことです。 最高裁は、AIが作成した書面に含まれる事実関係と法的根拠を確認しなかった点を重く見て、罰金と法廷侮辱の判断を示しました。
• ツールの能力を過大評価していました。 8月の審理でAaronsはChatGPTを使い、裁判の「完璧な要約」を作成できると考えていたと説明しました。意図的な虚偽でなくても、過信は専門職としての重大な問題になり得ます。
• AIの幻覚は司法分野の継続的な課題です。 C.シャノン・ベーコン判事は、AIの幻覚がニュースで繰り返し報じられているのに、なぜリスクを認識していなかったのかと問いかけました。過去にも、存在しない判例引用や誤った法律上の引用を提出した弁護士が問題になっています。

この事例が示すこと

法律文書に求められるのは、読みやすさだけではありません。証人、証言、引用、事実関係、手続き上の記述は、事件記録や信頼できる法源に一つずつ結び付いていなければなりません。生成AIはもっともらしい文章を予測して出力しますが、その証人が実際に法廷にいたのか、引用が判決文に存在するのかを自動的に確認するわけではありません。情報が不足していると、空白を具体的に見える創作で埋めることもあります。

そのため、法律実務でのAIは、メモの整理、文書構成の提案、資料の探索補助などに限定して使うのが安全です。重要な主張は原記録と照合し、判例や条文の引用は原文で確認し、提出前には別の担当者も点検する必要があります。特に刑事事件では、虚偽情報が被告人の権利や裁判所の判断に影響するおそれがあります。

今回の判断が示す責任の所在は明確です。AIを利用すること自体が直ちに違反になるわけではありませんが、検証していない出力を裁判所に提出した責任は、文書を署名・提出した弁護士にあります。法律事務所には、利用記録の保存、出典の確認、提出前の監査など、AIを前提にした運用ルールが必要になります。AIは起草を速められても、法的判断と事実確認を代替できません。

出典：The Verge AI