把 Claude 当日记写下袭击计划，佛州女子遭刑事指控

导语

生成式 AI 正被越来越多人当作写作助手、倾诉对象甚至数字日记使用。但在服务商看来，用户输入并不总是完全私密的个人记录，尤其当内容可能涉及现实世界的暴力风险时。TechSpot 援引佛罗里达州警方材料报道，一名女子因在 Anthropic 的 Claude 中写下疑似袭击计划而遭到逮捕，并面临刑事指控。

事件经过

据逮捕报告，佛罗里达州博尼塔斯普林斯居民 Carli Michelle Heller 于 9 月 26 日在 Claude 对话中写下将袭击警长办公室的内容。她之后向警方表示，自己把 Anthropic 的聊天机器人当作“日记”使用。

Claude 的安全系统标记了相关内容，并将其升级给人工审核员。审核员判断这可能构成可信威胁后，向执法部门报告。警员随后确认 Heller 的身份并前往其住所；她在没有发生冲突的情况下被拘留，案件之后由县警长办公室的情报侦探接手。

Heller 被控违反佛罗里达州关于书面暴力威胁的规定。根据素材所述，该州法律将通过书面或电子记录威胁杀人、伤害他人、实施大规模枪击或恐怖行为，并以他人可能看到的方式传播，定为二级重罪。具体事实和法律责任仍应以司法程序为准。

核心要点

• Claude 的安全系统不仅可能拦截内容，也可能把高风险对话交由人工审核。
• Anthropic 表示，在认为披露信息对于防止死亡或严重人身伤害有必要的有限紧急情形下，公司可能向外部机构提供用户信息。
• “把聊天机器人当日记”并不等于拥有传统日记的私密性。服务商可能出于安全、合规或产品改进目的处理输入内容，具体范围取决于平台政策和事件性质。
• 该案例与其他平台面对暴力风险内容时的处置差异，也反映出企业在用户隐私、主动干预和公共安全之间的权衡。

意义与影响

这起案件的关键并不只是某一条对话是否构成威胁，而是它清楚展示了 AI 产品的双重属性：它一方面提供近似私密的倾诉体验，另一方面仍是由公司运营、受安全规则约束的在线服务。用户如果把强烈情绪、幻想或现实计划输入聊天机器人，应意识到内容可能被自动系统识别，也可能在特定条件下进入人工审核流程。

对平台而言，难点在于如何区分文学表达、情绪宣泄、虚构创作与现实可执行威胁。过度干预可能损害信任，反应不足则可能带来严重后果。未来，服务商需要更清楚地说明数据处理边界、人工审核触发条件和紧急披露政策，同时尽量提供一致、可解释的处置机制。

这起事件也提醒用户，AI 聊天窗口不是绝对私密的法律保密空间。涉及现实暴力风险时，应优先寻求专业或紧急援助，而不是把平台当作只对自己开放的纸质日记。

来源：Hacker News