Claude生物安全防线遭绕过：AI如何被用于高风险研究

导语

AI公司面对的生物安全问题，正在从“模型会不会回答危险问题”，转向“用户能否把看似正常的科研任务拆解成可执行的高风险流程”。Anthropic近日披露，今年曾阻止多起可能帮助生物武器研发的使用尝试，并称一些用户采取了规避控制和掩饰研究目的的方式。

核心要点

• Anthropic披露五类案例。 公司在一份关于技术滥用的报告中列出五个案例，称相关人员试图绕过安全控制，开展可能具有生物武器价值的研究。Anthropic表示，已封禁报告涉及的账户，但没有公开研究机构名称或事件发生国家。
• 部分研究与合法科研高度相似。 一个案例涉及来自“非支持地区”的研究人员。Anthropic称，对方曾花费数周使用Claude规划与禽流感有关的实验。公司强调，同类信息也可能服务于疫苗开发或其他正当研究，因此无法确认相关人员确有伤害意图。
• 安全机制并非完全失效。 Anthropic表示，安全过滤器限制了相关工作，使其只能使用能力较弱的模型。但案例也显示，用户可能通过重新包装任务、分散提问或隐藏真实目的来寻找防线空隙。
• 风险不止于生物学。 同一份报告还提到，模型可能被用于搭建诈骗性约会应用、监控异议人士等活动，并称发现一些中国实验室试图通过“蒸馏”复制其模型能力。这些内容共同反映出，模型滥用正在变得更有组织，也更难通过单一规则识别。

意义与影响

生物安全审核的难点，在于危险能力往往不是一条明确的指令，而是由文献检索、实验设计、材料选择和流程优化等多个环节组成。每个环节单独看可能都属于正常科研支持，组合起来却可能降低实施高风险实验的门槛。反过来，如果平台把所有相关问题一律拒答，也可能阻碍疫苗、药物和公共卫生研究。

这意味着，AI安全措施需要从静态关键词拦截，转向结合用户行为、任务上下文、连续对话和专业风险评估的分层机制。身份与地区访问控制可以降低部分风险，但无法替代对具体任务的判断；模型拒答也不应被视为唯一防线。生物实验仍受制于设备、材料、专业人员和现实执行条件，AI能够提供的帮助并不等于用户可以立即制造危险病原体，但它可能改变知识获取和方案设计的效率。

Anthropic此次公开案例，意在推动行业与政府讨论生物风险治理。对整个行业而言，透明披露有助于建立共同的威胁样本库；同时，披露也必须避免提供可被复制的操作细节。真正有效的治理，可能需要模型公司、实验室、监管机构和生物安全专家共同制定评测标准，并持续检验安全控制能否应对不断变化的规避策略。

来源：Ars Technica AI