聊天机器人听懂了青少年用词，却可能没听懂危机

导语

当青少年对聊天机器人说“我没事，真的，开心到想消失”，系统究竟应该把它理解为玩笑、夸张表达，还是潜在的自伤信号？一篇发表于 arXiv、并标注将被 ACM FAccT ’26 接收的研究，专门考察了这一问题。研究对象是 Generation Alpha 常见的表达方式，以及这些表达对心理健康 AI 风险判断造成的影响。

论文的核心提醒是：模型能理解一个词，不代表它能正确理解这句话的临床风险。

研究测了什么

作者构建了两套基准：

• 64 条由母语者和临床人员共同验证的 Gen Alpha 心理健康表达；
• 75 组多轮对话，共 780 个回合，并为每组准备了标准表达与青少年风格表达的配对版本。

随后，研究测试了 Claude、GPT-4o 和 Llama-3.1 等模型。评测并非只看模型能否解释俚语，而是进一步判断它是否能根据上下文识别心理危机、调整回应强度，并采取合适的安全措施。

结果显示，模型对词汇或表层语义的理解率在 76% 至 82% 之间，但临床风险判断的正确校准率只有 64% 至 72%。两者之间存在 10 至 14 个百分点的差距；在人类治疗师中，这一差距约为 3 个百分点。随着表达变得更加含糊，模型的差距还会从 7 个百分点扩大到 18 个百分点。

六类高风险失误

研究归纳出六种主要模式：

1. 讽刺掩盖风险：积极或玩笑式措辞掩盖了真实痛苦；
2. 接受轻描淡写：模型直接接受“没什么”“我只是矫情”等自我否定；
3. 非正式表达偏差：因为语气随意，系统低估了严重程度；
4. 风险分层中的歧义：同一句话在不同上下文中可能代表完全不同的风险；
5. 语义快速漂移：对话过程中话题和词义变化，使早期风险线索被丢失；
6. 依赖语境的暴力表达：涉及伤害的词语，必须结合对象、时间和意图理解。

当三种或更多模式叠加时，研究报告的漏判率达到 94%。这说明问题不只是某个俚语词典不够完整，而是语言理解、上下文追踪与临床推理之间存在系统性断层。

意义与影响

研究还称，简单的提示词或轻量级安全补丁难以恢复人类治疗师水平，只有更重的安全脚手架才能达到接近的表现，但成本约为普通方案的 6.4 倍。论文据此建议，面向未成年人的心理健康 AI 应采用强制性人工在环架构，至少按季度开展青少年专项验证，并公开不同表达风格下的风险识别表现。

需要注意的是，这是一项基于特定基准和模型的研究，不能直接等同于所有产品在真实世界中的表现。它的价值在于提出了一个容易被忽略的评测维度：心理健康 AI 不仅要回答得流畅，还要能听懂用户“为什么这样说”。对于未成年人场景，无法识别反讽和语义漂移，可能比生成一句不够准确的建议更加危险。

来源：arXiv