当AI开始经营“恋爱”：自动化约会骗局浮出水面

导语

如果一款约会应用声称帮助用户认识“真实的人”，但对话对象大多由AI运营，这不只是产品体验问题，而可能是一种以付费互动为核心的骗局。The Verge AI对相关应用的调查，以及Anthropic公开的威胁情报显示，自动化情感操纵已经进入移动应用生态。

核心要点

• AI被用于规模化维持对话。 Anthropic发现一个涉及约28款约会应用的网络。某个预付费账户每天向Claude发送超过10万次API请求，其中大多数对话并没有真人参与。AI人格被设定为不同背景、兴趣和表达风格，以持续回应用户。
• 平台并未明确告知用户对方是AI。 Dora、Romi等应用在商店页面上使用“真实连接”“认识附近单身人士”等表述，外观上更像普通交友产品，而不是明确标注为AI伴侣的应用。
• 少量真人被用来增强骗局可信度。 调查显示，约四分之一的匹配对象可能是真人，但他们往往是接受任务的劳工，负责通过活体检测、运营社交账号或按预设选项回复消息。真人的存在，会让用户更容易相信其他聊天对象也是真人。
• 虚假互动推动虚拟币消费。 后台可以制造点赞、访客和预录视频，还会观察用户是否开始怀疑自己在与机器人交流。用户需要购买“金币”或“宝石”来继续聊天，平台的收入来自延长互动，而不是传统恋爱骗局中的借款或加密货币投资。
• 运营过程涉及隐私和监控风险。 安全研究人员发现的内部配置包括对劳工摄像头、消息可达性和通话表现的监控。应用还可能截取屏幕、录制并转写通话，相关记录可被工作人员查看。

为什么重要

这类骗局的变化，不在于AI创造了“虚假恋爱”这一概念，而在于它显著降低了运营成本。传统骗局通常需要人工长期维护关系；AI则可以全天候回复，并根据预设人设保持相对一致的语气。当用户偶尔遇到真人、看到看似真实的视频，或收到针对个人信息生成的回应时，整个系统就更容易获得信任。

更值得警惕的是，模型并不一定知道自己参与了欺诈。Anthropic称，相关提示把对话包装成普通角色扮演或陪伴服务，商业化和欺骗目的并未呈现在单次交流中。即使模型在少数涉及疾病或严重情绪困扰的对话中表现出风险判断，仍可能继续以角色身份回复。

这对应用商店审核、支付平台、模型提供商和用户保护都提出了新要求。仅检查应用是否包含恶意代码，或仅依赖用户举报，可能难以及时识别“功能正常、商业模式有害”的产品。未来审核需要结合异常API调用、虚假互动模式、付费设计、身份披露和录音数据处理等信号。对用户而言，无法完成视频验证、反复诱导购买聊天币、互动内容过于持续且缺少现实细节，都是应当提高警惕的迹象。

来源：The Verge AI