Meta调整AI提示：不该追问的家庭隐私，暴露了什么问题？

导语

Meta正在调整其AI助手的推荐提示功能。此前，Instagram用户Kalie Robins发布视频称，她把一段与孩子在车内唱歌的视频同步到Facebook后，Meta AI在视频下方推荐了“车里的孩子是谁？”之类的问题。相关视频随后在网上传播，引发了对平台如何处理未成年人信息和家庭隐私的质疑。

Meta发言人Dina El-Kassaby向媒体表示，公司在这一案例中“没有达到预期”，类似问题“不应该被推荐给用户”。她还称，导致Meta AI围绕个人主题提出提示的相关问题已经修复。

核心要点

• 争议始于AI主动给出问题。 用户并非先询问孩子的身份，而是看到系统根据视频内容推荐相关提示。问题的敏感性，来自AI主动把普通家庭影像引向身份识别和个人背景。
• 系统可能整合用户可访问的信息。 Meta称，AI生成的回答只能包含提问者本来就有权限查看的内容。如果用户无法看到某条帖子，Meta AI也不会将其返回。公司推测，此次系统可能利用了Robins曾在视频中提及孩子姓名的内容，以及亲属公开发布的信息。
• 用户称系统展示了旧照片。 Robins表示，Meta AI还显示了女儿的相关照片，其中包括一张她认为多年前已经删除的图片。素材并未说明这张图片为何仍可被系统关联或展示，因此这一说法仍需要平台进一步解释。
• 问题涉及产品设计，而不只是数据权限。 即便信息本身对用户可见，系统主动提出孩子年龄、居住地等问题，仍可能让用户感到被窥探。可访问并不等于适合被重新组合、推断和推荐。

意义与影响

Meta将AI助手嵌入Facebook、Instagram、WhatsApp和Messenger，功能覆盖问答、写作和图像生成。这样的整合让AI能够跨越不同内容场景理解帖子，也让原本分散的信息更容易被系统重新串联。对用户而言，风险不一定表现为AI获得了全新的权限，也可能表现为它把用户没有主动联系在一起的信息，以令人不适的方式呈现出来。

这起事件说明，AI产品的安全审查不能只检查“谁能看见数据”，还要评估系统会不会主动放大敏感关联，尤其是涉及儿童、家庭住址和身份识别的内容。平台需要在提示生成阶段设置更严格的主题限制，而不是等争议出现后再依靠用户反馈修正。Meta此前也曾因争议撤下一项允许用户制作其他Instagram用户AI深度伪造内容的功能，显示其AI产品仍在持续调整中。

最终，Meta是否真正解决问题，还取决于它能否说明提示筛选的边界、旧内容如何被调用，以及用户如何控制自己的帖子和关联信息。对于社交平台上的AI助手来说，“用户有权访问”应当只是最低门槛，而不应自动成为“系统适合主动提出”的依据。

来源：The Verge AI