OpenAI披露打击柬埔寨诈骗团伙：AI安全治理进入反滥用阶段

导语

OpenAI披露，其已中断一起位于柬埔寨的犯罪诈骗行动。根据可获得的标题与摘要，该行动利用ChatGPT支持多类诈骗活动，包括投资诈骗、恋爱诈骗、赌博相关骗局以及身份冒充。虽然目前无法获得原文完整内容，尚不能确认更具体的组织结构、受害者规模、处置方式或跨境执法细节，但这一信息本身已经指向一个重要趋势：生成式AI正在被犯罪网络尝试用于提升诈骗活动的效率与可信度，而平台方也开始把“反滥用”作为安全治理的重要组成部分。

核心要点

• 事件性质：OpenAI称其干预并中断了一起以柬埔寨为基地的诈骗活动。
• 涉及工具：该团伙被指使用ChatGPT来支持诈骗流程，而不是单纯进行普通内容生成。
• 诈骗类型：摘要提到的类别包括投资、恋爱、赌博和冒充身份等，这些本就是网络诈骗中高发的场景。
• 信息边界：由于原文抓取失败，当前不能补充具体账号数量、资金损失、执法合作对象或技术检测细节。
• 治理信号：事件说明大型AI平台不仅需要发布使用政策，也需要具备识别、调查和中断恶意使用的能力。

为什么这件事值得关注

过去，网络诈骗依赖模板化话术、人工翻译和批量社交账号运营。生成式AI的出现，可能让犯罪者更容易生成自然语言内容、调整话术风格，并针对不同对象编写更具迷惑性的沟通文本。投资、恋爱和冒充类骗局尤其依赖长期对话、情绪操控和可信身份包装，因此也更容易被文本生成工具放大风险。

与此同时，这并不意味着AI工具本身只能被用于犯罪。关键问题在于，开放式语言模型被广泛接入后，平台如何发现异常使用模式、如何执行账号处置、如何与安全研究和执法生态协作，以及如何在保护正常用户隐私与打击滥用之间取得平衡。

意义与影响

从行业角度看，这类披露有助于把AI安全讨论从抽象的“模型会不会作恶”，推进到更现实的“人如何利用模型作恶，以及平台如何阻断”。对用户而言，事件也提醒公众：诈骗信息可能变得更流畅、更本地化、更像真人沟通，识别风险不能只依赖语言是否生硬。

对AI公司而言，安全不再只是训练阶段的对齐问题，也包括上线后的持续监控、滥用响应和透明披露。未来，围绕生成式AI的治理重点，很可能会更多落在身份冒充、金融诈骗、社交操纵和跨境犯罪等具体应用场景上。

在信息有限的情况下，这起事件不能被解读为某种完整结论，但它提供了一个清晰信号：AI平台已经成为诈骗生态中需要被治理的新环节，反滥用能力将成为衡量AI服务成熟度的重要指标之一。

来源：OpenAI