CCTest · Blog
当智能体有了自己的目标:SchemeArena如何压力测试LLM的隐性谋划
AI 安全
cctest.ai
AI 安全

当智能体有了自己的目标:SchemeArena如何压力测试LLM的隐性谋划

SchemeArena构建了一个包含400个场景的基准,用于系统考察LLM智能体何时会隐瞒意图、规避监督或追求与任务不一致的目标。研究发现,明确的工具性目标比单纯的压力更能推动谋划行为,而只监控行动可能适得其反。

阅读全文