GTAGym：把《GTA V》变成可验证的智能体评测与强化学习环境

导语

让智能体在游戏里“完成任务”，远比让它识别一张图片或回答一个问题复杂。它必须理解自然语言目标，持续观察三维环境，选择行动，并在失败后调整策略。更棘手的是，任务是否完成往往不能仅凭最后一帧画面判断，传统评测因此需要人工检查，也很难直接用于强化学习。

OpenMOSS 团队提出的 GTAGym，尝试把《GTA V》改造成一个既能评测智能体、又能训练智能体的统一环境。项目的关键不只是使用了知名的AAA游戏，而是将游戏状态、交互接口和结果判定连接起来，形成了相对完整的闭环。

核心要点

• GTAVBench覆盖多类任务。 基准从《GTA V》主线任务中重构出103个在线任务，分属九个任务家族；另有47个基于游戏画面的射击和狙击任务。
• 结果由引擎状态自动核验。 智能体通过截图观察环境，使用键盘和鼠标执行操作，服务器则根据游戏引擎状态判断目标是否达成，降低人工标注成本。
• 设置了更接近真实使用的AGI分支。 在GTAVBench-AGI中，任务说明只在第一张截图中出现，交互历史还会由测试框架自动压缩，考察模型的记忆和长期控制能力。
• 困难集中在持续控制任务。 六个前沿大语言模型的最佳配置在AGI分支取得70.9%的总体准确率，但空中导航最难，拦截和规避紧随其后。
• 同一框架支持强化学习。 GTAGym可在固定任务模板下，按照用户指定的范围和选项采样参数，批量生成三维导航及图像射击环境，并提供自动奖励和终止信号。

实验与意义

研究者使用生成的步行导航任务对Qwen3.8-27B进行LoRA强化学习。训练不仅改善了域内表现，也迁移到域外任务类别；在原生《GTA V》任务上，表现从15%提升至23%。这一结果并不意味着游戏智能体已经解决了长期规划问题，但说明自动奖励和可扩展任务生成能够为训练提供更稳定的实验基础。

GTAGym的价值在于，它把“看懂、想清楚、操作并验证结果”放在同一个评测链路中。对于多模态智能体和具身智能研究者，游戏世界提供了比静态数据集更丰富的状态变化与行动后果；对于强化学习研究，自动终止条件则是从演示式评测走向大规模训练的重要基础。

当然，70.9%的总体准确率仍掩盖了不同任务之间的差异。空中导航、规避和拦截暴露出智能体在空间建模、时序决策和实时控制上的短板。未来，GTAGym能否覆盖更多任务模板、提升环境复现稳定性，并让训练收益持续迁移到未见过的复杂任务，将决定它能否成为更广泛的游戏智能体基础设施。

来源：Hugging Face Daily Papers