返回文章列表
AI 安全

三名徒步者因依赖 Gemini 规划登山获救,暴露 AI 户外建议风险

阅读约 3 分钟

导语

AI 聊天机器人正在被用于旅行、路线和户外活动规划,但一则发生在美国加州的救援事件提醒人们:面对高风险环境,流畅的回答并不等于可靠的现场判断。三名年轻男子使用 Google Gemini 规划沙斯塔山行程后,因时间安排、下撤决策和补给准备出现问题,最终由森林服务部门人员和志愿者救出。

发生了什么

据 Siskiyou 县警长办公室报告,三人凌晨3点出发。登山者通常被建议,如果中午前仍未到达山顶,就应考虑折返;但这支队伍直到晚上7点才登顶。随后,他们试图在夜间下山,并致电警长办公室寻求方向指引。三人在 Mud Creek Canyon 过夜,第二天早上获救。

警长办公室表示,Gemini 曾建议他们携带的食物和水远少于团队实际所需,尤其是在原本预计约8小时的上行过程演变为持续多日的意外延误之后。不过,报道并未认定所有错误都应归咎于 Gemini,人员自身对时间节点、天气和现场风险的判断同样是事件的重要因素。

核心要点

  • AI 可能根据一般化信息生成行程,却未必掌握山地路线的实时封闭情况、积雪、天气变化或救援条件。
  • “预计用时”和补给建议会受到队伍体能、装备、海拔适应能力及突发情况影响,不能直接当作安全标准。
  • 登山安全建议通常要求设置明确的折返点,并为迷路、延误和过夜情况准备额外食物、水和保暖装备。
  • 当地管理机构、专业向导和官方地图提供的信息,应优先于通用聊天机器人的回答。

意义与影响

这起事件的关键并不是证明某个模型必然不可靠,而是说明通用 AI 在高风险决策中的边界。聊天机器人擅长整理信息和生成计划,却可能缺乏对实时环境的感知,也不一定会主动追问队伍经验、装备状况和备用方案。更重要的是,回答中的不确定性常被自然、肯定的语言掩盖,用户容易把建议误读为经过验证的安全方案。

对于用户而言,AI 可以用于制作问题清单、比较路线或整理公开资料,但最终计划应交由当地林务部门、官方步道信息和经验丰富的同行复核。出发前还应主动联系当地 USFS Mount Shasta ranger station,确认最新情况。对于 AI 产品开发者而言,涉及登山、海上活动、医疗或其他高风险场景时,系统需要更明确地表达不确定性,提示用户核验来源,并避免把缺乏现场依据的估算包装成确定建议。

这场救援没有造成更严重后果,但它再次表明:在现实世界中,AI 的便利不能替代专业判断、冗余准备和及时止损。

TechCrunch AI

评论

正在确认登录状态……

正在加载评论……

相关文章