网通社科技快报

7起AI误导致徒步者受困事件引发户外安全警报

近期多起户外险情被归因于徒步者过度依赖AI聊天机器人规划路线。过去一年中,美国野外救援组织确认至少7起相关事件,涉事者均依据ChatGPT、Claude等模型提供的“徒步攻略”行动,结果偏离主路、陷入险境。例如,有游客按模型建议寻找黄石公园内并不存在的‘森林小径’,在陡峭岩壁边缘迷失数小时;另有人依ChatGPT推荐穿越结冰湖面坠入冰窟,或误入优胜美地已禁入的落石区。问题根源在于:大语言模型基于网络爬取的旧数据、论坛帖甚至虚构内容生成响应,无法验证路径真实性,亦无地形风险(如雪崩、断崖、无信号区)感知能力。其设计目标是生成连贯文本,而非保障事实准确,且未接入USGS、NPS等权威地理数据库。更关键的是用户认知偏差——对话式交互易被误认为权威解答,导致独立判断能力退化。传统导航App明确标注数据来源与更新时间,而聊天机器人输出天然带有“确定性”暗示,在高海拔、疲劳等高压下尤具误导性。行业已启动应对:REI在App中添加警示提示;Backcountry.com联合林务局推出“AI验证标识”;NPS发布指南强调“AI建议仅作初步参考”,Parks Canada设专栏披露真实案例。目前主流厂商尚未建立户外安全专项过滤机制,学术界正推动“户外AI伦理框架”,要求标注不确定性、链接权威数据、触发风险警示。短期内最有效防护仍是公众教育:识别“合理但虚假”特征,如描述过于流畅、缺失坐标、回避风险、引用模糊来源。真正的安全仍依赖纸质地图+GPS离线轨迹双备份及实地踏勘能力。