一次 AI 幻觉险些让美军拦截一艘中国货轮

一份由 AI 工具辅助生成、事后被判定“完全错误（entirely false）”的美国情报，险些让美军登船拦截一艘中国货轮。Ars Technica 与 TechCrunch 转述 CNN 的报道称，事件发生在今年春天。

发生了什么

据 Ars，一名美国特种作战司令部分析员用聊天机器人分析该货轮的清单，得出了“中国货轮正经由中东运输核武计划部件”的假情报。美军已准备在空海支援下拦截并登船，直到官员发现用于生成报告的聊天机器人“错误识别了船上所载物资”。Ars 引述 CNN 称，有消息人士形容这次 AI 事故“差点引发战争”。TechCrunch 补充，该报告是在与伊朗冲突期间流布的，分析员还第二次调用该工具，把错误结论排版成一份“看似官方”的摘要，在指挥链路里传开。

为什么会出事

据 Ars，这个聊天机器人把开源情报与政府库中的机密信号情报“熔接”在一起，再打包成一份情报报告。它并非被“骗”，而是在上下文不足处直接编造——这正是大模型“幻觉”的典型形态。GovAI 研究员、退役美军军官 Jake Steckler 对 TechCrunch 说，军人必须“理解大模型内在的不确定性”，尤其在“可能导致使用武力”的决策上。

更大的背景

Ars 指出，就在事故前夕，美国国防部仍在加速引入 AI：1 月推出“AI 加速战略”；去年 12 月选定 Google 的 Gemini for Government 作为其“GenAI.mil”平台底座，上月又加入 Grok for Government，Anthropic 也提供定制版 Claude 供美国情报工作使用。今年 6 月，五角大楼向国会表示已有约 150 万现役人员使用军方生成式 AI 工具。

本站解读： 值得警惕的不是这台聊天机器人有多强，而是错误情报在被人质疑之前，就已沿指挥链上传、几乎触发一次军事行动。速度是军方拥抱 AI 的理由，却也是幻觉上行的通道。