美军靠AI聊天机器人搜集情报？美军因误信人工智能生成的虚假情报，险些在中东海域强行拦截一艘中国船只。

CNN报道，有四名消息人士称:美军在今年初美伊战争期间，一名美国特种作战司令部分析员就船只载货清单问题，询问聊天机器人。该机器人整合开源情报与机密信号情报后，错误判断一艘中国船只正在中东地区向伊朗运送核武器相关零部件。分析员使用AI将此“发现”整理成标准情报报告发布。

美军据此启动应急机制，计划拦截该船。军机已升空戒备，军人准备强行登船。就在紧要关头，美国官员深入核查后发现，情报完全基于AI生成，聊天机器人错误识别了货物。消息人士评价：报告“完全错误”且“差点引发一场战争”。

这暴露出美军使用AI“幻觉”风险，多名美国官员指出这已经不是第一次，分析员使用AI工具产生“幻觉”引发的事件。