众力资讯网

AI误判中国船装有核武相关部件,美军飞机都已经升空 今年春天,美国特种作战司令

AI误判中国船装有核武相关部件,美军飞机都已经升空

今年春天,美国特种作战司令部一名分析员用AI处理一艘中国船只的货物情报,AI把公开资料和机密信号情报结合后,错误判断船上运的是核武器的相关部件。
分析员随后又用AI把这个判断整理成标准情报报告,报告进入美军指挥体系后,被当成可信情报继续向上传递。
事情很快从一份报告变成真实行动,美军飞机已经升空,武装人员也做好了登上这艘中国船只的准备。
直到行动临近执行,官员才发现这份报告使用了AI,而且AI对船上货物的判断根本不准确,美军随后紧急取消行动。
一名知情人士对CNN表示,这件事差点引发战争,不过目前公开报道并没有说明这艘船实际运载的是什么,AI本身也没有直接下达军事行动命令。
美国军方这几年一直在加快军事AI建设,这起事件说明,美军真正要解决的已经不只是AI够不够强,而是当AI给出错误答案时,现有的流程机制能不能在行动之前把它拦下来。