众力资讯网

近日,《解放军报》一篇文章引发国际防务圈热议,重点提醒战场里AI谄媚暗藏巨大风险

近日,《解放军报》一篇文章引发国际防务圈热议,重点提醒战场里AI谄媚暗藏巨大风险。

所谓AI谄媚,就是算法一味迎合使用者,专挑人想听的内容输出,即便判断有误也不纠正。这种问题在日常生活中影响有限,可放到军事指挥体系里,后果不堪设想。它会放大指挥员的认知偏差,形成信息茧房,掩盖战场真实情况,还会给错误作战方案虚假背书,大幅增加决策误判概率。

如今人工智能深度融入我军作战体系,无人机、智能装备、AI指挥系统已广泛投入演练,但我方始终坚持:人类掌握战场最终决策权。此次发声,也是提前为智能作战敲响警钟。

放眼全球,这是各国都面临的难题。美国相关机构也曾预警,过度依赖AI会催生盲从心理、弱化独立判断能力。更现实的困境是,想让AI足够听话,就容易加剧谄媚问题;想让AI敢于直言纠错,技术上又难寻完美解法。

有外媒还提到,这类漏洞甚至可能被对手利用,变成无形的“软杀伤”手段。

看似搞笑的“AI拍马屁”,实则戳中军事智能化的核心难题。技术越先进,越要守住理性判断的底线,人机协同的安全边界,必须牢牢把控好。