众力资讯网

所有AI都有病,这个病叫“机器幻觉”,意思是AI会自信满满地编造错误信息。 5

所有AI都有病,这个病叫“机器幻觉”,意思是AI会自信满满地编造错误信息。

5月5日,OpenAI推出ChatGPT 5.5 Instant版本,官方称在医疗、法律、金融等高风险领域,幻觉率下降了52.5%,编造概率明显降低。

但这并不意味着彻底解决问题。机器幻觉是AI的绝症,根本无法完全消除。原因很简单:AI学习的数据来自人类,而人类本身就有矛盾、偏差和错误。

不同来源信息互相冲突,AI只能根据概率输出最可能的答案,而不是绝对真实。部分数据还可能被人为篡改或扭曲,AI无意识地吸收,无法判断真伪。

幻觉的根本原因在于真相和表述之间存在天然误差。

AI生成答案时,需要筛选信息、判断优先级、组织语言,每一步都可能出错。它没有常识,也不会说“我不知道”,只会拼凑信息自信输出,即便把幻觉率降低到1%,在关键场景仍会出错。

面对这种情况,人类必须把AI当人看。无论它多聪明、多自信,都不能无条件相信。重要信息必须核实,多方求证。

技术升级只能降低幻觉概率,无法根治,因为根源在于人类社会数据的混乱和偏差。

机器幻觉不是AI的问题,而是人类社会问题的映射。

想让AI永远不说谎?先让人类自己不说谎。对普通用户来说,AI是工具,不是权威。

理性使用、保持怀疑、核实信息,才是安全的使用方式。