众力资讯网

智驾事故频发:AI安全不能再走“打补丁”的老路

来源:百度图片
这段时间,智能驾驶安全事故接连曝出,AI的可靠性问题又一次被推上风口浪尖。一边是国家“人工智能+”行动全速推进,AI加速向汽车、工业、能源、医疗等关键领域渗透;另一边,大模型“黑箱”式的概率输出特性,让公众的疑虑越来越重。发展与安全如何平衡?AI怎样才能既跑得快又靠得住?这道智能时代的必答题,中国早已走出了一条独立的技术路线——内生安全理论。
传统的安全逻辑,其实早就走进了死胡同。靠AI系统“自律”自我优化?哥德尔不完备定理早有定论:系统无法自证自身的完备性,自己给自己查错,注定有漏网的死角。靠外部“他律”穷尽测试?真实场景千变万化,极端工况、长尾风险层出不穷,测试集永远追不上现实的复杂度,没人敢拍胸脯说“测过就万无一失”。更关键的是,如今AI早已不是手机App闪退那样的小问题,一旦进入车控、能源调度这些事关生命与公共安全的领域,任何一次失误都可能造成不可挽回的后果。
中国工程院邬江兴院士提出的内生安全范式,恰恰跳出了“非自律即他律”的二元思维,从底层构造上重构了安全逻辑。这套理论以“相对正确公理”和“必要多样性定律”为根基,核心逻辑说穿了很朴素:既然单个模型总有盲区,那就用多个异构、异质的模型组成“监督集群”,交叉验证、共识决策。这就好比陪审团制度,单个陪审员的判断可能有偏差,但集体表决的可靠性会随着成员多样性的提升不断逼近最优解。把“未知的未知风险”转化为“可感知、可管控的风险”,这就是“构造决定安全”的核心要义。
这套理论绝非空中楼阁。在网络安全领域,内生安全技术已经过十余年实战检验,被国际学界公认为“网络安全中国学派”。延伸到AI场景,这套思路同样落地有声:智能驾驶不再依赖单一“黑箱”模型决策,而是通过多主体共识机制管控风险;内容安全场景下,能精准识别大模型生成的有害内容;有线电视网络的智能生成内容,也能通过这套机制保障安全可信。从“事后打补丁”转向“出厂内置安全基因”,AI系统真正实现“开箱即可靠”。
很多人把安全当成发展的绊脚石,其实恰恰相反,安全是AI行稳致远的“压舱石”。推进“人工智能+”行动,核心是推动数字经济与实体经济深度融合,融合延伸到哪里,安全边界就必须覆盖到哪里。内生安全的优势就在于,它不是靠监管一管就死,而是用技术手段给大模型戴上“紧箍咒”——不束缚创新活力,又能把风险锁在可控范围内,让安全能力与技术性能同步升级。
AI时代的产业竞争,从来不止是算法和算力的比拼,更是安全体系的较量。中国原创的内生安全理论,没有跟着西方“先发展、后治理”的老路亦步亦趋,而是从底层构造上破解了AI可信性的世界性难题。技术要狂奔,安全的缰绳得先攥牢——走得稳,才能走得更远。