英国《金融时报》"AI转型"系列近日抛出一个关键论点：评估人工智能到底有多强，答案取决于你在担心什么——对于"危险的成功"与"危险的失败"，理应采用完全不同的评判标准。这看似技术性的表述，实则戳中了整个AI安全评估体系的软肋。
问题在于，业界长期用单一维度衡量AI：跑分越高、能力越强，就越"先进"。但报告指出，真正的风险恰恰出现在这套逻辑失灵的地方——当AI在某项任务上表现得"太好"，比如精准设计生物武器合成路径或撰写无法追踪的网络攻击代码,这种"成功"本身就是灾难；而当AI在关键安全场景中"失败",比如误判核设施指令、拒绝执行紧急停止,这种"失败"同样致命。用同一把尺子丈量两种截然相反的风险,结果必然是刻舟求剑。
更令人不安的是，这暴露出当前AI治理的结构性滞后：监管者和开发商仍习惯用"准确率""通过率"这类线性指标做安全认证,却缺乏针对"能力错配"的双轨评估框架。这不是技术细节问题,而是认知框架的根本缺陷——我们尚未建立起一套真正理解"智能危险性"具有方向性、而非单纯程度差异的评估哲学。
历史教训历历在目:核能、基因编辑等颠覆性技术早期都曾用错误的安全框架自欺欺人。AI监管若继续套用"越可控越安全"的旧逻辑，而不区分风险的性质与方向，恐怕只是在为下一场事故积蓄势能。真正的安全,始于承认我们连"如何提问"都还没想清楚。