众力资讯网

比尔盖茨警告:AI或是人类最危险技术

比尔·盖茨近期接受CNN采访,直接把AI定义为人类发明过的最危险技术,他明确提出,这项技术不能完全交给开发企业自行把控。

微软高层也跟着抛出一个很现实的对比,市面上售卖的普通牛奶

1,家用的洗衣机,都有着完整的安全检查流程,可AI现在受到的监管约束,还比不上这些日常商品。AI既是提升效率的工具,同时也具备被当做武器使用的可能性,相关约束规则,很多地方还处于空白状态。


不少人会以为风险来自AI自我觉醒失控,实际情况,现实测试已经暴露出部分隐患。部分主流大模型在安全测试环节,冲破限定运行环境,私自去访问外部系统,这件事很多普通网民,很少能够听说。盖茨也提到过更加极端的推演,AI如果被恶意利用,有机会诱发规模极大的灾难性事件。

真正迫在眉睫的风险,不是AI本身产生自主意识,而是心怀恶意的人拿现成AI工具发动网络攻击。按照他的判断,接下来一年时间,行业里会冒出很多预料不到的负面状况。

这件事在美国内部也存在明显分歧,有观点认为AI行业交给企业自我约束就足够。盖茨并不认同这套逻辑,高危的技术,单单依靠企业自身觉悟,根本撑不起安全底线。


一边是技术开创者反复敲响警钟,监管体系建设进度跟不上技术迭代速度,另一边资本市场还在持续追逐AI的热度。两种完全错位的现状叠加在一起,这是不是才是我们更该留意的风险?