美国前总统奥巴马发出严重警告。9 月 13 日,路透社转引《纽约时报》报道,美国前总统奥巴马在一场私人筹款活动上发出警告:人工智能如果管控不当,可能带来 “危险”。
奥巴马这番话并不是公开的大型演讲,而是在面向支持者的筹款闭门会上讲出来的,现场的参会人员把相关内容透露给了媒体,才被外界知晓。
很多人会觉得,奥巴马一向对新技术态度比较包容,很少直接抛出这么重的警示。这次主动点名 AI 的风险,核心的痛点就在于控制权的归属。
现在全球顶尖的 AI 研发企业大多都是私营公司,资本主导技术迭代,研发推进的速度远远超过各国立法和监管完善的速度。政府的法规往往要讨论好几年才能落地,可 AI 模型几个月就会更新一代。
技术跑在规则前面,监管就很容易跟不上节奏。一旦缺少约束,就会衍生出不少现实麻烦,深度伪造的音视频可以轻易伪造人物发言,虚假信息会在网络快速扩散,普通人很难分辨真假。
还有就业层面的冲击,大量基础岗位会被 AI 替代,短时间内会造成不少群体的收入压力,社会层面的矛盾会慢慢积累起来。
奥巴马也提到,不能一味阻止 AI 向前发展,技术本身不是洪水猛兽,关键是人类能不能建立一套有效的管控框架。
他也清楚,想要落实监管,在美国内部本身就阻力重重。科技巨头手握巨额资金和游说力量,会想方设法限制严苛法案落地。两党之间分歧巨大,很难在 AI 立法这件事上达成长期共识。
一边是企业想要抢占市场、争夺全球技术话语权,拼命加速模型迭代。另一边是国会议员各有立场,有的偏向资本,有的担忧民生风险,扯皮不断。
这种拉扯之下,美国很难快速拿出一套完整统一的 AI 管理方案。这也是奥巴马内心担忧的地方,一旦监管长期缺位,后续出事再补救,代价会大很多。
其实不止奥巴马,不少欧美政界和科技圈大佬,近些年都陆续发出类似提醒。很多顶尖技术开发者自己都承认,AI 能力增长的速度,已经超出大家早前的预估。
普通人感受到的只是聊天、做图这类生活化功能,但大模型背后潜藏的能力,一旦被恶意利用,破坏力不容小看。虚假舆论可以轻易搅动社会情绪,自动化工具还能简化各类不法操作。
但有意思的是,这类警告大多出自闭门场合。公开场合,各方的表态往往会收敛很多。筹款晚宴这种小圈子,说话不用顾及太多大众舆论,更容易说出心底真实的顾虑。
不少观察人士认为,奥巴马这番表态,也暗含对当下美国社会分裂现状的顾虑。如果 AI 带来的冲击持续放大,虚假信息泛滥,会进一步撕裂本就对立的美国民众。
可道理好讲,落地很难。资本不会主动给自己套上枷锁,跨国 AI 技术流动,单靠一个国家的法律,根本拦不住。就算美国出台新规,海外企业依旧可以推出不受这套规则约束的产品。
这也是全球所有国家共同面对的难题,AI 没有国界,风险自然也不分国界。想要做好管控,单纯一个国家发力远远不够,需要多国之间持续对话协商。
只是国际协调这件事本身,就充满博弈。各国产业实力不一样,诉求自然天差地别。AI 强国想保住技术优势,发展中国家更在意技术带来的成本与就业冲击。
奥巴马这次的发言,算不上什么全新的论断。但由美国前总统在闭门场合讲出来,分量就完全不一样。相当于侧面承认,当下人类对 AI 的把控力度,已经跟不上技术狂奔的脚步。
技术本身不分善恶,怎么使用、谁来监管,才是决定走向的关键。一味封杀会错失发展红利,完全放任又会埋下隐患,全世界都在艰难寻找中间那条平衡的道路。
