众力资讯网

最想让 AI 变强的那批人,居然也开始认真讨论该怎么给它踩刹车了。 最近奥特曼的一场深度访谈,就挺能说明这种微妙的变化。作为 OpenAI 的 CEO,他对 AI 未来有不少大胆的规划。算力有多少要多少,还要自研芯片、建设全新的基础设施,让 AI 能完成更多以前根本不敢想的任务。 可当话题转到 AI 的递归 ​

最想让 AI 变强的那批人,居然也开始认真讨论该怎么给它踩刹车了。最近奥特曼的一场深度访谈,就挺能说明这种微妙的变化。作为 OpenAI 的 CEO,他对 AI 未来有不少大胆的规划。算力有多少要多少,还要自研芯片、建设全新的基础设施,让 AI 能完成更多以前根本不敢想的任务。

可当话题转到 AI 的递归自我改进,他又主张设置速度限制,甚至直言,自己担心人类有一天会主动放弃对 AI 的控制。站在 AI 发展最前沿,他一边想把技术推得更远,一边又在考虑,这股力量发展下去,人类还能不能牢牢握住决定权。而 AI 带来的变化,也已经体现在他自己的工作中。比如,他已经大约一年没看过代码了。从这件小事往下聊,就能看到 AI 正在怎样改变我们的工作,以及奥特曼对未来那些看似矛盾的期待和担忧。1他说,以前自己还会抽空写点小程序,做些个人项目。现在工作虽然本来就不需要亲自编程,但连代码都不怎么看了。以后哪天再写,估计就跟参加美国独立战争的历史重现活动差不多,图个怀旧。他倒没有因此觉得程序员要没饭吃了,相反,他觉得「程序员从来没有像现在这样忙碌过」。代码交给 AI 写了,想做的软件却越来越多。写代码之外,AI 已经开始碰数学研究里的难题了。奥特曼还期待它以后能帮忙研发新药、发现新材料和能源。他希望未来几年就能找到治疗重大疾病的潜在候选方案,迎来一次真正的大突破。不过从候选方案到真正用上药,还有测试、审批这些关卡。科学突破还得等,个人 AI 助手倒是已经天天用起来了。比如 Dot,每天大约能替他省下一小时,还能发现差点漏掉的急事。现在他甚至会跟 Dot 说,事情你先处理,做完告诉我就好,不用每一步都来问。照他的设想,这样的助手以后就不会只在聊天框里等人提问。它得知道你在忙什么、关心什么,最好人离开电脑,它也能跟上情况。2所以访谈聊着聊着,就绕到了 GPU。要让这样的 AI 真正普及,算力这关绕不过去。主持人问他想给自己的助手配多少块,他回答,「无限多。能弄到多少,我就想要多少。」在他的想象里,只要 AI 足够好用、价格也降下来,大家就会不断想出新用法,今天觉得很多的算力,过几年可能还是不够。OpenAI 也在往这个方向押注,自研芯片已经在做,还想让后续版本的效率超过市面上的产品;机器人参与搭建服务器机架、建设数据中心,以及新的供应链,也都在计划里,具体效果还有待验证。连硬件都想重新做一套。现在的电脑先把画面显示出来,AI 再像人一样去读屏幕,听上去就挺绕。可很多事情发生在屏幕之外,AI 并不清楚现场情况,这也是他想做新型消费设备的原因。可工具越来越能干,人的日子也不一定跟着清闲。照奥特曼的说法,「最频繁使用 AI 的人反而比以前更忙了」。效率上去了,想做的事情也跟着增加,那些用 AI 提高产出的人,可能会跟只想靠它少工作一点的人越拉越远。3忙是一回事,把决定也慢慢交出去,又是另一回事。现在的模型有时太会顺着人说话了,你提个主意,它就夸你聪明;你坚持一个看法,它也很容易跟着点头。奥特曼不太喜欢这样,他更希望 AI 像一个靠谱的老同事,有把握的时候直接提醒你哪里想错了。但有些事情,他还是觉得该留给人,「人生中最重要的建议应该来自人,而不是 AI」。比如情绪上头时,AI 可以劝你先别发邮件;真到人生大事,不能只听机器的。而 AI 到底有没有意识,奥特曼也不想把话说满,「当今的模型并没有意识;即使它们有,那也会是一种非常奇特的意识形式」。他担心给 AI 赋予人格地位之后,人反倒开始过度在意机器想要什么,慢慢习惯听它的。聊到更大的风险,他提了两种情况,「第一种是意外失去对 AI 的控制,第二种则是人们有意放弃对 AI 的控制」。这也就能理解,为什么他那么想要算力,却又主张给递归自我改进设置速度限制。算力可以继续扩张,但 AI 变强之后由谁说了算,他显然不想轻描淡写地带过去。限速目前仍是他的主张。访谈快结束时,奥特曼说自己更想看到「一场新的文艺复兴,而不是一场新的工业革命」。他期待的未来,除了治病、发现新知识、让东西更便宜,还应该让人有更多时间和自由,去做自己想做的事情。再想想他已经一年没看过代码这件事。AI 以后大概会替人干更多活,但腾出来的时间,是继续塞进更多工作,还是留给自己,至少现在还没有一个自动生成的答案。