正在筹划IPO的Anthropic首席执行官达里奥・阿莫代伊(Dario Amodei )撰文呼吁,AI行业应当避免恶性竞速,投入必要时间,确保前沿模型以负责任的方式开发。“过去几个月,我越发确信,想要充分应对各类风险,需要秉持更高的审慎态度。不只是投入资金做风险防范,还需要管控AI能力的迭代速度,为风险防控争取追赶的时间。我们必须放缓人工智能模型的能力提升节奏。整体技术依旧会保持较快发展,我们要善用争取到的时间。”他还列出行业在安全研发上需要考量的事项,包括引入第三方评估机构。阿莫代伊的提议迅速得到了SpaceX、OpenAI等一众科技巨头的公开支持。OpenAI首席执行官山姆・奥尔特曼表态认同这位竞争对手的观点。“人工智能的发展存在两种必须规避的灾难性走向。第一,我们可能会被人工智能夺走对未来的掌控权。这是无法接受的。我们坚定站在人类这边,人工智能必须始终服务于人。要实现这一点,就要确保对齐技术与安全技术的发展,跑赢模型能力的迭代速度。第二种风险,是世界出现权力的高度集中。如果某个人或者某家企业手握能力极强的人工智能,并把自身世界观强加给所有人,最终将酿成极度反乌托邦的局面。规避这两类威胁,需要走好一条狭窄的中间道路。”奥尔特曼同时称,出于安全考量,OpenAI今年不会推进 IPO。
正在筹划IPO的Anthropic首席执行官达里奥・阿莫代伊(Dario Amodei )撰文呼吁,AI行业应当避免恶性竞速,投入必要时间,确保前沿模型以负责任的方式开发。“过去几个月,我越发确信,想要充分应对各类风险,需要秉持更高的审慎态度。不只是投入资金做风险防范,还需要管控AI能力的迭代速度,为风险防
阅读:0
点赞:0