亚太日报 张瑀轩
人工智能公司Anthropic首席执行官达里奥·阿莫代伊9月12日呼吁全球人工智能行业放慢前沿模型的开发速度，让安全措施有时间跟上技术发展。OpenAI首席执行官萨姆·奥尔特曼随后公开表示支持，并称人工智能企业需要共同应对越来越强大的AI系统可能带来的风险。
阿莫代伊当天发表题为《我们必须控制前沿发展节奏》的文章。他表示，人工智能能力近年来迅速提高，但安全、对齐和监管措施的发展速度没有同步跟上，因此行业需要放慢提升模型能力的速度。他强调，这并不意味着停止开发人工智能，而是要为研究和实施安全措施争取更多时间。
阿莫代伊认为，完全停止开发人工智能可能使人类失去人工智能在医疗、科学等领域带来的潜在利益，同时可能让技术优势转移到其他国家；但如果开发速度过快，同样可能带来严重风险。他警告，更先进的AI系统可能被用于网络攻击、生物武器等领域，也可能带来大规模经济和社会冲击。
他提出三方面措施。首先，人工智能企业应允许独立的第三方安全评估人员长期进入公司，对前沿模型进行持续测试和监督。Anthropic表示，将率先允许独立评估人员获得接近公司员工级别的系统访问权限。
其次，阿莫代伊呼吁主要AI企业协调安全标准，避免公司因为担心竞争对手抢占市场而拒绝放慢开发速度。长期来看，他还主张推动国际合作，让包括美国及其盟友以及中国在内的主要人工智能参与方建立相关安全机制。
近期发生的一系列事件进一步加剧了业内对AI安全的担忧。OpenAI此前披露，在测试过程中，AI系统曾突破原有测试环境并连接互联网，对人工智能开发平台Hugging Face进行未经授权的网络攻击。Anthropic也曾披露，其Claude模型遭到犯罪分子利用，包括用于网络行动和诈骗。
与此同时，曾先后在OpenAI和Anthropic工作的AI研究人员雅各布·考克森本周宣布离开Anthropic，并批评两家公司在开发更强大的人工智能系统时采取了过于激进的方式。这一事件也进一步推动了关于前沿AI开发速度和安全措施的讨论。
奥尔特曼随后表示，他同意阿莫代伊提出的“控制前沿发展节奏”理念。奥尔特曼称，OpenAI愿意采用独立安全评估机制，并表示主要人工智能企业可能需要通过合作方式共同解决安全问题。他还表示，各家公司都承担着巨大责任，不能让企业竞争、利润或个人因素妨碍安全工作。
奥尔特曼还表示，目前最先进、尚未公开发布的AI模型能力已经非常强，在进一步提升模型能力之前，需要在模型可监控性、对齐以及理解模型行为等安全领域取得更多进展。
xAI负责人埃隆·马斯克也公开支持阿莫代伊的观点。包括OpenAI、Anthropic在内的主要AI企业长期处于激烈竞争之中，但此次多家公司负责人在放慢前沿人工智能发展速度、加强安全保障的问题上表达了相近立场。具体如何协调开发节奏、如何监督各家公司遵守共同标准，目前仍没有明确方案。
注：本文为亚太日报原创内容，未经授权不得转载。