总部位于中国的 AI 安全组织Concordia AI (安远AI) 上个月与多家美国顶尖科技公司举行了一系列会议,引起美高层关注。在美中两国因竞争和国家安全问题而紧张局势加剧的背景下,这为美国 AI 研究人员提供了一个难得的交流渠道。据三位知情人士透露,该组织代表于 10 月 2 日访问了 OpenAI 总部,向其员工介绍了中国 AI 安全生态系统的发展情况。Google DeepMind 的一位发言人表示,该实验室曾参加过由Concordia AI 举办的会议,此前也曾与该组织进行过交流。与此同时,加州州长纽森今天公布了一项全面提案,旨在赋予加州广泛的权力,以监管 AI 行业并实施严格的安全措施。纽森将此提案定位为全美可效仿的典范,而他本人也正为可能参加总统竞选做准备。该计划允许加州官员在认定 AI 模型存在“失控”风险时进行干预,在实验室内部署独立的“安全监督员”,并引入“紧急制动”机制,以关停危险的 AI 模型。
图片来源于网络
