众力资讯网

【聪明人都在谈论突然禁止国外使用Anthropic公司新人工智能模型一事】(商业

【聪明人都在谈论突然禁止国外使用Anthropic公司新人工智能模型一事】

(商业内幕)Anthropic 宣布特朗普政府命令其阻止外国访问 Fable 5 和 Mythos 5 网页链接,这促使该公司完全切断了对这些人工智能模型的访问,在科技界引起了轩然大波。

以下是社交媒体上对白宫与人本主义组织之间最新冲突的一些反应。

——迪恩·W·鲍尔,美国创新基金会高级研究员

“如果这是真的,那就太令人费解了。一个政府一方面主张我们应该向中国出口先进的人工智能芯片,另一方面却想禁止……英国(以及地球上所有其他非美国国家)……使用我们最好的模型?我简直无语了。”

“我无法判断这究竟是针对Anthropic公司的法律战,还是极端的国家安全鹰派行为。无论如何,这简直荒谬至极。”

——Peter Girnus,零日威胁倡议组织高级威胁研究员

两件事同时成立:

首先,Anthropic公司花了几个月时间宣传Mythos产品过于危险,不宜上市。Sam Altman曾说,宣称自己造出了一颗炸弹,这简直是“不可思议的营销手段”。如今,美国商务部已正式认定它就是一颗炸弹。如果你在每一份新闻稿中都把产品描述成军火,最终政府也会相信你的话。他们自己撰写了法律依据,却称之为品牌。

第二:我们以前就做过类似的实验。上世纪90年代,政府根据《国际武器贸易条例》(ITAR)将加密技术归类为军需品。活动人士通过将PGP的源代码印成书来推翻了这一禁令,因为书籍属于受保护的言论,而软盘属于武器出口。一件印有三行RSA Perl代码的T恤在法律上也属于军需品。管制措施最终崩溃,因为数学的运用并不止于海关。

“新出现的问题是‘视同出口’规则:在美国境内向外国公民展示受控技术,就等同于将其出口到国外。这就是为什么安特罗皮克公司自己的外籍员工现在无法接触到他们自己制造的模型。弹药就在大楼里,而制造它的人却被禁止查看。”

——克里斯·麦奎尔,外交关系委员会中国与新兴技术高级研究员

“我其实认为针对特定型号的出口管制是审慎的做法。但是,在没有任何预警的情况下,对所有国家全面管制单一型号,这是非常值得商榷的。实施同样广泛的推定出口管制,同时限制外国公民的获取,简直荒谬至极——而且显然会导致该型号被下架,就像刚刚发生的那样。”

出口管制是一项至关重要的工具,而且威力巨大。如果运用得当,它有可能大幅扩大美国在人工智能领域的领先地位;如果运用不当,则会扼杀人工智能的发展。美国商务部的出口管制策略完全混乱且具有破坏性。它一方面向中国输送强大的人工智能芯片,另一方面却不执行能够阻止中国走私的管制措施,制造了大量漏洞,使得人工智能芯片得以流入中国,并阻止美国人工智能公司发布自己的模型。

“这种情况必须停止。我们迫切需要一项明智的出口管制战略,运用强有力的出口管制措施,阻止我们的对手获取先进技术,同时使美国企业受益。商务部和工业安全局(BIS)却一直在做相反的事情。如果BIS不了解如何运用其权力,或者不了解其行为的后果,那么它就需要寻找一些能够真正执行有效出口管制战略的新人员。目前的战略混乱不堪,适得其反。”

——Matthew Pines,Physical Superintelligence 首席执行官

“这将会对所有实验室和新实验室造成巨大冲击……美国的出口管制法律实行严格责任制……它们就像一把锋利的刀……”

——丹·希珀,Every公司首席执行官

“我目前的看法是,他们会在几天内解除禁令,最终结果将是《神鬼寓言》的需求量增加。然而,这种事情对公司内部人员来说极具破坏性和干扰性。我唯一能想到的类似情况是Sam Altman被解雇,那件事很快就解决了。尽管事情最终恢复了原状,但我认为这确实在一段时间内打乱了他们的发展势头。

——Josh Pigford,Baremetrics创始人

“过去6到12个月里,Anthropico的夸张言论对他们自己没有任何好处。但我可以保证,这与国家安全毫无关系。”

——彼得·巴内特,机器智能研究所研究员

“如果美国政府真的因为另一家公司声称可以破解 Fable 而对其实施出口管制,那么我们可能正在步入这样一个局面:人工智能公司在政府允许部署之前,会互相测试对方的模型。”

——优素福·马哈茂德,美国优先政策研究所人工智能政策主任

“美国政府刚刚下令Anthropic公司暂停所有外国公民访问Fable 5和Mythos 5,无论他们身处美国境内还是境外。需要提醒的是,所有前沿人工智能实验室(包括Anthropic)的技术人员中,很大一部分可能是外国公民。”

——杰里米·霍华德,fast.ai 联合创始人

“我不同意这个决定,我不喜欢它。

”“但是……Anthropic公司怎么就没预料到这种情况呢?”“这显然是对‘除了我们之外,任何人都不能使用这项技术,因为它太危险了’这种说法的回应,因为这种说法基于一个几乎无人认同的前提(‘我们是独一无二的’)。”

——Ryan Brewer,OpenAI 技术人员

“如果美国政府继续朝这个方向发展,最终你只能在旧金山湾区的一小片建筑里才能获取前沿情报。真可耻。”

——Ketan Ramakrishnan,耶鲁大学法学教授

“联邦政府将对人工智能开发商进行严格监管。问题在于,这种监管是否会以明智的方式进行;国会和公众审议是否会发挥作用,还是仅仅依靠不透明的行政命令;等等。”

——Yann LeCun,AMI Labs执行主席

“达里奥·阿莫迪对神话/寓言(以及人工智能)的荒谬恐慌终于奏效了:

“美国政府禁止非美国公民使用该语言,包括在美国的外国雇员。” “种瓜得瓜,种豆得豆。”

——Box公司首席执行官Aaron Levie

“这是人工智能监管的一个重大转折点。”

政府开始认为某些型号的机器功能过于强大,不适合某些用途,这为未来可能采取一系列管控措施树立了先例。

我认为这样做没有必要,我们应该主要监管人工智能的使用,而不是其底层模型。但同样地,也有很多人实际上更希望看到这样的结果。

——人工智能研究员加里·马库斯

“商务部今天下午发布的令人震惊的法令——实际上切断了 Anthropic 公司许多员工对 Mythos 5 和 Fable 5 的访问权限,从而关闭了该公司——似乎既过于夸张,又对美国人工智能产业产生了反作用。

不过,这或许对中国有利。可以肯定的是,所有在美国人工智能公司工作的中国人(而且人数众多)都会考虑尽快回到中国,重回竞争激烈的行业。

投资者会开始怀疑,在这种环境下,美国的人工智能公司能否蓬勃发展。

——蒂姆尼特·格布鲁,分布式人工智能研究所创始人

“哈哈,Anthropic 大肆宣扬他们的模型‘危险’,是因为他们认为唯一的结果就是炒作,外加阻止中国做某件事。”如果你想找一个人工智能监管会扼杀创新的例子,这就是了。无论如何,我们不太可能回到政府对人工智能发展速度没有更实质性参与的世界。