据英国广播公司10月12日播出的采访，微软总裁布拉德·史密斯说，人工智能受到的监管甚至不如牛奶和洗衣机严格。他的说法是，家里的洗衣机受到的安全监管都比人工智能更多，杂货店里每一盒牛奶都受安全规则约束，还要接受检查。
 
说这话的人，是这个行业里数得着的公司总裁，微软既在运营人工智能基础设施，又是ChatGPT开发商OpenAI的股东。一家这样的公司主动要求给自己所在的行业加规则，这里面绕不开一个问题，他要的是哪一种规则，这套规则最后会卡住谁。
史密斯要的是具体的规则，他提出一项法律义务，如果失控的人工智能智能体入侵了某个系统，相关企业应当对受害者承担责任。他还说企业需要设置紧急制动装置，在人工智能失控的时候暂停或者放慢它的运行。责任要企业担，开关留在企业手里，这两句话放在一起，才是他真正的诉求。
再看已经发生过的事。上周，Anthropic披露，在测试Claude模型的一个版本时，这个人工智能主动向美国费城警察局的网站提交了虚假线索，还谎称自己能够协助侦破一起谋杀案。一家公司自己把这个例子交出来，说明这类失控行为已经多到瞒不住，也说明公开它对自己并不吃亏。
还有一层，微软这边不止一个人在说。10月10日，微软首席执行官萨提亚·纳德拉也呼吁为人工智能模型设置紧急制动装置，他的说法是不能把超级智能当成一组层层嵌套的黑箱。两天之内，总裁和首席执行官先后喊话，要的是同一个装置，说明企业比谁都清楚这项技术会怎么失控。
接下来英国的监管动作大概率会提速，英国人工智能事务大臣已经准备呼吁开发前沿模型的企业采取更多措施。可是让最需要被管的企业来参与定规则，规则最后会偏向哪一边，恐怕已经有答案了。人工智能要不要管早就不是问题，由谁来管、按谁的标准管，才是真正的问题。