当比尔·盖茨把人工智能定义为"外星人级"的变革、并警告生物武器威胁可能比新冠更严重时,这背后究竟隐藏着怎样的风险?政府真的能够管得住吗?
以下这篇由《卫报》科学编辑伊恩·桑普尔对约翰斯·霍普金斯大学卫生安全中心主任汤姆·英格尔斯比博士的访谈,或许能为理解这一全球性议题提供最具专业性的注脚。
根据人工智能公司Anthropic一位顶级安全研究员的说法,未来十年内,人工智能有超过10%的概率可能导致人类灭亡。其中一种途径就是生物武器的研发,这已引起全球科学家和安全机构的高度关注,英国军情五处(MI5)负责人也位列其中。
他指出,尚未实现但他最为重视的滥用情形,正是人工智能有可能改变现有乃至新型生物武器的风险格局。这些风险真实存在。
那么,人工智能究竟会如何被用于研发致命病原体?威胁的严重程度又有多高?
《卫报》科学编辑伊恩·桑普尔就相关问题,采访了约翰斯·霍普金斯大学卫生安全中心及彭博公共卫生学院主任汤姆·英格尔斯比博士。英格尔斯比博士长期专注于生物威胁的预防与应对工作。
关于生物武器的定义及其历史使用情况,英格尔斯比表示,可以从不同角度加以界定。在冷战时期,存在大规模国家资助的生物武器计划,配备有弹药、病原体和储存设施。
在二十世纪下半叶的早期进攻性武器计划中,使用过多种病原体,包括炭疽、鼠疫、天花等令人担忧的武器类型。他认为,如今人们谈论生物武器时,不仅涵盖上述传统武器,还包括小规模蓄意滥用生物技术的情形。
例如,某人在没有任何正式武器计划的情况下释放病毒,意图造成疾病或伤害,无论规模大小。近期,英国情报机构军情五处负责人肯·麦卡勒姆爵士在其年度国家威胁演讲中警告称,人工智能有可能"改变现有乃至新型生物武器的风险格局"。
这一领域正是英格尔斯比及其同事长期关注的焦点。谈及人工智能与生物武器相关威胁最初何时进入其视野,英格尔斯比回顾道,过去几年中,业界人士一直在关注模型能力的快速进展,观察这些模型在生物风险方面可能产生的多重影响。
他将相关担忧归纳为两类:一是让人们更容易获取已有事物的制造知识与技术诀窍;二是人工智能工具有可能改造或创造出自然界或科学界从未见过的新型病毒,其危险性可能与现有病毒相当甚至更高。
在讨论威胁来源的层级划分时,桑普尔提出,可以将其分为具备技能和现代化实验室的国家及有能力组织,以及缺乏技能和实验设备的恐怖组织或流氓个人。
就国家层面的风险而言,英格尔斯比指出,没有国家公开承认拥有生物武器计划,尽管情报报告显示某些国家确有此类项目。从零开始创造全新事物仍将是巨大挑战,因为人工智能模型本身必须基于现有数据进行训练。
因此,目前最大的担忧在于对现有病毒或病原体进行创新性改造,而这些改造方式往往具有一定的不可预测性,超出了人类通常的设计思路或自然界以往的演化范围。
英格尔斯比举了一个今年夏天备受关注的例子:一群才华横溢的科学家和工程师使用强大的生物学模型,设计出了全新的噬菌体病毒。这类病毒感染细菌而非人类,但他们成功设计出自然界中不存在、人类此前也未曾着手研究的新型噬菌体病毒。
这些病毒能够感染并杀灭细菌,且能克服细菌对此类病毒通常具备的抗性。这一成果从原理上证明,生物学人工智能模型将能够帮助科学家创造出能够克服抗性或免疫反应的新型病毒。
虽然该模型并未基于人类相关信息进行训练,但其他人完全有可能用人类信息训练该模型或类似模型。
关于国家为何会着手此类研究、试图优化哪些特性的问题,英格尔斯比表示,就更危险的一面而言,人类可能会寻找办法使病原体在人群中更具传染性,或使病毒病原体更具致命性或免疫逃逸能力。人们期望99.999%的科学家永远不会朝这个方向发展。
但据大型语言模型公司Anthropic今年公开披露的两个案例显示,有两个国家项目曾试图访问其模型,寻求在使基孔肯雅病毒和H5N1病毒变得更具传染性、更具免疫逃逸能力方面获得帮助。
该公司还报告,有一名科学家寻求有关正痘病毒及如何使这些病毒能够规避抗病毒药物的信息。正痘病毒属于包括猴痘和天花在内的病毒科。
至于这些人为何这样做,英格尔斯比坦言,希望其中许多人是为了在疫苗或药物方面做些有益之事,但真实意图不得而知。此前的讨论涉及的是全球最高水平的高端前沿研究工作。
但另一个问题是:那些不具备高水平技能、可能无法进入实验室的恐怖组织或个人,又能利用人工智能做些什么?人工智能在这一层面是否构成生物武器方面的风险?
英格尔斯比回应称,这是另一类问题。该领域所担忧的是所谓的"能力提升"问题,即人工智能工具能在多大程度上帮助提升一小群人或个人(意图作恶者)的技能和成果水平。
过去几年中,业界制定了一些基准测试,用以评估人工智能工具对新手或博士级科学家等不同训练阶段人员的辅助效果。前沿模型正在不断突破可能性的边界,提供知识层面的能力提升,一次又一次地突破生物学、生物技术、生物知识方面的基准。
他总体上仍对这些工具在癌症、传染病及其他生物学领域可能带来的突破充满期待和热情。但目前,对于防范潜在危险而言,尚无明确的规则可循。
他提醒听众,这并不意味着现在任何人只要使用某种工具,就能突然在生物学领域做出极具破坏性的坏事。但对于那些确实掌握一定技能或能够获取相关技能、并意图作恶的人而言,形势确已发生变化。
此前的讨论聚焦于科学家有意从事此类工作,即试图利用人工智能开发生物武器或蓄意改造现有病原体。那么在这一领域——尤其是人工智能介入合成生物学时——是否存在研究人员在进行完全出于善意的实验过程中,意外制造出病原体、改造病原体或创造新毒素的风险?
英格尔斯比确认,这种担忧在人工智能出现之前就已存在,而人工智能很可能进一步放大了这种风险。即使是出于善意、致力于有益研究或单纯探索科学的科学家,也可能无意间触及某些会给公共安全带来重大隐患的事物。
另一个相关例子是,那些致力于保护公众的政府机构——可能是某个政府实验室或某个研究附属实验室——可能会在人工智能模型的某项输出或某份蓝图中发现看似极度危险的内容。此时,可能会产生一种在实验室中试制该物品的冲动。
在试图自我保护的过程中,反而可能无意中创造出最危险的东西。英格尔斯比强调,这条路绝不可取,这显然也是需要加以防范的另一项风险。
关于如何阻止人们利用人工智能制造生物武器,英格尔斯比认为问题并不特别复杂。对于其他既能带来巨大效益、又可能对公众造成伤害的行业,社会已建立起监管机制,如航空业、核工业、药品制造业等均设有检查节点。
就人工智能模型而言,仅需几项措施即可显著降低风险。第一项干预措施是,为使用人工智能工具处理最危险数据的人员建立某种访问控制机制。
公开数据中不断涌现关于如何使病原体更具传染性、何种特性使某物特别致命等信息,而这些数据正是模型用于预测如何加剧危害所需的数据。世界对人类基因组信息及其他数据集的访问实行管控,因此为确有正当有益需求者设置访问控制,便是一项干预举措。
第二项干预措施针对的是强大的模型,无论是语言模型还是生物学模型,一旦其能力和威力超过某一阈值,就应在向公众发布前接受评估。这应当是由政府批准、由政府设定标准的程序,而非由企业自行判断何者可以安全向公众发布的自愿性做法。
第三项干预措施是确保"数字—物理"界限得到妥善维护。英格尔斯比解释称,人工智能模型生成数字化的指令、蓝图和配料清单是一回事,但这些内容仍须在实验室中转化为真实的物理病毒。
其中一种主要转化途径是科学家向世界各地的公司订购核酸。这是一个产业,而目前该产业并无关于筛查订单或筛查订购者身份的相关规定。
目前已有推动强制筛查的倡议,他认为应大力推进这一方向。在美国,相关立法最快可能在今年通过。其他地区也正在考虑立法。
生产核酸的产业界大多对此持支持态度,认为是良策。英格尔斯比认为,这将为防范体系增添又一道至关重要的防线。
最后,谈及作为长期深耕这一领域的专家,他对现状的担忧程度及所见最大威胁,英格尔斯比坦言,他始终怀有一种持续的、低度的忧虑。
他认为最大的威胁在于,人们可能会想当然地认为无所作为也无妨,从而陷入停滞,眼看这些技术在能力和速度上不断提升却无所作为。他担心这些技术可能被用于制造某种新颖的危害,殃及众多民众,甚至可能引发难以控制的大规模事件。
但如果能够从对模型造成大范围危害之潜能的监督和治理入手,他认为这是一项公共事业的当务之急,也是他目前投入大量精力的方向。
回到盖茨发出的警告:他将人工智能形容为一种"外星智能",主张各国联合应对,并直言行业自律在结构上就靠不住——当竞争压力存在时,谁先踩刹车谁先掉队,依赖自觉对抗竞争逻辑本身就不牢靠。
生物风险的特殊之处在于它不给补考的机会:网络事件可以打补丁、可以重建,而生物事件一旦发生,损害规模可能"显著更糟于新冠",而新冠的代价已是约1490万条生命。
将治理的启动条件设在"先出一次大事"上,等于把公共安全交给运气,而公共政策不能建立在希望幸运的基础之上。对中国而言,这一警告提供了具有参照意义的观察框架:人工智能安全并非远方的议题,而是与公共卫生安全、生物安全、网络安全直接相连的底线问题。
统筹发展和安全,把安全贯穿研发、应用、治理各环节,加快推进人工智能基础性综合性立法,构建法律法规体系的"四梁八柱",建立覆盖全生命周期的安全标准和伦理准则,
同时合理设置过渡期、开展周期性评估与动态调整——这条路径的价值在于把"关口前移"从口号变成了可操作的制度安排,让治理的时钟尽量靠近风险的时钟。治理可以慢,但不能永远等事故来对表;生物风险不像病毒,它不给第二次补考的机会。
#上头条 聊热点#