众力资讯网

美国AI公司毁书数百万本,关键时刻,马斯克紧急发声作出承诺

美国AI公司毁书数百万本,关键时刻,马斯克紧急发声作出承诺。近日,美国著名人工智能公司Anthropic做了一件令世人震

美国AI公司毁书数百万本,关键时刻,马斯克紧急发声作出承诺。

近日,美国著名人工智能公司Anthropic做了一件令世人震惊的事。这家公司疯狂从全球范围内收集纸质书,将其数字化之后,直接拿去粉碎!尤其许多宝贵的古籍,就这样变成了纸屑。由于这件事太不地道,他们始终暗中进行这项工作,但最终还是被曝光出来了。

近日,调查媒体404 Media披露了这件事,《华盛顿邮报》对此进行了公开报道,将Anthropic等人工智能公司的“罪行”揭露出来。

(美国多家AI巨头在暗中毁书)

根据这家调查媒体的说法,Anthropic从2024年初开始,就启动了内部代号为“巴拿马计划”的行动,投入数千万美元从各大二手书商手中批量采购图书。

随后几年的时间里,其采购规模居高不下,单笔订单可以从1000本到100万本不等。

为什么这家公司突然开始“爱上”买书呢?原因很简单,人工智能大语言模型的训练,需要海量的高质量文本。

在此之前,这些公司都是简单地从互联网获取数据。互联网上的公开网页虽然数量巨大,而且流程简单,但也有一个严重的问题,那就是质量参差不齐。这一点不难理解,大家上网过程中,或多或少都会读过各种“垃圾文章”。尤其是生成式AI普及以后,机器生成的内容到处都是,网络内容整体质量又被拉下来一大块。

(Anthropic的丑闻被曝光)

在人工智能大模型领域,有一个专业名词形容其可能带来的严重后果,叫“模型塌缩”(Model Collapse)。

简单来说,大模型在训练过程中,会逐渐失去多样性和泛化能力,输出趋于同质化的单一结果。比如牛津、剑桥等机构2024年发表于《自然》杂志的一项研究成果表明,其使用的Meta的OPT-125m模型,在输出到第五代时就已经出现明显偏差,到第九代时已经完全驴唇不对马嘴了。

而纸质书来自人类原创,经过编辑和审校,不包含AI生产的内容,被视为“干净的知识矿藏”。其完整的结构、精准的语言、高密度的知识量,可以有效减缓或避免模型在递归合成数据循环中自我退化。

(美国AI公司用纸质书训练大模型)

所以,Anthropic等公司将目光对准了纸质书。虽然这种媒介的质量也参差有别,但整体质量还是比互联网强得多的。他们尤其将出版时间限定为2022年以前,也就是AI大模型尚未广泛应用的年代,确保书籍质量还没有被拉低。

据报道,他们主要采购二手市场里的冷门学术书、绝版教材、地方史、小语种文献、自费出版的战争回忆录、稀有史料甚至古籍,通过扫描的方式将其数字化,保存到自己的数据库中。据说Anthropic内部文件明确写着要扫描“世界上所有的书”,还一度聘请曾参与谷歌图书项目的资深人士来操盘。

其目的很简单,只要投喂足够优质的内容,其AI大模型就足够强大,能够在同行之中鹤立鸡群,巩固其领先地位。

(Anthropic将纸质书数据化)

一直到这,这些人工智能公司的操作还算正常,但接下来就变味了。

你以为他们会一页一页翻书录入,但实际情况并非如此。

拿到二手书之后,他们直接动用液压切割机,将书脊切断,然后利用高速生产级扫描仪将散开的书页扫描转化为电子版文件。通过这种方式,扫描的速度被大幅提高。

然后,这些书页被直接销毁!

这意味着,一本从构思、写作到出版可能耗时数年甚至数十年的书,就这样在几个小时乃至几分钟之内就化为纸屑。

要知道,他们采购的书籍有些确实畅销,但同时也尤其注重学术质量高的书籍的收集。后者的特点之一就是受众群体小、印刷数量少,甚至像古籍这样本就非常珍贵,毁一本就少一本。也就是说,很多宝贵的学术成果,可能就在这样的过程中被损毁,失去广泛传播的机会。

(美国科技公司想要制造知识垄断)

与此同时,Anthropic等公司坚持的闭源发展路径,意味着其数据库也不会对外开放。这种知识集中化美其名曰构建企业护城河,实际上就是打造知识不对称,构筑知识壁垒,实现对知识的垄断,最终必然会阻碍人类文明发展。

除此之外,Anthropic为了获取知识资源,还使用了另一种手段,那就是从网上下载盗版书籍。据今年1月份的一篇报道显示,这项工作甚至早在2021年就开始了,该公司联合创始人本·曼恩还亲自操作过,下载了至少500万本盗版图书,2022年又下载了几百万本。

最终,这件事被部分作者发现了,双方对簿公堂。最终,法院判决Anthropic赔偿所有起诉者共计15亿美元,合人民币超过100亿元!

(Anthropic被判决赔偿15亿美元)

讽刺的是,针对该公司毁书的行为,法院并未予以处罚。联邦法官威廉·阿尔苏普认为,这种操作属于“合理使用”,目的是实现“变革性”的大模型训练。

但法律是什么?它是道德的底线。在现实生活中,人们是无法永远以底线来自我要求或要求社会组织的。Anthropic等公司这种做法,法律或许能纵容,但公众是无法接受的。类似的做法,难免会受到舆论的抨击。

就在相关丑闻曝光之后,同样致力于人工智能事业的世界首富马斯克紧急通过社交媒体表态,称已对旗下人工智能公司SpaceXAI提出要求,必须以不损坏书籍的方式进行扫描,并且处理过的数据要保存在图书馆。

(马斯克已做出承诺)

注意,他在文中说的是“I’ve asked”,意味着这大概率是看到了舆论形成,临时调整了公司运营政策。这暗示着此前SpaceXAI大概率也是采用破坏式的录书方式,只是迫于压力才放弃这个手段。

但马斯克的举动也说明,公众舆论仍然能够约束部分公司,使其在发展过程中更加注重保存人类文明成果,维护道德水准。

直到今天,Anthropic等其他人工智能企业尚未像马斯克一样做出承诺,谁也不知道这种毁书行为是否还在继续。在资本面前,人类的文明就这样被无情践踏。真不敢想象,如果纵容这样的观念持续下去,未来的人类世界将会变成什么样。