科学研究发现，人工智能可能会让我们记住从未发生过的事情

研究表明，人工智能会扭曲记忆，这引发了人们对机器成为过去记录者时会发生什么的质疑。

昨天上午 2:00 PT作者：阿里安娜·埃恩琼·查（Ariana Eunjung Cha）

实验从 24 张普通的照片开始：一场婚礼、一条城市街道、一场比赛。麻省理工学院媒体实验室教授帕蒂·梅斯（Pattie Maes）和她的同事将这些照片展示给了 200 个人。

休息过后，一部分人再次看到了相同的照片。其他人则看到了被人工智能篡改过的版本——面部表情被改变、加入了军事人员或增添了气候变化的迹象。

接着是一项记忆测试。

梅斯对测试结果感到皱眉。那些观看人工智能篡改后图像的人，其错误回忆率大幅增加。她还表示，更糟糕的是，他们对这些虚假记忆的自信心更高。

梅斯说：“基本上，我认为这一切非常危险。”

到目前为止，公众的大部分焦虑都集中在一些研究人员所称的“认知投降”上：随着机器接管越来越多的思考工作，人们将变得更不愿意或更没有能力仔细审视这些机器所告诉他们的内容。但另一种可能性受到的关注却少得多：人工智能可能会改变我们的记忆。

涉及对政治事件、犯罪甚至新电影看法的最新研究表明，人工智能生成的图像和对话可以将虚假的细节植入我们的大脑，甚至让我们坚信某些事情发生过，而实际上它们并未发生。

麻省理工学院媒体实验室一项关于人工智能与记忆的研究中所使用的图像。（麻省理工学院媒体实验室）记忆的作用不仅仅是保存过去。它提供了我们理解现在和预测未来的知识与经验。它有助于构建自我意识、维持人际关系，并指导个人和集体的决策。

然而，记忆也是人类大脑的一大局限。我们只能保留所经历的事物的一小部分。细节会消失。回忆会变得模糊。当我们重新审视记忆时，它们可能会发生改变。

人工智能似乎非常适合弥补这些缺点。它能够存储海量信息，在几秒钟内进行搜索，并检索一个人可能永远丢失的细节。但这些特质也使其具有潜在的风险。这些系统不仅仅是存储过去。它们对其进行解释、总结和重建。有时它们会弄错。

其后果远远超出了某人是否会错误回忆一张照片或一段对话的范畴。法庭日常审判经常依赖于从车祸到性侵犯等案件中的回忆，尽管几十年的研究已经证明目击者的记忆是多么容易被扭曲。历史本身就取决于个人和社群对过去的保存、遗忘以及最终相信的内容。

人类记忆并不完美

梅斯是人工智能的先驱之一。在她如今长达 35 年多的职业生涯早期，她协助开发了一些塑造了早期互联网的算法。但长期以来，她对人工智能的另一种可能性更感兴趣：不是取代人类智能的机器，而是扩展人类智能的机器。

对梅斯来说，这个问题很私人。随着年龄的增长，她的母亲开始忘记日常生活中的点点滴滴。

梅斯说：“我母亲会忘记昨天谁来过，或者别人对她说了什么。”她会给自己记便签：“‘噢，我女儿告诉我她从那天算起两周后会回来。’”

梅斯开始想象一种比笔记本强大得多的东西：一个能够默默记录一个人生活的记忆助手。

对于患有阿尔茨海默病和其他形式痴呆症的人来说，这个问题变得尤为紧迫。这些疾病以记忆力丧失为特征，可能会剥夺一个人独立应对日常生活的能力。

梅斯的团队目前已经构建了几种外部记忆系统的版本。Memoro 和 MemPal 将人工智能与可穿戴或随身携带的设备结合使用，以捕捉日常经历的碎片并在以后检索它们。忘记了别人在对话中对你说了什么？问问它。记不清把钥匙放在哪儿了？该系统或许能帮你找到。

与其要求老龄化的大脑变得更擅长记忆，不如让它完全接入另一个记忆库。

早期针对老年人的测试令人欣慰。梅斯说，她现年 96 岁的母亲已经出现了严重的认知衰退，无法从这项技术本身中受益。但这位科学家非常乐观，认为随着生物记忆变得不那么可靠，这样的系统最终可以帮助许多其他人保持独立性。商业产品已经开始提供这方面的部分服务，例如可以根据人们的生活史进行编程的交互式回忆工具，以及帮助人们指导刷牙等事情的个性化智能眼镜。

但是，如果机器成为我们记忆的延伸，那么我们为自己创造的记忆会发生什么？

更多地依赖人工智能

关于可能正在发生的事情，最明确的一些证据来自于梅斯研究的另一个领域。

在去年发布并正在接受同行评审的一项实验中，54 人被要求撰写类似 SAT 的文章，主题包括“幸福对他们意味着什么”。其中一组没有任何在线工具。另一组可以使用谷歌搜索，但剥去了人工智能生成的答案。第三组可以使用 ChatGPT。

当他们写作时，放置在头皮各处的电极记录了他们大脑中的电活动。差异是显著的。没有借助外力写作的人表现出大脑不同区域之间最强、分布最广的连接模式。谷歌用户居于中间。ChatGPT 用户表现出的连接最弱。

随后，当参与者被要求背诵他们刚刚写下的文章时，那些依赖 ChatGPT 的人在回忆自己的原话时遇到了相当大的困难。

记忆不仅仅是将信息存放在大脑某个地方的问题。注意力、努力、检索以及建立联系的过程都有助于记忆扎根。生成式人工智能可以免去部分此类工作。

对于研究人工智能如何影响人类认知的宾夕法尼亚大学研究员吉迪恩·内夫（Gideon Nave）和史蒂芬·肖（Steven Shaw）来说，这引发了更广泛的担忧。沃顿商学院市场营销学副教授内夫较少担心好莱坞式的噩梦——即人工智能超级智能接管人类的控制权，而是担心一种更安静的可能性：人类干脆停止锻炼机器可以代劳的能力。

他说：“我们更有可能看到的是人类开始退化，而不是人工智能接管一切，”并补充说他担心一个“思考变成可选项”的世界。

已经有一些迹象表明研究人员有时所说的“去技能化”。博士后研究员肖指出，有研究表明，习惯于在人工智能辅助下执行任务的人（例如医生在人工智能辅助下诊断癌症患者），在失去这种辅助时可能会陷入困境。

《柳叶刀·胃肠病学与肝病学》（The Lancet Gastroenterology & Hepatology）2025 年的一项研究详细说明了潜在的影响。研究人员观察了 19 名经验丰富的医生及其对近 1500 次结肠镜检查的评估，发现医生开始常规使用人工智能后，他们自己检测癌前病变的能力下降了约 20%。

他说：“他们没有以同样的方式使用那个大脑肌肉。如果你不用它，就会失去它。”

对于儿童，他担心一个更根本的问题：他们可能会在其中一些能力完全发育之前就将认知工作外包出去。肖说：“他们可能从一开始就无法培养那些关键或核心的批判性思维能力。”

这并不意味着使用 ChatGPT 和其他人工智能代理不可避免地会使人能力下降。最近的研究并没有表明普通的人工智能使用不可避免地会导致认知退化或永久性记忆丧失。这项研究还处于早期阶段，而且人类长期以来一直将思考和记忆外包给各种工具——算盘、手表、字典、计算器。

但生成式人工智能引入了一个新的复杂情况。我们越来越依赖它来解释它为我们检索到的信息——而且人们似乎非常愿意接受它所说的话。内夫和肖进行的实验中的参与者在很大程度上遵循了人工智能的建议，甚至在收到错误信息时也是如此。

当人工智能出错时会发生什么？

本周，研究人工智能伦理与社会的学者齐聚瑞典马尔默参加年度会议，许多人将目光聚焦于一个特定问题：当人工智能开始干预人类记忆时会发生什么？

越来越多的研究表明，生成式人工智能会以令人惊讶的持久方式干扰记忆。这包括扭曲我们的记忆、模糊我们自己的思想与机器生成的思想之间的界限，甚至植入从未发生过的事情的记忆。

在一项研究中，研究人员要求参与者观看一段犯罪视频，结果发现被生成式人工智能聊天机器人盘问的参与者产生的虚假记忆是其他人的三倍。在另一项研究中，人们被提示在有或没有人工智能的情况下产生想法，一周后他们很难记住哪些想法源自机器，哪些是他们自己的。

其他实验表明，人工智能生成的错误信息可能会导致人们记住根本没有发生过的事情。在一个实验中，近一半的参与者错误地记住了根本不存在的电影翻拍版，其中包括由威尔·史密斯（Will Smith）主演的《黑客帝国》（The Matrix）版本。在另一个实验中，人工智能生成的视频说服人们，他们记住了根本没有发生过的政治丑闻。然而，研究人员指出，深度伪造在制造虚假记忆方面并不比文本始终更有效。

一些最新的证据表明，这个问题可能比研究人员预期的更难以解决。

企业和政府机构正竞相采用人工智能。警方正在试验利用人工智能总结执法记录仪的画面。医院利用它来汇总医疗信息。乔治亚州大学大规模数据研究所助理研究员马蒂亚·西姆（Mattea Sim）表示，最常见的安全措施之一是让人类参与其中以捕捉机器的错误。

但这假设人类仍然是检查机器的独立关卡。如果影响是反过来的（正如西姆的研究所示），人工智能可能会改变人们赖以捕捉其错误的判断力和记忆力，这就破坏了人类最后防线整个前提。

在最近的一项实验中，西姆招募了 331 人来观看一段汽车撞击行人的简短动画视频。一两天后，参与者阅读了人工智能生成的事故摘要。对于某些人来说，摘要准确描述了视频中的交通标志。对于其他人来说，人工智能自信地识别出了错误的标志。

在收到准确摘要的人中，近 84% 的人正确记住了该标志。而在收到误导性版本的人中，只有大约 45% 的人做到了这一点。告诉参与者该摘要是由人工智能生成的，并不能保护他们免受其影响。

西姆说：“人工智能会犯错这是常识。”但她表示，研究表明“人类的监督可能不是解决这个问题的绝佳方案。”阿里安娜·埃恩琼·查是一名全国记者。她曾担任《华盛顿邮报》驻上海和旧金山分社长，以及驻巴格达记者。