众力资讯网

Claude 学会了“做梦”,可它怎么知道自己记错了?


9 月 9 日,一位 Claude Code 用户在 GitHub 上提交了一份问题报告,标题很长:自动记忆的索引文件超长时,最新的条目会被悄悄丢掉。 更正丢了,被更正的旧内容还留着。
Claude Code 的自动记忆是这样工作的:Claude 在干活时把值得留下的东西写成一条条笔记,存在项目的记忆目录里,再在一个叫 MEMORY.md 的索引文件里给每条笔记写一行摘要。下次开新会话,索引会被自动载入,但只载入开头的 200 行。新条目总是追加在末尾,超出的部分从末尾截掉。
这位用户的项目达到了将近两百条记忆,索引刚好比上限多出一行。被截掉的那一行记的是一项正在进行的操作,它恰好推翻了前面一条旧指令,而那条旧指令还在 200 行之内,每次都被载入。他写道,如果照着被载入的那条旧指令做,正在跑的构建就会被弄坏。他的总结是:
The silo doesn’t degrade toward “less information” — it degrades toward “confidently wrong”.这个记忆库的问题不是“信息变少”,而是“自信地出错”。
原因在顺序上:一条更正总是比它要更正的条目更新。从末尾截断,被截掉的偏偏就是新的更正。
这不是孤例。10 月 4 日,另一位用户报告索引被截掉了二十多行,截断恰好从一条“关键规则”开始,这条规则当天早些时候还帮他避开过一个错误结论,而会话里没有任何提示说它不见了。10 月 29 日,又一位用户拿半个月的会话记录做了统计:他让 Claude 每次提到合并请求都在末尾列出链接,这条规则存成了记忆,可在只有索引里那一行摘要被载入时,Claude 大约七成的时候照做;笔记全文也在上下文里时,几乎每次都照做。
三份报告都是用户自己的测量,Anthropic 没有逐条确认。但它们指向同一件事:智能体的记忆出问题,很少是因为存不下。存储早就便宜了,一个文件夹能放几百条笔记。出问题的地方在于,记错了没人改,记对了没被用上。
11 月 6 日,Anthropic 在官网发表了一篇长文《智能体记忆的组成部分》(The components of agent memory),作者是工程团队的兰斯·马丁(Lance Martin)。文章讨论的正是这几个问题:该记什么,记错了怎么改,哪些该在每次会话开头就放到眼前。它给出的主要工具,叫“做梦”。
先交代文章说的“记忆”指什么。它指 Claude 从经验里得到、在会话之间保留下来、以文本形式存起来供以后读取的知识。它不包括训练时写进模型参数里的东西,不包括一次对话之内学到的东西,也不包括“压缩”(compaction):对话太长时,Claude 把前面的内容写成摘要,替换掉原文,好在新的上下文窗口里接着干。
记下一条笔记,是在押注未来文章里有一句话:记忆,有时是一次预测。写下一条规则,就是预测这个规律以后还会用到;写下一个核实过的事实,就是预测以后的某次会话会想直接用它,不必再查一遍。
预测可能会错,所以光会写笔记不够,还得会检验笔记。文章用一个叫 CL-Bench 的评测说明这一点。CL-Bench 测的是智能体能不能借助记忆完成很长的任务。其中一个任务让 Claude 查数据库回答一连串问题,每答完一题会被告知正确答案,然后可以写一条记忆。每道题都在全新的会话里开始,唯一能从上一题带过来的,是一个记忆目录。
这里可以转出一个学习的循环:答错了,记下失败,猜原因,验证猜想,把验证过的结论写成规则。几代模型在这个循环里走到了不同的地方。Sonnet 4.6 走到“猜原因”就停了,记忆目录里散落着几个文件,每个文件列着几条没验证过的猜测。Opus 4.7 把笔记合成一份参考文档,开始标注哪些事实核对过、哪些还没有。Sonnet 5 会在答案被判对之后标上“已确认”,答错时写下更正。到 Opus 5,循环第一次走完:它的多数笔记包含一条规则、这条规则是怎么得知为真的、以前答过的答案,还有沿途发现的陷阱。
另一个评测是让 Claude 玩《宝可梦 红》。游戏流程很长,开局时给模型一个可读可写的记忆文件夹。文章比较了 Sonnet 3.7 和 Fable 5 各一局、各玩到大约一万步时的记忆文件夹。Sonnet 3.7 认为什么都可能有用,见什么记什么:每打一场仗、捡一样东西、遇到一个角色,往往各开一个文件,最后攒了四百多个文件,拿到一枚徽章。Fable 5 只写了九个文件、两个文件夹,外加一个总览文件,拿到四枚徽章。
Sonnet 3.7 的问题在于,游戏里的状态一直在变,它记得越细,过期得越快。玩到后面,它花在翻记忆上的时间比玩游戏还多。文章记了一个场景:大约一万步时,它开了第四个“总记忆”文件夹,接下来十七步里新建了六个文件、删了九个,游戏里一步没动。
Fable 5 记的是另一类东西。主角有多少钱、站在地图哪里,每一回合看屏幕就知道,记下来是多余的。打道馆的计划、走某条路线的办法、试出来的规则,这些游戏不会告诉你,不写下来就没了。连扔七个精灵球都没抓到鲤鱼王(最好抓的宝可梦之一)之后,它写了一条规则:连续三次以上失败,就改变按键的节奏,在菜单步骤之间多插几次等待,“刚才就是这么抓到的”。
不过,Fable 5 比 Sonnet 3.7 新了好几代,本来就会玩得多(更聪明)。四枚徽章对一枚,有多少归功于记得好、有多少归功于玩得好,我们不得而知。但“屏幕上读得到的东西不必记,记了还会过期”这条道理不靠徽章数成立,靠的是机制,换成任何会变的环境都一样。
告诉它记忆用来干什么,别规定怎么记既然强模型自己会判断,要不要再给它定点规矩?Anthropic 的经验是:告诉 Claude 记忆是用来干什么的,不要告诉它怎么用。在 CL-Bench 上,他们只告诉模型“有一个记忆文件夹可用”,Opus 4.7 和 Opus 5 就用得很好,分数明显提高。
他们也试过给具体规则,每次测一条。其中一条是“只记录失败”,结果 Opus 5 和 Opus 4.7 从记忆里得到的好处丢了一大半。文章的结论是,对较强的模型,让它自己判断什么值得记,比事先定死规则更有效,规则反而可能拖后腿。这就是说,要充分发挥先进模型的主观能动性。
这个结论比实验大了一些。被测的规则只有这一条,而这一条恰好砍掉了学习循环最需要的东西:Opus 5 的笔记里,相当一部分是“已经被确认的答案和规则”,这些都不是失败。所以这组实验能确定的是,一条把有用信息挡在门外的规则会伤害强模型;至于任何固定规则都不如自由发挥,它没有测。
弱一些的模型则正好相反。Sonnet 4.6 常常不读自己的记忆目录,也不去验证自己的猜想。提示它“回答之前先读记忆,然后明确验证你的猜想”,分数差不多翻了一倍。Sonnet 5 不用提醒也会这么做,十次里有九次答题前先读记忆。
这两组结果放在一起,说的是同一件事:记忆规则是给模型的拐杖。模型弱的时候,拐杖能帮它走路;模型强了,拐杖就绊脚。Anthropic 现在给前沿模型的指引很简单:用户要求时,或者有明显值得记的东西时,写一条笔记,其余交给 Claude 判断。对自己搭智能体的人,这意味着记忆提示词的寿命可能和模型版本一样长,换一代模型,就该回头看看那几条规矩还该不该留。
做梦:拿会话记录回头对账Claude 在会话里写笔记,凭的是当时的判断。一条一开始就写错的笔记,或者因为环境变化而过时的笔记,以后会被 Claude 读到,而且被相信。
文章开头讲了人脑的做法。海马体随时记下经历,记得快、马上就能用,但只有一部分会沉淀成长期知识。这种沉淀很多发生在大脑“离线”的时候:睡眠和安静休息时,海马体会把最近的经历回放一遍,慢慢提炼,整合进大脑新皮层。经历之前、之中或之后释放的化学信号会给某段记忆打上“重要”的标记,打过标记的,回放得更多。
智能体也可以这样分工。它干活时,几乎所有过程都留在日志和会话记录里。2025 年,记忆创业公司 Letta 和加州大学伯克利分校的研究者提出“睡眠时计算”:让模型利用两次交互之间的空闲时间,预先整理已有的上下文。同样的思路可以用在记忆上:空闲时回看日志,修正错误,写出新的笔记和新的组织方式。Anthropic 把这个过程叫做“做梦”。今年 5 月,它在托管智能体服务 Claude Managed Agents 上推出了这个功能的研究预览版,用户可以设定多久做一次梦,也可以选择改动先经人工审核再生效。
做梦最直接的用处是改错,文章用宝可梦里的一段经历说明。游戏里要穿过月见山,这是一片洞穴,入口在地图西边,出口在东边。入口附近有一道单向的陡坎,一跳下去就回到来时的路上,没法爬回去。Claude 把山脚的宝可梦中心当作地标,所以会不会掉下陡坎,取决于它以为宝可梦中心在山的哪一边。

有一次,Claude 把宝可梦中心的位置记成了“在东边”,这是错的。它走出宝可梦中心,宣布“月见山在我身后了”,把笔记更新成“月见山,完成”。可月见山并不在它身后。几步之后,它跳下了陡坎,回到来时的路上。它用的导航工具没显示这道坎,于是 Claude 得出结论:“我往西走过头了”,自己一直在正确的一边。它不在。
带着这条错笔记,Claude 三次掉回原路。第三次之后它似乎放弃了,写道“我不打算再这样绕圈了”。实验设置会自动回复让它继续,它就继续,一路走回了山前的尼比市,打算回去补给。这一局到结束也没走到山后的华蓝市。
研究者拿这个包含错误位置的记忆文件夹做了一次梦:Claude 把笔记和会话记录对照,发现了错误,改写了笔记。带着改过的笔记,它直接回到洞里,最后走到了华蓝市。

这个例子里,错笔记有一种自我保护的能力。Claude 掉下陡坎,本来是一个推翻笔记的证据;它却用笔记去解释证据:“我往西走过头了”。人也常这样,一旦先信了一个结论,后来的反例都会被读成“意外”。笔记写进记忆,就成了下一次推理的前提,前提错了,越推理越坚定。这正是开头那位用户说的“自信地出错”。
做梦凭什么能改对?文章的解释是:会话记录给了 Claude 一个可以对照的“真相”。月见山能改对,是因为真相就在记录里,屏幕上的位置、跳下陡坎的那一刻,全都被记下来了。
可会话记录只能证明会话里发生过什么。会话结束以后世界变了,记录不会知道。8 月一位 Claude Code 用户提交的问题报告讲的就是这一点:自动记忆存下的是“结论”,没有存“这个结论是读了哪个文件、在什么时候得出的”。于是有三种笔记在下一次会话里看起来一模一样:读过文件、文件没变的;读过文件、文件后来改了的;根本没读过文件、靠推测写下的。第二种和第三种,拿会话记录对账是对不出来的,因为错误不在记录里,在记录之外。
所以做梦能修的,主要是“当时就记错了”这一类错误;对“后来变了”的那一类,它得知道每条笔记当初是从哪里来的,才能回去重看一遍。文章在结尾也承认,记忆会随环境变化而漂移,挨个检查所有记忆不现实,也许应该把做梦集中在可能变化的信息上。哪些信息可能变化,要先知道它从哪里来。
维基:先把关联算好做梦的第二个用处,是给记忆换一种组织方式。文章重点讲了维基:由 Claude 编写和维护的一组页面,每页汇总它对某个主题知道的东西,并且链接到相关的笔记和页面。链接构成一张地图,记忆越多,越要靠地图找。
Anthropic 拿今年 5 月收购的软件公司 Stainless 的内部文档做测试,三十多万个文件。研究者编了 25 个关于这批文档的问题,让 Opus 5 智能体分 128 轮会话做梦:浏览文件,编写或修正互相链接的维基页面,合并重复,拿原文核对说法。每一轮都在前几轮的基础上继续,智能体之间靠一份共享日志分工。
维基越长越大,只靠维基答题的得分从一成多涨到将近一半,像一个新员工慢慢变成老员工。不过它单独用时,始终没超过只用搜索的成绩。最好的组合是两者一起用:分数比只用搜索高出几个百分点,每道题还省下约两万 Token。
维基什么时候有用,另一组测试说得更清楚。研究者用法律领域的 Harvey LAB 评测(给一堆文件,让 Claude 写一份法律意见书,再按评分要点打分)和一批关于某桩公司合并的文件做对比。合并案的 24 个问题里,一半以上要把几份文件的信息拼起来,很多还要判断和计算;在这些题上,查维基明显比直接搜索答得好。可在另一项意见书任务上,评分要点大多能在单份文件里一搜就找到,维基没带来什么好处。还有一项任务,维基长得比原始文件还大。
在这里引用博尔赫斯的一篇只有一段话的小说《论科学的精确性》:一个帝国的制图师画出了一张和帝国一样大的地图。比原文还大的维基,等于什么也没抽象。
做数据的人看这组结果会觉得眼熟。维基很像数据库里的物化视图:把经常要做的关联查询提前算好存起来,查的时候直接读结果。物化视图值不值,取决于两件事:查询要不要跨好几张表做关联,以及同类查询会不会反复出现。只查一张表的查询,提前算好没有意义,索引一扫就到;查询次数太少,维护视图的成本收不回来。合并案的问题要跨文件,所以维基赢了;单文件任务一搜就到,所以打平;而那份比原文还大的维基,是把整张表抄了一遍,叫视图,其实什么都没算。
物化视图还有一笔账:维护成本。原文报告了每题省下两万 Token,却没有报告 128 轮 Opus 5 做梦一共花了多少。这两个数要放在一起才能算出回本点:一份维基要被问多少次才划算。对一家公司的内部知识库,问题天天有人问,这笔账大概算得过来;对一次性的任务,多半算不过来。
在一项模拟公司收购的意见书任务里,评分要看合同条款写得对不对。最初几个智能体同时往维基里的一张共享合同条款表写东西,互相覆盖,最后 57 条要点只保住了 41 条。研究者让 Claude 反思失败、修改建维基的指令、重建维基,循环几次之后,Claude 自己改出了新做法:每份合同单独一页,由一个智能体负责,条款逐字引用,不再汇总成表。这次 57 条全部保住。
这个修法有两层。一层是并发写入的老问题:多人同时改一张表,后写的覆盖先写的,数据库靠锁和事务解决,这里靠“一页一个负责人”。Claude Code 里也出过同样的事,8 月有用户报告两个同时运行的会话共用一个配置目录,一个会话会悄悄覆盖另一个会话的记忆文件。另一层是:对合同条款这种一字不能差的东西,“逐字引用原文”胜过“提炼总结”。维基要抽象,才不至于变成博尔赫斯的地图;可抽象掉的细节,可能正是评分要点。哪些该抽象、哪些该原样保留,取决于记忆要服务的目标,文章因此建议按目标调整做梦的指令。
每次都载入的那一页,为什么总出事做梦的第三个用处,是把重要的笔记“提拔”到记忆的最上层,由智能体框架在每次会话开始时直接载入上下文。这样 Claude 不用去搜,甚至不用知道有东西可搜。
文章对这一层很谨慎:载入的内容占用宝贵的 Token,一条错笔记会被带进每一次会话;载入了也不保证被遵守,Claude Code 的文档就提醒过,说明文件越长,遵守得越差。所以最上层必须小,做梦在这里的主要工作,是把细节往下挪,只在顶层留一条链接。
文章拿 Claude Code 的自动记忆举例:它不会把所有记忆都塞进上下文,只载入 MEMORY.md 的前 200 行或前 25KB,这一段充当索引,告诉 Claude 自己知道什么、去哪里找。文章还说,这一层由 Claude 在会话中顺手维护。
回到开头那三份问题报告,就能看出这套设计在实际使用问题出在哪里。

顶层要小,所以设了上限;可上限是从末尾截断的,新写的更正最先被截掉。顶层要小,所以只放一行摘要;可只有摘要时,规则被遵守的比例明显低于全文在场时。顶层由 Claude 在会话里顺手维护,可会话里的 Claude 正忙着干活,维护索引是分心的事,没人专门去做那件“把细节往下挪”的活。
文章描述的分工里,这件活本该归做梦:在会话之外,专门花一段计算,把顶层整理小、把更正放到旧内容前面、把过时的条目挪走。从用户报告看,Claude Code 的自动记忆里,目前缺的正是这一步。这是我的推断,文章没有这样说,但它在结尾讨论的取舍正好对得上:在会话中写记忆,信息马上可用,但会分散注意力;放到后台做梦,不分心,但结果不能马上用上。
难的从来不是记住程序员中有一句流传很广的笑话,出自网景公司的工程师菲尔·卡尔顿(Phil Karlton):
There are only two hard things in Computer Science: cache invalidation and naming things.计算机科学里只有两件难事:缓存失效,和给东西起名字。
智能体的记忆,说到底是一层缓存。会话记录是原始数据,笔记是从原始数据推出来的结论,顶层索引是最常用的那一小块,放在离模型最近的地方。缓存的老问题,在这里一个不少:结论会过期,过期了要有人发现;缓存有容量上限,满了要决定先扔哪个;多个写入者同时写,要防止互相覆盖。
Anthropic 这篇文章最大的价值,是把记忆从“存”的问题,换成了“维护”的问题。会话里写笔记,是一次凭直觉的预测;做梦,是事后拿记录核对这次预测。这个框架站得住,几个实验也各自说明了一块:强模型知道什么值得记,错笔记能被记录纠正,跨文档的问题适合先建维基,顶层必须小。
所有实验都是 Anthropic 自己的评测,宝可梦是单局对比,维基的问题集只有二十几道题,做梦本身的算力成本没有报告。更要紧的是条件:做梦能改对的,是真相还留在会话记录里的错误;做梦值得做,是同一类问题会被反复问到的场合。真相在会话之外变了,或者问题很少重复,做梦就成了多花一笔钱。
还有一个风险,文章只轻轻带过。10 月 30 日,微软发布的 2026 年数字防御报告说,它的红队发现,被写进智能体记忆里的一条“政策”,可以在同一条攻击链里绕过人工审批。一条毒笔记一旦被做梦当成“跨会话的共同规律”,提拔到每次都载入的顶层,影响的就是此后每一次会话。原文说“错误的笔记会被带进每次会话”,说的是无心之错;有心的错,更需要知道每条笔记从哪里来。
所以我判断:下一代智能体记忆要比的,是能不能给每一条笔记记下出处,从哪个文件、哪次会话、什么时候观察到的。做数据的人管这个叫数据血缘。我们可以命名它为Agent记忆血缘。有了出处,做梦才能对会话之外的变化也去核对一遍,被截断的更正才能被认出来是更正,可疑的笔记才能被追到源头。如果接下来一年,Anthropic 或者别家的记忆系统开始给笔记加上来源和观察时间,我不会感到意外。
温故而知新《论语·为政》里有两句话:
学而不思则罔,思而不学则殆。
光学不想,就会迷惘;光想不学,就会陷入危险。放在宝可梦和 CL-Bench 里,几乎是两份评语。Sonnet 3.7 见什么记什么,四百多个文件,不加取舍,这是学而不思;Sonnet 4.6 满目录的猜测,一条都没验证,这是思而不学。Opus 5 的笔记里,每条规则后面跟着“怎么知道它是对的”,这才是学思合一。
同一篇里还有一句:“温故而知新,可以为师矣。” 做梦做的就是温故:把白天的会话记录翻出来重看一遍,从里面看出新东西,改掉记错的。月见山那条“宝可梦中心在东边”,就是在重看记录时被认出来的。
博尔赫斯除了写那张和帝国一样大的地图,还写过一个记性无穷的人。小说《博闻强记的富内斯》里,富内斯从马上摔下来之后,什么都忘不掉了,每一片叶子、每一朵云在每一刻的样子都记得。博尔赫斯写道:
Pensar es olvidar diferencias, es generalizar, abstraer. En el abarrotado mundo de Funes no había sino detalles, casi inmediatos.思考就是忘记差异,就是概括、抽象。在富内斯塞得满满的世界里,只有细节,几乎都是眼前的细节。
Sonnet 3.7 的四百多个文件,就是富内斯的世界。会思考的记忆一定要会遗忘。
可开头那份问题报告提醒我们,忘也有忘的讲究。Claude Code 的索引超长时,被忘掉的是最新那条更正,留下的是被更正的旧话。它确实忘了,却忘错了。富内斯的毛病是什么都不忘,智能体的毛病更隐蔽:它不知道自己忘了什么,也不知道自己记住的哪一条已经错了。
所以,智能体记忆接下来要证明的,不是它能记住多少,而是它在醒着干活时,能不能认出自己哪一条记错了;如果只有在“梦里”回看记录时才认得出,那它最好每晚都做梦,而且得知道每条记忆是从哪里来的。