只要用大模型做过复杂的长期任务,你可能就碰到过这种情况。昨天在前文刚纠正过的错误,今天继续往后写,它又犯了一遍。最近Anthropic团队公开了Claude的记忆架构,其中就讨论了这个让人头疼的问题。
看完其中最新被称为「离线梦境」的设计我才清楚,原来想让AI成为能持续帮忙的助手,除了扩大上下文窗口,还得给它一套自我纠错的机制。它需要在空闲时到后台检查,把记错的经验改过来,把过期的内容清理掉。这套新设计提供了一种管理记忆的思路。顺着这个思路,我整理了Claude管理经验的几个关键做法。看完你就懂了,在未来,AI是如何减少反复出错的。1、任务进行时:别让过多的细节拖垮AI很多人为了让AI延续上一次对话的记忆,一种比较直接的做法,是把上一轮聊过的内容,全都放进下一次对话里。潜意识会里觉得,AI记的细节越多越好。但Anthropic用宝可梦做的测试,呈现了另一种情况。早期模型玩游戏时,记录得非常细,遇到野外战斗、捡到道具、跟 NPC 对话,都会单独建文件保存。等走到一万步的时候,它已经建了四百多个文件。这时候游戏里的情况早就变了,前面记的很多琐碎信息也过期了。结果呢?它把算力全耗在整理这些没用的笔记上,游戏反倒推不动了,最后只拿了一个徽章。而另一个记录更精简的模型,只保留了十个文件,拿到了四个徽章。这个测试带出的一个判断是,当前位置、背包里剩下什么,这类可以重新观察、又随时变化的信息,未必适合长期保存。真正值得让AI记住的,是你摸索之后才发现的隐性规则。比如「那个洞穴出去千万别跳右边的台阶」,或者「这个报错是因为缺了环境变量」。所以,想让经验管用,就得在当下把这些能复用的规则挑出来。不过,筛选也不能限制得太死。Anthropic提醒大家,如果硬性规定强模型只能记相关信息,它的表现反而会变差。因为强模型自己有判断轻重的能力,过于严格的记录要求,反而限制了它的发挥。2、新任务开始:怎么让AI聪明地找出经验好了,现在有用的经验存下来了。可换了新任务,AI 面对一堆文件,它去哪找呢?其实Claude的记忆是被分了四层。最底下一层,是它执行任务时的原始记录,方便后续核对。往上一层,是单次任务中记下的观察和经验。再往上,这些笔记会被整理成有条理、相互关联的知识网。最上面一层比较精简,主要承担目录的作用。Anthropic提到,在实际的生产工具里,比如Claude Code,新开一局的时候,系统绝对不会把所有经验全倒给模型,而是只加载最上面的那点轻量目录。模型看到目录,知道这儿有什么模块、存在哪。等真正需要用的时候,再去读取对应的详细规则。这么做有什么好处呢?他们在测试里发现,模型顺着整理好的知识网去找规则,不但越来越准,平均每个问题还能减少约两万Token的检索消耗。这就好比你做了一本索引卡,查资料的时候直奔主题,不用每次都把整个图书馆翻一遍,比原先效率高多了。3、任务结束后:给记忆来个自主修正即使前面的分类和索引都做好了,记忆库里的一条错误记录,也可能影响后续任务。在前面说的宝可梦测试里,Claude有一次就不小心在笔记里记错了一句「宝可梦中心在东侧」。结果出了门往东一走,直接从一个单向台阶跳了下去,摔回了原点。更要命的是,因为这个记忆被保存了下来,后面新进来的AI对这条笔记深信不疑,照着错路连续跳了三次崖。一次错误判断,就这样影响了接下来的多轮操作。这就是为什么Anthropic要引入「离线梦境」。人在睡着的时候,大脑会把白天的记忆拿出来整理。这个离线梦境也是一样,在 AI 空闲时,系统会在后台调用模型,回看原始执行记录,检查笔记中的判断是否与实际结果一致。在刚刚那个案例中,系统发现向东走的实际结果与笔记不符,便修改了错误记录。提醒后续会话避开右侧台阶,返回洞内向北行进。这个在后台偷偷干活的系统,不仅能揪出错误,还会修补打不开的文件链接。把重复的经验合并,清理掉没用的东西。不过Anthropic也说了,要在实际任务中使用这套机制,也需要考虑成本。执行过程中记笔记会占用任务资源,离线整理需要额外算力,也无法立即帮助当前这一轮操作。关键还是得看,模型能不能顺着索引找到经验,能不能去底层查旧账,还有能不能自己把记错的东西改过来。