智能体要像助手而不是失忆的路人,关键在记忆设计。很多人一上来就接向量库,结果发现检索出来的东西模型根本不用。问题不在库,在分层。
记忆该分哪几层?
第一层是工作记忆,也就是当前任务的上下文。它只在本轮有效,任务结束就清空。这层不需要外部存储,靠上下文窗口即可。
第二层是会话记忆,记录这次对话里发生过什么、用户纠正过什么。它需要跨轮保留,但会话结束可以归档。
第三层是长期记忆,跨会话的用户偏好、事实、关系。这层才需要持久化和检索。
第四层是情节记忆,记录具体事件的经过,用于复盘和经验复用。它和长期记忆的区别是,前者记事实,后者记过程。
为什么不能只靠向量检索?
向量检索擅长找相似文本,不擅长处理结构化的偏好和时间关系。用户上个月说喜欢简洁回答,这个月说想详细一点,纯向量会同时召回两条冲突记忆。
所以长期记忆需要带时间戳和置信度,冲突时以最新为准。还要有删除机制,用户要求忘记时必须真的删。
怎么设计写入和读取?
写入要克制。不是每句话都存,只存稳定的偏好、明确的事实、重复出现的约束。存太多会稀释检索质量。
读取要分层。先读会话记忆,再读长期记忆,最后按当前任务检索情节记忆。三层按优先级注入,避免上下文被无关内容占满。
还有一个实用做法:让模型自己决定要不要记。在每轮结束时问一句,这条信息值得长期保留吗。它判断得比规则准。
怎么验收记忆效果?
设一批跨会话测试:第一次告诉它一个偏好,隔几轮再问相关问题,看它是否遵守。再测试冲突更新,看它是否以新信息为准。
最后:记忆不是越多越好。一个记得太多但分不清轻重的助手,比一个记不住但每次都问清楚的助手更让人烦。
去论坛讨论
前往 ziyuanagi.com 论坛 参与讨论