语言智能体中记忆的价值
原文网页:https://arxiv.org/html/2610.31303v2
PDF链接:https://arxiv.org/pdf/2610.31303v2
arXiv编号:arXiv:2610.31303v2 [cs.AI]
摘要
记忆让语言智能体可以把过往经验里有用的区分信息带入未来决策。记忆的价值取决于:哪些区分信息得以留存、有能力约束的智能体能否使用这些信息、需求发生变化时哪些信息可以恢复或修订。本文建立一套决策论理论框架,完整刻画记忆价值从原始历史、持久化状态、实际运行使用,再到代价高昂的信息恢复与修订的全生命周期。将原始价值、留存价值、实际实现价值统一使用可避免的任务损失作为度量单位;风险‑代价前沿描述多次使用场景下可实现的信息恢复与信息留存能力。未知的未来需求生成价值剖面;交互式反馈会改变后续任务的分布。
本文设计代价感知仿真条件与5个极简反例,阐明信息时序、检索访问、组件交互、反馈机制、需求不确定性各自发挥的作用。特别发现:一个与答案互信息为零的指针,仍然可以降低精确信息恢复的代价。基于LoCoMo留存‑恢复研究、双项目更新任务、多纵向案例开展诊断分析;实验现象表明:即便检索得到的证据完全不变,保存的账本依旧会改变后续输出;即便智能体输出不变,评估器修订也会改变评测分数。该框架将上述现象关联到可操作的风险边界,同时给出三条可检验的原则,用于指导记忆分配、恢复选项留存、依赖证据的修订。
关键词
语言智能体;记忆价值;决策论框架;记忆生命周期;风险‑代价前沿;记忆评估
目录
- 引言
- 相关理论与工作基础
- 从原始历史到留存价值与实现价值
- 3.1 潜在价值、留存价值、实现价值
- 3.2 运行系统模型
- 需求演进下的信息恢复与修订
- 信息、访问、需求如何塑造记忆价值
- 诊断案例与反例
- 设计与评测指导原则
- 附录简要说明
1 引言
语言智能体跨多轮对话、多项目运行,目标会动态变化。记忆将早期工作的决策、规划、证据、约束带入尚未预知的后续请求。
举一个典型场景:智能体维护两个项目,第一个审计项目刚刚结束;第二个报告项目中,一条引用有效,另一条引用需要修正。更新第一个项目的规划时,记忆必须保留恢复第二个项目所需的全部关键区分信息。记忆的价值,体现在它对未来决策的贡献,同时需要权衡保存、访问、修订该贡献所产生的各类代价。
存储的持久状态可以保存相关信息,但读取方可能无法有效利用;一个索引指针本身不携带关于答案的直接信息,却可以加速信息恢复;一次修订可以改善某一项任务,但同时损害其它任务。要完整解释这些现象,需要一套统一的记忆价值理论。
图1:记忆全生命周期价值总览
运行系统Σ \SigmaΣ包含写入、存储、信息恢复、修订、读取模块;系统动作会影响环境E EE与后续需求;测量模块KaTeX parse error: Can't use function '\(' in math mode at position 10: \mathcal{\̲(̲\mathcal{J}\)}在任务损失与参考标签之下,度量生成轨迹;底部给出匹配假设下的价值对比定义;O OO代表新增修订证据。
本文构建决策论框架,打通记忆从存储、使用、恢复再到修订的价值链路,把压缩、检索、更新视作跨时间、跨多次使用分配决策能力的手段。
本文主要贡献
- 将原始价值、留存价值、实现价值统一以可避免的任务损失为度量单位;把留存价值与实现价值之间的差距,关联为记忆层与基线状态下读取器的实现遗憾(regret)。
- 通过恢复‑修订代价前沿、代价感知仿真、未知需求与交互式反馈的形式化模型,将记忆价值与资源开销建立关联。
- 将理论转化为可落地的设计与评测指导:给出可操作风险边界;提出三条基于理论的假设,指导应当留存什么、保留哪些恢复选项、如何修订依赖证据的规划。
- 使用5个极简反例阐明信息时序、访问权限、组件交互、反馈、需求不确定性带来的效应;基于LoCoMo、双项目更新任务、纵向案例完成诊断分析;区分证据留存与证据成功使用,量化恢复收益与资源开销,分离智能体行为变化与评测测量本身带来的分数变化。
2 相关理论与工作基础
本文以统计实验比较理论作为出发点:信息的价值是相对决策问题以及该信息所能支持的动作而言的(Blackwell,1951)。仿真论证说明,拥有更丰富信息的决策者可以复现信息更少决策者的性能。但对于真实实现的记忆系统,需要该仿真尊重信息时序约束、计算限制、访问代价。
已有相关研究方向
- 信息度量理论:预测v‑信息通过允许的预测族与优化对数损失度量信息;动作相关侧信息把信息获取和开销绑定;提示压缩理论区分查询感知编码器与查询无关编码器。
- 智能体记忆架构研究:Memory3、Metis、MemT‑1.0、MemOS、(\mathcal{G})enerative Agents、Mem(\mathcal{G})PT、A‑Mem、Mem0、CoALA,覆盖外部KV记忆、分层记忆、笔记记忆、会话记忆等多种工程架构。
- 记忆评测基准:DeMem、MEMAUDIT、VitaBench、MemOps、更新充分性审计,针对记忆特定阶段开展评测。
- 跨层权衡视角:速率‑失真视角连接KV缓存、提示、有限状态、智能体存储;会话移交理论利用统计充分性做实验对比,研究容量效应、写入器效应、延续效应。
- 留存与有效性相关工作:WISE记忆编辑行为评估、记忆质量分数研究、部分识别理论、执行性预测、理性元推理、不可逆决策理论、真值维护系统。
本框架在上述工作基础之上,统一建模记忆完整生命周期,显式处理资源约束、未知未来需求、交互式反馈效应。
3 从原始历史到留存价值与实现价值
3.1 潜在价值、留存价值、实现价值
H HH:写入器的原始历史;KaTeX parse error: Can't use function '\(' in math mode at position 1: \̲(̲M=f(H)\):持久化记忆状态;Q QQ:后续需求;Y YY:任务相关世界状态;S SS:读取器合法侧信息。
P PP为需求分布,ℓ \ellℓ为损失函数,Π \PiΠ为策略集合。
定义潜在风险:
R ∗ ( M ; P , ℓ , Π ) = inf π ∈ Π E P [ ℓ ( Y , Q , π ( M , S , Q ) ) ] R^{*}(M; P, \ell , \Pi )=\operatorname* {inf}_{\pi \in \Pi }\mathbb {E}_{P}[\ell (Y,Q,\pi (M,S,Q))]R∗(M;P,ℓ,Π)=π∈ΠinfEP[ℓ(Y,Q,π(M,S,Q))]
策略集合Π \PiΠ限定该表征能够支持的决策集合;无约束集合得到潜在信息参考,受约束集合代表系统可使用的信息。
对于固定部署的读取器π \piπ,其实际风险记作R ( π , M ) R(\pi, M)