企业官网建设流程全解析

agent的任务记忆、模型记忆、KVCache、缓存命中、模型上下文窗口，五个概念之间的联系。

任务记忆得靠传对话历史来维持，模型api调用一次后，模型的KVCache就会被搬走。缓存命中是根据token前缀匹配出以前算出的KVCache，然后补算新的地方。要是没有给模型对话历史，服务器就找不到以前的KVCache，模型就得重算KVCache，就会失去记忆。上下文窗口指的是KVCache的大小，相当于记忆量的大小。