记忆系统、知识图谱与 Prompt Caching 优化
普通终端 Agent 最大的痛点是每次新开窗口都像第一天入职:昨天刚踩过的构建坑、特殊的命名约定、历史架构决策全忘得一干二净。
1. 从“外挂 MCP”到“原生记忆插件”
在 dsh 生态中,社区(如 @libai168/dsh-tool-memory、Hindsight Coding Agents、MemoryRouter 等方案)不仅把记忆做成外部 MCP,更直接写成 Cordis 原生插件,深度接入 Agent 生命周期:
- 自动捕获而非全靠人工嘱咐:在任务结束、Git 提交或报错解决时,自动抽取关键工程事实(“某模块必须用 Node 20”、“某接口返回结构特殊”)。
- 本地文件知识图谱(JSONL):把实体和关系以纯文本 JSONL 存在仓库或本地目录中,人类可以直接打开审查和版本控制,不依赖黑盒云端数据库。
- 按需检索工具:暴露如
memory_search、memory_create_entities等细粒度工具,让 Agent 在新会话开始前先检索历史坑点,而不是把 10 万字背景硬塞进系统提示词。
2. 三层上下文治理策略(省钱又防降智)
| 层级 | 存放内容 | 生命周期 | Token 开销控制 |
|---|---|---|---|
| L1 静态规则层 | AGENTS.md、项目架构图、技术栈约束 | 整个项目长期有效(高度稳定) | 放在 System Prompt 头部,最大化命中 Prompt Caching |
| L2 长期记忆图谱 | 历史决策、已解决的疑难坑点、环境约定 | 跨会话持久保存,按需检索 | 仅通过 memory_search 召回最相关的 3–5 条 |
| L3 当前工作窗口 | 本次任务的源码片段、最新报错栈与 Diff | 单次任务结束即压缩/清理 | 用工具结果折叠插件防止几万行日志刷爆上下文 |
3. 为什么上下文插件能省下 10 倍以上费用?
Prompt Caching 命中的秘密
在 Agent 多轮工具调用循环(动辄 30–80 轮请求)中,每一轮都会把前面的历史消息重新发给模型。如果某个 Harness 插件在循环中途频繁动态修改 System Prompt 头部的时间戳或乱序拼接工具定义,就会每一轮都击穿缓存前缀,导致费用暴涨数倍甚至十几倍。保持前缀稳定、仅在末尾追加新事件,是顶级 Harness 的必修课。