从零理解并优化 RAG 对话 Agent · 系列目录
一个能跑通的
retrieve → generate只是起点。真正决定对话体验的,是检索拿到的 query 对不对、上下文干不干净、答不出来时怎么收场,以及首 token 之前的那段空白。
这个系列写什么
这个系列不介绍「再换一个更强的模型」,而是把 RAG 对话 Agent 拆成六个可以分别优化的部分:
- 诊断:一条
retrieve → generate链路里,体验到底断在哪; - 查询质量:多轮追问为什么检索不到,怎样让检索员听懂指代;
- 上下文质量:相似度分数怎么读、阈值怎么标、混合检索怎样互补;
- 失败行为:问候、天气、站内空洞分别该由谁处理;
- 引用体系:
[n]为什么是一个局部命名空间,流式下怎样保证不串号; - 延迟、状态与评测:首 token 之前发生了什么,会话该不该落到服务端,怎样用数字证明改动有效。
每一篇都尽量保持同一套方法:先给现状和调用链,再只改一个变量,写清楚这次改动证明了什么、没有证明什么。文中出现的代码位置都以本仓库的 backend/ 和 frontend/ 为准;尚未落地的方案会明确标注为「目标设计」,不把计划当成已经实现。
系列地图
| 编号 | 文章 | 核心问题 |
|---|---|---|
| 01 | 诊断:一条链路,六个断点 | 体验问题到底出在检索、上下文还是生成 |
| 02 | 查询质量:让检索员听懂追问 | 指代词为什么让向量失效,怎样改写 |
| 03 | 上下文质量:阈值、混合检索与预算 | 分数怎么读,词法和向量怎样融合 |
| 04 | 失败行为:把「不知道」设计好 | 问候、天气、内容空洞分别怎么收场 |
| 05 | 引用体系:编号是一个局部命名空间 | 流式回答里怎样保证 [n] 不串号 |
| 06 | 延迟与流式:首 token 之前的空白 | 用户等的到底是什么,怎样给真实反馈 |
| 07 | 该不该让 LLM 决定检索 | LLM 路由、工具调用和规则各自的代价 |
| 08 | 状态、评测与观测:从会话到可测量 | checkpointer、评测集和最小日志 |
| 09 | 目标架构与落地路线 | 把所有改动合成一张图和一份实施清单 |
推荐读法
| 目标 | 顺序 | 说明 |
|---|---|---|
| 先判断问题在哪 | 01 → 02 → 03 | 从调用链和分数分布入手,不先改提示词 |
| 改善多轮对话 | 02 → 05 → 07 | 先让检索听懂追问,再处理引用和路由 |
| 做工程化落地 | 01 → 04 → 06 → 08 → 09 | 先修失败路径和延迟,再谈状态与评测 |
| 只看结论 | 09 | 完整目标图、节点职责和 P0/P1/P2 清单 |
与其它系列的关系
- 从0建小站:先把站点、内容管线和页面跑起来。
- AI助手后端实现:切片、embedding、pgvector、LangGraph 和 SSE 的实现背景。
- 搭建AI助手前端:四种 SSE 事件、消息状态机和流式渲染。
- 如何优化:已有的前端性能与检索调优实测记录;本系列会引用其中的分数分布,但不重复实验过程。
状态与维护
- 01–09 为「可读」状态,尚未在代码中全部落地;文中会区分「现状」与「目标设计」。
- 系列就是所在文件夹,文件夹名
07-从零理解并优化 RAG 对话 Agent就是系列名;00-目录.md是系列第一篇,也是普通长文。 - 文章 slug 规则是
<英文系列>-<两位序号>-<英文主题词>,本系列以rag-agent-开头,例如rag-agent-02-query-quality、rag-agent-05-citations。 - 所有阈值、延迟和分数都依赖具体模型、内容分布和硬件;换环境后要重新测,不要把某次数字写成通用结论。
- 新增文章时同步更新本页的系列地图、阅读路径和状态说明。