跳到主要内容
Ed. notes

从零理解并优化 RAG 对话 Agent · 系列目录

长文 · 2026-11-17 · 合集第 1 / 10 篇

  • RAG
  • Agent
  • 系列目录
第 1 / 10 篇 · 查看全部章节 → 当前:从零理解并优化 RAG 对话 Agent · 系列目录

一个能跑通的 retrieve → generate 只是起点。真正决定对话体验的,是检索拿到的 query 对不对、上下文干不干净、答不出来时怎么收场,以及首 token 之前的那段空白。

这个系列写什么

这个系列不介绍「再换一个更强的模型」,而是把 RAG 对话 Agent 拆成六个可以分别优化的部分:

  • 诊断:一条 retrieve → generate 链路里,体验到底断在哪;
  • 查询质量:多轮追问为什么检索不到,怎样让检索员听懂指代;
  • 上下文质量:相似度分数怎么读、阈值怎么标、混合检索怎样互补;
  • 失败行为:问候、天气、站内空洞分别该由谁处理;
  • 引用体系:[n] 为什么是一个局部命名空间,流式下怎样保证不串号;
  • 延迟、状态与评测:首 token 之前发生了什么,会话该不该落到服务端,怎样用数字证明改动有效。

每一篇都尽量保持同一套方法:先给现状和调用链,再只改一个变量,写清楚这次改动证明了什么、没有证明什么。文中出现的代码位置都以本仓库的 backend/ 和 frontend/ 为准;尚未落地的方案会明确标注为「目标设计」,不把计划当成已经实现。

系列地图

编号 文章 核心问题
01 诊断:一条链路,六个断点 体验问题到底出在检索、上下文还是生成
02 查询质量:让检索员听懂追问 指代词为什么让向量失效,怎样改写
03 上下文质量:阈值、混合检索与预算 分数怎么读,词法和向量怎样融合
04 失败行为:把「不知道」设计好 问候、天气、内容空洞分别怎么收场
05 引用体系:编号是一个局部命名空间 流式回答里怎样保证 [n] 不串号
06 延迟与流式:首 token 之前的空白 用户等的到底是什么,怎样给真实反馈
07 该不该让 LLM 决定检索 LLM 路由、工具调用和规则各自的代价
08 状态、评测与观测:从会话到可测量 checkpointer、评测集和最小日志
09 目标架构与落地路线 把所有改动合成一张图和一份实施清单

推荐读法

目标 顺序 说明
先判断问题在哪 01 → 02 → 03 从调用链和分数分布入手,不先改提示词
改善多轮对话 02 → 05 → 07 先让检索听懂追问,再处理引用和路由
做工程化落地 01 → 04 → 06 → 08 → 09 先修失败路径和延迟,再谈状态与评测
只看结论 09 完整目标图、节点职责和 P0/P1/P2 清单

与其它系列的关系

  • 从0建小站:先把站点、内容管线和页面跑起来。
  • AI助手后端实现:切片、embedding、pgvector、LangGraph 和 SSE 的实现背景。
  • 搭建AI助手前端:四种 SSE 事件、消息状态机和流式渲染。
  • 如何优化:已有的前端性能与检索调优实测记录;本系列会引用其中的分数分布,但不重复实验过程。

状态与维护

  • 01–09 为「可读」状态,尚未在代码中全部落地;文中会区分「现状」与「目标设计」。
  • 系列就是所在文件夹,文件夹名 07-从零理解并优化 RAG 对话 Agent 就是系列名;00-目录.md 是系列第一篇,也是普通长文。
  • 文章 slug 规则是 <英文系列>-<两位序号>-<英文主题词>,本系列以 rag-agent- 开头,例如 rag-agent-02-query-quality、rag-agent-05-citations。
  • 所有阈值、延迟和分数都依赖具体模型、内容分布和硬件;换环境后要重新测,不要把某次数字写成通用结论。
  • 新增文章时同步更新本页的系列地图、阅读路径和状态说明。