第二篇4-6章
这一批是整个 AI Agent 速成里最重要的一批,因为它决定你以后简历写 RAG 时,是“只知道一句检索增强生成”,还是面试官继续追问 5 层你都能接住。

好,第二批 第 4~6 章正式开始。
这一批是整个 AI Agent 速成里最重要的一批,因为它决定你以后简历写 RAG 时,是“只知道一句检索增强生成”,还是面试官继续追问 5 层你都能接住。
今天你要彻底打通这条链路:
知识库
↓
Document
↓
Chunk
↓
Index
↓
用户 Query
↓
Retrieval
↓
Top-K Chunk
↓
Context
↓
LLM
↓
Grounded Answer
然后再搞懂第二条:
Retrieval
├── Keyword / Lexical Search
├── BM25
├── Vector Search
│ └── Embedding
└── Hybrid Search
最重要的是:我会严格区分“通用 RAG 知识”和“你博客现在真实实现了什么”,这样以后面试绝对不要把没有做过的 Vector DB、Embedding 硬说成已经做过。
第四章:RAG —— 真正理解“检索增强生成”
先把一句话背下来。
RAG,Retrieval-Augmented Generation,检索增强生成,是在 LLM 生成答案之前,先从外部知识源检索与用户问题相关的信息,再把检索结果作为 Context 提供给模型,从而让模型基于外部知识回答。
注意这里最核心的是三个单词:
R → Retrieval
检索
A → Augmented
增强上下文
G → Generation
模型生成
所以 RAG 可以直接记:
先找资料,再带着资料回答。
一、为什么需要 RAG?
回到第一批讲过的知识。
LLM 的参数里虽然有大量知识,但是有几个问题:
LLM
├── 不知道你的私有数据
├── 知识存在截止时间
├── 参数中的知识难以实时更新
└── 可能产生 Hallucination
例如用户问:
刘凤伟博客里一共有多少篇 Redis 文章?
DeepSeek 本身不可能天然知道。
如果直接:
User
↓
DeepSeek
模型可能回答:
大约有 5 篇。
听起来很合理。
实际上可能:
3 篇
这就是幻觉。
二、加上 RAG 后发生什么?
变成:
用户:
“刘凤伟博客里一共有多少篇 Redis 文章?”
↓
Retrieval
↓
博客知识库查询:
Redis 分类:3篇
1. Redis缓存问题
2. Redis数据结构
3. Redis持久化
↓
把结果加入 Context
↓
DeepSeek:
“博客目前有3篇Redis相关文章……”
所以 RAG 的核心不是:
让模型“学会”你的知识。
而是:
模型回答的时候临时把相关知识交给它。
这个区别一定要掌握。
三、RAG 和 Fine-tuning 有什么区别?
这是高频面试题。
很多初学者会认为:
要让 AI 知道公司文档,就应该微调模型。
通常不是。
Fine-tuning
更适合改变:
模型的行为模式
回答风格
特定任务能力
输出格式习惯
例如:
输入病历
↓
固定输出JSON诊断结构
大量样本可以做微调。
RAG
更适合注入:
企业文档
博客文章
产品说明
实时知识
数据库数据
内部Wiki
因为这些:
经常变化
你可以直接背一句:
Fine-tuning 更偏向改变模型“怎么回答”,RAG 更偏向改变模型“回答时知道什么”。
虽然现实不是绝对二分,但面试里这个理解非常好用。
四、RAG 最重要的两个阶段
很多人只会:
用户 → Vector DB → LLM
这其实漏掉了一半。
完整 RAG 要拆成:
第一阶段:Indexing / Ingestion
离线构建知识库。
Markdown
PDF
数据库
网页
↓
数据清洗
↓
Document
↓
Chunk
↓
Metadata
↓
建立检索 Index
如果使用向量:
Chunk
↓
Embedding Model
↓
Vector
↓
Vector Database
第二阶段:Retrieval + Generation
真正用户提问时:
Query
↓
Query处理
↓
Retrieval
↓
Top-K Chunks
↓
可选Rerank
↓
构造Context
↓
Prompt
↓
LLM
↓
Answer
所以以后面试官:
介绍一下 RAG 的完整流程。
你千万不要只回答:
用户问题转成向量,然后去向量数据库搜。
标准回答应该从:
知识库构建阶段 + 在线问答阶段
两个阶段讲。
这会显得理解完整很多。
五、RAG 最核心的真正难点在哪里?
不是调用 LLM。
真正难的是:
用户真正需要的信息
↓
能不能准确找出来
因为:
Garbage In, Garbage Out。
如果 Retriever 找出来的是错的:
错误Chunk
↓
Context
↓
再强的LLM
↓
也很难回答正确
所以真正工程化 RAG:
Retrieval Quality 非常关键。
这句话一定记住。
六、RAG 能彻底消灭幻觉吗?
不能。
这是一个容易被问的坑。
即使:
Retrieve
↓
正确资料
↓
LLM
模型还是可能:
忽略资料
错误理解资料
混入参数知识
对资料进行错误推断
所以正确表达:
RAG 可以显著降低没有依据的回答,并提高知识实时性和可追溯性,但不能从理论上彻底消除幻觉。
进一步还可以配:
高质量Retrieval
+
低Temperature
+
明确System Prompt
+
Citation
+
拒答机制
+
结构化事实查询
一起提高可靠性。
七、RAG ≠ Vector Database
这是今天最值得背的一句话之一:
RAG 是一种系统架构思想,Vector Search 只是 Retrieval 的一种实现方式。
完全可以:
RAG
↓
MySQL查询
也可以:
RAG
↓
Elasticsearch
也可以:
RAG
↓
BM25
也可以:
RAG
↓
Vector DB
甚至:
RAG
↓
GitHub API
只要:
先检索外部知识
↓
加入Context
↓
辅助生成
都符合 RAG 的核心思想。
八、这正好对应你的博客
你的博客 README 明确写的是:
DeepSeek V4 Pro 流式对话、文章感知、静态知识检索,以及 Retrieval 2.0:结构化 Metadata 查询、按 Heading 内容分块、中英混合词法检索,不使用向量数据库。
所以你现在绝对不要对面试官说:
我的博客把文章做 Embedding 存到了 Vector DB。
因为当前源码不支持这个说法。
你的真实架构反而挺有意思:
Markdown / MDX
↓
静态 Knowledge Index
↓
Document + Chunk + Metadata
↓
用户Query
↓
Intent Classification
↓
Lexical Retrieval
+ Metadata Query
↓
Top Chunks
↓
Blog Context
↓
DeepSeek V4 Pro
九、你的 RAG 还有一个不错的设计:结构化问题不一定交给 LLM 猜
例如:
Vue 分类有多少篇文章?
你的代码会先判断:
metadata_count
然后直接根据 taxonomy 计算文章数量。
又比如:
Redis 分类有哪些文章?
判断:
metadata_list
直接构造事实列表。
这个设计非常值得讲。
因为:
“有多少篇?”
本质上不是一个语义生成问题。
而是一个:
确定性 Structured Query。
所以:
能确定计算
→ 不让LLM猜
需要自然语言解释
→ 再交给LLM
这是一种很好的 AI 工程思维。
十、面试官问:为什么你的博客用了 RAG?
你可以这样回答:
我的博客文章属于持续变化的私有知识,直接依赖 LLM 参数无法保证它知道当前站内有哪些文章,而且很容易对文章数量、标题和具体内容产生幻觉。
所以我在生成前增加了一层 Retrieval。构建阶段把博客文章整理为 Document 和按 Heading 划分的 Chunk,同时保存 Category、Tag、URL 等 Metadata;用户提问后先进行意图识别和站内检索,再将相关 Context 交给 DeepSeek。
对文章数量和列表这类确定性问题,我甚至不会让模型自己推测,而是直接从结构化 Metadata 生成事实,再交给模型表达。这样比单纯 Prompt 问模型可靠得多。
这一段非常值得背。
第五章:Chunk —— RAG 最容易被追问的核心
现在进入今天第二个重点。
一、Chunk 到底是什么?
先背:
Chunk 是把原始 Document 切分得到的较小语义单元,是 RAG 中实际参与检索和 Context 构造的基本单位之一。
简单说:
Document
= 一本书
Chunk
= 一本书中的某几段 / 某一小节
二、为什么必须 Chunk?
假设你有一篇:
《Vue3源码完全解析》
20000字
用户问:
Vue3 Diff 为什么需要最长递增子序列?
如果整个 Document 检索:
20000字全部塞进Context
问题很多:
Token多
↓
成本高
噪音多
↓
模型注意力被分散
Context长
↓
TTFT变慢
粒度粗
↓
Retrieval不精准
于是拆:
《Vue3源码》
Chunk 1
响应式
Chunk 2
Virtual DOM
Chunk 3
Diff算法
Chunk 4
最长递增子序列
Chunk 5
组件更新
用户问 LIS:
Query
↓
Chunk 4
只需要把真正相关的内容送给模型。
所以 Chunk 最大价值:
提高 Retrieval 粒度,同时控制 Context 成本。
三、Chunk Size 为什么特别重要?
如果 Chunk 太大:
一个Chunk = 5000字
问题:
检索粒度粗
噪音多
Token多
Context利用率下降
如果 Chunk 太小:
一个Chunk = 1句话
又会:
语义被切碎
上下文丢失
检索命中了半句话却无法理解
Chunk数量暴涨
所以:
Chunk Size 本质上是在“检索精度”和“语义完整性”之间做平衡。
这句话特别适合面试。
四、常见 Chunk 方法
你不用背 20 种。
掌握四种足够。
1. Fixed-size Chunk
例如:
每500 Token切一块
优点:
简单
稳定
容易实现
缺点:
完全不理解文档结构
例如把:
Vue Diff算法
讲到一半直接切开。
2. Fixed-size + Overlap
例如:
Chunk1
Token 0 - 500
Chunk2
Token 450 - 950
Chunk3
Token 900 - 1400
中间:
Overlap = 50
目的是:
防止重要语义刚好落在两个 Chunk 的边界。
但代价:
重复内容增加
索引变大
召回结果可能高度重复
所以:
Overlap 不是越大越好。
3. Recursive Chunking
根据:
标题
段落
换行
句子
字符
逐层尝试切分。
比单纯字符切割更加合理。
4. Semantic / Structure-aware Chunk
按照:
Markdown Heading
HTML Section
代码函数
PDF章节
文档语义
进行划分。
这是你博客最相关的方式。
五、你的博客为什么特别适合 Heading Chunk?
因为博客本身就是 Markdown:
# Vue3 Diff算法
## 什么是Diff
内容……
## 双端比较
内容……
## 最长递增子序列
内容……
天然已经存在:
人工提供的语义边界。
所以完全没必要:
每500字暴力切
可以:
# Vue3 Diff算法
├── ## 什么是Diff
│ → Chunk
│
├── ## 双端比较
│ → Chunk
│
└── ## 最长递增子序列
→ Chunk
README 明确说明当前 Retrieval 2.0 使用的是 按 Heading 的内容分块。
六、你的 KnowledgeChunk 里面到底有什么?
源码定义:
KnowledgeChunk {
id
articleId
articleTitle
articleSlug
url
anchor
heading
headingPath
category
tags
order
text
}
重点不是字段名字。
而是理解它为什么这样设计。
text
真正参与检索的正文。
heading
当前块:
最长递增子序列
headingPath
例如:
Vue3源码
↓
Diff算法
↓
最长递增子序列
保存:
[
"Vue3源码",
"Diff算法",
"最长递增子序列"
]
即使 Chunk 只有一小段:
“它用于尽量复用已有节点……”
模型/检索器依然知道:
它属于
Vue3 → Diff → LIS
这就是:
保留 Hierarchical Context。
非常值得讲。
七、为什么 Metadata 很重要?
每个 Chunk 不应该只有:
text
最好保留:
title
category
tags
url
heading
articleId
因为以后可以做:
Metadata Filtering
只查 category = Redis
Ranking
Tag 命中提高分数
Citation
模型回答:
来源:
《Vue3 Diff算法》
/blog/vue-diff#lis
Parent Document Retrieval
从 Chunk 找回整篇 Article。
所以:
一个好的 Chunk 不只是文本,还应该保留来源和结构 Metadata。
八、你博客的 URL + Anchor 也是一个亮点
例如检索到:
《Vue3 Diff算法》
Heading:
最长递增子序列
可以返回:
/blog/vue-diff#最长递增子序列
而不是:
/blog/vue-diff
用户可以直接跳到相关章节。
你的 KnowledgeChunk 本身就设计了:
url
anchor
heading
这些字段。
这叫:
Chunk-level Citation / Deep Link。
九、你的项目 Chunk 目前应该怎么真实描述?
这个地方一定要严谨。
根据我们目前读取到的仓库代码和 README,可以确认:
按Heading进行内容分块
并保留:
heading
headingPath
anchor
category
tags
article关系
但是我们目前看到的这些源码没有展示 Chunk 构建脚本具体使用多大的字符/Token 上限,以及是否进一步使用固定 Overlap。
所以面试时不要自己编:
“我每 512 Token 切块,Overlap 50。”
除非后续代码确认真的如此。
当前可以老老实实说:
我主要采用基于 Markdown Heading 的结构化 Chunk,而不是单纯固定字符切块,同时保留 HeadingPath 和 Metadata。
这已经足够好。
十、如果面试官追问:Heading 下面特别长怎么办?
这时候你可以说设计思路,不要假装已经实现:
如果未来出现一个 Heading 下几千甚至上万 Token 的情况,我会增加二级切分策略:首先以 Heading 保证语义边界,如果 Section 超过阈值,再在 Section 内按照段落或 Token Size 做递归切分,并保留少量 Overlap,同时继承原来的 HeadingPath 和 Metadata。
这句话很专业。
本质:
Heading
↓
过长?
No
↓
直接一个Chunk
Yes
↓
Paragraph / Token Recursive Split
↓
Overlap
十一、Chunk 面试标准答案
面试官:
RAG 为什么需要 Chunk?你的 Chunk 怎么做?
你背:
Chunk 的作用是把较大的 Document 拆成适合检索的语义单元。如果 Chunk 太大,检索粒度会比较粗,而且会带来更多无关 Context 和 Token 成本;如果 Chunk 太小,又容易丢失语义上下文,所以需要在检索精度和语义完整性之间平衡。
我的博客内容本身是 Markdown,有天然的 Heading 结构,所以没有单纯按照固定字符暴力切分,而是以 Heading 作为主要语义边界,同时给 Chunk 保留 articleId、Heading、HeadingPath、Category、Tags、URL Anchor 等 Metadata。这样检索命中的不仅是一段文字,还知道它属于哪篇文章、哪个章节,并且可以返回到具体 Heading 的真实来源。
建议完整背下来。
第六章:Embedding、Vector Search、BM25 和 Hybrid Search
这一章最大的目标:
以后别人一说:
Vector Database。
你不会再觉得“很高级很神秘”。
一、先理解最大问题
假设知识库里写:
“Vue3 的响应式底层使用 Proxy 拦截对象操作。”
用户问:
“Vue3 是怎么监听数据变化的?”
关键词并不完全一样:
知识:
响应式
Proxy
拦截对象操作
Query:
监听数据变化
纯关键词搜索可能:
匹配不强
但人一看就知道:
意思非常接近。
这就是 Semantic Search 要解决的问题。
二、Embedding 是什么?
背:
Embedding 是通过 Embedding Model 把文本映射成一个高维稠密向量,使语义相近的文本在向量空间中的距离也更接近。
例如:
“Vue响应式原理”
↓
Embedding Model
[0.13, -0.72, 0.28, 0.91, ...]
另外:
“Vue怎么监听数据变化”
↓
[0.14, -0.69, 0.31, 0.88, ...]
两个向量方向很接近。
于是:
语义相似。
三、Embedding 不是“把文章压缩成数字”
这种说法太粗糙。
更准确:
Embedding 是将文本表示到一个高维向量空间,使文本中的某些语义关系能够通过向量距离或相似度进行计算。
注意:
Embedding Model
≠
LLM本身必须生成答案
它通常是独立模型。
四、Vector Search 怎么工作?
知识库构建:
Chunk A
↓
Embedding
↓
Vector A
Chunk B
↓
Embedding
↓
Vector B
Chunk C
↓
Embedding
↓
Vector C
用户提问:
Query
↓
Embedding
↓
Query Vector
然后比较:
Query Vector
和
Vector A/B/C
谁最相似。
最终:
Top 1
Top 2
Top 3
五、Cosine Similarity 是什么?
你作为数学专业更应该能讲清楚,但 AI 应用面试不需要推公式。
记:
Cosine Similarity 主要比较两个向量方向的相似程度。
直观理解:
方向接近
→ semantic similarity 高
方向差异大
→ similarity 低
一般:
Query
↓
计算向量相似度
↓
按相似度排序
↓
Top-K
够了。
六、Vector Database 又是什么?
Vector DB 不是“AI 数据库”。
它主要解决:
大规模向量的存储、索引、相似度搜索和 Metadata Filtering。
常见:
Milvus
Qdrant
Pinecone
Weaviate
Chroma
以及:
PostgreSQL + pgvector
里面大概存:
{
"id": "chunk_128",
"vector": [0.13, -0.72, 0.28],
"text": "Vue3使用Proxy...",
"metadata": {
"category": "Vue",
"article": "Vue3响应式原理"
}
}
真正查询:
Query Vector
↓
ANN Search
↓
Top-K Similar Vectors
七、为什么大规模 Vector Search 不直接全部暴力比较?
假设:
1000 个 Vector
逐个算可以。
但是:
100,000,000 个 Vector
每次都:
Query × 1亿
代价巨大。
所以 Vector DB 通常使用:
Approximate Nearest Neighbor,ANN,近似最近邻搜索。
常见索引比如:
HNSW
IVF
你不需要现在深入算法。
知道:
通过索引牺牲一点绝对精确性,换取大规模向量检索速度。
已经够面试。
八、那 BM25 又是什么?
BM25 是传统 Information Retrieval 领域非常经典的词法检索 Ranking 算法。
你不用背复杂公式。
掌握三个核心直觉:
1. Query词在Document出现
→ 加分
2. 一个词越稀有
→ 越重要
3. Document不能因为特别长、重复出现很多次
→ 无限加分
例如 Query:
Vue Proxy
文章 A:
Vue3响应式为什么使用Proxy
分数很高。
而:
我今天去超市买苹果
基本 0。
九、TF-IDF 思想你也最好懂
BM25 与 TF-IDF 有联系。
核心理解:
TF
Term Frequency。
一个词:
Proxy
在当前文章频繁出现:
可能很重要。
IDF
Inverse Document Frequency。
如果:
“的”
每篇文章都有:
区分能力很低。
但:
“Longest Increasing Subsequence”
只有极少文章有:
区分能力很强。
所以:
稀有且匹配Query的词
→ 权重更高
这个逻辑必须懂。
十、Keyword Search、BM25 和 Vector Search 的区别
记这张表。
| 方法 | 主要看什么 | 优势 | 弱点 |
|---|---|---|---|
| Keyword | 字符/词是否匹配 | 简单、精确 | 同义表达弱 |
| BM25 | 词频、稀有度、文档长度 | 成熟、准确、可解释 | 语义理解有限 |
| Vector | Embedding语义距离 | 同义、自然语言强 | 成本、可解释性较弱 |
例如:
Query
Redis如何避免大量缓存同时失效?
文档:
Redis缓存雪崩解决方案
Vector Search 很容易理解:
“大量缓存同时失效”
≈
“缓存雪崩”
而纯词法可能需要:
同义词扩展
才能找到。
十一、Hybrid Search 是什么?
这也是一个非常值得背的词。
Hybrid Search 通常将词法检索和向量语义检索结合起来,让 Exact Match 与 Semantic Match 互相补充。
例如:
Query
↓
┌───────┴────────┐
↓ ↓
BM25 Vector
↓ ↓
Keyword结果 Semantic结果
└───────┬────────┘
↓
Score Fusion
↓
Top-K
为什么好?
因为技术知识里很多词:
Vue3
useEffect
Promise.all
MCP
RFC 6455
本身 Exact Keyword 非常重要。
但:
“缓存全部一起过期”
和:
“Redis雪崩”
又需要 Semantic Search。
所以:
Lexical 擅长“字一样”,Vector 擅长“意思一样”。
Hybrid:
两个都要。
这句话超级好记。
十二、一个更高级的真实 RAG Retrieval Pipeline
未来做更完整的 Agent RAG,可以:
Query
↓
Query Rewrite / Expansion
↓
┌──────────────┐
│ BM25 │
│ Vector │
│ Metadata │
└──────┬───────┘
↓
Candidate Retrieval
例如 Top 20
↓
Reranker
↓
Top 4
↓
Context Compression
↓
LLM
这里:
Retrieval 负责“召回”。
Reranker 负责“把真正相关的排前面”。
第 7 章我们会重点讲 Rerank。
十三、现在看你的博客到底用了什么
这里非常重要。
你的博客目前没有 Vector Search。
README 明确:
不使用向量数据库。
而且当前依赖中也没有体现出典型 Vector DB/Embedding 客户端;AI 相关核心依赖主要是自身 TypeScript 实现。
你实现的是:
Custom Lexical Retriever。
也就是:
Query
↓
Normalize
↓
中文分词
↓
Remove Stop Terms
↓
Synonym Expansion
↓
Weighted Lexical Matching
↓
Top Chunk
十四、你的 Retriever 其实比“includes() 搜文章”复杂
源码首先会:
Intl.Segmenter('zh-CN')
做中文词语切分。
然后过滤一些:
这个
那个
怎么
什么
文章
哪些
多少
等低价值 Stop Terms。
接着:
Synonym Expansion
例如源码已经定义:
avalanche → 雪崩
penetration → 穿透
breakdown → 击穿
lock → 锁
这其实就是在补:
Lexical Retrieval 不理解同义语义的弱点。
十五、你的 Chunk Ranking 怎么算?
这一段非常值得你理解。
对 Chunk 当前使用了不同字段权重:
articleTitle × 25
heading × 10
headingPath × 7
text × 2
也就是:
如果用户:
Vue3 Diff算法
一篇文章标题就叫:
Vue3 Diff算法详解
应该强烈优先。
比正文偶然出现一次:
Vue3 Diff
更可信。
这就是:
Field-weighted Ranking。
十六、为什么 Title 权重要大于正文?
因为:
文章标题:
“Vue3 Diff算法与最长递增子序列”
说明:
整篇文章核心就是 Diff。
而另一篇:
“React性能优化”
正文某一段可能顺便提了一句:
Vue Diff。
如果只是:
includes()
两个都有命中。
但语义重要程度显然不同。
所以:
Title ×25
Text ×2
是在编码:
不同字段具有不同的 Retrieval Signal。
非常值得讲。
十七、Document Ranking 又有另一套权重
你的 rankKnowledge():
title 8
tags 6
category 5
description 3
excerpt 1
同样体现:
标题 > Tag > Category > Description > 普通摘要正文
这是一个简单但是很清楚的 IR 思路。
十八、你的 Top-K 是多少?
当前源码里:
rankKnowledge limit 默认 = 4
Chunk 排序:
.slice(0, 4)
Sources:
最多4个
所以你可以真实说:
当前知识规模比较小,我先限制 Top-4 Context,避免大量弱相关文本进入 Prompt。
不过注意:
Top-4 不一定是永远最优参数。
以后应该:
Evaluation
来调。
十九、所以你的博客算 RAG 吗?
可以从系统思想上称为 轻量 RAG / Retrieval-Augmented QA。
因为确实:
Retrieve external blog knowledge
↓
Augment model Context
↓
Generate with LLM
只是它的 Retriever 是:
Metadata
+
Lexical
+
Weighted Ranking
而不是:
Embedding
+
Vector DB
这反而应该主动讲清楚。
二十、为什么你目前不用 Vector DB?
这是一道几乎一定能把你项目讲漂亮的问题。
不要回答:
因为博客小,用不到。
虽然方向对,但太简单。
完整答案可以背:
我目前没有为了所谓 AI 技术栈而强行引入 Vector Database。博客现阶段知识规模比较小,而且文章天然具有 Title、Heading、Tag、Category 这类高质量结构化 Metadata,同时大量内容是 Vue、Redis、Promise、MCP 这种关键词辨识度非常高的技术内容。
所以当前我使用 Heading Chunk + Metadata + 中英混合词法检索 + Field-weighted Ranking,可以得到成本很低、可解释性很强的 Retrieval,而且不需要额外的 Embedding API、Vector DB 和索引同步。
如果以后文章规模明显扩大,或者发现用户大量使用同义自然语言导致 Recall 不足,我会引入 Embedding Retrieval,再和现有 Lexical Retrieval 做 Hybrid Search,而不是简单把当前方案全部替换掉。
这一段非常强。
而且完全符合你的项目真实方向。
二十一、这一章最容易掉进的几个坑
你一定要避免。
错误 1
RAG 就是向量数据库。
❌
正确:
RAG 是 Retrieval + Context Augmentation + Generation。
错误 2
Embedding 就是把文字加密成数字。
❌
Embedding 是:
语义向量表示。
错误 3
Vector Search 一定比 BM25 好。
❌
例如用户搜索:
ERR_CONNECTION_REFUSED
Exact Match 往往非常重要。
错误 4
RAG 可以解决所有幻觉。
❌
只能降低。
错误 5
Chunk 越小越精准。
❌
太小会丢语义。
错误 6
Top-K 越大越好。
❌
Top-K 太大会:
噪音 ↑
Token ↑
TTFT ↑
甚至回答质量 ↓
第二批真正需要你形成的知识树
现在把三章串起来:
RAG
│
┌──────────┴─────────┐
│ │
Indexing Query Time
│ │
Document Query
↓ ↓
Chunk Retrieval
↓ │
Metadata ┌──────────┼─────────┐
↓ ↓ ↓ ↓
Index Keyword BM25 Vector
│
Embedding
│
Vector DB
│ │
└─────────────┬───────────────┘
↓
Hybrid
↓
Top-K
↓
Rerank
↓
Context
↓
LLM
以后看到:
RAG
Chunk
Embedding
Vector DB
BM25
Hybrid Search
不能把它们当 6 个孤立单词。
它们全部在这棵树上。
现在给你一个面试场景
面试官:
你简历写了了解 RAG,讲一下 RAG。
你不能只说:
RAG 就是检索增强生成,把知识库内容检索出来给大模型。
太短。
你应该说:
RAG 是 Retrieval-Augmented Generation,本质是在模型生成之前引入外部知识。完整流程我一般分两部分理解:离线阶段先对 Document 清洗、Chunk、补 Metadata 并建立检索 Index;在线阶段将用户 Query 做 Retrieval,召回 Top-K 相关 Chunk,必要时再 Rerank,最后将高相关内容作为 Context 和用户问题一起交给 LLM。
Retrieval 不一定需要 Vector Database,可以是 BM25、Keyword、数据库查询或者 Vector Search。Vector Retrieval 的核心是通过 Embedding 将 Query 和 Chunk 映射到同一向量空间,再进行相似度搜索。
我个人博客目前没有强行引入 Vector DB,而是基于 Markdown Heading Chunk、Metadata、中文分词、同义词扩展和字段加权进行轻量 Lexical Retrieval。当前知识规模下可解释性和成本更好;如果以后语义 Recall 成为瓶颈,我会再加入 Embedding,与现有 Retriever 做 Hybrid Search。
如果你能自然讲出这一段:
“了解 RAG”这个简历描述你基本撑得住。
最后:你每天要抄写背诵的三段
下面才是今天真正要反复背的部分。
第一段:RAG
RAG 是 Retrieval-Augmented Generation,核心是在 LLM 生成前先从外部知识源检索相关资料,再将资料作为 Context 提供给模型,让模型基于外部知识回答。
完整 RAG 分为知识库构建和在线问答两个阶段。构建阶段包括 Document、Chunk、Metadata 和 Index;在线阶段包括 Query、Retrieval、Top-K、可选 Rerank、Context 构造和 LLM Generation。
RAG 不等于 Vector Database,Vector Search 只是 Retrieval 的一种实现方式。RAG 可以提高知识实时性、私有知识能力和回答可追溯性,但不能彻底消除 Hallucination。
第二段:Chunk
Chunk 是将较大的 Document 拆成适合检索的小型语义单元。Chunk 太大会导致检索粒度粗、噪音和 Token 增加;Chunk 太小又会破坏语义完整性,所以本质是在 Retrieval Precision 和 Semantic Integrity 之间做平衡。
常见方案包括 Fixed-size、Overlap、Recursive 和 Semantic Chunking。我的博客基于 Markdown Heading 做结构化 Chunk,并保存 HeadingPath、Article、Category、Tags 和 URL Anchor 等 Metadata,因此命中一个 Chunk 时不仅能获得正文,还能知道它属于哪篇文章和哪个章节。
第三段:Embedding / Retrieval
Embedding 是通过模型把文本映射成高维稠密向量,使语义相似的文本在向量空间中更加接近。Vector Search 会分别对 Query 和 Chunk 生成 Embedding,然后通过 Cosine Similarity 等方法寻找 Top-K 相似内容,Vector Database 负责大规模向量存储、索引和近似最近邻检索。
BM25 属于词法检索,强调关键词匹配、词频、词的稀有程度和文档长度;Vector Search 更擅长语义相似。Hybrid Search 将 Lexical Retrieval 与 Vector Retrieval 结合,既保留 Exact Match,又获得 Semantic Recall。
我的博客目前采用的是轻量 Lexical Retriever,而不是 Vector Search:会进行中文分词、停用词过滤、部分同义词扩展,并对 Article Title、Heading、HeadingPath 和正文赋不同权重,然后选择 Top Chunk 作为 LLM Context。
第二批终极速记卡
今天最后只看这一块也必须能展开:
【RAG】
RAG =
Retrieve
+
Augment Context
+
Generate
两阶段:
Indexing:
Document
→ Clean
→ Chunk
→ Metadata
→ Index
Query Time:
Query
→ Retrieve
→ Top-K
→ Rerank
→ Context
→ LLM
RAG ≠ Vector DB
【Chunk】
Document
↓
Chunk
太大:
噪音、Token、粗粒度
太小:
语义碎片化
常见:
Fixed
Overlap
Recursive
Semantic
我的博客:
Markdown Heading Chunk
+
HeadingPath
+
Metadata
+
Anchor
【Embedding】
Text
↓
Embedding Model
↓
Vector
Query Vector
≈
Chunk Vector
↓
Similarity Search
↓
Top-K
【Retrieval】
Keyword
= 精确词匹配
BM25
= TF + IDF + 长度归一思想
Vector
= Semantic Similarity
Hybrid
= Lexical + Vector
【我的博客】
不是:
Embedding + Vector DB
而是:
Query
↓
Intent Classification
↓
中文分词
↓
Stop Terms
↓
Synonym Expansion
↓
Metadata / Weighted Lexical Retrieval
↓
Title ×25
Heading ×10
HeadingPath ×7
Text ×2
↓
Top-4
↓
BLOG CONTEXT
↓
DeepSeek
你第二批真正的验收题只有一个:
“假如明天面试官说:你不是说你会 RAG 吗?从我的 Markdown 文档进入系统开始,一直到 LLM 回答用户,中间完整发生了什么?为什么要 Chunk?Embedding 干什么?为什么你的项目又没用向量数据库?”
你现在应该已经能够连续讲 5~8 分钟,而且前后逻辑不断。
下一批 第 7~9 章:Retrieval / Rerank → Agent → Tool Calling / Function Calling 会出现一个非常关键的转折:
RAG 解决“模型不知道什么”,Agent 开始解决“模型不能做什么”。
从下一批开始,我们就真正进入 AI Agent。