AI

第二篇4-6章

这一批是整个 AI Agent 速成里最重要的一批,因为它决定你以后简历写 RAG 时,是“只知道一句检索增强生成”,还是面试官继续追问 5 层你都能接住。

AI
第二篇4-6章文章封面

当前Fine-tuning

好,第二批 第 4~6 章正式开始。

这一批是整个 AI Agent 速成里最重要的一批,因为它决定你以后简历写 RAG 时,是“只知道一句检索增强生成”,还是面试官继续追问 5 层你都能接住。

今天你要彻底打通这条链路:

知识库
 ↓
Document
 ↓
Chunk
 ↓
Index
 ↓
用户 Query
 ↓
Retrieval
 ↓
Top-K Chunk
 ↓
Context
 ↓
LLM
 ↓
Grounded Answer

然后再搞懂第二条:

Retrieval
├── Keyword / Lexical Search
├── BM25
├── Vector Search
│      └── Embedding
└── Hybrid Search

最重要的是:我会严格区分“通用 RAG 知识”和“你博客现在真实实现了什么”,这样以后面试绝对不要把没有做过的 Vector DB、Embedding 硬说成已经做过。


第四章:RAG —— 真正理解“检索增强生成”

先把一句话背下来。

RAG,Retrieval-Augmented Generation,检索增强生成,是在 LLM 生成答案之前,先从外部知识源检索与用户问题相关的信息,再把检索结果作为 Context 提供给模型,从而让模型基于外部知识回答。

注意这里最核心的是三个单词:

R → Retrieval
检索

A → Augmented
增强上下文

G → Generation
模型生成

所以 RAG 可以直接记:

先找资料,再带着资料回答。


一、为什么需要 RAG?

回到第一批讲过的知识。

LLM 的参数里虽然有大量知识,但是有几个问题:

LLM
├── 不知道你的私有数据
├── 知识存在截止时间
├── 参数中的知识难以实时更新
└── 可能产生 Hallucination

例如用户问:

刘凤伟博客里一共有多少篇 Redis 文章?

DeepSeek 本身不可能天然知道。

如果直接:

User
 ↓
DeepSeek

模型可能回答:

大约有 5 篇。

听起来很合理。

实际上可能:

3 篇

这就是幻觉。


二、加上 RAG 后发生什么?

变成:

用户:
“刘凤伟博客里一共有多少篇 Redis 文章?”

            ↓

       Retrieval

            ↓

博客知识库查询:

Redis 分类:3篇
1. Redis缓存问题
2. Redis数据结构
3. Redis持久化

            ↓

把结果加入 Context

            ↓

DeepSeek:

“博客目前有3篇Redis相关文章……”

所以 RAG 的核心不是:

让模型“学会”你的知识。

而是:

模型回答的时候临时把相关知识交给它。

这个区别一定要掌握。


三、RAG 和 Fine-tuning 有什么区别?

这是高频面试题。

很多初学者会认为:

要让 AI 知道公司文档,就应该微调模型。

通常不是。

Fine-tuning

更适合改变:

模型的行为模式
回答风格
特定任务能力
输出格式习惯

例如:

输入病历
↓
固定输出JSON诊断结构

大量样本可以做微调。


RAG

更适合注入:

企业文档
博客文章
产品说明
实时知识
数据库数据
内部Wiki

因为这些:

经常变化

你可以直接背一句:

Fine-tuning 更偏向改变模型“怎么回答”,RAG 更偏向改变模型“回答时知道什么”。

虽然现实不是绝对二分,但面试里这个理解非常好用。


四、RAG 最重要的两个阶段

很多人只会:

用户 → Vector DB → LLM

这其实漏掉了一半。

完整 RAG 要拆成:

第一阶段:Indexing / Ingestion

离线构建知识库。

Markdown
PDF
数据库
网页

 ↓

数据清洗

 ↓

Document

 ↓

Chunk

 ↓

Metadata

 ↓

建立检索 Index

如果使用向量:

Chunk
 ↓
Embedding Model
 ↓
Vector
 ↓
Vector Database

第二阶段:Retrieval + Generation

真正用户提问时:

Query

 ↓

Query处理

 ↓

Retrieval

 ↓

Top-K Chunks

 ↓

可选Rerank

 ↓

构造Context

 ↓

Prompt

 ↓

LLM

 ↓

Answer

所以以后面试官:

介绍一下 RAG 的完整流程。

你千万不要只回答:

用户问题转成向量,然后去向量数据库搜。

标准回答应该从:

知识库构建阶段 + 在线问答阶段

两个阶段讲。

这会显得理解完整很多。


五、RAG 最核心的真正难点在哪里?

不是调用 LLM。

真正难的是:

用户真正需要的信息

        ↓

能不能准确找出来

因为:

Garbage In, Garbage Out。

如果 Retriever 找出来的是错的:

错误Chunk
 ↓
Context
 ↓
再强的LLM
 ↓
也很难回答正确

所以真正工程化 RAG:

Retrieval Quality 非常关键。

这句话一定记住。


六、RAG 能彻底消灭幻觉吗?

不能。

这是一个容易被问的坑。

即使:

Retrieve
 ↓
正确资料
 ↓
LLM

模型还是可能:

忽略资料
错误理解资料
混入参数知识
对资料进行错误推断

所以正确表达:

RAG 可以显著降低没有依据的回答,并提高知识实时性和可追溯性,但不能从理论上彻底消除幻觉。

进一步还可以配:

高质量Retrieval
+
低Temperature
+
明确System Prompt
+
Citation
+
拒答机制
+
结构化事实查询

一起提高可靠性。


七、RAG ≠ Vector Database

这是今天最值得背的一句话之一:

RAG 是一种系统架构思想,Vector Search 只是 Retrieval 的一种实现方式。

完全可以:

RAG
    ↓
MySQL查询

也可以:

RAG
    ↓
Elasticsearch

也可以:

RAG
    ↓
BM25

也可以:

RAG
    ↓
Vector DB

甚至:

RAG
    ↓
GitHub API

只要:

先检索外部知识
↓
加入Context
↓
辅助生成

都符合 RAG 的核心思想。


八、这正好对应你的博客

你的博客 README 明确写的是:

DeepSeek V4 Pro 流式对话、文章感知、静态知识检索,以及 Retrieval 2.0:结构化 Metadata 查询、按 Heading 内容分块、中英混合词法检索,不使用向量数据库。

所以你现在绝对不要对面试官说:

我的博客把文章做 Embedding 存到了 Vector DB。

因为当前源码不支持这个说法。

你的真实架构反而挺有意思:

Markdown / MDX

       ↓

静态 Knowledge Index

       ↓

Document + Chunk + Metadata

       ↓

用户Query

       ↓

Intent Classification

       ↓

Lexical Retrieval
+ Metadata Query

       ↓

Top Chunks

       ↓

Blog Context

       ↓

DeepSeek V4 Pro

九、你的 RAG 还有一个不错的设计:结构化问题不一定交给 LLM 猜

例如:

Vue 分类有多少篇文章?

你的代码会先判断:

metadata_count

然后直接根据 taxonomy 计算文章数量。

又比如:

Redis 分类有哪些文章?

判断:

metadata_list

直接构造事实列表。

这个设计非常值得讲。

因为:

“有多少篇?”

本质上不是一个语义生成问题。

而是一个:

确定性 Structured Query。

所以:

能确定计算
→ 不让LLM猜

需要自然语言解释
→ 再交给LLM

这是一种很好的 AI 工程思维。


十、面试官问:为什么你的博客用了 RAG?

你可以这样回答:

我的博客文章属于持续变化的私有知识,直接依赖 LLM 参数无法保证它知道当前站内有哪些文章,而且很容易对文章数量、标题和具体内容产生幻觉。

所以我在生成前增加了一层 Retrieval。构建阶段把博客文章整理为 Document 和按 Heading 划分的 Chunk,同时保存 Category、Tag、URL 等 Metadata;用户提问后先进行意图识别和站内检索,再将相关 Context 交给 DeepSeek。

对文章数量和列表这类确定性问题,我甚至不会让模型自己推测,而是直接从结构化 Metadata 生成事实,再交给模型表达。这样比单纯 Prompt 问模型可靠得多。

这一段非常值得背。


第五章:Chunk —— RAG 最容易被追问的核心

现在进入今天第二个重点。


一、Chunk 到底是什么?

先背:

Chunk 是把原始 Document 切分得到的较小语义单元,是 RAG 中实际参与检索和 Context 构造的基本单位之一。

简单说:

Document
= 一本书

Chunk
= 一本书中的某几段 / 某一小节

二、为什么必须 Chunk?

假设你有一篇:

《Vue3源码完全解析》

20000字

用户问:

Vue3 Diff 为什么需要最长递增子序列?

如果整个 Document 检索:

20000字全部塞进Context

问题很多:

Token多
 ↓
成本高

噪音多
 ↓
模型注意力被分散

Context长
 ↓
TTFT变慢

粒度粗
 ↓
Retrieval不精准

于是拆:

《Vue3源码》

Chunk 1
响应式

Chunk 2
Virtual DOM

Chunk 3
Diff算法

Chunk 4
最长递增子序列

Chunk 5
组件更新

用户问 LIS:

Query
 ↓
Chunk 4

只需要把真正相关的内容送给模型。

所以 Chunk 最大价值:

提高 Retrieval 粒度,同时控制 Context 成本。


三、Chunk Size 为什么特别重要?

如果 Chunk 太大:

一个Chunk = 5000字

问题:

检索粒度粗
噪音多
Token多
Context利用率下降

如果 Chunk 太小:

一个Chunk = 1句话

又会:

语义被切碎
上下文丢失
检索命中了半句话却无法理解
Chunk数量暴涨

所以:

Chunk Size 本质上是在“检索精度”和“语义完整性”之间做平衡。

这句话特别适合面试。


四、常见 Chunk 方法

你不用背 20 种。

掌握四种足够。

1. Fixed-size Chunk

例如:

每500 Token切一块

优点:

简单
稳定
容易实现

缺点:

完全不理解文档结构

例如把:

Vue Diff算法

讲到一半直接切开。


2. Fixed-size + Overlap

例如:

Chunk1
Token 0 - 500

Chunk2
Token 450 - 950

Chunk3
Token 900 - 1400

中间:

Overlap = 50

目的是:

防止重要语义刚好落在两个 Chunk 的边界。

但代价:

重复内容增加
索引变大
召回结果可能高度重复

所以:

Overlap 不是越大越好。


3. Recursive Chunking

根据:

标题
段落
换行
句子
字符

逐层尝试切分。

比单纯字符切割更加合理。


4. Semantic / Structure-aware Chunk

按照:

Markdown Heading
HTML Section
代码函数
PDF章节
文档语义

进行划分。

这是你博客最相关的方式。


五、你的博客为什么特别适合 Heading Chunk?

因为博客本身就是 Markdown:

# Vue3 Diff算法

## 什么是Diff

内容……

## 双端比较

内容……

## 最长递增子序列

内容……

天然已经存在:

人工提供的语义边界。

所以完全没必要:

每500字暴力切

可以:

# Vue3 Diff算法

 ├── ## 什么是Diff
 │      → Chunk
 │
 ├── ## 双端比较
 │      → Chunk
 │
 └── ## 最长递增子序列
        → Chunk

README 明确说明当前 Retrieval 2.0 使用的是 按 Heading 的内容分块。


六、你的 KnowledgeChunk 里面到底有什么?

源码定义:

KnowledgeChunk {
    id

    articleId
    articleTitle
    articleSlug

    url
    anchor

    heading
    headingPath

    category
    tags

    order
    text
}

重点不是字段名字。

而是理解它为什么这样设计。


text

真正参与检索的正文。


heading

当前块:

最长递增子序列

headingPath

例如:

Vue3源码
  ↓
Diff算法
  ↓
最长递增子序列

保存:

[
 "Vue3源码",
 "Diff算法",
 "最长递增子序列"
]

即使 Chunk 只有一小段:

“它用于尽量复用已有节点……”

模型/检索器依然知道:

它属于
Vue3 → Diff → LIS

这就是:

保留 Hierarchical Context。

非常值得讲。


七、为什么 Metadata 很重要?

每个 Chunk 不应该只有:

text

最好保留:

title
category
tags
url
heading
articleId

因为以后可以做:

Metadata Filtering

只查 category = Redis

Ranking

Tag 命中提高分数

Citation

模型回答:

来源:
《Vue3 Diff算法》
/blog/vue-diff#lis

Parent Document Retrieval

从 Chunk 找回整篇 Article。

所以:

一个好的 Chunk 不只是文本,还应该保留来源和结构 Metadata。


八、你博客的 URL + Anchor 也是一个亮点

例如检索到:

《Vue3 Diff算法》

Heading:
最长递增子序列

可以返回:

/blog/vue-diff#最长递增子序列

而不是:

/blog/vue-diff

用户可以直接跳到相关章节。

你的 KnowledgeChunk 本身就设计了:

url
anchor
heading

这些字段。

这叫:

Chunk-level Citation / Deep Link。


九、你的项目 Chunk 目前应该怎么真实描述?

这个地方一定要严谨。

根据我们目前读取到的仓库代码和 README,可以确认:

按Heading进行内容分块

并保留:
heading
headingPath
anchor
category
tags
article关系

但是我们目前看到的这些源码没有展示 Chunk 构建脚本具体使用多大的字符/Token 上限,以及是否进一步使用固定 Overlap。

所以面试时不要自己编:

“我每 512 Token 切块,Overlap 50。”

除非后续代码确认真的如此。

当前可以老老实实说:

我主要采用基于 Markdown Heading 的结构化 Chunk,而不是单纯固定字符切块,同时保留 HeadingPath 和 Metadata。

这已经足够好。


十、如果面试官追问:Heading 下面特别长怎么办?

这时候你可以说设计思路,不要假装已经实现:

如果未来出现一个 Heading 下几千甚至上万 Token 的情况,我会增加二级切分策略:首先以 Heading 保证语义边界,如果 Section 超过阈值,再在 Section 内按照段落或 Token Size 做递归切分,并保留少量 Overlap,同时继承原来的 HeadingPath 和 Metadata。

这句话很专业。

本质:

Heading
 ↓
过长?

No
 ↓
直接一个Chunk

Yes
 ↓
Paragraph / Token Recursive Split
 ↓
Overlap

十一、Chunk 面试标准答案

面试官:

RAG 为什么需要 Chunk?你的 Chunk 怎么做?

你背:

Chunk 的作用是把较大的 Document 拆成适合检索的语义单元。如果 Chunk 太大,检索粒度会比较粗,而且会带来更多无关 Context 和 Token 成本;如果 Chunk 太小,又容易丢失语义上下文,所以需要在检索精度和语义完整性之间平衡。

我的博客内容本身是 Markdown,有天然的 Heading 结构,所以没有单纯按照固定字符暴力切分,而是以 Heading 作为主要语义边界,同时给 Chunk 保留 articleId、Heading、HeadingPath、Category、Tags、URL Anchor 等 Metadata。这样检索命中的不仅是一段文字,还知道它属于哪篇文章、哪个章节,并且可以返回到具体 Heading 的真实来源。

建议完整背下来。


第六章:Embedding、Vector Search、BM25 和 Hybrid Search

这一章最大的目标:

以后别人一说:

Vector Database。

你不会再觉得“很高级很神秘”。


一、先理解最大问题

假设知识库里写:

“Vue3 的响应式底层使用 Proxy 拦截对象操作。”

用户问:

“Vue3 是怎么监听数据变化的?”

关键词并不完全一样:

知识:
响应式
Proxy
拦截对象操作

Query:
监听数据变化

纯关键词搜索可能:

匹配不强

但人一看就知道:

意思非常接近。

这就是 Semantic Search 要解决的问题。


二、Embedding 是什么?

背:

Embedding 是通过 Embedding Model 把文本映射成一个高维稠密向量,使语义相近的文本在向量空间中的距离也更接近。

例如:

“Vue响应式原理”

         ↓
Embedding Model

[0.13, -0.72, 0.28, 0.91, ...]

另外:

“Vue怎么监听数据变化”

         ↓

[0.14, -0.69, 0.31, 0.88, ...]

两个向量方向很接近。

于是:

语义相似。


三、Embedding 不是“把文章压缩成数字”

这种说法太粗糙。

更准确:

Embedding 是将文本表示到一个高维向量空间,使文本中的某些语义关系能够通过向量距离或相似度进行计算。

注意:

Embedding Model
≠
LLM本身必须生成答案

它通常是独立模型。


四、Vector Search 怎么工作?

知识库构建:

Chunk A
 ↓
Embedding
 ↓
Vector A

Chunk B
 ↓
Embedding
 ↓
Vector B

Chunk C
 ↓
Embedding
 ↓
Vector C

用户提问:

Query
 ↓
Embedding
 ↓
Query Vector

然后比较:

Query Vector
和
Vector A/B/C

谁最相似。

最终:

Top 1
Top 2
Top 3

五、Cosine Similarity 是什么?

你作为数学专业更应该能讲清楚,但 AI 应用面试不需要推公式。

记:

Cosine Similarity 主要比较两个向量方向的相似程度。

直观理解:

方向接近
→ semantic similarity 高

方向差异大
→ similarity 低

一般:

Query
↓
计算向量相似度
↓
按相似度排序
↓
Top-K

够了。


六、Vector Database 又是什么?

Vector DB 不是“AI 数据库”。

它主要解决:

大规模向量的存储、索引、相似度搜索和 Metadata Filtering。

常见:

Milvus
Qdrant
Pinecone
Weaviate
Chroma

以及:

PostgreSQL + pgvector

里面大概存:

{
  "id": "chunk_128",
  "vector": [0.13, -0.72, 0.28],
  "text": "Vue3使用Proxy...",
  "metadata": {
    "category": "Vue",
    "article": "Vue3响应式原理"
  }
}

真正查询:

Query Vector
 ↓
ANN Search
 ↓
Top-K Similar Vectors

七、为什么大规模 Vector Search 不直接全部暴力比较?

假设:

1000 个 Vector

逐个算可以。

但是:

100,000,000 个 Vector

每次都:

Query × 1亿

代价巨大。

所以 Vector DB 通常使用:

Approximate Nearest Neighbor,ANN,近似最近邻搜索。

常见索引比如:

HNSW
IVF

你不需要现在深入算法。

知道:

通过索引牺牲一点绝对精确性,换取大规模向量检索速度。

已经够面试。


八、那 BM25 又是什么?

BM25 是传统 Information Retrieval 领域非常经典的词法检索 Ranking 算法。

你不用背复杂公式。

掌握三个核心直觉:

1. Query词在Document出现
→ 加分

2. 一个词越稀有
→ 越重要

3. Document不能因为特别长、重复出现很多次
→ 无限加分

例如 Query:

Vue Proxy

文章 A:

Vue3响应式为什么使用Proxy

分数很高。

而:

我今天去超市买苹果

基本 0。


九、TF-IDF 思想你也最好懂

BM25 与 TF-IDF 有联系。

核心理解:

TF

Term Frequency。

一个词:

Proxy

在当前文章频繁出现:

可能很重要。


IDF

Inverse Document Frequency。

如果:

“的”

每篇文章都有:

区分能力很低。

但:

“Longest Increasing Subsequence”

只有极少文章有:

区分能力很强。

所以:

稀有且匹配Query的词
→ 权重更高

这个逻辑必须懂。


十、Keyword Search、BM25 和 Vector Search 的区别

记这张表。

方法主要看什么优势弱点
Keyword字符/词是否匹配简单、精确同义表达弱
BM25词频、稀有度、文档长度成熟、准确、可解释语义理解有限
VectorEmbedding语义距离同义、自然语言强成本、可解释性较弱

例如:

Query

Redis如何避免大量缓存同时失效?

文档:

Redis缓存雪崩解决方案

Vector Search 很容易理解:

“大量缓存同时失效”
≈
“缓存雪崩”

而纯词法可能需要:

同义词扩展

才能找到。


十一、Hybrid Search 是什么?

这也是一个非常值得背的词。

Hybrid Search 通常将词法检索和向量语义检索结合起来,让 Exact Match 与 Semantic Match 互相补充。

例如:

             Query
               ↓
       ┌───────┴────────┐
       ↓                ↓
     BM25             Vector
       ↓                ↓
   Keyword结果        Semantic结果
       └───────┬────────┘
               ↓
          Score Fusion
               ↓
             Top-K

为什么好?

因为技术知识里很多词:

Vue3
useEffect
Promise.all
MCP
RFC 6455

本身 Exact Keyword 非常重要。

但:

“缓存全部一起过期”

和:

“Redis雪崩”

又需要 Semantic Search。

所以:

Lexical 擅长“字一样”,Vector 擅长“意思一样”。

Hybrid:

两个都要。

这句话超级好记。


十二、一个更高级的真实 RAG Retrieval Pipeline

未来做更完整的 Agent RAG,可以:

Query

 ↓

Query Rewrite / Expansion

 ↓

┌──────────────┐
│ BM25         │
│ Vector       │
│ Metadata     │
└──────┬───────┘

       ↓

Candidate Retrieval
例如 Top 20

       ↓

Reranker

       ↓

Top 4

       ↓

Context Compression

       ↓

LLM

这里:

Retrieval 负责“召回”。

Reranker 负责“把真正相关的排前面”。

第 7 章我们会重点讲 Rerank。


十三、现在看你的博客到底用了什么

这里非常重要。

你的博客目前没有 Vector Search。

README 明确:

不使用向量数据库。

而且当前依赖中也没有体现出典型 Vector DB/Embedding 客户端;AI 相关核心依赖主要是自身 TypeScript 实现。

你实现的是:

Custom Lexical Retriever。

也就是:

Query
 ↓
Normalize
 ↓
中文分词
 ↓
Remove Stop Terms
 ↓
Synonym Expansion
 ↓
Weighted Lexical Matching
 ↓
Top Chunk

十四、你的 Retriever 其实比“includes() 搜文章”复杂

源码首先会:

Intl.Segmenter('zh-CN')

做中文词语切分。

然后过滤一些:

这个
那个
怎么
什么
文章
哪些
多少

等低价值 Stop Terms。

接着:

Synonym Expansion

例如源码已经定义:

avalanche → 雪崩
penetration → 穿透
breakdown → 击穿
lock → 锁

这其实就是在补:

Lexical Retrieval 不理解同义语义的弱点。


十五、你的 Chunk Ranking 怎么算?

这一段非常值得你理解。

对 Chunk 当前使用了不同字段权重:

articleTitle    × 25

heading         × 10

headingPath     × 7

text            × 2

也就是:

如果用户:

Vue3 Diff算法

一篇文章标题就叫:

Vue3 Diff算法详解

应该强烈优先。

比正文偶然出现一次:

Vue3 Diff

更可信。

这就是:

Field-weighted Ranking。


十六、为什么 Title 权重要大于正文?

因为:

文章标题:
“Vue3 Diff算法与最长递增子序列”

说明:

整篇文章核心就是 Diff。

而另一篇:

“React性能优化”

正文某一段可能顺便提了一句:

Vue Diff。

如果只是:

includes()

两个都有命中。

但语义重要程度显然不同。

所以:

Title ×25
Text ×2

是在编码:

不同字段具有不同的 Retrieval Signal。

非常值得讲。


十七、Document Ranking 又有另一套权重

你的 rankKnowledge():

title        8
tags         6
category     5
description  3
excerpt      1

同样体现:

标题 > Tag > Category > Description > 普通摘要正文

这是一个简单但是很清楚的 IR 思路。


十八、你的 Top-K 是多少?

当前源码里:

rankKnowledge limit 默认 = 4

Chunk 排序:

.slice(0, 4)

Sources:

最多4个

所以你可以真实说:

当前知识规模比较小,我先限制 Top-4 Context,避免大量弱相关文本进入 Prompt。

不过注意:

Top-4 不一定是永远最优参数。

以后应该:

Evaluation

来调。


十九、所以你的博客算 RAG 吗?

可以从系统思想上称为 轻量 RAG / Retrieval-Augmented QA。

因为确实:

Retrieve external blog knowledge

↓

Augment model Context

↓

Generate with LLM

只是它的 Retriever 是:

Metadata
+
Lexical
+
Weighted Ranking

而不是:

Embedding
+
Vector DB

这反而应该主动讲清楚。


二十、为什么你目前不用 Vector DB?

这是一道几乎一定能把你项目讲漂亮的问题。

不要回答:

因为博客小,用不到。

虽然方向对,但太简单。

完整答案可以背:

我目前没有为了所谓 AI 技术栈而强行引入 Vector Database。博客现阶段知识规模比较小,而且文章天然具有 Title、Heading、Tag、Category 这类高质量结构化 Metadata,同时大量内容是 Vue、Redis、Promise、MCP 这种关键词辨识度非常高的技术内容。

所以当前我使用 Heading Chunk + Metadata + 中英混合词法检索 + Field-weighted Ranking,可以得到成本很低、可解释性很强的 Retrieval,而且不需要额外的 Embedding API、Vector DB 和索引同步。

如果以后文章规模明显扩大,或者发现用户大量使用同义自然语言导致 Recall 不足,我会引入 Embedding Retrieval,再和现有 Lexical Retrieval 做 Hybrid Search,而不是简单把当前方案全部替换掉。

这一段非常强。

而且完全符合你的项目真实方向。


二十一、这一章最容易掉进的几个坑

你一定要避免。

错误 1

RAG 就是向量数据库。

❌

正确:

RAG 是 Retrieval + Context Augmentation + Generation。


错误 2

Embedding 就是把文字加密成数字。

❌

Embedding 是:

语义向量表示。


错误 3

Vector Search 一定比 BM25 好。

❌

例如用户搜索:

ERR_CONNECTION_REFUSED

Exact Match 往往非常重要。


错误 4

RAG 可以解决所有幻觉。

❌

只能降低。


错误 5

Chunk 越小越精准。

❌

太小会丢语义。


错误 6

Top-K 越大越好。

❌

Top-K 太大会:

噪音 ↑
Token ↑
TTFT ↑
甚至回答质量 ↓

第二批真正需要你形成的知识树

现在把三章串起来:

                  RAG
                   │
        ┌──────────┴─────────┐
        │                    │
     Indexing             Query Time
        │                    │
     Document              Query
        ↓                    ↓
      Chunk              Retrieval
        ↓                    │
    Metadata      ┌──────────┼─────────┐
        ↓         ↓          ↓         ↓
      Index    Keyword     BM25      Vector
                                      │
                                  Embedding
                                      │
                                  Vector DB
        │                             │
        └─────────────┬───────────────┘
                      ↓
                   Hybrid
                      ↓
                    Top-K
                      ↓
                   Rerank
                      ↓
                   Context
                      ↓
                     LLM

以后看到:

RAG
Chunk
Embedding
Vector DB
BM25
Hybrid Search

不能把它们当 6 个孤立单词。

它们全部在这棵树上。


现在给你一个面试场景

面试官:

你简历写了了解 RAG,讲一下 RAG。

你不能只说:

RAG 就是检索增强生成,把知识库内容检索出来给大模型。

太短。

你应该说:

RAG 是 Retrieval-Augmented Generation,本质是在模型生成之前引入外部知识。完整流程我一般分两部分理解:离线阶段先对 Document 清洗、Chunk、补 Metadata 并建立检索 Index;在线阶段将用户 Query 做 Retrieval,召回 Top-K 相关 Chunk,必要时再 Rerank,最后将高相关内容作为 Context 和用户问题一起交给 LLM。

Retrieval 不一定需要 Vector Database,可以是 BM25、Keyword、数据库查询或者 Vector Search。Vector Retrieval 的核心是通过 Embedding 将 Query 和 Chunk 映射到同一向量空间,再进行相似度搜索。

我个人博客目前没有强行引入 Vector DB,而是基于 Markdown Heading Chunk、Metadata、中文分词、同义词扩展和字段加权进行轻量 Lexical Retrieval。当前知识规模下可解释性和成本更好;如果以后语义 Recall 成为瓶颈,我会再加入 Embedding,与现有 Retriever 做 Hybrid Search。

如果你能自然讲出这一段:

“了解 RAG”这个简历描述你基本撑得住。


最后:你每天要抄写背诵的三段

下面才是今天真正要反复背的部分。

第一段:RAG

RAG 是 Retrieval-Augmented Generation,核心是在 LLM 生成前先从外部知识源检索相关资料,再将资料作为 Context 提供给模型,让模型基于外部知识回答。

完整 RAG 分为知识库构建和在线问答两个阶段。构建阶段包括 Document、Chunk、Metadata 和 Index;在线阶段包括 Query、Retrieval、Top-K、可选 Rerank、Context 构造和 LLM Generation。

RAG 不等于 Vector Database,Vector Search 只是 Retrieval 的一种实现方式。RAG 可以提高知识实时性、私有知识能力和回答可追溯性,但不能彻底消除 Hallucination。


第二段:Chunk

Chunk 是将较大的 Document 拆成适合检索的小型语义单元。Chunk 太大会导致检索粒度粗、噪音和 Token 增加;Chunk 太小又会破坏语义完整性,所以本质是在 Retrieval Precision 和 Semantic Integrity 之间做平衡。

常见方案包括 Fixed-size、Overlap、Recursive 和 Semantic Chunking。我的博客基于 Markdown Heading 做结构化 Chunk,并保存 HeadingPath、Article、Category、Tags 和 URL Anchor 等 Metadata,因此命中一个 Chunk 时不仅能获得正文,还能知道它属于哪篇文章和哪个章节。


第三段:Embedding / Retrieval

Embedding 是通过模型把文本映射成高维稠密向量,使语义相似的文本在向量空间中更加接近。Vector Search 会分别对 Query 和 Chunk 生成 Embedding,然后通过 Cosine Similarity 等方法寻找 Top-K 相似内容,Vector Database 负责大规模向量存储、索引和近似最近邻检索。

BM25 属于词法检索,强调关键词匹配、词频、词的稀有程度和文档长度;Vector Search 更擅长语义相似。Hybrid Search 将 Lexical Retrieval 与 Vector Retrieval 结合,既保留 Exact Match,又获得 Semantic Recall。

我的博客目前采用的是轻量 Lexical Retriever,而不是 Vector Search:会进行中文分词、停用词过滤、部分同义词扩展,并对 Article Title、Heading、HeadingPath 和正文赋不同权重,然后选择 Top Chunk 作为 LLM Context。


第二批终极速记卡

今天最后只看这一块也必须能展开:

【RAG】

RAG =
Retrieve
+
Augment Context
+
Generate


两阶段:

Indexing:
Document
→ Clean
→ Chunk
→ Metadata
→ Index

Query Time:
Query
→ Retrieve
→ Top-K
→ Rerank
→ Context
→ LLM


RAG ≠ Vector DB


【Chunk】

Document
↓
Chunk

太大:
噪音、Token、粗粒度

太小:
语义碎片化

常见:
Fixed
Overlap
Recursive
Semantic

我的博客:
Markdown Heading Chunk
+
HeadingPath
+
Metadata
+
Anchor


【Embedding】

Text
↓
Embedding Model
↓
Vector

Query Vector
≈
Chunk Vector

↓
Similarity Search
↓
Top-K


【Retrieval】

Keyword
= 精确词匹配

BM25
= TF + IDF + 长度归一思想

Vector
= Semantic Similarity

Hybrid
= Lexical + Vector


【我的博客】

不是:
Embedding + Vector DB

而是:

Query
↓
Intent Classification
↓
中文分词
↓
Stop Terms
↓
Synonym Expansion
↓
Metadata / Weighted Lexical Retrieval
↓
Title ×25
Heading ×10
HeadingPath ×7
Text ×2
↓
Top-4
↓
BLOG CONTEXT
↓
DeepSeek

你第二批真正的验收题只有一个:

“假如明天面试官说:你不是说你会 RAG 吗?从我的 Markdown 文档进入系统开始,一直到 LLM 回答用户,中间完整发生了什么?为什么要 Chunk?Embedding 干什么?为什么你的项目又没用向量数据库?”

你现在应该已经能够连续讲 5~8 分钟,而且前后逻辑不断。

下一批 第 7~9 章:Retrieval / Rerank → Agent → Tool Calling / Function Calling 会出现一个非常关键的转折:

RAG 解决“模型不知道什么”,Agent 开始解决“模型不能做什么”。

从下一批开始,我们就真正进入 AI Agent。