索引阶段（离线，一次性或增量处理）

第1步：文档加载（Load）

把各种格式的文档加载成纯文本：PDF、Word、Markdown、HTML、网页、邮件、数据库记录。工具：PyPDF2/pdfplumber（PDF）、python-docx（Word）、BeautifulSoup（HTML）、Unstructured（通用文档解析）、LangChain Document Loaders。注意：PDF解析是最容易出问题的环节——扫描版PDF需要OCR，复杂排版（多栏、表格、图片）解析效果差，需要专门处理。

第2步：文档切分（Chunk / Split）

把长文档切成小块（chunk），因为：①embedding 模型有输入长度限制（通常 512/8192 token）；②检索时返回整个文档太长，模型上下文装不下，也会稀释关键信息；③小块检索更精准。 切分策略：①固定长度切分（按字符数/token数，如 500 token 一块，重叠 50 token）——最简单，适合通用场景；②按语义切分（按段落/标题/章节切分）——适合结构清晰的文档（Markdown、有标题的文档）；③递归切分（先按大结构切，太大再按小结构切）——LangChain RecursiveCharacterTextSplitter，最常用；④按内容类型切分（代码按函数切、表格按行切）——适合混合内容。 关键参数：chunk_size（块大小，通常 200-1000 token）、chunk_overlap（块之间重叠，通常 10-20%，保证上下文不被切断）。

# 文档切分示例（Python + LangChain）
# from langchain.text_splitter import RecursiveCharacterTextSplitter
#
# text_splitter = RecursiveCharacterTextSplitter(
#     chunk_size=500,        # 每块约500字符
#     chunk_overlap=50,      # 重叠50字符，保证上下文连续
#     separators=["\n\n", "\n", "。", "！", "？", ";", ":", " ", ""],  # 递归分隔符
#     length_function=len,
# )
#
# chunks = text_splitter.split_text(long_document)
# print(f"切成了 {len(chunks)} 块")
# for i, chunk in enumerate(chunks[:3]):
#     print(f"--- 块 {i} ---")
#     print(chunk[:100] + "...")

第3步：向量化（Embed）

把每个文本块转成embedding，就是个高维数值数组，比如1536维、1024维、768维，语义像的文本向量离得近。embedding模型有这些：OpenAI text-embedding-3-small/large、豆包embedding、Cohere embed、BGE（开源，中文好）、GTE（开源）。注意：①查询时必须用同一个embedding模型向量化，不能索引用A模型，查询用B模型；②embedding模型有输入长度限制，超长块要截断；③批量向量化比单次快，API支持批量输入；④向量化是索引阶段的一次性成本，查询时只向量化用户问题，成本低。

第4步：存储（Store）

把向量和原文存在向量数据库里，支持相似性搜索。选型：MVP用pgvector（PostgreSQL插件，零运维），大规模用Milvus/Qdrant，全托管用Pinecone，原型用Chroma。每个向量条目通常包含：id、向量、原文（chunk text）、元数据（来源文档、页码、章节、时间、作者等，用于过滤和引用）。

查询阶段（在线，用户每次提问）

第5步：检索（Retrieve）

用户提问时，把问题也向量化，在向量库里找最相似的 Top K 个 chunk（通常 K=3-10）。相似度计算用余弦相似度（Cosine Similarity，最常用）、点积（Dot Product）、欧氏距离（L2 Distance）。检索有三种方式：①向量检索（语义检索，能找到意思相近但用词不同的内容）——RAG 的核心；②关键词检索（BM25，能精确匹配专有名词、代码、数字）——向量检索的补充；③混合检索（向量+关键词，用 RRF 等算法融合结果）——生产环境推荐，因为向量检索可能漏掉精确匹配的内容（如错误码、产品型号）。

第6步：重排序（Rerank）

检索到的Top K个chunk是按向量相似度排的，但向量相似度不等于对回答问题最有用的。重排序（Rerank）用交叉编码器（Cross-Encoder）模型，对「问题+每个chunk」联合打分，重新排序后取Top N，通常N=3-5给大模型。Rerank模型有Cohere Rerank、BGE-Reranker（开源）、Jina Reranker。Rerank能提升RAG答案的相关性，是生产环境的标配。注意：Rerank比向量检索慢，因为要对每个chunk单独打分，所以先向量检索取Top 20-50，再Rerank取Top 3-5，平衡速度和质量。

第7步：生成（Generate）

把重排序后的Top N个chunk作为上下文，和用户问题一起发给大模型，让它基于上下文回答。Prompt模板：「你是一个XX助手。请根据以下参考资料回答用户的问题。如果参考资料中没有答案，请说「根据现有资料无法回答」，不要编造。回答时请引用来源编号。 参考资料：[1] {chunk1}[2] {chunk2}[3] {chunk3} 用户问题：{question} 回答：」。关键：①让模型基于上下文答，别编造；②要引用来源；③上下文不够就说「不知道」，别硬答；④可以要求特定输出格式（Markdown、JSON、分点）。