ML 铅笔手稿：RAG 如何降低大模型幻觉

RAG 通过索引、检索、增强生成三步流程，将文档切块向量化存入向量库，查询时按 cosine 相似度取 top-k 片段拼入 prompt，实现知识与参数解耦，更新知识无需重训且回答可溯源。该方案自 2023 年后成为标配，效果上限取决于切块、embedding 质量与 rerank 等检索工程，幻觉可管住但治不好。