为什么 LLM 会产生幻觉——以及为什么需要 RAG

LLM 会产生看似合理但虚假的信息，原因在于其优化目标是下一个 token 的概率而非真实性验证。因此需要 RAG（检索增强生成），用外部上下文为模型预测提供依据。