RAG 是什么：为什么营销知识库都在用它

过去两年，无论是做营销内容、客服问答还是企业内部知识管理，几乎所有想把大模型用起来的团队都会撞上同一个词：RAG。它不是某个产品的名字，而是一整套让大模型变得可靠的工程范式。

RAG（Retrieval-Augmented Generation，检索增强生成）是指在大模型生成回答之前，先从外部知识库中检索出与问题最相关的资料，再把这些资料连同问题一起交给模型、让它依据真实资料作答的技术框架。 它把作答方式从凭记忆自由发挥改成了照资料组织语言，是企业级 AI 应用准确性的基石。本文讲清它的通用原理、为什么能压制幻觉、在营销与客服场景的典型用法，以及它和微调的区别。

RAG 的两段式原理

RAG 这个词拆开看，正好就是它的两个核心动作：先检索（Retrieval），后生成（Generation）。

第一段：检索

系统先把企业的知识资料（文档、政策、FAQ、案例库等）切成一段段，转换成向量存进检索库。当用户提问时，问题本身也被转成向量，系统据此从库里找出语义最接近的若干段资料。这一步的目标，是把最可能含有答案的几段原文捞出来。

这里有个容易被忽略的关键参数：一段切多长、一次捞几段。切得太长（比如把一整篇 3000 字的政策塞成一块），检索时命中率高，但塞进模型的无关内容也多，答案容易被稀释跑偏；切得太碎（比如按句子切成几十字一段），单段又可能缺上下文，读起来像断章。工程上常见的折中是每段 300 到 500 字、相邻段之间留 10% 到 20% 的重叠，避免一个完整意思正好被切在两段中间。一次检索捞回几段也要权衡：捞 3 段太少可能漏掉答案，捞 15 段又会把提示词撑爆、还引入噪声，多数场景下回 4 到 6 段是个稳妥起点，再根据实测的答对率往上下调。

第二段：生成

检索到的资料段，连同用户的原始问题，被一起组织成一段提示词喂给大模型。模型被明确要求依据这些资料来回答，而不是凭自己的记忆。于是输出的答案就锚定在了企业真实资料上。

用户提问
    ↓ [问题向量化]
向量检索（从知识库捞出最相关的几段原文）
    ↓ [资料 + 问题一起组成提示词]
大模型生成（依据资料作答，可标注来源）
    ↓
返回答案 / 相关度过低则判定无答案

理解了这两段，就理解了 RAG 的全部精髓——它不改变模型本身，只是在模型作答前给它递上一份参考资料。

为什么 RAG 能减少幻觉

要理解 RAG 的价值，得先理解幻觉从哪来。大模型本质是根据概率续写最像样的文字，当它不掌握某个事实时，仍会硬凑出一个通顺但可能错误的答案，这就是幻觉。

RAG 的对策是：在模型作答前，先把参考答案摆到它面前。 模型不再需要从遥远的训练记忆里搜刮，而是照着检索来的真实资料组织语言，编造空间被大幅压缩。

但有两点必须清醒认识：

• RAG 减少幻觉，不等于消灭幻觉。 若检索到的资料本身过时或不相关，模型照样会答错。
• 知识库质量是前提。 检索得再准，库里没有正确答案也是白搭，所以工程重心往往在知识库本身。

企业营销与客服的典型应用

RAG 的应用边界很宽，凡是答案来自一份相对稳定、可维护的资料的场景，都适合用它。

场景	知识库内容	RAG 解决的问题
客服问答	产品文档、政策、退换货规则	准确回答客户咨询，减少人工压力
营销内容辅助	品牌话术、产品卖点、竞品资料	快速生成符合事实的文案与回复
销售支持	案例库、报价规则、常见异议	给销售提供有据可依的应答素材
内部知识检索	制度、流程、培训资料	让员工用自然语言查到准确答案

需要特别说明的是，客服场景的 RAG 落地有自己一整套工程细节——知识库怎么切分、无答案怎么兜底、高风险问题怎么转人工，这些不在本文展开。专门讲客服场景如何用 RAG 准确作答，见AI 知识库问答（RAG）原理。本文聚焦的是 RAG 作为通用概念的原理与取舍。

在营销获客场景里，RAG 越来越多地成为 AI Agent 的记忆底座——智能体在执行任务时调用 RAG 检索企业知识，再决定下一步动作。RAG 与智能体的关系，可延伸阅读AI Agent 是什么。

一个能上手的例子

抽象原理不如看一遍具体流程。假设你是一家 SaaS 公司的客服负责人，客户问：「我买的专业版，能不能开三个子账号？」

如果直接把这句话丢给一个通用大模型，它没见过你的产品手册，只能凭「一般 SaaS 大概怎么设置」硬猜，可能答成「通常专业版支持 3 到 5 个」——听着像模像样，但你的真实规则也许是「专业版含 1 个主账号、子账号按 50 元/月加购」。客户照着错误答案下单，最后就是投诉。

换成 RAG，流程变成这样：系统先把这句话向量化，从知识库里捞出三段最相关的原文——「专业版权益说明」「子账号计费规则」「账号数量常见问题」；再把这三段连同原问题拼成提示词交给模型，并明确要求「只依据以下资料回答，资料没提到就说不确定」。模型于是照着真实规则组织出：「专业版默认含 1 个主账号，子账号可按 50 元/月/个加购，无数量上限。」答案不但对，还能附一句「依据《专业版权益说明》」，客户看得见出处，你自己也能追责到具体文档。

关键差别在最后一步：错误答案是模型「猜」出来的，正确答案是模型「抄」着资料写出来的。把这个例子里的「专业版权益」换成你自己的退换货政策、报价梯度、竞品对比话术，就是营销和销售场景里 RAG 每天在做的事。

落地时的一份自检清单

见过不少团队把 RAG 想成「上传文档就能问」，结果上线后答错一片。真正决定效果的活儿几乎都在知识库这一侧，下面几条可以逐项对照：

• 文档得先能被人读懂。 库里塞的如果是排版混乱、术语前后打架、三个版本互相矛盾的旧文档，检索得再准也没用。上线前先让一个新人只靠这批文档去回答问题，他答不出来的地方，模型多半也答不出来。
• 给「查不到」留出口。 一定要设一个相关度阈值，检索回来的最高分低于阈值时，宁可回「这个问题我暂时没有资料」，也别让模型硬编。没有兜底的 RAG，等于把幻觉从模型挪到了检索环节。
• 高风险问题强制转人工。 涉及退款金额、合同条款、医疗法律这类答错代价大的问题，哪怕检索到了资料，也应触发人工复核而非直接自动回复。
• 留一批真实问题当考卷。 从历史客服记录里挑 50 到 100 个真问题、配上标准答案，每次改动知识库或换模型后都跑一遍，用答对率的变化判断改动是好是坏，而不是凭感觉。
• 知识库要有人养。 政策一改，对应文档当天就得更新——RAG 的最大优势就是改一篇文档立刻生效，但前提是真有人去改。没有维护责任人的知识库，三个月后必然开始答旧规则。

三个常见误区

第一个误区是把 RAG 当搜索引擎。它不是关键词匹配，而是语义检索——用户问「东西坏了怎么退」，库里写的是「产品质量问题的退换货流程」，靠向量也能对上。但反过来，如果用户的问法和资料在语义上确实差得远，它照样会漏。别指望它替代精心设计的 FAQ 结构。

第二个误区是以为模型越大效果越好。检索环节捞错了段，再强的模型也只能基于错料作答，一样翻车。RAG 的效果上限由知识库和检索质量决定，模型只负责把捞回来的料组织成通顺答案。预算有限时，把钱花在整理知识库上，回报往往比换更贵的模型高。

第三个误区是上线即完工。RAG 是需要持续调的系统：切分参数、检索段数、阈值、提示词，每一项都得靠那份「考卷」反复测。第一版答对率七成很正常，能不能爬到九成，看的是上线后有没有人持续盯着错题去改。

RAG 和微调的区别

很多人会问：要让大模型懂我的业务，到底该用 RAG 还是微调（Fine-tuning）？这是两条不同的路。

维度	RAG	微调
做法	知识放外部库，实时检索	用数据继续训练，固化进参数
知识更新	改文档即生效	需重新训练
成本	较低	较高
答案可溯源	可标注来源	难以溯源
擅长	管事实、管知识	调风格、调表达

简单记：RAG 管知道什么，微调管怎么说。 改变模型的语气和专业表达方式，微调更合适；让模型掌握会变化的事实和企业资料，RAG 更合适。两者并不互斥，成熟方案常常是 RAG 为主、轻量微调调风格。

RAG 的能力边界

RAG 强在有据可依，但它仍有清晰边界：

• 库里没有的，它答不了。 RAG 只能基于已有知识库作答，全新信息无能为力。
• 需要复杂推理的，它未必稳。 涉及多条规则权衡、个案裁量的问题，即便检索到资料也未必能正确组合。
• 检索失准会连锁出错。 问题表述刁钻导致检索捞错段，会让答案整体跑偏。

承认这些边界、在高风险环节配好人工兜底，才是负责任的落地姿态。

小结

RAG 通过先检索真实资料、再依据资料生成的两段式机制，让大模型的回答有据可依，从根上压制了幻觉。它和微调的区别在于：RAG 管知识、改文档即生效，微调管风格、需重新训练，两者互补而非互斥。无论是营销内容、客服问答还是内部知识管理，RAG 的效果都高度依赖知识库质量。把库做扎实、把边界想清楚，才能让它真正发挥价值。

延伸阅读：客服场景如何用 RAG 落地准确作答，见AI 知识库问答（RAG）原理；RAG 作为智能体记忆底座的角色，见AI Agent 是什么。

企客连连正在研发面向中小团队的客户经营工具，欢迎访问 /product/ 加入内测候补名单，提前体验知识库问答能力。