过去一年,我接触的仓储企业里,几乎每家都在问同一个问题:我们想把 SOP、设备手册、历史工单做成一个内部知识库,再配个问答机器人,技术路线到底选 RAG,还是把大模型微调一下?这个问题表面上是技术选型,背后其实是三笔账:知识更新有多快、答错一次代价有多大、团队养得起哪种方案。

先看行业现状。根据我梳理的公开行业报告和厂商落地案例,2024 到 2026 年间真正跑起来的企业级知识库问答项目里,RAG(检索增强生成)已经是事实上的主流架构。这项技术由 Meta 在 2020 年提出(Lewis 等人),核心思想并不复杂:不把知识硬塞进模型参数,而是让模型先检索相关文档、再基于检索结果作答。而微调走的是另一条路:用企业自己的问答数据继续训练模型,把知识"压"进参数里。两条路都能跑通,但它们的成本结构、风险点和适用边界完全不同,选错路的代价,要在上线半年后才显现。

RAG 在仓库里的真实样子:可追溯是它的命

2025 年初,加州 Inland Empire 一家 3PL 仓库跟我交流过他们的项目。这家仓库约 12 万平方英尺,服务 40 多个电商品牌,WMS 里沉淀了上万条历史工单和异常处理记录,外加几百页 SOP。他们的做法是典型的 RAG:把文档切块、向量化入库,员工提问时先检索最相关的 5~8 个片段,再让大模型基于这些片段组织答案,并且每条答案都附上来源——具体到 SOP 第几节、哪一张历史工单。

这个"附来源"的设计是整套方案的命门。仓库是个强合规、强审计的场景:质检员问"这批货的抽检比例是多少",他要的不是一个漂亮的答案,而是一个能写进记录、出了问题能回溯的依据。RAG 的答案天然带出处,答错了也能定位到是哪份文档过时了,修文档就行,不用动模型。项目上线半年后,这家 3PL 的新员工上岗培训周期从原来的 3 周左右缩短到 10 天上下——这里要说明一句,这是他们内部统计的业务指标,同期培训流程也做了优化,不能把功劳全算在 RAG 头上,但方向是清楚的:知识变得好找、可验证了。

RAG 还有一个仓库场景特别看重的优点:知识更新是"换文档"而不是"重新训练"。SOP 改了一版,重新切块入库,几分钟就生效。这对知识天天在变的仓库来说,几乎是决定性的。

仓库办公室里工程师查看数据大屏

微调的翻车现场:记住了参数,丢了来源

但微调也不是没人用,翻车案例同样真实。2025 年年中,华东一家配送中心想把设备维保手册"教会"模型,攒了几千条问答对做微调。上线测试时出了一件事:有人问某台堆垛机的额定载荷,模型用非常自信的语气报了一个数字——错的。实际 1.5 吨,它说 2 吨。复盘发现,训练数据里混进了一版旧手册的参数,模型把错误"记牢"了,而且它自己完全意识不到这是错的。

这就是微调在知识库场景的结构性缺陷:知识被压缩进参数之后,既不可追溯,也不能局部修正。发现一处错误,你没法像 RAG 那样去改一份文档,而是要重新准备数据、重新训练、重新验证全量效果。更麻烦的是,微调模型犯错时的"自信"程度和答对时没有区别——在仓库这种答错可能伤人、伤货、伤合规的场景里,这种不可解释的自信是最危险的。

公平地说,微调有它的用武之地,只是这个"武"不在记知识,而在改行为。它擅长改变模型的输出行为:固定回答格式、统一话术风格、学会某种特定的推理套路。如果你的需求是"让模型说话像我们公司的客服手册",微调很合适;如果你的需求是"让模型记住三千页手册的内容",那就是用错了工具。

RAG vs 微调:一张决策矩阵定路线

综合上面的分析,我整理了一张决策矩阵。选型时把自己家情况往这四条线上一放,多数时候答案自己会浮现:

评估维度 倾向 RAG 倾向微调
知识更新频率 高(每周甚至每天有变更,如 SOP、促销规则) 低(知识几年不变,如设备原理、法规条文)
准确率与可追溯要求 高(答错代价大,需要标明出处,如质检、安全) 中低(更看重表达风格而非事实精度)
数据量 文档多但问答对少(RAG 直接吃文档) 有上万条高质量问答对可供训练
成本与团队 轻量启动,按检索量付费,日常维护只是换文档 一次训练加持续重训的 GPU 成本,以及版本管理负担

成本这条线值得单独算一笔。以公开的云厂商定价为参照,7B 级别开源模型做一次全量微调,GPU 租赁成本通常在数百到数千美元量级(具体以各云厂商官网最新报价为准);但这只是训练一次的钱。真正的成本在后面:知识每更新一轮,原则上就要重训、重测、重发一版模型,一年下来是持续支出。RAG 的成本结构恰好相反:前期搭建检索管线要投入人力,但日常维护只是"换文档",边际成本很低。两种路线的成本曲线,一个前高后低,一个前低后高,选型时要看的是三年总账,不是首月账单。

落地顺序上,我的建议是先 RAG、后视情况补微调。原因有三层逻辑:第一,RAG 上线快,几周就能验证"知识库问答"这件事本身有没有业务价值,避免在路线争论上空转半年;第二,RAG 运行过程中自然沉淀出真实的用户提问日志,这些日志恰恰是未来做微调最缺的高质量训练数据——先有 RAG,后面的微调才有米下锅;第三,RAG 的检索质量(切块策略、排序效果)本身需要调优,这部分经验在混合架构里可以复用。一步到位做"微调+RAG"双管齐下,听起来很美,实操中往往是两个半成品叠在一起,谁的问题都定位不清。

反常识与趋势:数据天天变的仓库,微调是负资产

这里有一个反常识的判断,值得单独拎出来:对于知识更新频繁的仓库,微调不是"一次性投入",而是一项负资产。每一次 SOP 修订、每一次设备换型,都会让上一版微调模型里的一部分"记忆"过期,而你分不清到底是哪一部分。于是你被迫进入"重训—重测—重发"的循环,投入越来越多,模型却永远在追一个移动的靶子。RAG 在这种场景下恰恰相反:知识越新、越碎、越分散,检索架构的优势越大。

所以我的趋势判断是:未来两到三年,仓库知识库的主流形态会是"RAG 做知识,微调做行为"的混合路线——用 RAG 解决"答什么"(事实、可追溯、实时更新),用轻量微调解决"怎么答"(格式、语气、领域话术)。两条路线从来不是非此即彼,而是分工关系。

但还有一个更值得持续观察的问题:无论选哪条路线,知识库本身的质量才是天花板。SOP 写得含糊、工单记录缺字段、设备手册版本混乱——这些"知识治理"的问题,RAG 和微调都救不了。技术选型争论的背后,真正的分水岭可能是:你的仓库,到底有没有一份值得被 AI 学习的好知识?这个问题,留给每一家正在做知识库的企业自己回答。

作者:陈博士|供应链行业研究员