仓库知识库到底该走大模型微调还是RAG,这笔账不能按热闹程度算。根据公开的研究对比,检索在给模型注入新知识这件事上,表现一直稳定地好过只靠微调灌知识。仓库的文档又偏偏是三天两头在变的:作业指导书改一版,库位规则换一批,客户的特殊要求多一条。知识天天变,选型就得先问一个问题:答案错了,谁来负责,又能不能查到出处。

先分清:微调改的是习惯,RAG改的是眼前能看到的东西

微调和RAG动的不是同一个地方。微调是继续训练模型,改的是权重,模型因此养成新的说话习惯:固定格式、固定口径、固定语气。RAG不动模型,提问时先去知识库里把相关段落找出来,连同问题一起交给模型,模型照着眼前的材料回答。知识放在库里,改文档、改索引,几分钟后答案就跟着变;知识放进权重里,改一次就要重新训练、重新评估、重新上线。

这个区分决定了仓库知识库的选型走向。仓库里的大多数问题是知识问题,不是行为问题。操作员问的是这批货能不能混放、这家客户的贴标要求是哪一条、冷链断链后该走哪一步。这些答案的正确版本只存在于某一份文档里,而且下个月可能就变了。把答案塞进权重,等于把一份随时会改的文档刻进一块很难改的石头里。

仓库知识库的账,要按更新频率和出错代价来算

场景示意一:2025年秋天,一家华东地区的第三方仓储企业把四千多份作业指导书和客户特殊要求喂给模型做了微调,问答口径确实统一了,客服新人上手也快了。可到了旺季,三个大客户同时改了贴标和装箱要求,库里的文档改了,模型的答案没改,整整两周时间,一线员工拿到的还是旧版要求,直到一次客户验货被扣住才发现问题。补救的办法是再跑一轮训练,再跑一轮评估,前后又花了三周。这不是技术没做好,是选型时把会变的知识放进了不该放的地方。

场景示意二:同一时期,另一家做电商代发的仓库走了另一条路。他们的知识库里放了约两千份文档,提问时系统先检索出最相关的三到五段,附上文档名和章节,再让模型组织答案。旺季里客户改了退货地址,运营在文档里改一行,索引更新后,下一句提问的答案就对了。出问题的时候,值班主管能顺着引用找到原文,判断是文档写错了还是检索找偏了,责任链是完整的。这才是仓库场景里最值钱的东西:答案错了,能定位到哪一份文档的哪一行。

反常识的判断在这里:微调并不能让模型更懂你们仓库,它只能让模型更像你们仓库的人说话。知识和行为是两回事,选型时把两者混在一起,是最常见的花钱方式。公开研究也支持这个区分:2023年的一项对比研究发现,在注入新知识方面,检索的表现持续优于无监督微调;2020年提出RAG的那篇论文,出发点同样是让模型在回答时能调用外部知识,而不是把所有知识都背进参数里。

一张对照表:什么情况选RAG,什么情况才轮到微调

选型问题 选RAG 选微调
答案多久变一次 每周甚至每天变 几个月基本不变
答错了要不要查出处 要,能定位到文档才敢用 不用,格式对了就行
不同人能不能看到不同内容 能,检索前先按权限过滤 不能,权重里没有权限的概念
想改的是知识还是说话方式 知识 说话方式、格式、固定套路
团队有没有现成的问答样本 没有也能先跑起来 没有样本,微调无从下手

这张表里还有一行容易被忽略:权限。仓库知识库里常有客户报价、合同条款和内部成本数据。RAG可以在检索那一步就按人过滤,只把他有权看的段落交给模型。微调做不到这一点,知识一旦进了权重,就分不清该给谁看、不该给谁看。权限不同的知识库,选微调之前要先想清楚这一层。

成本也要放在同一张表上算。假设算例:一家仓库每天有600次知识库提问,RAG每次检索带入约2000词元上下文,一个月下来就是3600万词元的上下文用量,这笔开销随提问量线性增长,是看得见的日常成本。微调的成本不在提问时,而在每一次知识更新时:重新准备样本、重新训练、重新评估,团队还要留出回归测试的时间。知识改得越勤,微调的隐性成本越高;提问量越大,RAG的日常成本越高。两边的账要分开算,不能只比一次性的投入。

还有一种情况值得单独说:知识库很小的时候,可能两条路都不用走。公开的实践建议提到,知识库总规模在20万词元上下、也就是大约500页文档时,直接把全部内容放进提示里往往更简单、也更准确。很多中小仓库的真实知识库就在这个量级,先把文档收齐、写清楚,比急着上检索系统更划算。选型之前,不妨先抽50条一线真实提问跑一遍:答对多少、答错的能不能定位到文档、多久能改对,这三个数比任何厂商演示都实在。

先上RAG,再补微调:多数仓库的务实顺序

多数仓库知识库的务实顺序,是先把RAG跑起来,再看有没有行为层面的缺口需要微调去补。RAG上线后,团队会发现真正的问题往往不在知识,而在输出:答案格式不统一,工单字段时有时无,升级规则全凭模型临场发挥。这些是行为问题,微调的长处就在这里。用几百条经过审核的问答样本做一次小规模微调,让模型固定输出格式和升级口径,知识仍然由RAG在提问时现取现用。

这个顺序还有一个好处:回滚成本低。RAG出问题,改文档、调检索、换排序策略,当天就能验证。微调出问题,要定位是哪一批样本带偏了模型,重新训练再重新评估,周期以周计。先上可逆的那一步,再动不可逆的那一步,是仓库系统选型里通用的次序。还有一点容易被低估:文档治理本身就是选型的一部分。知识库上线之前,先把文档体检一遍,过期版本归档,重复内容合并,权限标签补齐,检索效果常常直接上一个台阶。文档乱,检索一定乱,微调也救不回来。

选型归根结底要回到仓库自己的三件事:文档多久改一次,答案错了能不能查到出处,以及不同角色能不能看到不同的内容。这三个问题的答案,基本就决定了微调和RAG在你们仓库里的位置。技术路线会继续变,但这三个问题的权重,短期内不太会变。

作者:陈博士|供应链行业研究员