2024 年秋天,我给一家 Inland Empire 的 3PL 仓做选型顾问。12 万平方英尺,刚上了一套预测补货的 AI 模型。验收单签了,供应商团队第三周就撤场。第 96 天,仓库经理打电话给我:"老米,这系统是不是坏了?它推荐的补货量越来越离谱。"
我问了三个问题。第一个,模型上周的预测准确率是多少?不知道。第二个,告警邮件都发到哪里了?他去翻了一下——还是供应商项目组当初建的那个邮箱。项目组解散两个月了,那些邮件一直发到一个没人看的地址。第三个,漂移阈值是谁定的?电话那头沉默了。
这事不是个例。我这两年看过好几个 AI 项目,死法都差不多:不是死在选型,也不是死在开发,而是死在验收之后那三个月。设备项目验收完,叉车不会自己变道;AI 不一样,它每天吃新的数据,数据一变,模型就跟着变。没人盯着,三个月后你手里那套"AI 系统",和当初验收的那套,已经不是同一个东西了。
验收那天,恰恰是风险最高的一天
先说个反常识的判断:AI 项目的验收,签的其实是"开始",不是"结束"。
验收都是在静态条件下做的。数据是供应商提前清洗过的,测试集是挑过的,旺季淡季的分布是算好的。供应商当然有动力把验收指标做得漂亮——尾款在那儿摆着呢。这不是说供应商使坏,这是人性。
可上线之后,真实的数据流一进来,情况就变了。新客户的订单进来了,SKU 组合变了,包装规格换了,淡旺季切换了。这些"脏数据",训练的时候都没见过。我见过一个仓,验收时预测准确率 92%,上线两个月掉到 78%。原因查出来很可笑:训练数据里没有 Q4 旺季的新品组合,模型一到旺季就瞎猜。
所以我的 verdict 很明确:验收标准里,一定要加一条"上线后 90 天复测条款"。验收分两次签:上线签一次,确认系统跑起来了;90 天后再签一次,确认模型在真实数据下还站得住。第二次验收不过,尾款扣着,供应商就得回来调。这一条写进合同,比验收当天多测十个指标都有用。
很多甲方不敢提,怕供应商觉得你不信任他。我的看法正好相反:敢把这条写进合同的供应商,才是真对自己的模型有信心。
模型不会猝死,它是慢慢变蠢的
这是 AI 运维和传统 IT 运维最大的区别。服务器宕机是猝死,报警一响全公司都知道;模型漂移是慢性病,今天差一点,明天差一点,三个月后你才发现它已经蠢得没法用了。
漂移分两种,我用人话讲。一种是数据变了:以前一天 8000 单,现在一天 12000 单;以前 A 客户占 60%,现在 B 客户占大头。模型学的是老数据的规律,新数据不按老规律走,它就懵。另一种是关系变了:以前"周末订单多"这个规律成立,现在客户改了下单习惯,周末反而不多了。数据本身没变,但数据和结果的关系变了。

可怕的不是漂移本身,是没人看。上面那个 3PL 仓,系统其实一直在发告警,漂移指标早就超标了。但告警发到一个没人看的邮箱,等于没发。这就是我说的运维真空:系统在说话,没人听。
怎么填这个真空?分工表必须在验收前就定好,而且要具体到人,不能写"由甲方负责"这种空话。我的建议是三层:
仓库运营,每天看业务指标。预测准不准,运营最有体感——补货建议离谱,拣选员第一个骂娘。给运营一个最简单的判断标准:连续三天推荐量偏离实际超过一个固定比例,就升级。不用懂算法,会看数就行。
IT 或者供应商,每周看模型指标。漂移分数、特征分布、预测置信度,这些需要懂行的人看。如果内部没有这样的人,合同里就要买供应商的远程运维服务,按季度付费也行。别省这笔钱,省了它,前面花的几十万都可能打水漂。
管理层,每月看一次趋势。准确率曲线是往上还是往下走,重训花了多少钱,值不值。这个会不用长,半小时,但必须有。不然等到季度复盘才发现模型废了三个月,晚了。
漂移阈值谁来定?我的答案是:供应商给建议,甲方拍板。供应商懂模型,知道多少算"正常波动";甲方懂业务,知道多少误差是"不可接受"。两边一起定,写进 SOP,贴在墙上。
没写进合同的交接,等于没交接
这是我踩过最深的一个坑。一家仓的 AI 质检项目,合同里写了"供应商提供培训"。验收前,供应商确实做了培训——两小时的 PPT。三个月后模型出问题,运维工程师连特征管道在哪都不知道,数据从哪个表进来、模型文件存在哪台服务器上,一问三不知。打电话找供应商,人家项目组都解散了,换了个客服说"可以走有偿支持流程"。
所以交接清单,我现在是逼着甲方在验收前一项一项打勾的。一共四样,少一样都不签验收单。
第一,模型文档。特征清单是什么,训练数据是哪个版本,建模时做了哪些假设——比如"假设 SKU 数量不变""假设订单结构稳定"。这些假设就是未来的漂移预警线,假设一破,模型就得重训。文档不用多 fancy,能看懂就行。
第二,告警配置。告警发给谁,抄送谁,多久看一次,谁负责升级。把邮箱地址一个一个写出来,验收当天现场发一封测试告警,看看到没看到。别笑,真有项目验收完才发现告警邮件地址写错了的。
第三,重训流程。谁触发重训,触发条件是什么,谁来执行,费用谁出。重训不是免费的,数据准备、算力、验证都要钱。这笔钱不提前谈好,出问题的时候两边就开始扯皮。我见过扯了四个月的,模型就在那儿烂了四个月。
第四,回滚方案。模型出问题的时候,怎么一键切回原来的规则引擎?开关在哪,谁有权限切,切换后业务怎么 continuity?这条最容易被忽略,但真出事的时候,它是救命的。
合同里还要加两条:供应商撤场后 6 到 12 个月的远程支持条款,响应时间写清楚;数据归属条款,训练数据、模型文件、特征管道,甲方要有完整的一份。供应商可以走,东西得留下。
说到底,AI 项目和买设备最大的不同,就是买设备买的是一次性交付,买 AI 买的是一个持续演化的东西。你验收的不是一台机器,是一个需要长期喂养的"活物"。合同里不写清楚谁来喂,它饿死只是时间问题。
最后留个问题给你:如果你的 AI 项目明天验收,你能说出上线第 90 天,告警邮件发到谁的邮箱、谁负责打开它吗?说不出来,验收单先别签。







