2023 年底，华南一家 3PL 仓库的分拣线出了怪事：包裹在皮带上以 1.8 米/秒飞奔，视觉识别放在云端，一个往返 380 毫秒——包裹在这 380 毫秒里多跑了 68 厘米，而分拣格口只有 60 厘米宽。错格率从 0.3% 一路飙到 4.7%，一天 8 万件里有 3700 多件落错了格。那天夜里工程师把模型搬回边缘端，延迟压到 60 毫秒以内，错格率第二天就回到了 0.4%。
推理放云端还是放边缘，这道题仓库人迟早要做。今天把三笔账算清楚：延迟账、成本账、断网账。
先讲原理：训练和推理是两码事
这就像学开车和开车上路：学车要在驾校慢慢练（云端，大算力、不赶时间），上路了得你自己实时反应（边缘，毫秒级响应）。AI 也一样——训练模型放云端天经地义，但推理（拿模型干活）放哪，得看负载。
仓库里的 AI 负载就三类：
- 视觉识别：扫码补码、包裹破损检测、体积测量、叉车和人员安全检测。特点是数据量大（视频流哗哗地传）、实时性要求高。
- 语音：语音拣选、异常情况语音上报转文字。特点是音频流其实很小，但人机交互是闭环——人等不起。
- 预测：销量预测、补货建议、人力排班。特点是批量跑，今天算明天用都行，延迟最不敏感。
补一个技术细节：边缘盒子算力弱，模型一般要做量化（INT8）才能跑得动。这就像把高清照片压成标清——体积小了好几倍，肉眼几乎看不出差别。量化后的模型在边缘 NPU 上速度快几倍，精度损失通常只有零点几个百分点，仓库场景完全够用。所以别一听"边缘算力弱"就摇头，弱的是纸面参数，不是实际效果。
先泼一盆冷水：有个老板问我，能不能用云端 AI 实时数传送带上的包裹个数。我说你花几千块装个光电计数器，0 延迟、不用联网、皮实耐操。AI 不是锤子，别什么都当钉子。这种伪需求，直接毙掉。
边缘推理 vs 云端：延迟账，多少毫秒等不起
选型第一条分界线是延迟预算。云端推理的延迟 = 上传 + 云端计算 + 下载，国内环境一个往返通常 100～300 毫秒，网络抖动时 500 毫秒以上也不稀奇。边缘推理是本地算，一般 30～80 毫秒搞定。
按延迟预算画三条线：
| 延迟预算 | 典型负载 | 推荐位置 |
|---|---|---|
| 毫秒级闭环（<100 毫秒） | 分拣落格、AMR 避障、安全急停 | 边缘，没得商量 |
| 秒级交互（<1～2 秒） | 语音拣选确认、扫码复核 | 边缘或就近节点 |
| 分钟级以上 | 销量预测、补货建议、报表 | 云端 |
算一笔延迟账：分拣机 1.8 米/秒，云端往返 380 毫秒，包裹位移 = 1.8 × 0.38 = 68 厘米。格口 60 厘米宽——识别结果回来时，包裹已经跑过格口了。这不是算法问题，是物理问题，模型再准也救不回来。
语音拣选的延迟账是另一笔算法：人对交互延迟的感知阈值在 400 毫秒左右。云端 1.2 秒的确认延迟，工人每单都要"等一下"，一天几百单就是几十分钟白白蒸发。边缘 300 毫秒以内，人基本感觉不到等待。这笔账不体现在服务器账单上，体现在人效上——而人效是仓库最大的成本项。
反常识的判断来了：很多人觉得"云端算力强，所以识别更准"。错。准不准看的是模型本身和训练数据，同一个模型放边缘跑，精度一模一样。云端真正强过的只有两件事：训练模型，和一次算几千个任务的批量。拿"更准"当理由选云端，是交了智商税。
云端 vs 边缘的成本账：流量费和硬件费对着算
第二笔账是钱。云端按流量和调用量持续收费，边缘是一次性硬件投入加电费，算法不一样。
先算流量。一路 1080p 摄像头，H.264 编码按 2 Mbps 上传算，24 小时就是 2×86400/8 ≈ 21.6 GB，一路一月约 650 GB。20 路摄像头一个月就是 13 TB 上行流量。流量单价以云厂商官网最新政策为准，我不编数字，但十几 TB 的量级摆在这——这笔钱，够买好几台边缘盒子了。
2024 年 3 月，华东一家服装仓的语音拣选走云端，工人报完数要等 1.2 秒才听到确认音，一天重复报数上百次，效率还不如纸单。切到边缘本地识别后，延迟压到 300 毫秒以内。注意这个案例的玄机：语音数据量很小，带宽根本不是瓶颈，瓶颈是交互延迟——人等 1 秒就会烦，就会重复报数，系统越用越慢。这类"数据小、交互紧"的负载，放云端是花钱买罪受。
对账公式很简单：边缘方案，把硬件 3 年摊销加电费加维护人工，除以 3 年总推理次数，得到单次推理成本；云端方案，把流量费加调用费除以总次数。哪个低用哪个。负载 7×24 稳定跑，边缘摊得越薄越划算；负载忽高忽低、偶尔跑一批，云端按量付费更划算。这就是成本分界线。
边缘方案还有几笔隐性成本，别漏了：机柜上架和布线、交换机端口、夏天多开的空调电费。这些加起来，一台边缘盒子的 3 年总拥有成本要比裸机价再上浮两三成。算单次推理成本时用总拥有成本，别用裸机价，不然算出来好看、落地被打脸。
断网了怎么办：云端一断，边缘能不能接住
第三笔账最容易被忽略：仓库的网不是不会断的。光纤被市政施工挖断、运营商故障、机房交换机罢工，我都见过。云端推理一断，全灭；边缘本地推理，断网照常跑。
2024 年 8 月，华北一家仓被市政施工挖断光纤，断网 6 小时。他们的入库扫码视觉识别跑在边缘端，6 小时里照常处理了约 9000 件，零停线——而同一园区的另一家全云端方案的仓，那 6 小时只能人工登记。所以断网降级方案要提前设计好，建议做成一张表贴在运维手册里：
| 功能 | 正常模式 | 断网降级 |
|---|---|---|
| 入库扫码 | 扫码+破损检测+体积测量 | 只扫码，其余断网后补录 |
| 语音拣选 | 语音全流程 | 按键确认 |
| 预测补货 | 云端批量跑 | 暂停，恢复后补跑 |
降级不是将就，是设计的一部分。
维护的坑：边缘设备最磨人的三件事
原理讲完、分界线画完，最后讲维护的坑——这才是边缘方案真正的成本。
第一，散热和灰尘。仓库夏天 40℃ 是常态，边缘盒子积灰加高温，MTBF（平均无故障时间）标称 5 万小时，实际打对折都算客气的。极端点的仓，配电房旁边能到 45℃，消费级 SSD 先扛不住——选宽温工业盘，这钱别省。清灰必须写进 SOP，按季度来，别等机器过热降频了才想起来。
第二，模型版本一致性。20 台边缘设备，A 盒子跑 v2.3、B 盒子跑 v2.1，识别结果打架，查问题查到哭。必须做 OTA 统一推送，推送完逐台校验版本号，对不上就告警。这是边缘方案里最容易翻车的地方。
第三，监控盲区。云服务器死了有完善的监控报警，边缘盒子死在角落里可能几天没人知道。心跳上报加看门狗，断线 5 分钟自动告警，这套必须在上线第一天就配好。心跳间隔别设太稀，1 分钟一次的流量忽略不计，换来的是故障发现时间从"几天"变成"几分钟"。
这钱花得值不值，看这一个数
回到开头那句话：单次推理成本。边缘方案 3 年总投入除以 3 年总推理次数，云端方案流量加调用费除以总次数，哪个低用哪个。延迟预算决定能不能用，单次成本决定划不划算，断网降级决定敢不敢用。三笔账算完，云端还是边缘，答案自己就出来了。别被厂商的 PPT 忽悠，拿计算器按自己的量算一遍，数字不会骗人。
作者：大刘｜自动化工程师
