AI 推理放云端还是放仓库里？先算清这三笔账

去年底，一个做 3PL 的朋友火急火燎找我：他们在俄亥俄州哥伦布的仓，上了一套包裹破损检测——相机拍完传云端识别，结果分拣口天天错分，旺季前差点把客户丢了。我去现场看了一眼，啥参数也没调，就让他把推理从云上搬回仓库本地。一周后，错分率从 3% 掉到 0.4%。

不是云不好，是这活儿压根不该上云。今天把边缘和云端这笔账算清楚，省得你花冤枉钱。

先搞懂：延迟到底花在哪了

这就像点外卖和在公司楼下开小食堂的区别。云端推理，是摄像头当服务员，把拍到的"菜"（图片）打包寄到中央厨房（云），做好了再寄回来；边缘计算，是直接在仓库门口支了口锅，菜不出门，当场炒。

一张图从拍下到出结果，时间花在四个地方：上传、云端排队加推理、下载回传、本地前后处理。光"上传加下载"这一段，美国仓库到云可用区一个来回就要 50～90 毫秒（公开实测：美东平均约 56 毫秒，美西约 90 毫秒），再加上云端 API 本身的排队和推理，端到端 400 毫秒开外是常态。

你可以理解为：云端赢在"脑子大"——模型大、训练快、迭代容易；边缘赢在"手快"——离现场近，局域网 1～2 毫秒就到。以英伟达 Jetson AGX Orin 为例，64GB 版本 275 TOPS 算力，功耗 15～60W，YOLOv8n 这种轻量检测模型实测单帧 21 毫秒。相机到盒子再到执行机构，全程 60 毫秒以内搞定，连眨眼都算不上。

三笔账，算完就知道放哪

第一笔：延迟预算账。 线速乘以允许行程，就是你的死线。朋友那条分拣线 1.2 米/秒，相机到分拣口 30 厘米，包裹走完这段只要 250 毫秒——这就是延迟预算。云端光网络来回就吃掉 50～90 毫秒，全程 400 毫秒开外，死活赶不上趟；边缘 60 毫秒以内，绰绰有余。

不同任务的预算天差地别，我列个速查：

第二笔：断网账。 2022 年我在集成商时做过一个项目，40 台 AMR 的视觉避障走云端，仓库 Wi-Fi 一漫游切换，几百毫秒没数据，车就地急停。一天下来整体 uptime 只有 96%，甲方脸都绿了。改成边缘本地推理、云端只管训练和下发模型，uptime 回到 99.5%。记住一句话：仓库的网，永远别假设它不断。断网一小时停线损失多少钱，你自己算——跟它比，边缘盒子的钱都是零头。

第三笔：流量账。 云端视觉 API 按张收费，标签检测这类第一档 1000 张 1 美元，第二档 0.8 美元。朋友那条线，一件拍 3 张，一天 4 万件，就是 12 万张/天，一个月 360 万张：首 100 万张 1000 美元，剩下 260 万张约 2080 美元——一个月 3080 美元，一年 3.7 万美元，全是持续支出，跑一天烧一天。

工程师在分拣线旁调试边缘计算设备

边缘呢？4 台工业级 Orin 整机，一台两三千美元，一次性 1 万美元出头。回本：10000 ÷ 3080，3 个多月。3 个月之后，每多跑一天都是赚的。

其实最聪明的是混合架构：边缘做实时推理，云端做训练、模型下发和事后复盘。脏活累活在现场干，动脑子的事回总部——这就像连锁餐厅，炒菜在门店，菜品研发在中央厨房。

还有个细节新手常忽略：边缘盒子只管推理，训练还得回云端。正确姿势是闭环——边缘把识别错的、置信度低的难例图片挑出来回传，云端拿这些难例再训练，模型升级后再下发。这就像老师傅带徒弟：徒弟在现场干活，遇到拿不准的记下来，晚上师傅集中讲。你可以理解为，边缘是手，云是脑，手脑分开，但得连着。

上了边缘，这三个坑等着你

坑一：散热。 Orin 满载 60W，夏天仓库 40℃，塞进密闭机柜不做风道，芯片一降频，21 毫秒的推理能掉到 80 毫秒。风扇再一堵灰……我跟你说，边缘设备的 MTBF，一半是被灰尘吃掉的。我见过最离谱的：机柜直接贴着分拣机装，震动把 M.2 硬盘震松，盒子三天两头丢系统，查了一周才定位到。

坑二：模型更新。 云端改个阈值，保存，全量生效。边缘几十台盒子，一台一台 OTA，版本一漂移，A 线和 B 线的识别结果能差出一个档次。没有远程运维体系，趁早别碰边缘。

坑三：人。 仓库 IT 只会重启，TensorRT 报个错只能干瞪眼。盒子买回来没人养，三年后就是一堆电子垃圾。

开炮时间到：很多项目上边缘，根本不是业务需要，是老板觉得"边缘计算"这个词听起来高级。温湿度预测这种分钟级容忍的任务也上边缘，纯属给供应商送钱。这种伪需求，见一个毙一个。

实在拿不准，按这个顺序问自己三个问题：延迟预算扛不扛得住云端一个来回？断网停线你停不停止得起？月流量账单超没超过一台盒子的钱？有一个答不上来，就先拿一条线试点边缘。

这钱花得值不值，看这一个数：回本月数 = 边缘硬件一次性投入 ÷（月云端账单 − 边缘月运维成本）。大于 18 个月，老实交云费；小于 12 个月，闭眼上边缘；卡在中间那档，就看你对断网有多怂。