车间老炮聊边缘计算实时推理：不是玄学是一线救命的家伙

上周三后半夜两点，手机突然炸了。 夜班小周的电话，说外圆磨那边出事了。 我套上衣服往车间跑，心已经沉了。 果不其然，三台进口磨床，连续废了三根45CrNiMoV的主轴毛坯。一根毛坯连料带预加工，快两万块。小周蹲在旁边抽烟，手都抖。 之前我们用的云端缺陷检测，信号一波动，延迟能到半分钟。磨完了才告诉你振纹超差，晚了。这不就是为什么我们后来咬咬牙上了边缘计算实时推理？ 机械加工车间主轴外圆磨床加工工位实拍

剥开概念说实在的

说实话我刚接触的时候，也被一堆名词绕晕了。 后来跟厂商的工程师蹲在电控柜旁边聊了三天，才弄明白。说白了就是，原来把检测模型放远在千里外的云端，现在把模型直接放到车间机床旁边的小网关里，算完直接出结果，不用绕一大圈传数据。 现在主流就两条路线。一个是FPGA硬推理，一个是工业NPU软推理。我给你报三个实打实的数，都是我们现场测过的。 FPGA跑我们这个振纹检测模型，端到端推理延迟能做到1.2毫秒。 同样的模型，放在目前常用的工业级NPU上，延迟大概是15毫秒。 成本呢？同算力的FPGA方案，比NPU整整贵40%上下。 FPGA好是好，抗电磁干扰能力强，延迟低到你根本感觉不到，但是只要你想改一下模型，就得重新烧录，车间哪有那功夫天天折腾？ NPU就灵活多了，在线更个模型，十分钟搞定，不用动硬件。 不过话说回来，行业内通常不说但实际都在做的妥协是什么？ 大部分中小厂子，根本不会上全参数的大模型跑边缘。都是把模型剪枝，砍掉没用的冗余参数，牺牲不到1%的准确率，把推理体积压下来，放在NPU上，延迟就能控制在20毫秒以内，完全够用，成本还能降下来。 没几个厂子真会为了那10毫秒的差距，多花一半的钱。对吧？

不同场子，要求真不一样

我前两年给朋友的汽车冲压厂做技改，他们那里上边缘计算实时推理，是做车门覆盖件表面划痕检测。 他们生产线一分钟出12件，要是检测慢个两秒，整线都得停，一分钟损失几千块。那里的要求就一个：延迟必须够低，不能耽误生产节拍。 他们的案例我印象很深，之前用人工检，每班漏检10件以上，现在用边缘实时推理，漏检不到1件，节拍一点不耽误，半年就把技改成本收回来了。 后来我去内蒙的风电场做技术支持，他们那里也用这个东西，要求完全不一样。 他们是做风机塔筒焊缝的在线裂纹检测，都在野外荒山上，基站信号动不动就断，不可能连云端。所以必须边缘自己推理，而且整个网关的功耗不能超过10W，因为很多偏远机位靠太阳能供电。 他们那里，精度稍微差一点没事，但是断网不能停，功耗必须低，这就是完全不同的要求。 工业边缘计算网关安装在磨床电控柜实拍

风口下藏着没人说的坑

现在都讲智能制造，进口替代，边缘计算实时推理这两年火的不行，好多国内芯片厂商都出来做工业边缘芯片，原来进口FPGA卖十几万一片，现在国产的几万就能拿下，性能也差不了多少，这确实是好事。 不过有个事，行业内没人愿意公开说。 就是现在压根没有统一的工业级边缘推理性能测试标准。 你看厂商给你的参数，都是实验室恒温恒湿无干扰环境下测出来的，准确率99.5%好看得很。放到你车间里，夏天电控柜温度四十多度，旁边就是高频焊机，电磁干扰满天飞，同一个模型准确率直接掉到92%都不奇怪。 出了问题，厂商说你环境不达标，你说厂商产品不合格，扯不完的皮。标准出来的太慢，远远赶不上产品推新的速度，这就是实打实的风险。说白了，现在好多项目，都是摸着石头过河。 我今天早上还去磨床工位转了一圈，油雾还是那么大，机床嗡嗡响，我们上的边缘推理，已经稳跑一年多了，再也没废过毛坯。 我干了二十年机械，总结出来的土话就是：别认PPT上的参数，要认油雾里泡过的实在货。 你花大价钱上了最顶级的方案，放到车间三个月就出问题，那有什么用？ 你们厂子上边缘计算实时推理，踩过哪些厂商没提前说的坑？欢迎同行过来唠两句。