为啥老师傅不信AI调机？谈谈AI可解释性信任

上周三我在总装车间转，碰到徒弟小周蹲在质检台旁挠头，面前摆着三个废冲压件，脸上拉得比驴长。AI检测说全合格，他就放去下工序了，结果到了装配才发现，每件都有一道一毫米深的暗裂。小周跟我委屈，说这AI测试准确率快九十九了，怎么偏偏出这错？还说AI压根说不清楚为什么它判断这几件是好的，我听完就笑，这哪是AI准确率不够，是你压根没搞明白，AI要让人敢用，缺的不是准确率，是能落地的可解释性，也就是大伙说的AI可解释性信任。

AI说合格，你敢签字放行吗

现在车间里AI用得越来越多，调参数的，看缺陷的，排产的，什么都有。我见过一条发动机缸体检测线，刚上AI那会儿，所有人都犯嘀咕。AI扫完，咔出一个合格不合格，就俩字。你问它为什么，没了。别说老质检，就是刚毕业的大学生，都不敢直接签字。你想啊，一个缸体大几千，出一批残件，停线大半天，谁担这个责任？对吧？ 汽车冲压车间AI缺陷检测现场 后来那条线没办法，只好保留了全人工复检，AI相当于多买了一份保险，根本没省下人工，钱花了一大半，活没干出来，老板天天骂。 说实话，这种情况我见得太多了。很多厂子上AI，上来就比准确率，谁高就用谁，没人问一句，这个AI能不能说清楚它为啥这么判。好像准确率够了，一切问题都解决了。可真到用的时候，卡壳全卡在信任这一步。

可解释不是要讲大道理，是要给明白人留痕迹

很多搞AI的过来推广，张嘴闭嘴就是听不懂的术语，把可解释性说的玄乎其玄。我干了三十年车间，总结下来就一句话：你得告诉干活的人，AI这个结论是怎么来的。就像我调机，我告诉你我把进给量降五个丝，是因为这批毛坯硬度比往常高，再高就要烧刀，你一听就懂，自然就信我。AI不能连这个都没有吧？ 工业AI缺陷检测热力图标定图 我去年帮朋友改一条铸件检测线，原来的AI就是只给结果，错了全靠碰运气，老质检没人愿意用。后来加了一层可解释输出，每次说哪里有缺陷，直接用热力圈把问题区域标出来，还告诉你触发判断的特征是什么，是灰度差不对，还是纹理不规则。就这么一个小改动，老质检原来一分钟查一个，现在扫一眼热力圈，十秒就看完，错判的比原来人工还少。 大伙为什么一下子就信它了？因为它把判断的依据摆到台面上了。AI看错了，我们一眼就能揪出来，它看对了，我们也能马上确认，心里踏实啊。很多人把可解释性想复杂了，以为要让AI像人一样写一份逻辑完整的报告，根本不是。车间里的都是干活的明白人，你只要把你看的点指出来，剩下的我们自己会判断。

信任从来不是天上掉下来的

信任从来不是天上掉下来的 不过话说回来，我听过太多歪理，说什么AI本来就是黑箱，可解释性不重要，准就行。那是站着说话不腰疼，你不用签字担责当然这么说。车间里干活，出了问题就是真金白银的损失，就是要有人扛责任，你连AI为啥这么判都不知道，谁敢扛这个责？ 其实现在很多技术已经能做到很低成本的可解释了，不用改模型，不用降准确率，就是多输出一层判断依据而已。就是很多人没把这个当回事，觉得一线用户不需要懂。可你不让用户懂，用户怎么信你？ 说白了，AI可解释性信任，说穿了就是把AI当成车间里的一个新学徒。你让他干活，他干完了你得让他说清楚，哪步干了什么，凭什么这么干，老师傅才敢放手让他单独干活，不然换谁都得再查一遍。你说是不是这个理？