齿轮箱里的AI可解释性信任：为什么老师傅宁信摸出来的异响不信AI报告？
刚擦完手上的黄油，后领口还沾着车间的铁屑，实习生攥着平板凑过来，声音压得低：“李工，AI系统显示这台压机所有指标都正常，为啥你偏说要拆齿轮箱？”
机械车间工人手摸齿轮箱箱体感知振动
这事儿不是第一次见了。现在很多产线都上了AI做预测维护，说能提前找故障，少停线多赚钱。可干现场的老工人，十个有七个对这些AI打问号。不是我们守旧排斥新东西，是你AI给我就蹦出来一个健康分，说没事就没事，说有事就有事，问你为啥，你说不出来。换你你敢信？
说实话，我们干现场的，对机器的信任本来就是一点点攒出来的。我干了快三十年，哪台机器什么声音什么震感，摸得多了，闭着眼都能说出它舒服不舒服。突然来个AI，说我摸出来的问题不对，它又说不出哪儿不对，这怎么玩？
工业AI预测维护故障原因可解释面板
问题出在哪？就是那个AI是个标准的黑盒。它训练的时候喂了十几万条历史数据，学会了对应特征输出结果，可它自己说不清楚，它是盯着哪几个特征出的预警。那次后来查，才知道是车间夏天开空调，通风口对着传感器吹，温度传感器飘了两度，AI就把这个当成了故障特征。它要是能说一句“我这个预警是因为温度传感器数据偏高，振动、油样其他参数都正常”，我们能连着换三次轴承？
不过话说回来，也不能全怪做AI的，很多人做模型的时候，就只盯着准确率往上涨，根本没想过用的人要什么。你准确率再高，到现场错一次，攒的信任就没了。
可解释性，就是让AI会说人话
很多人一听AI可解释性信任，觉得是什么玄乎的学术概念，其实说白了特别简单。就是你AI不能只给我甩结论，得像我带徒弟一样，告诉我你为啥这么说。
我告诉徒弟哪里要坏，我会说“你听这异响，是齿轮啮合间隙大了，昨天油样化验磨粒也超了，所以得拆”，徒弟一听就懂，也知道怎么验证，对不对？AI也一样啊。你说要坏，你告诉我哪路传感器不对，哪个参数飘了，和之前哪次故障的特征像，我去查，查完对得上，我下次就信你。你说不出来，哪怕蒙对十次，错一次，我就再也不敢信了。
之前碰见过一个改得好的可解释AI，出了异常直接给你标出来哪几个参数贡献了百分之多少的异常分，你顺着去查，一查一个准。有次它报预警，标出来是湿度传感器飘了，其他都正常，我们去看，果然是传感器进水了，擦擦干就好，根本不用停线，这不就皆大欢喜？
很多人说，干现场的难接受新事物，其实真不是。我们不排斥AI，我们排斥的是啥都不说就拍板的AI。你把底交出来，说清楚你的道理，对一次我们就信你一次，攒得多了，自然就信任了。
昨天我们把那台冲压机的齿轮箱拆开，果然密封件老化漏了油，齿轮面磨出来一沟，再开半个月，非抱死不可，停线修就得几十万。实习生蹲在旁边掏油泥，半天蹦出来一句，原来不说清楚道理的AI，真的会误事。我递给他一块擦布，没说什么大道理。干我们这行，手里托着整线的产能，也托着一班人的安全，信任从来不是凭空来的。你掏心窝子把话说开，我才敢把活儿交给你。AI也一样。
你信AI，还是信摸出来的手感？
我蹲在地脚边上敲了敲箱体，嗡嗡的震感从敲棍传上来，顶得虎口发麻。我说你自己摸，放手上试试。他半信半疑伸手按在箱体上，哦了一声，说确实比旁边那台震。但AI给的健康分九十五，属于完全正常区间。为什么？机械车间工人手摸齿轮箱箱体感知振动
这事儿不是第一次见了。现在很多产线都上了AI做预测维护，说能提前找故障，少停线多赚钱。可干现场的老工人，十个有七个对这些AI打问号。不是我们守旧排斥新东西，是你AI给我就蹦出来一个健康分，说没事就没事，说有事就有事，问你为啥，你说不出来。换你你敢信？
说实话，我们干现场的，对机器的信任本来就是一点点攒出来的。我干了快三十年，哪台机器什么声音什么震感，摸得多了，闭着眼都能说出它舒服不舒服。突然来个AI，说我摸出来的问题不对，它又说不出哪儿不对，这怎么玩？
藏在黑盒里的信任漏洞
前两年我们这边整厂上AI系统，刚上没半年，一条线的AI连着发了三次预警，说主轴轴承要坏。工人信了，停线换，拆下来打开，光亮如新，一点磨损都没有。连着换三次，几十万的配件打水漂，还耽误了交货，后来线长直接把这个AI预警给关了，还是按原来的规矩，每天班前三摸两听，出了问题再修。工业AI预测维护故障原因可解释面板
问题出在哪？就是那个AI是个标准的黑盒。它训练的时候喂了十几万条历史数据，学会了对应特征输出结果，可它自己说不清楚，它是盯着哪几个特征出的预警。那次后来查，才知道是车间夏天开空调，通风口对着传感器吹，温度传感器飘了两度，AI就把这个当成了故障特征。它要是能说一句“我这个预警是因为温度传感器数据偏高，振动、油样其他参数都正常”，我们能连着换三次轴承？
不过话说回来，也不能全怪做AI的，很多人做模型的时候，就只盯着准确率往上涨，根本没想过用的人要什么。你准确率再高，到现场错一次，攒的信任就没了。
可解释性，就是让AI会说人话
可解释性，就是让AI会说人话
很多人一听AI可解释性信任，觉得是什么玄乎的学术概念，其实说白了特别简单。就是你AI不能只给我甩结论，得像我带徒弟一样，告诉我你为啥这么说。
我告诉徒弟哪里要坏，我会说“你听这异响，是齿轮啮合间隙大了，昨天油样化验磨粒也超了，所以得拆”，徒弟一听就懂，也知道怎么验证，对不对？AI也一样啊。你说要坏，你告诉我哪路传感器不对，哪个参数飘了，和之前哪次故障的特征像，我去查，查完对得上，我下次就信你。你说不出来，哪怕蒙对十次，错一次，我就再也不敢信了。
之前碰见过一个改得好的可解释AI，出了异常直接给你标出来哪几个参数贡献了百分之多少的异常分，你顺着去查，一查一个准。有次它报预警，标出来是湿度传感器飘了，其他都正常，我们去看，果然是传感器进水了，擦擦干就好，根本不用停线，这不就皆大欢喜？
很多人说，干现场的难接受新事物，其实真不是。我们不排斥AI，我们排斥的是啥都不说就拍板的AI。你把底交出来，说清楚你的道理，对一次我们就信你一次，攒得多了，自然就信任了。
昨天我们把那台冲压机的齿轮箱拆开，果然密封件老化漏了油，齿轮面磨出来一沟，再开半个月，非抱死不可，停线修就得几十万。实习生蹲在旁边掏油泥，半天蹦出来一句，原来不说清楚道理的AI，真的会误事。我递给他一块擦布，没说什么大道理。干我们这行，手里托着整线的产能，也托着一班人的安全，信任从来不是凭空来的。你掏心窝子把话说开，我才敢把活儿交给你。AI也一样。 
