问：AI模型压缩与边缘部署方案有哪些常见误区？

答：最大的误区是把模型压缩当成单纯的“瘦身手术”，以为参数量砍得越狠、模型越小就越成功，结果上线后精度崩了、产线误判率飙升，反而比不压缩更麻烦。实际上，压缩和边缘部署是一套需要和硬件、场景、运维一起算账的系统工程，下面这几个坑踩的人最多。

一、只盯压缩率，不看端侧真实推理链路

很多方案在服务器上跑压缩后的模型，指标很漂亮，但到了工控机、边缘盒子或者PLC旁边的算力模组上，完全不是一回事。比如某电子厂做外观缺陷检测，把YOLO系列模型量化到INT8，理论体积缩小四倍，可现场相机帧率一上来，NPU调度跟不上，推理延迟反而比FP32还高。边缘部署要看的是从图像采集、预处理、推理到后处理的全链路耗时，不是单一模型的FLOPs或参数量。选型时让厂商在你的目标硬件上跑真实节拍，别只看论文里的压缩比。

二、量化等于无脑降精度，忽略校准集代表性

INT8量化确实是最常用的手段，但校准集如果只拿实验室里那几百张“标准图”，到了现场遇到反光、油污、震动模糊的工况，精度掉点会非常明显。假设一家汽配企业做铸件气孔检测，校准集里全是打磨干净的样品，量化后模型对暗色气孔的召回率可能从95%掉到70%出头。正确做法是校准集必须覆盖产线实际会遇到的边缘样本，甚至要故意掺入一定比例的坏样本和噪声图。另外，敏感层该保留FP16就保留，别一刀切全INT8。

三、剪枝和蒸馏混着用，却不做逐层敏感度分析

剪枝、蒸馏、低秩分解这些方法不是不能组合，但很多团队上来就设一个全局稀疏度目标，比如剪掉50%的通道，结果把负责小目标特征提取的层剪废了。工业场景里小目标缺陷（比如划痕、针孔）往往只占几十个像素，这些层对精度贡献极大。比较稳妥的做法是先做逐层敏感度分析，对不敏感的层多剪，对敏感层少剪甚至不剪。知识蒸馏也一样，教师模型选太大的反而不好蒸馏，学生模型容量和教师差距过大时，蒸馏损失很难收敛。

四、忽略边缘硬件的内存带宽和散热约束

模型压缩后体积小了，但推理时的峰值内存占用不一定小。有些压缩方案把权重压得很小，可中间激活值依然很大，边缘设备的内存带宽一跑满，功耗和发热就上来了。某化工厂在防爆区部署边缘盒子，夏天环境温度本来就高，模型压缩没考虑散热余量，连续跑两小时就降频，推理时间从80毫秒涨到200毫秒。选型时要问清楚：压缩后的模型在目标硬件上的峰值内存、持续功耗和温升曲线是什么样。

五、把部署当成一次性交付，没有OTA和回滚机制

边缘节点往往分散在多个车间甚至多个厂区，模型压缩完刷进去就不管了，这是很危险的。产线换料、换批次、换光源，数据分布都会漂移。合理的方案应该支持远程灰度更新和快速回滚，压缩后的模型也要保留版本管理。假设一家食品包装厂有20条线，每条线边缘盒子跑的压缩模型版本不一致，出了问题连复现都难。部署方案里必须包含模型版本、校准集版本和推理引擎版本的对应关系。

总结建议：模型压缩与边缘部署，先定场景节拍和硬件底座，再做逐层敏感度分析和代表性校准，最后把OTA和回滚写进验收标准。别追求极致的压缩率，追求的是在目标硬件上长期稳定跑住的精度和延迟。选型时让厂商拿你的真实数据和目标硬件做POC，比看任何参数表都管用。