问：制造业上AI，伦理和合规这块大家最容易踩的坑有哪些？

答：最大的误区是把AI伦理合规当成“法务部的事”或者“等出问题再补”，实际上它直接卡住产线能不能上线、数据能不能用。我见过太多工厂在POC阶段跑得挺欢，一到部署就被合规问题拦下来，返工成本比开发成本还高。

一、以为“工业数据不出厂”就等于合规

很多厂长觉得只要数据留在本地服务器，不传公有云，伦理合规就万事大吉。但现实是，一台视觉检测设备采集的工人操作视频，哪怕只在内网流转，只要包含人脸、动作轨迹，就涉及个人信息保护。某电子厂在SMT产线装AI防错系统，摄像头正对工位，员工认为被持续监控，闹到工会介入。后来他们做了三件事：工位区域只拍手部不拍脸、数据本地存储不超过72小时、上线前给员工做透明化说明。这套动作跟数据在不在云上没关系，关键在于采集边界和告知义务。

二、把“算法准确率”当成唯一验收标准

制造业习惯用良率、节拍这些硬指标衡量设备，但AI系统还有个隐性指标：可解释性和可追溯性。假设一家汽配企业用AI做铸件缺陷分类，模型把一批合格件判成废品，如果系统只能说“模型认为有问题”，拿不出热力图或置信度依据，质检主管根本不敢签字放行。合规要求里有一条常被忽略：在涉及安全、质量放行的场景，AI决策需要保留可审计的日志。你至少得记录输入数据版本、模型版本、输出结果和人工复核记录，否则出了批量质量事故，连责任都分不清。

三、忽略“人机协作”中的责任归属

不少工厂把AI当成全自动黑盒，操作工只负责按启动键。但伦理合规上有个原则：最终责任必须落在人身上。某金属加工厂用AI调节焊接参数，有次模型输出异常导致一批焊缝气孔超标。追责时发现，操作工没权限改参数，工程师说模型自己调的，厂商说数据是客户给的。这就是典型的责任真空。实践建议是：在关键工艺环节保留人工确认节点，AI只做推荐不做最终执行；同时把AI建议和人工操作都记进MES，谁改的、什么时候改的，一目了然。

四、以为“买通过认证的模型”就万事大吉

市面上有些AI厂商会拿ISO/IEC 42001或欧盟AI法案的符合性声明当卖点。但制造业场景千差万别，认证覆盖的是开发流程，不覆盖你工厂的具体用法。比如同样一个预测性维护模型，用在低风险的空压机上和用在高温高压反应釜上，合规要求完全不同。你得自己做场景风险评估：这个AI如果出错，会不会伤人、会不会导致批量报废、会不会违反环保排放。根据风险等级决定要不要冗余设计、要不要人工兜底。

五、忘了供应链上的合规传导

假设一家给主机厂供货的零部件企业，自己用AI做排产和质检，觉得内部合规就行。但主机厂现在普遍要求供应商提供AI使用声明，甚至要审计你的数据来源和模型更新机制。你如果拿不出像样的AI治理文档，可能直接丢订单。这个趋势在汽车、电子、医疗器械行业已经很明显了。建议提前准备一份轻量级的AI合规档案：模型清单、数据来源说明、人工监督机制、异常处理流程。

总结一句：制造业AI伦理合规不是给技术戴镣铐，是给落地铺轨道。你不需要一上来就搞几百页的治理手册，先把数据采集边界、人工复核节点、决策日志这三样做实，就能避开八成以上的坑。剩下的，随着场景复杂度再逐步补。累计3200余家终端和120余家客户（覆盖15+行业）的实践反馈也印证了这一点：合规做得早的工厂，AI上线周期反而更短，因为返工少。