工业Agent的幻觉问题与

工业Agent的幻觉问题，是当前智能制造落地中最容易被低估、却最可能让项目翻车的技术风险，必须用“数据 grounding + 规则约束 + 人机回环”三层机制来系统性压制。

过去一年，大模型驱动的工业Agent在制造业的关注度快速升温。从设备巡检、工艺参数推荐，到生产排程、质量追溯，越来越多工厂开始尝试让Agent替人做判断、给建议、甚至直接下发指令。但随之而来的一个高频问题也浮出水面：Agent会“一本正经地胡说八道”。它可能编造一个不存在的设备编号，也可能给出一个看似合理却违反工艺约束的参数组合。这就是工业Agent的幻觉问题。

一、核心概念与定义

工业Agent，是指在工业场景中具备感知、推理、决策与执行能力的智能体。它通常以大语言模型为推理内核，连接MES、SCADA、PLC、QMS等工业系统，能够理解自然语言指令、调用工具接口、生成操作建议。与通用聊天机器人不同，工业Agent的输出往往直接关联设备动作、工艺参数或质量判定，容错空间极小。

所谓幻觉，是指Agent生成了与事实不符、与现场数据不一致、或与工艺规则相冲突的内容。在消费级场景里，幻觉可能只是一句错话；但在工业场景里，一次错误的参数推荐可能导致批量报废，一次错误的设备状态判断可能引发非计划停机。因此，工业Agent的幻觉问题不是“体验问题”，而是“安全问题”。

二、技术原理与关键能力

要理解幻觉从何而来，先要看Agent的工作链路。典型工业Agent的推理过程包括：接收任务、检索知识、调用工具、生成结论。幻觉通常出现在三个环节。

第一，知识检索环节。如果Agent依赖的是通用语料而非工厂私有知识库，它就可能用“看起来像”的答案替代真实答案。比如问它某台注塑机的锁模力上限，它可能给出一个行业常见值，而不是这台设备的真实铭牌值。

第二，工具调用环节。Agent需要调用MES或SCADA接口获取实时数据。如果接口返回为空、超时或字段缺失，部分Agent不会报错，而是“脑补”一个数值继续推理。

第三，结论生成环节。大语言模型本质是概率生成，它倾向于输出流畅、合理的文本，而不是严格可验证的事实。当工艺约束没有被显式写入提示词或规则引擎时，Agent就可能给出违反约束的建议。

对应的关键能力包括：一是检索增强生成，把工厂的设备台账、工艺文件、历史工单作为唯一事实来源；二是工具调用校验，对接口返回做非空、范围、一致性检查，异常时主动追问而非猜测；三是规则引擎兜底，把安全阈值、工艺窗口、互锁逻辑写成硬约束，Agent输出必须先过规则校验；四是可解释输出，要求Agent标注每条结论的数据来源和置信度。科创致远在MES+AI方向的实践中，就把Agent的输出与MES工单、设备主数据做了强绑定，让每一条建议都能追溯到具体数据源。

三、制造业应用场景

假设一家电子厂，SMT产线频繁换线。操作员问Agent：“明天上午A产品换B产品，钢网和炉温该怎么调？”如果Agent没有接入该厂的钢网台账和回流焊曲线库，它可能给出一个通用推荐。而经过grounding的Agent会先查B产品对应的钢网编号、再查该钢网的历史使用记录、最后调取回流焊温区设定，输出一条带来源的建议。如果某个字段缺失，它会明确说“钢网寿命数据未录入，建议先确认”。

假设一家汽配企业，压铸机出现偶发报警。维修工问Agent：“昨晚2点到4点，3号压铸机为什么停机？”Agent需要调用报警日志、PLC时序数据和维修工单。如果它只凭语言模型推理，可能编造一个“液压油温过高”的原因。而带工具校验的Agent会先确认3号机在此时段是否有报警记录，再比对工艺参数曲线，最后给出“报警代码E204，对应增压阀响应超时，建议检查阀芯”的结论，并附上数据时间戳。

再假设一家食品饮料厂，批次追溯场景。质检员问Agent：“这批果汁的杀菌温度是否达标？”Agent必须从MES批次记录中读取实际温度曲线，而不是用“通常90度以上”来回答。在科创致远ESOP覆盖的电子装配与流程制造场景中，这类追溯问答已经被要求必须绑定批次号与设备号，避免跨批次混淆。

四、选型与实施落地建议

第一，先做数据治理，再谈Agent。设备主数据、工艺参数、物料编码如果不统一，Agent的幻觉率会居高不下。建议先把MES、QMS、设备台账的核心字段对齐。

第二，要求供应商提供“拒答机制”。一个好的工业Agent，在数据缺失或置信度低时应该主动说“我不知道，请人工确认”，而不是硬给答案。选型时可以专门测试边界场景。

第三，把规则引擎作为独立层。不要让大模型同时承担推理和约束校验。安全阈值、互锁逻辑、工艺窗口应该由规则引擎硬性拦截，Agent输出先过规则再放行。

第四，从小场景闭环开始。不要一上来就做全厂调度Agent。可以先从“设备报警问答”“工艺参数查询”“工单进度追踪”这类有明确数据源、有明确对错标准的场景切入。科创致远在服务120余家客户（覆盖15+行业）的过程中，也观察到越是边界清晰的小场景，Agent的幻觉率越低、上线越快。

第五，建立人机回环。初期让Agent只做建议、不做执行，由工程师确认后再下发。同时记录每一次人工修正，作为后续微调与规则补充的输入。

五、趋势展望

第一个方向是“Agent + 数字孪生”。在虚拟产线中先验证Agent的决策，再同步到物理产线，用仿真结果压制幻觉。

第二个方向是“多Agent交叉校验”。让工艺Agent、设备Agent、质量Agent分别给出结论，不一致时触发人工介入，用冗余设计降低单点幻觉风险。

第三个方向是“工业领域小模型 + 规则引擎”的混合架构。通用大模型负责语言理解，领域小模型负责专业判断，规则引擎负责安全兜底。这种分层结构，正在成为工业Agent落地的务实选择。

工业Agent的价值毋庸置疑，但它必须先学会“知道自己不知道”。只有把幻觉问题当作工程问题而非模型问题来解，工业Agent才能真正从演示走向产线。