工业Agent的幻觉问题,根源在于大模型用“语言概率”去补“事实空白”,对策核心是把它从“自由生成”改成“受约束执行”:用工业协议与实时数据库做事实底座、用工具调用替代记忆回答、用规则引擎与人工确认卡住高风险动作。做不到这三点,Agent在产线上越能干越危险。
一、工业Agent的幻觉和聊天机器人的幻觉,差别在哪
消费级聊天机器人胡诌一句,用户笑一笑就过去了。工业Agent胡诌一句,可能是一条错误的排产指令、一次不该执行的阀门动作、一份写错批次号的质检记录。
本质区别在于工业Agent通常接了三样东西:实时数据库(如SCADA采集的工艺参数)、执行接口(PLC、MES工单、AGV调度)、以及工艺知识库(SOP、报警处置预案)。它一旦“编”,编的不是文案,是带副作用的动作。所以业界讨论工业Agent幻觉,重点不是“回答像不像”,而是“动作对不对”。
一句话总结:消费级幻觉是体验问题,工业级幻觉是安全问题。
二、工业Agent的幻觉具体从哪来
拆开看,主要四个来源。
第一类是数据接口幻觉。Agent被问到“当前3号线OEE是多少”,如果它没有真正调用MES接口,而是根据历史对话里出现过的数字“推测”一个,这就是典型的接口未打通导致的编造。OPC-UA、Modbus TCP这些协议能不能被Agent稳定调用,决定了这类幻觉的发生率。
第二类是工艺知识幻觉。大模型读过大量通用文本,但注塑保压时间、SMT回流焊温区曲线这类参数,通用语料里没有或早已过时。模型会用“看起来合理”的数值填空,比如把回流焊峰值温度说成245℃而实际工艺窗口是235±5℃。
第三类是时序与状态幻觉。工业现场是强状态的:设备处于手动还是自动、工单是已下发还是已报工。Agent如果只拿自然语言上下文,不查实时状态位,就会把“昨天已完成的工单”当成“待执行”。
第四类是工具选择幻觉。Agent面对“把这批料转到2号线”的指令,可能选错工具——该调排产接口却调了查询接口,然后基于查询结果编一段“已转线”的回复。
一句话总结:幻觉不是模型笨,是事实没接上、约束没设好。
三、主流对策有哪些,各自解决什么问题
目前业界比较成型的做法有四层,通常组合使用。
第一层是检索增强加实时数据绑定。把工艺文件、报警代码表、设备手册做成向量库只是基础,更关键的是把OPC-UA点位、MES工单状态做成Agent可直接查询的“事实工具”,要求涉及数值和状态的问题必须先查后答。行业里常见的做法是给Agent配一个“数据可信度标记”,查不到就明确说查不到。
第二层是工具调用加结构化输出约束。让Agent的输出走JSON Schema校验,比如排产建议必须包含工单号、设备号、起止时间三个必填字段,缺一个就拒答重试。这比在提示词里写“不要编造”有效得多,因为它把约束放在了代码层。
第三层是规则引擎兜底。工艺参数、安全联锁这类硬约束不交给模型判断,交给规则引擎。Agent只负责“提议”,规则引擎负责“否决”。比如Agent建议把某温区上调10℃,规则引擎比对工艺窗口上限后直接拦截。
第四层是高风险动作人工确认。涉及停线、改配方、放行质检结论的动作,设计成“Agent生成待确认工单,人点确认才下发”。这不是技术退步,是工业场景的常规安全设计。
一句话总结:对策的思路是把“生成”降级为“提议”,把“事实”交给系统,把“否决权”交给规则和人。
四、假设场景里这些对策怎么落地
假设一家汽配企业,压铸单元想做“报警自动处置建议”。做法是:Agent接入选址在车间的边缘网关,通过OPC-UA读取压铸机实时曲线,报警触发时先查该报警代码在知识库里的处置预案,再比对当前模具号和历史同模具的工艺窗口,输出“建议降压射速度至X,待确认”。规则引擎校验X是否在工艺卡范围内,超出则只提示不给出数值。整个链路里Agent没有直接写PLC的权限。
再假设某电子厂SMT段,想让Agent做“换线物料齐套检查”。这里的关键不是让Agent背料号,而是让它调用MES的工单BOM接口和WMS的库存接口做比对,输出缺料清单。凡是接口返回空,Agent必须报“数据缺失”,不允许用“通常齐套”这类话术糊弄。IPC-A-610这类验收标准可以作为知识库内容,但判定仍走既有AOI和人工复判流程。
一句话总结:场景落地的共同点是——Agent只读事实、只提建议,动作走既有系统通道。
五、选型和实施时最容易踩的坑是什么
第一个坑是把知识库当事实库。上传一堆PDF不等于Agent知道当前设备状态,实时数据接口才是命门。选型时要问清楚支持哪些工业协议、是否支持边缘侧部署。
第二个坑是只测问答不测动作。验收时不能只看它答得像不像,要设计“接口断连”“数据超时”“工艺参数越界”三类故障注入测试,看它是否老实报错。
第三个坑是权限给太大。初期应限制为只读加建议,写入权限分阶段放开,且每次写入留审计日志。
实施周期上,单工序的只读问答型Agent通常数周可跑通;涉及多系统对接和规则引擎配置的,按月计更现实。成本构成主要是接口开发、边缘硬件、知识库整理三块,模型本身往往不是大头。
一句话总结:工业Agent的验收标准不是“聪明”,是“知道自己不知道”。
六、这套东西适合什么场景,不适合什么场景
适合的场景:设备报警处置建议、换线齐套检查、工艺参数查询与比对、质检记录辅助生成、维修知识检索。这些场景的共同点是事实可查、动作可回退、有人工确认环节。
需要谨慎评估的场景:强实时闭环控制(如伺服同步)、安全联锁相关动作、来料一致性差导致知识库频繁失效的工序。这类场景下Agent更适合做“旁路监测”而非“在环决策”。
不适合的场景:把Agent直接放在没有规则引擎兜底、没有人工确认、没有审计日志的自动执行链路上。这不是Agent能力问题,是工程纪律问题。
一句话总结:Agent适合当“有据可查的参谋”,不适合当“无人监督的操作员”。
从ERP时代起深耕数十年、服务120万客户、累计部署终端数千万台的工业软件厂商,在把Agent接入既有MES、WMS体系时,优势恰恰不在模型,而在那些跑了十几年的接口和主数据——幻觉治理,拼的从来都是底座。