这两年我帮不少制造企业做AI落地咨询,最常被问的问题已经从“AI能干什么”变成了“AI Agent到底怎么下地干活”。这个变化很实在:早两年的AI项目大都是报表分析、视觉质检这类单点工具,效果看得见,但总觉得“隔了一层”;而AI Agent因为有规划、调用工具、自主执行的能力,被寄望于真正嵌入到计划排产、设备运维、供应链协同这些核心业务流程里,甚至有人直接拿“让AI真的下地干活”当项目口号。
这篇文章想把自己在企业级制造场景中看到的AI Agent发展趋势、主流技术路线取舍、并发处理方式、部署运维经验和团队建设路径整理出来。适合三类人看:一是制造企业里负责数字化和IT的负责人,二是打算往工业方向转的AI工程师,三是给工厂做解决方案的乙方或集成商。我不堆概念,尽量把“为什么这么选”“踩过哪些坑”讲透,能让你看完后对自家项目怎么起步心里有数。
1. 制造场景对 AI Agent 的独特要求:为什么不能照搬消费级玩法
1.1 数据环境:互联网是“清水”,制造现场是“泥浆”
消费级AI Agent面对的数据,不外乎网页、聊天记录、文档,格式相对统一,数据量也集中在少数几个平台。制造企业完全不是这样。我见过的一条典型生产线,数据分散在PLC采集的时序信号、MES里的工单记录、QMS里的检验数据、ERP里的物料批次、还有老师傅手写的点检表,光把这些数据字段对齐就能让人崩溃。
把这些数据喂给Agent之前,首先要解决的是数据治理,而不是提示词。很多团队上来就写LangChain的ReAct循环,结果Agent调用工具时拿到的数据字段对不上、单位不一致、时间戳时区混乱,再强的推理能力都白搭。我的经验是:制造Agent的落地清单里,接入和清洗数据的工作量通常占60%以上,Agent本身的编排只占30%。低估这一步的代价,就是Demo阶段一切正常,一接真实数据就反复“翻车”。
1.2 决策可靠性:工业要的是“可预期”,不是“聪明”
消费级Agent答错一个问题,用户顶多觉得“这AI不太行”;产线上Agent给错一个参数、误判一次设备状态,可能就是停机或者质量事故。工业现场对可靠性的要求是“可预期”——同样的输入,应该给出同样的、可以解释的判断。这是制造Agent和消费级Agent最本质的差异。
这决定了制造级Agent不能是纯粹的大模型自由发挥。实践中要加三层约束:第一层是流程约束,用工作流或状态机限定Agent只能在预设步骤里行动,不要让它自由调用所有工具;第二层是规则约束,关键参数校验、安全阈值判断必须交给确定性代码,大模型只负责“理解”和“表达”;第三层是人工兜底,高风险动作必须留人审环节。说白了,Agent负责动脑子,但不该让它直接动手碰危险开关。
1.3 系统集成:Agent不是独立应用,而是流程里的一个环节
制造企业的核心系统少说也有七八套:MES、ERP、WMS、QMS、EAM、SCADA、APS。AI Agent要真正产生价值,不能是个“旁边挂着的聊天窗口”,而必须能读写这些系统的数据、触发流程、回写结果。这就带来一个和互联网产品很不一样的问题:身份、权限、审计。
在消费场景里,Agent调用搜索API、查个天气,权限模型很简单。在工厂里,Agent去MES改一个工单状态、去ERP查供应商货款、去QMS签一份质量报告,每一步都要对应到具体的系统账号和权限策略,而且所有操作要可追溯。这已经不是模型层的问题,而是企业架构层面的问题。后面讲部署运维时,我会专门展开这一块的坑。
2. 三条主流技术路线的真实对比:Rust、Spring AI 与 LangGraph 生态
2.1 选型先看存量,再看场景
现在讨论AI Agent技术栈,基本绕不开三个方向:基于Rust语言自研Agent框架、基于Java生态的Spring AI、以及Python系的FastAPI加LangChain加LangGraph组合。很多文章把它们当成“哪个更先进”来比,我认为这是误区。制造企业选型,第一个问题应该是:你们的核心系统是用什么语言写的?团队擅长什么?Agent要长期嵌进MES、ERP周边,语言和框架的亲和度比“单点性能”重要得多。
2.2 Rust 路线:高并发硬场景下的性能选择
在处理实时性要求高的场景时,我确实遇到过Python框架扛不住的情况。比如工厂里有几千台设备同时上报状态,Agent要并发处理大量传感器数据的实时诊断请求。这种场景下,Rust写Agent的吸引力在于:内存安全、无GC停顿、原生并发模型(tokio、actix)能跑出非常稳定的高吞吐。
但这并不意味着“用Rust就一定快”。实测下来,Agent的响应大头几乎都在LLM推理耗时上,框架本身的调度开销占比往往不到10%。Rust的真正优势在于:能和你用Rust写的边缘网关、数据处理服务共用一套代码体系,减少跨语言调用;在极端流量下更可控。代价是开发效率低,生态仍在早期,很多Agent相关组件(记忆管理、工具调用、向量检索)都要自己造轮子。我的建议是:如果不是性能瓶颈明确存在、或者团队本来就有Rust底子,不要为了炫技选Rust。
2.3 Spring AI:Java存量企业的平滑接入
制造企业里Java是绝对的主流,MES、ERP、WMS的老系统十有八九是Java系。Spring AI的意义在于,它把LLM调用、Prompt模板、结构化输出、工具调用这些能力做成了Spring生态的标准组件。团队不需要引入一套全新的Python技术栈,就能在现有Spring Boot工程里把Agent“加”进去,复用已有的账号体系、配置中心、运维链路。
这个路线我实际项目里用得最多,原因是“稳”。Agent在企业里的落地节奏是灰度演进,先在某个模块试运行,再慢慢扩大权限。Spring AI在这一点上非常契合:它既可以用很轻的方式(比如ChatClient)做简单的对话问答,也可以配合Spring Cloud做服务编排、限流、熔断。缺点是相比Python系,它的生态迭代略慢,很多新玩法(比如复杂多Agent协作)要等版本更新推送。
2.4 Python系组合:原型效率与生产成本
Python系是Agent原型做得最快的路线,没有之一。我见过一个团队用FastAPI加LangChain加LangGraph两周就把“设备故障诊断助手”跑通,包括历史工单检索、维修知识问答、故障处置建议生成。LangGraph尤其适合把Agent的决策流程画成图,对“流程约束”的落地非常直观,这和制造业强调的确定性天然契合。同样用Python的团队也常选Django、Flask这类Web框架做外层服务,底层Agent编排交给LangGraph的worker。
但这个组合的生产化代价明显:Python服务部署后的资源占用、并发处理能力、类型安全、依赖管理都需要额外投入。要扛并发,常见做法是FastAPI的异步接口加上Celery或RQ任务队列,把同步的LLM调用改成异步任务;更讲究的还会把LangGraph的执行部分独立成worker。另外,Python项目的长期维护对制造企业IT团队是个挑战——如果你的主力是Java开发,培训和排障成本要提前算进去。
2.5 我的选型参考
| 技术路线 | 适合企业 | 核心优势 | 主要代价 | 并发可扩展性 |
|---|---|---|---|---|
| Rust 自研框架 | 有Rust团队、高实时性需求 | 高吞吐、低资源占用、系统级可控 | 开发效率低、生态不成熟 | 高,适合高并发网关型Agent |
| Spring AI | Java存量重的制造企业 | 与现有系统无缝集成、运维成熟 | 新功能迭代较慢 | 中高,依托Spring Cloud弹性伸缩 |
| Python系组合 | 研发能力强、快速验证场景 | 原型快、社区资料最丰富、编排灵活 | 生产化要补的课多 | 中,需额外引入异步任务和队列 |
3. 扛并发是绕不开的坎:从编排层到基础设施的取舍
3.1 先搞清楚瓶颈在哪:Token、上下文与工具调用
“AI Agent怎么扛并发”是网上问得最多的问题之一。我的看法是,在制造业场景里,先要分清“伪并发”和“真并发”。如果只是十几个内部用户在网页上问Agent问题,那几乎不存在并发压力,随便一个云服务器加个异步接口就够了,不值得为此上K8s。真正的并发压力来自两类场景:一是大量设备或传感器事件触发Agent自动诊断处置;二是Agent的批量任务,比如夜间自动处理几百份供应商单据。
这类场景的瓶颈不是Agent框架本身,而是三个更底层的东西:LLM推理服务的吞吐上限(每分钟能处理的请求数)、上下文窗口与KV cache(并发请求多了显存或内存不够)、以及工具调用的外部依赖(数据库、MES接口的并发连接数)。这里说的Token可以简单理解为大模型处理和生成文本的最小单位,Token数直接决定一次任务消耗的计算资源和费用。我实测过,一个中等规模的vLLM服务跑7B模型,稳定支撑的并发推理大概是几十路;一旦接入企业知识库做RAG检索,还要把向量库、文档解析服务的性能一起算进去。
3.2 有状态Agent的横向扩展问题
消费级聊天Agent是无状态或弱状态的,用户问完就结束。制造场景的Agent往往是有状态的:一个“设备点检助手”可能要跟踪某个工单的处理进度,一个“计划排程Agent”可能要维护多步计划变更的上下文。这种有状态服务做横向扩展时,最头疼的是会话状态放哪。
我见过有团队把状态直接存在进程内存里,测试没问题,一上多副本就各种串号。正确做法是:把Agent的会话状态、记忆、任务进度持久化到Redis或PostgreSQL,服务实例只做无状态计算;如果用了LangGraph,它的checkpoint机制可以和Redis适配器接起来,让每一次节点执行的结果都能恢复。这个设计做不好,后面所有“高可用”和“弹性伸缩”都是空话。
3.3 制造企业更实际的方案:队列化与降级
说句实在话,制造企业90%的场景并不需要“实时对话式并发”,而是可以接受“异步结果”。比如夜间的批量单据审核、批量生成设备诊断报告,完全可以先把请求丢进消息队列,Agent worker慢慢消费,结果写回数据库,用户第二天早晨看到报告。这样“扛并发”的问题就从“硬件堆多少”变成了“队列积压了多少、worker能跑多快”,复杂度一下子降了一个量级。
我在做方案时还会强制设计降级路径:LLM服务不可用时,优先把请求转给规则引擎或人工处理,而不是让用户一直转圈。对制造业来说,“AI挂了但业务不能停”比“AI并发能力有多强”重要得多。这个原则写进架构设计,比任何性能调优都管用。
4. 制造企业落地 Agent 的典型场景盘点:小闭环跑通比大蓝图更重要
4.1 设备运维与故障诊断:最成熟的起点
我见过落地成功率最高的是设备运维知识助手。理由很简单:数据相对规整,知识边界清晰,错误容忍度略高(有人工确认兜底)。具体做法是把设备手册、维修工单历史、点检记录整理成知识库,Agent结合设备实时状态数据,回答“这个报警代码是什么意思”“上次类似故障怎么处理的”“现在应该先检查哪个环节”。更进一步可以做故障处置推荐,但务必在处置步骤上标注“建议性”并留人工确认。
这类Agent的开发门槛不高,很适合团队练手。要特别注意知识库的时效性:设备有新改型、工艺有新标准,知识库必须同步更新,否则Agent会用一套旧参数一本正经地胡说八道。我见过一个项目,因为没更新新设备的启停参数,Agent给了错误建议,还好有工程师复核拦住了。从那以后,知识库更新流程成了这类项目的标配。
4.2 计划排程与异常处置:价值最高也最难啃
计划排产是制造企业最想用Agent替代的核心决策场景,但它也是最难落地的。原因在于排产本质是一个多约束优化问题:订单交期、设备产能、物料齐套、换型时间、人员班次,全都纠缠在一起。Agent如果只是“根据规则给出建议”,价值有限;要做到“动态感知异常并自动调整计划”,牵扯的系统和数据非常复杂。
我目前的观察是,靠谱的路径不是让Agent完全替代APS系统,而是让Agent做“感知与预案”:实时监控产线异常(设备故障、物料短缺),判断影响范围,生成多个可选的重排方案,再由计划员选择并执行。这样既发挥了Agent的信息整合和方案生成能力,又避开了“AI拍板”的风险。这个场景适合有了一定Agent经验之后再去碰,不建议当第一个试点。
4.3 供应链协同与单据处理:文本密集型场景的富矿
制造业里每天有大量文本工作:供应商邮件、采购订单确认、送货单对账、质量索赔函、报关资料。这些工作规则明确、文本密集、人工重复率高,非常适合Agent处理。我帮一家汽配厂做的第一个生产级Agent就是“采购单据助手”:自动从邮件里抽取订单信息,和企业ERP的采购订单比对,不一致项标记出来让人确认,一致项自动归档。上线后每月省了差不多两个人天的手工核对。
这类场景的要点是:抽取和比对这类工作用确定性代码完全可以做,Agent的价值在于处理非结构化输入和理解隐晦表达。不要让它做最终的财务判定,但要让它把需要人判断的异常项找全、整理好。做好这一步,供应链团队对Agent的信任会建立得很快。
4.4 质量数据研判与报告生成:让工程师从写报告里解放
质量部门是另一个高价值场景。质检数据每天都在产生,但工程师很大一部分时间花在汇总数据、分析趋势、写质量周报月报上。Agent可以把检验数据接入后自动生成报告初稿,同时给出异常指标的初步归因线索和需要进一步验证的建议。这个场景技术难度不大,关键是报告的格式和口径要和工程师反复对齐,模板化程度越高,Agent输出越稳定。
一个容易被忽略的细节:质量报告涉及合规和追溯,Agent生成的内容必须留存“数据源加生成时间加模型版本”的审计信息。这不是IT洁癖,是将来万一出质量纠纷时要能解释“这个结论怎么来的”。
5. 从 Demo 到产线:部署运维中那些文档里不会写的事
5.1 数据权限与隔离:MES 对接的第一道坎
Agent要接MES、ERP,权限问题立刻浮现。很多Demo里,Agent用一个“超级账号”调用所有系统接口,开发时很爽,上线审计一查全是雷。我的建议是:Agent必须走服务账号加最小权限,每个Agent实例只授予其业务所需的接口权限。比如“设备诊断Agent”只能读设备档案和工单状态,绝不能让它有改工单的权限,除非你明确设计了一个“处置Agent”并做好人审。下面是一个常见的权限配置示例:
agent: name: device-diagnosis-agent service_account: svc_diag_agent scopes: - device_profile:read - work_order:read - maintenance_log:read denied_scopes: - work_order:update - quality_issue:sign另外一个现实问题是数据隔离:不同车间、不同产品线的数据不能互相越权查看。这需要在Agent调用工具前做一层数据域过滤,不能只依赖大模型“自觉”。规则放在代码里,不放在提示词里。
5.2 模型部署:私有化还是 API 调用
制造企业对数据出厂的顾虑比较大,很多工厂连云端SaaS都不太愿意用。Agent落地时一定要先想清楚模型推理放哪:用云厂商API、私有化部署开源模型、还是混合模式。这里可以参考国内云厂商发布的AI Agent白皮书里的判断,它把行业化封装和混合部署作为企业落地的重点方向。我给制造客户做方案时的默认推荐是混合:核心业务数据和知识库检索在私有化模型上跑,7B到14B量级的开源模型通常够用;非核心场景可以用云端大模型;敏感数据一概不出厂。
私有化部署时有一个大家容易忽略的点:模型的量化精度和硬件选型直接决定Agent回答质量。我用过4bit量化的模型跑设备问答,速度快,但多步推理容易掉链子;后来换回满精度并适当裁剪上下文,正确率明显提升。这笔账要算清楚:省了GPU钱,可能多花大量人工核对时间。
5.3 可观测性与审计:Agent 行为必须可追溯
Agent和传统软件的差别在于不确定性,你没法提前枚举它所有可能行为。所以在生产环境里,每一轮Agent调用、每一次工具执行、每一步推理轨迹都要记录。具体来说,结构化日志里至少要有“请求ID、用户或事件来源、模型版本、Prompt版本、调用的工具、工具返回摘要、最终输出、耗时、Token消耗”这些字段。下面是我常用的日志结构:
{ "request_id": "req_20250121_001", "agent": "device-diagnosis-agent", "model_version": "industry-14b-v1", "prompt_version": "device_diag_v3", "tools_called": [ {"tool": "query_device_profile", "params": {"device_id": "L3_CNC_007"}} ], "output_summary": "建议先检查液压系统压力", "tokens": {"input": 4200, "output": 650}, "latency_ms": 3850 }更进阶的做法是把Agent的推理摘要也存下来,方便事后复盘“为什么它会这么判断”。我踩过的教训是:早期没做完整审计,上线后遇到一次“Agent把A产线的建议方案回复给了B产线的人”,排查半天不知道是哪一步串的。从那以后,所有Agent项目上线前,审计日志都是第一验收项,功能可以后补,日志不行。
5.4 Token 成本:制造企业最容易误判的一笔账
很多制造企业做Agent预算时只算了GPU或API费用,没算Token消耗。Agent和普通客服机器人不一样,一个复杂任务可能要来回调用多次工具,产生几万Token的输入输出。同样是“查一台设备的点检记录并生成建议”,简单问答是几百Token,带工具调用加推理轨迹可能要上万Token,成本差一个数量级。
我习惯用一个粗略公式做规划:月成本等于单任务平均Token乘以任务量乘以单Token单价。假设一个诊断任务平均消耗1.5万Token,一天跑200个任务,一个月就是900万Token,按当前主流API价格大约每月几千块钱。看起来不多,但如果任务量放大到每天几千次,同时用的是偏贵的模型,这块费用会相当扎眼。提前做Token按业务线拆分统计,是控制成本的关键一步。
6. 学习路线与团队建设:制造企业怎么从零养出一支 Agent 团队
6.1 研发人员的学习顺序:从Prompt到编排再到工程化
最近总有制造业的IT负责人问我,团队怎么学AI Agent。我给出的顺序通常是四步。第一步:把提示词工程玩透,搞清楚模型的行为边界,知道什么任务适合LLM,什么任务不适合;第二步:学会用LangChain、LangGraph这类框架做工具调用和简单编排,理解ReAct、Plan-and-Execute这些模式;第三步:把Agent接进自己的业务系统,写真实工具,处理真实的权限、超时、重试问题;第四步:做工程化,上可观测性、审计、限流、队列、灰度发布。
这套路径走下来大概两到三个月能出活。最容易走的弯路是一上来就追新框架、追多Agent协议,结果基础能力没打牢。我建议团队先定一个小目标,比如一个月内把某个知识问答场景做到生产可用,而不是研究三个月架构选型。
6.2 业务专家怎么参与:把老师傅的经验变成流程
很多人以为搞Agent是纯IT的事,其实业务专家的参与决定了项目成败。制造现场最有价值的资产是老师傅的经验:判断一个报警要先查哪、根据哪些征兆猜故障原因、哪些情况必须停机。这些经验很难靠调研问卷收集,最好的办法是让业务专家真的坐在开发团队里,一起梳理决策流程。
具体做法是“流程访谈加决策树梳理”:把某一类任务从输入到输出的每一步列出来,标出哪一步可以自动化、哪一步需要规则校验、哪一步必须人工审批。这张“流程地图”比任何架构文档都重要,Agent的结构最终就是照着它设计的。扣子、Dify这类低代码平台在这个阶段很有用——业务专家可以可视化地搭出第一版Agent流程,再交给研发团队工程化,整体效率提升非常明显。
6.3 试点项目怎么选:成功率优先,别赌高难度
团队刚起步时,选试点项目只有一个原则:成功概率优先。我的建议是选一个“数据齐、边界清、流程短、能度量”的场景,哪怕是看起来不那么炫酷的文档处理或知识问答。先让团队和业务方尝到甜头,建立信任,再逐步扩大到计划排程这类高难度场景。
反面案例我见过不少:一上来就要做“智能调度中枢”,做三个月做不出来,业务部门失去信心,整个Agent项目被毙掉。制造业是强信任行业,第一个项目就是全公司的名片。宁可做小做透,不要贪大求全。
7. 趋势研判:未来两三年制造 Agent 会往哪个方向走
7.1 从“对话助手”到“执行代理”:权限边界是核心门槛
未来两年,Agent在制造业里最明显的变化,会是从“问它”变成“让它做”。现在大部分落地还是“对话式助手”,人问Agent答,Agent不直接动业务。当信任积累起来、工程成熟度提升之后,会逐步出现真正能“执行”的Agent:自动更新工单状态、自动生成并发送质量异常通知、在权限范围内自动处置简单报警。
这个转变的技术难度不大,真正的门槛在权限和信任模型。企业需要给Agent建立一套类似“员工账号”的治理体系:它能做什么、做到什么程度、超出边界怎么熔断。谁先把这个治理体系想清楚,谁就在下一阶段的竞争里占先。
7.2 多Agent协作会走向标准协议,但不会那么快
“一个Agent干活、一群Agent协作”是大家都在聊的方向。我也认同制造现场天然适合多Agent分工:感知Agent、诊断Agent、排程Agent、执行Agent各司其职。但目前多Agent协作的协议和标准还在混乱期,各家框架各玩各的,跨系统互操作基本没有。
我给制造企业的建议是:不要等标准,先用单体Agent把单场景跑通,等到业务确实被验证、协作需求真实出现时,再按成熟方案演进。过早引入复杂的多Agent架构,只会增加调试成本和故障面。像A2A这类协作协议可以关注,但最多做技术预研,不做生产依赖。
7.3 垂直工业模型加Agent封装:性价比会越来越高
制造业知识高度垂直,通用大模型在设备术语、工艺参数、质量规范的领域知识上不够用。这两年陆续有工业垂直模型出现,配合RAG和微调手段,制造Agent在专业问答上的准确率在快速提升。未来的方向大概率是:垂直模型负责“懂行”,Agent框架负责“会做事”,二者封装成行业套件交付给企业。
这对制造企业是个好消息:不必自己从零训练大模型,只需要在成熟的垂类模型之上做自己的知识库、流程和工具集成。云厂商的Agent白皮书也在传递类似判断——行业化封装、开箱即用的Agent能力会越来越多,企业可以把更多精力放到场景本身。
7.4 我最后的判断
整体看,制造企业级AI Agent还处在从Demo到产线的爬坡期,但方向已经非常确定:它不会取代制造的核心工艺,而是会逐步接管那些信息密集、规则明确、需要跨系统协调的辅助性工作。未来两三年,能拉开差距的不是谁的模型更强,而是谁先把数据治理、流程梳理、权限审计、团队能力这些“脏活累活”干扎实。我个人的体会是,赶早把一支能打的小团队和一套靠谱的落地方法论建起来,远比追逐最新的框架有用得多。如果你所在的制造企业正准备启动Agent项目,我的建议很简单:找一个边界清晰的场景,控制好权限和成本,把第一个闭环跑通,然后让业务部门自己说出“这东西真能帮我省事”——到那时候,你就不用再费劲说服任何人了。