布局可治理AI Agent IBM Bob打通落地最后一里路
- DIGITIMES企划
-
生成式AI应用逐渐深化，多数企业的需求已从回答问题、整理数据或生成文件，进化为让AI进入既有流程、理解员工需求、调用正确系统、完成任务。台湾IBM Data & AI技术总监李维伦指出，近两年Agent AI技术发展加速，其能力已逐渐接近一般企业实际可用的范围。
李维伦表示，这正是IBM强调「从ASK到Agent」的着眼点。ASK类应用停留于「提问—回答」模式，适用于知识查询、内部FAQ、客服初步回覆与文件摘要，作用止于提供信息。不过企业对AI的需求已延伸至执行层面，以请假为例，Agent除说明流程外，还需判读规则、查询特休余额、送出申请并通知职务代理，将指令转化为完整任务。能否将需求付诸执行，正是Agent有别于ASK应用的关键。
这也是IBM这次强调「从ASK到Agent」的原因。过去ASK类应用停留在「能问」的阶段，使用者提问、AI回答，适合知识查询、内部FAQ、客服初步回覆与文件摘要。但企业期待的，已经不只是知道请假流程怎麽走—它们要的是AI直接帮员工把假请完：判读规则、查询余额、送出申请，再通知职务代理。多出来的这层移动力与执行力，正是Agent真正的价值。
从PoC走向正式营运环境，落差远大于外界预期。李维伦指出，实验室阶段可透过各种方式将数据送入模型，但在生产环境中，数据流必须转为稳定、连续、可追踪的工作流，企业随之面临数据孤岛、数据时效与基础架构整合等问题；且并非所有场景都须实时处理，与其追求Real Time，在适当时间提供正确数据的「适时」更具效益。
治理与控制则是另一道门槛，开源工具或一般AI Agent虽能快速建构功能，企业却不会将核心流程交予无法控管的系统，生产环境须掌握AI的实际行为，同时防范其逾越权限，避免因失误导致营运损失。
此外，法规与企业策略也构成限制：金融等高度监管产业的合规门槛较高，制造业上云与系统整合的弹性虽相对较大，仍须配合既有的网安与IT架构。
为说明落地架构，李维伦以人体做比喻，一个完整的智能体须具备大脑、神经、记忆与肌肉。大脑对应watsonx Orchestrate，负责Agent之间的协作、意图推论与流程编排，使用者以自然语言提出需求后，由其判断应调用哪些工具、分派哪些Agent、执行哪些流程，为整套架构的控制中枢；神经系统对应Kafka／Confluent，IBM收购Confluent，即是着眼于AI对动态数据与实时上下文的依赖，企业知识若无法适时送达Agent，AI的判断将停留于静态数据层次；记忆层由DataStax与OpenRAG承担，协助企业建立长期记忆、知识检索与RAG架构，并处理知识主权与数据存放问题；IBM Bob则为这套智能体中的「肌肉」，负责任务的实际执行。
李维伦也特别提醒，多Agent架构若缺乏控制平面，恐衍生风险。一般做法是部署多个Agent分别负责读信、排程、回信与摘要，形同一间虚拟办公室；但若缺乏控管，负责收发信件的Agent一旦规则设定不全，遇大量广告信可能迳自回覆，使企业帐号沦为垃圾信来源，并在短时间内耗用可观的Token成本。他强调，关键不是增加Agent数量，而是强化治理能力，企业可利用watsonx Orchestrate做为控制平面，依任务将适当的工具指派给对应的Agent。
Bob的差异化主要体现于两方面。其一为模型智能路由，IBM针对金融、法规等特定领域推出小语言模型，Bob后端则以Model Router串接各家开源与闭源模型，依任务难度自动分流，简易任务无须动用高成本模型，复杂任务再交由能力较强者处理；对大规模导入AI的企业而言，此一分流机制将直接反映于 Token成本。
其二为安全与合规的内建设计：当企业要求Bob建置一套部署于AWS、且将进入欧洲市场的系统，其背后不仅涉及程序开发，更牵动云端安全架构与GDPR等法规要求，而IBM的Granite小语言模型与企业级架构已将安全与合规思维纳入其中，成为Bob有别于一般AI Agent工具之处。
导入策略上，IBM 强调企业无须为导入AI而全面重写旧系统：HR、采购、财务或内部营运系统即便仍运行于传统架构，只要能开放API，即可透过watsonx Orchestrate封装为Agent可调用的技能，使用者日后以浏览器或移动设备，即能透过对话操作既有系统。李维伦指出，若既有系统已具备API，最快约三周即可将传统应用转化为AI赋能应用；若尚未开放API，则可让Bob建置接口再行串接。
Bob的角色亦不止于对话，其可作为档案助手、程序开发者、前端UI/UX设计工具，亦能扮演企业的规划者。他强调，Bob从程序码存储库（Repository）层级理解整体程序码库与企业标准，并透过存储器压缩与索引技术因应上下文长度限制，档案汇入后自动切片，借此掌握相对完整的软件开发生命周期与合规要求。
李维伦最后表示，整体而言，企业AI Agent能否普及，关键在于务实条件：数据能否适时流动、流程能否编排、权限与成本能否控管，以及旧系统能否在不大幅改写的前提下供AI调用。IBM透过watsonx Orchestrate与Bob，让Agent顺利进入日常营运，并在可控范围内逐步扩展，以稳健方式提升运作效率，协助企业真正实现AI的应用价值。
