AI Agent从问答走向实作 加速企业智能转型 智能应用 影音
DIGITIMES Logo
236
DIGITIMES Logo

AI Agent从问答走向实作 加速企业智能转型

  • 林采榆/台北

企业AI应用走向规模化部署,运算效率与成本管理日益重要。Dell Technologies以AI Factory整合模型开发、推论运算与资源调度,协助企业提升Token处理效率,加速应用落地。资策会
企业AI应用走向规模化部署,运算效率与成本管理日益重要。Dell Technologies以AI Factory整合模型开发、推论运算与资源调度,协助企业提升Token处理效率,加速应用落地。资策会

生成式AI正从知识查询与内容生成,逐步延伸至能够调用工具、串接企业系统及执行工作流程的AI Agent,带动企业对运算资源配置、数据整合、权限管理及营运效益评估等需求。为加速AI在台湾产业落地,经济部产业发展署推动的IPO Forum平台于2025年携手Dell Technologies、Microsoft等国际大厂及当地技术夥伴成立「AI信赖加速器」,整合国际技术与在地供应链资源,促进跨产业AI应用及成果扩散。

为配合经济部产业竞争力辅导团推动中小企业AI转型,进一步扩大实务应用经验的推广效益,由产发署指导、IPO Forum及DIGITIMES主办的「驱动全球AI生态系:智造共链・应用共创」专题议程于10月21日举行,邀集Dell Technologies、台湾微软、迈达特、日月光半导体、智能方案及睿思智能,分享AI基础建设、企业治理及制造与服务场域的实务经验,协助更多业者了解AI解决方案与导入效益,提升产业应用意愿。

AI Agent逐渐参与跨部门工作,带动企业协作与治理需求。台湾微软结合Copilot与Agent 365,支持跨系统流程执行、身份权限管理及安全监控,提升人机协作效率。资策会

AI Agent逐渐参与跨部门工作,带动企业协作与治理需求。台湾微软结合Copilot与Agent 365,支持跨系统流程执行、身份权限管理及安全监控,提升人机协作效率。资策会

企业推动AI落地,不应只关注技术与模型能力,更需要从应用场景、数据治理、系统整合及效益评估等面向,建立循序渐进的导入方法论。同时,AI Security应在规划初期就纳入考量,特别关注敏感数据保护、存取权限、AI Agent行为控管及潜在安全风险,透过适当的安全架构与治理机制,协助企业在创新效率与信息安全之间取得平衡。资策会

企业推动AI落地,不应只关注技术与模型能力,更需要从应用场景、数据治理、系统整合及效益评估等面向,建立循序渐进的导入方法论。同时,AI Security应在规划初期就纳入考量,特别关注敏感数据保护、存取权限、AI Agent行为控管及潜在安全风险,透过适当的安全架构与治理机制,协助企业在创新效率与信息安全之间取得平衡。资策会

半导体封测制程日益复杂,设备异常侦测与快速处置攸关良率。日月光结合Edge AI与AI Agent,分析设备声学、振动及影像数据,并整合维修知识,提升智能产线管理能力。资策会

半导体封测制程日益复杂,设备异常侦测与快速处置攸关良率。日月光结合Edge AI与AI Agent,分析设备声学、振动及影像数据,并整合维修知识,提升智能产线管理能力。资策会

制造业累积大量专业经验,知识传承与跨部门协作成为AI导入重点。智能方案以EgentWrX整合AI数码分身、知识库与任务卡,将员工作业经验转化为可重复执行的工作流程。资策会

制造业累积大量专业经验,知识传承与跨部门协作成为AI导入重点。智能方案以EgentWrX整合AI数码分身、知识库与任务卡,将员工作业经验转化为可重复执行的工作流程。资策会

企业推动AI自动化,需要整合既有系统并验证营运效益。睿思智能运用Agentic Workflow串接ERP、CRM及POS,支持数据分析、需求预测与流程处理,协助企业提升作业效率。资策会

企业推动AI自动化,需要整合既有系统并验证营运效益。睿思智能运用Agentic Workflow串接ERP、CRM及POS,支持数据分析、需求预测与流程处理,协助企业提升作业效率。资策会

运算资源与工作流程整合  建立企业AI部署基础

企业导入AI Agent后,推论需求可能随使用人数、任务复杂度及系统串接范围快速增加,运算架构必须兼顾效能与成本。Dell Technologies资深AI业务拓展协理叶恩任表示,企业应先确认AI要解决的业务问题,再依数据条件、模型准确度及成本,评估采用检索增强生成(RAG)、模型微调或其他技术方式,避免应用尚未验证就投入大量GPU资源。

针对AI Agent带动的Token需求成长,Dell AI Factory可透过推论工作负载分离、KV Cache管理及运算资源调度,提高系统回应效率与资源使用率。叶恩任建议,企业初期可运用GB10或AI工作站进行模型开发及测试,待应用情境与技术可行性获得确认后,再扩展至数据中心,让开发环境与正式营运所需资源能够妥善配置。

除了运算资源,AI能否进一步参与企业营运,还取决于既有系统与工作流程的整合程度。台湾微软资深策略业务发展总监章恩齐提到,个人化AI Agent未来可依员工原有的身份与权限,参与订单处理、采购及制造等作业。透过Copilot及相关开发工具,企业能将个人工作辅助延伸至跨系统协作。

章恩齐举例,已有制造业客户利用AI Agent处理跨国订单异动与单据更新,每年节省超过800个人工作天。这类应用显示,当AI具备跨系统执行任务的能力,企业便有机会减少重复性的数据处理工作,将人力投入需要专业判断与协调的环节。

此外,当组织内部的Agent数量持续增加,管理者还需要掌握每个Agent的身份、数据存取权限及任务执行纪录。微软透过Agent 365 提供集中管理、可视性与安全治理能力,协助企业将Agent纳入既有的信息治理架构。

从数据存取到行为控管AI治理须涵盖完整执行流程

迈达特产品六处处长黄禹杰指出,企业推动AI落地,不应只关注模型能力,更重要的是从实际业务需求出发,盘点应用场景、数据来源及系统整合需求,透过小规模验证逐步扩大应用。同时,AI Security应在导入初期就纳入整体架构规划,避免企业在追求AI应用效益的过程中,忽略潜在的信息安全风险。

黄禹杰进一步说明,AI的安全风险会随应用程度而改变。从初期的生成式AI应用,到能够自主调用工具、存取企业数据及执行任务的AI Agent,企业需要关注的已不只是敏感数据外泄,更包含身份识别、存取权限、工具调用及操作行为等安全议题。

企业可依不同应用场景,结合AI Gateway、Guardrails、MCP Gateway等技术,建立分层防护与治理机制,并针对高风险操作设置必要的授权与人工审核程序。

黄禹杰强调,企业导入AI Security不应只是增加安全工具,而是必须将安全治理融入AI应用的整个生命周期,从事前的风险评估与权限设计、执行过程中的安全控管,到事后的操作纪录、稽核追溯及持续验证,建立完整的管理机制。随着AI逐步参与企业核心业务流程,如何兼顾应用效益、信息安全与治理能力,将是企业能否成功扩大AI应用的关键。

制造现场结合感知与知识  让AI参与异常处置及产线决策

AI基础架构与治理机制逐步建立后,制造现场成为检验技术实际价值的重要场域。日月光半导体助理副总经理陈俊铭分享,先进封装制程涉及大量精密设备,若能及早察觉异常并缩短处置时间,便有助于降低制程损失。

日月光将Edge AI部署于设备端,利用声学、振动及影像数据侦测异常,再由AI Agent整合维修纪录、标准作业程序及工程师经验,分析可能原因并提出处置建议。例如晶圆切割设备可藉由异常声响识别,及早发现潜在问题,让现场人员更快采取适当措施。

陈俊铭表示,日月光规划于2026年在高雄厂区推动大量AI Agent,应用范围涵盖制造、设备、制程、物流及厂务。随着部署规模扩大,模型生命周期管理与网安防护也须同步建立,才能支持不同设备与工作场景的长期运作。

相较于设备端的实时感知,制造业另一项需求是将分散于人员与部门之间的专业知识,转化为可持续使用的组织资产。智能方案营运长陈旻筠介绍,EgentWrX企业级AI Agent管理平台可让员工建立具有独立知识库、记忆及使用权限的AI数码分身,并透过自然语言将日常作业整理成任务卡,进一步串接为跨部门工作流程。

以报价作业为例,AI可整合业务、采购、财务及生产管理信息,协助员工减少反覆查询与跨部门协调的时间。陈旻筠提到,EgentWrX支持云端及地端部署,也纳入预算管理、操作稽核与数据防护功能,让企业在掌握AI使用情况的同时,持续累积员工建立的任务流程与专业知识。

日月光与智能方案的实务分享,分别呈现AI在设备异常处置与知识流程化的应用方向。两者都涉及将现场数据、既有经验及工作程序整合,让AI提供更贴近实际作业需求的协助。

以营运指标验证成效  推动AI应用跨场域扩展

当AI Agent开始参与实际业务,企业还需要透过具体指标判断导入效益。睿思智能CEO陈益祥表示,企业可利用自然语言建立Agentic Workflow,串接ERP、CRM及POS等既有系统,让AI执行数据分析、需求预测及流程处理,并由人员审核重要决策。

睿思智能已将相关模式应用于连锁餐饮备料预测、精密制造询价与报价、财务对帐及政府机关文件审查等场域。这些应用的共同需求,是整合分散信息、减少人工查询与重复输入,并让工作流程能够在不同系统之间持续运作。

陈益祥认为,企业应依不同场域的业务特性,设定作业工时、品质、物料损耗及营运成本等评估指标,持续检视AI是否带来可衡量的改善。同时,透过人工核可与操作纪录,保留必要的决策监督与追溯能力。

综观本次六位讲者的分享,企业AI应用已逐步涵盖运算资源、跨系统流程、安全治理及营运管理等面向,并展现提升制程良率与营运效率的实际效益。未来将持续结合经济部产业竞争力辅导团推动中小企业AI转型的政策资源,以及IPO Forum平台的国际大厂合作网络,以以大带小模式串联当地技术夥伴与产业需求,深化AI技术合作及场域应用,并透过成果推广与经验分享,扩大AI解决方案在传统产业及中小企业的应用,加速百工百业智能化转型。