当AI开始自主执行任务 企业如何建立治理与信任机制？

当生成式AI从信息处理工具，走向具备自主决策与执行能力的Agentic AI，企业面对的课题也AI落地延伸到AI治理。近期实验性AI Agent成功入侵Hugging Face的事件，也让AI Agent的安全与治理问题受到更多关注。Microsoft DevDays Asia 2026的高峰对谈，以「 Governing AI Responsibly」为主题，探讨AI发展过程中，如何兼顾「技术创新」与「政策合规」。

担任与谈人的微软全球助理法务长、台湾微软公共暨法律事务部总经理施立成说，身份管理（Identity）、可视性（Visibility）及信任（Trust）是Agentic AI时代的重要三大治理支柱，为企业与政府提供非常清晰的移动方向。微软建议开发者社群在追求技术巅峰的同时，应主动承担起建构安全应用的责任，若能善用Copilot Studio与Microsoft Entra等工具，将法遵与身份机制内嵌于开发流程中，自然有助于降低法遵门槛。

从可视性出发  建立Agent行为治理机制

从近两年全球AI技术演进趋势显示，Agent管理核心在于「可视性」，企业需要一套完善的治理机制，才能掌握组织内Agent数量、具体行为，以及是否产生「行为漂移」的能力。因此，企业、政府单位需推动 「Agent 行为准则」，将原本抽象的伦理政策转化为技术规范，让Agent能遵循既定的守则。

数码发展部政务次长侯宜秀说：「相较于过去聚焦大语言模型本身，AI Agent具备自主执行任务与外部系统互动的能力，自然需要在设计阶段就纳入治理思维。政府已经公布AI基本法框架，作为企业、公部门在开发与应用AI Agent的治理基础。在Agent治理架构中，可从能力评估、授权范围、运作安全、身份识别、问责制度、制度建构等六大面向着手，先确认Agent的技术成熟度与任务达成率后，再明确界定可执行的行为，避免过度授权。」

做好身份管理  落实权限与责任控管

从企业治理与法遵角度来看，导入AI Agent不能只关注技术效能，更需要建立完整的监督与责任机制。尤其当Agent开始具备自主执行任务、存取企业数据与操作系统的能力后，企业治理重点也必须从传统的数据与模型管理，延伸至Agent的身份、权限与责任归属。

微软全球数据与人工智能安全副总裁暨总经理Herain Oberoi指出，随着AI Agent从辅助工具走向可自主执行任务的角色，企业网安治理重点也将从过去防范数据外泄，延伸到Agent身份与权限管理。企业需要为每个Agent建立专属身份，并明确定义Owner与Sponsor，厘清Agent由谁负责，以及可代表谁执行哪些工作。对于只执行单一任务、生命周期短暂的Agent，企业应根据任务需求动态授予权限，任务完成后实时回收，避免权限长期留存所产生的风险。

安永谘询副总经理白镇玮认为，无论企业导入何种Agent应用，都应坚持「人工把关」（Human-in-the-Loop）机制，让人类持续参与关键决策与监督，并由企业承担最终的管理与法律责任。特别是在导入Agent前，更应全面盘点内部AI使用情况，才能进一步识别知识产权、个资、信息安全及劳动权益等议题，避免AI在缺乏管理的情况下扩大风险。

随着Agent逐渐具备自主执行任务的能力，其影响范围可能延伸至营运、法务、人资及财务等领域，因此AI风险管理不应只是IT或风控部门的责任，而应提升至企业高端管理层甚至董事会层级。唯有将身份、权限、行为监督与责任归属纳入整体治理架构，企业才能在推动AI Agent应用的同时，兼顾创新与风险管理。