IBM携手神通资科释出心法 引领企业掌握要领实践可信任AI

台湾IBM技术长庄士逸归纳，发展AI时所需考量的因素，包括透明性、可解释性、稳健性、公平性与隐私性；这五大要项落实与否，攸关企业能否打造可信赖AI。DIGITIMES摄

日前联华神通集团举办神通50周年活动，并深度研讨「AI赋能新时代」、「AI创新与数码转型」、「AI驱动革新与竞争力」等诸多关键议题。其间神通资科亦携手IBM，为信息高端主管讲述如何打造可信任AI。

神通信息科技副总经理陈原森表示，AI当中有几个不可或缺的要素，除数据、算力与演算法外，另一关键就是信任。

有监于AI信任日益重要，神通资科特别邀请台湾IBM技术长庄士逸开讲，分享AI治理之道，引领企业探知如何确保AI应用的透明性、可解释性与公平性。

参考EU AI Act，作为AI治理主要元件

庄士逸指出，IBM历经漫长AI摸索期，从实验室综观了整个数据训练、机器学习甚至GenAI的发展过程，逐步累积经验与洞见，知道如何确保企业在AI应用上安全无虞。他同时强调，企业C-Level应负起AI治理的最重要责任，因为若将责任交付给每个人，恐沦于没有管控。

其实近年来包括台湾和国外都开始定义AI治理规范。关于台湾，政府陆续提出AI法规与指引，如行政院的生成式AI参考指引、国科会的AI基本法草案。至于全球，最重要参考标的便是欧盟EU AI Act法案，它蕴含五大重点，包括应训练、核实与测试数据；应落实记载纪录；应重视透明度，清楚交待来源数据与模型；应由人员监督AI模型，对标人类的标准、道德与思想；最后应确保正确性与网安。

庄士逸认为上述五点，是企业导入AI时依循的重要元件；毕竟当前多数企业不敢大量拥抱AI，正是欠缺良好的治理机制所致。IBM从狭义AI一路发展至通用AI，透过不断测试与理解，观察到几个AI风险，不仅有数据输入输出风险，也有目前尚且不知的未来挑战。

企业应如何看待AI治理？IBM建议从整个AI训练生命周期着手，依序避免训练数据出现偏见或污染、避免有偏见的模型、需测试模型完整性与品质、部署模型、不断测试与反馈。做好这些基本功，企业才能安心将AI带进应用场景。

小步慢跑，稳健有序地管理数据和模型

IBM根据自身发展AI方案过程，归纳出透明度、可解释性、稳健性、公平、隐私五大关键，且以此为目标持续发展AI治理技术，打造可信赖的AI。

庄士逸说，欲打造可信赖AI，须扎稳三大支柱，涵盖生命周期管理、风险管理与法规遵从。为落实这些基础支柱，建议企业应自行设置数据团队，而非一味Leverage外部资源。

而IBM也将自身AI治理经验与心法彰显于产品，不仅打造IBM watsonx发展平台，亦发展诸多AI工具并予以开源，如以AI Fairness 360检核模型是否符合公平性，以AI Explainability 360检核可解释性，以AI Privacy 360检核有无隐私问题。至于watsonx平台则涵括几个重要元件，像是用于管理模型的watsonx.ai，用于汇集数据的watsonx.data，用于实现AI部署与使用过程可视化watsonx.governance。

最后庄士逸建议，企业推动AI宜以「小步慢跑」为起手式，从发展AI Pilot或MVP的过程逐步确定治理方向，以有秩序、有体制的方式管理数据或模型，循序将AI带入应用场景。