AI治理成企业新课题 IBM携手群环科技推全方位网安解决方案

快速袭来的生成式AI浪潮，被企业视为提升营运效率的最佳助力，不过其安全性也引发诸多疑虑，近期就有多则相关新闻，像是好莱坞演员抗议Open AI公司未经授权使用其声音，用于模拟并在AI平台上发声。这种声纹被盗用的情况，不仅引起当事人的强烈抗议，也让企业开始担忧使用生成式AI的安全性。

AI安全与隐私成焦点 企业需谨慎应对

对于生成式AI技术引发的安全性议题，台湾IBM信息安全技术顾问蔡睿诚，以苹果手机近期的广告策略为例，有别于过往侧重性能和硬件规格的宣传手法，苹果这次将焦点转向了隐私保护议题，这则广告传达出明确信息，每位苹果手机使用者都能拥有可信赖的私人空间，「苹果公司行销方向的转变突显出一个重要趋势，在科技快速发展的今日，消费者越来越重视个人隐私的保护，这也反映出大众对科技公司的期望已不止于产品功能，更期待科技提供可靠、安全且值得信赖的使用环境。」因此在产品开发的AI训练过程中，科技公司必须严格把关数据来源的安全性与适切性。他强调，生成式AI的安全性，取决于是否能在使用数据和训练过程中遵守相关框架和原则，「透过严谨流程的遵守，对生成式AI的使用能让效率提升的同时，大幅降低安全疑虑。」

群环科技技术总监郭柏森则从应用场景的转变切入。由于目前生成式AI的应用仍以人机互动为主，因此他提醒使用者要提高警觉，与AI的对话内容有可能被纳入之后的训练数据中。郭柏森建议企业谨慎筛选训练数据集，并以去识别化方式处理敏感信息，从而降低网安风险，「整体而言，企业员工在处理数据时需要更高的警觉性，判断哪些数据适合放入训练模型，哪些需要特殊处理，从源头做起，才能打造安全的AI使用环境。」

上述数据安全管理机制，与AI治理概念息息相关。蔡睿诚接着指出，AI治理的核心是保护隐私和确保AI的道德使用，防止技术被滥用于非法或侵犯人权的领域，这不仅涉及数据安全处理，还包括系统的整体设计和使用原则。IBM作为AI领域先驱，早已建立AI道德伦理监控机制，致力开发可信赖的AI系统，希望为企业AI治理树立典范。因此他建议企业可善用IBM提供的全方位的支持服务，「我们的角色类似〝企业AI整理师〞，透过谘询服务和各类科技工具，协助企业评估、规划、导入系统，在享受AI带来效益的同时，有效管理相关风险，确保AI的使用符合道德和法规标准。」

群环科技与IBM协力 强化企业AI安全与网安防护

在此服务过程中，群环科技长期扮演IBM的最佳夥伴，双方30年来深度合作，协助台湾企业善用IT力量，提升营运效率。郭柏森表示，群环科技与IBM的合作已从初期的硬件系统建构，逐渐转向数码化软件解决方案，「这几年数码转型成为趋势，群环长期深耕此领域，我们认为有责任带着客户向前走，与IBM强强联手，引领客户迈向数码化未来。」

关于企业的网安管理需求，郭柏森点出目前主要聚焦在数据保护和数据使用安全两大层面。数据保护方面，群环科技运用IBM的储存解决方案和端点防护措施，协助客户建立包括数据备份、还原功能在内的全面性数据保护机制，从而降低数据遗失风险。数据使用安全，则着重于建立非法或异常使用行为的侦测和预警系统。

蔡睿诚进一步阐述，IBM与群环科技的合作早已深入到数据分析、分类和应用研究等领域，近几年AI兴起后，更延伸到AI模型的安全性和治理。对此他特别强调AI模型的可解释性和正确性的重要，「IBM提供专业的数据梳理服务，包括数据去识别化和敏感信息处理，以确保输入AI模型的数据安全无虞。」这不仅可提高AI模型的安全性，也增强了其可解释性和准确度，为AI治理奠定了坚实的基础。

除了内部的AI治理，外部威胁防范也是网安重点。根据IBM的年度威胁情报指数报告，制造业和金融业连续两年成为黑客攻击的首要目标，作为全球AI重要供应链蓬勃发展的台湾厂商，更容易成为黑客觊觎的对象。面对黑客威胁，蔡睿诚建议企业定期检视如IBM等专业机构发布的威胁情报报告，了解最新的攻击手法和趋势，并提高警觉性，认知AI技术不只为企业带来效益，也可能成为黑客的工具。

实际防护措施的第一步最佳做法是善用外部专业力量，例如透过IBM的网安谘询服务，进行专业评估和系统安全防范规划，再利用群环科技的DaaS (Device as a Service)端点设备租赁方案，以聪明灵活的方式管理IT设备和网安需求。郭柏森提到，DaaS模式将资产费用化，企业能以租赁方式逐期支付，大幅降低初期投资压力，此机制内的网安软件预装服务，可确保企业及时使用最新网安技术，并藉由「以新汰旧」的渐进式设备更新策略，避免一次性大量汰换的巨大开支，另外群环科技DaaS的网安防护系统也整合AI技术，可有效应对不断演变的黑客威胁，提供企业灵活、安全且先进的IT环境，强化整体营运效率和网安防护能力。

对于AI时代的网安意识，蔡睿诚与郭柏森最后提出企业应关注的重点。蔡睿诚指出，生成式AI技术虽可提升营运效率，但内容正确性和知识产权等问题也随之而来，因此使用者必须扮演裁判角色，思考AI生成信息的正确性、评估其可信度与安全性。郭柏森则指出，面对AI和数码转型等新技术、新概念时，企业不免心有旁徨，且担心IT系统被入侵、攻击。对此疑虑，他重申企业善用外部专业力量，例如群环科技携手IBM提供的整合性解决方案，就结合AI、云端和大数据技术，以一站式服务与全方位的支持模式，协助企业积极应变IT浪潮，在享受科技红利的同时，关注潜在网安风险，从而强化竞争优势，实现永续发展愿景。