AI治理成企业新课题 IBM携手群环科技推全方位网安解决方案
- 魏于宁/台北
快速袭来的生成式AI浪潮,被企业视为提升营运效率的最佳助力,不过其安全性也引发诸多疑虑,近期就有多则相关新闻,像是好莱坞演员抗议Open AI公司未经授权使用其声音,用于模拟并在AI平台上发声。这种声纹被盗用的情况,不仅引起当事人的强烈抗议,也让企业开始担忧使用生成式AI的安全性。
AI安全与隐私成焦点 企业需谨慎应对
对于生成式AI技术引发的安全性议题,台湾IBM信息安全技术顾问蔡睿诚,以苹果手机近期的广告策略为例,有别于过往侧重性能和硬件规格的宣传手法,苹果这次将焦点转向了隐私保护议题,这则广告传达出明确信息,每位苹果手机使用者都能拥有可信赖的私人空间,「苹果公司行销方向的转变突显出一个重要趋势,在科技快速发展的今日,消费者越来越重视个人隐私的保护,这也反映出大众对科技公司的期望已不止于产品功能,更期待科技提供可靠、安全且值得信赖的使用环境。」因此在产品开发的AI训练过程中,科技公司必须严格把关数据来源的安全性与适切性。他强调,生成式AI的安全性,取决于是否能在使用数据和训练过程中遵守相关框架和原则,「透过严谨流程的遵守,对生成式AI的使用能让效率提升的同时,大幅降低安全疑虑。」
群环科技技术总监郭柏森则从应用场景的转变切入。由于目前生成式AI的应用仍以人机互动为主,因此他提醒使用者要提高警觉,与AI的对话内容有可能被纳入之后的训练数据中。郭柏森建议企业谨慎筛选训练数据集,并以去识别化方式处理敏感信息,从而降低网安风险,「整体而言,企业员工在处理数据时需要更高的警觉性,判断哪些数据适合放入训练模型,哪些需要特殊处理,从源头做起,才能打造安全的AI使用环境。」
上述数据安全管理机制,与AI治理概念息息相关。蔡睿诚接着指出,AI治理的核心是保护隐私和确保AI的道德使用,防止技术被滥用于非法或侵犯人权的领域,这不仅涉及数据安全处理,还包括系统的整体设计和使用原则。IBM作为AI领域先驱,早已建立AI道德伦理监控机制,致力开发可信赖的AI系统,希望为企业AI治理树立典范。因此他建议企业可善用IBM提供的全方位的支持服务,「我们的角色类似〝企业AI整理师〞,透过谘询服务和各类科技工具,协助企业评估、规划、导入系统,在享受AI带来效益的同时,有效管理相关风险,确保AI的使用符合道德和法规标准。」
群环科技与IBM协力 强化企业AI安全与网安防护
在此服务过程中,群环科技长期扮演IBM的最佳夥伴,双方30年来深度合作,协助台湾企业善用IT力量,提升营运效率。郭柏森表示,群环科技与IBM的合作已从初期的硬件系统建构,逐渐转向数码化软件解决方案,「这几年数码转型成为趋势,群环长期深耕此领域,我们认为有责任带着客户向前走,与IBM强强联手,引领客户迈向数码化未来。」
关于企业的网安管理需求,郭柏森点出目前主要聚焦在数据保护和数据使用安全两大层面。数据保护方面,群环科技运用IBM的储存解决方案和端点防护措施,协助客户建立包括数据备份、还原功能在内的全面性数据保护机制,从而降低数据遗失风险。数据使用安全,则着重于建立非法或异常使用行为的侦测和预警系统。
蔡睿诚进一步阐述,IBM与群环科技的合作早已深入到数据分析、分类和应用研究等领域,近几年AI兴起后,更延伸到AI模型的安全性和治理。对此他特别强调AI模型的可解释性和正确性的重要,「IBM提供专业的数据梳理服务,包括数据去识别化和敏感信息处理,以确保输入AI模型的数据安全无虞。」这不仅可提高AI模型的安全性,也增强了其可解释性和准确度,为AI治理奠定了坚实的基础。
除了内部的AI治理,外部威胁防范也是网安重点。根据IBM的年度威胁情报指数报告,制造业和金融业连续两年成为黑客攻击的首要目标,作为全球AI重要供应链蓬勃发展的台湾厂商,更容易成为黑客觊觎的对象。面对黑客威胁,蔡睿诚建议企业定期检视如IBM等专业机构发布的威胁情报报告,了解最新的攻击手法和趋势,并提高警觉性,认知AI技术不只为企业带来效益,也可能成为黑客的工具。
实际防护措施的第一步最佳做法是善用外部专业力量,例如透过IBM的网安谘询服务,进行专业评估和系统安全防范规划,再利用群环科技的DaaS (Device as a Service)端点设备租赁方案,以聪明灵活的方式管理IT设备和网安需求。郭柏森提到,DaaS模式将资产费用化,企业能以租赁方式逐期支付,大幅降低初期投资压力,此机制内的网安软件预装服务,可确保企业及时使用最新网安技术,并藉由「以新汰旧」的渐进式设备更新策略,避免一次性大量汰换的巨大开支,另外群环科技DaaS的网安防护系统也整合AI技术,可有效应对不断演变的黑客威胁,提供企业灵活、安全且先进的IT环境,强化整体营运效率和网安防护能力。
对于AI时代的网安意识,蔡睿诚与郭柏森最后提出企业应关注的重点。蔡睿诚指出,生成式AI技术虽可提升营运效率,但内容正确性和知识产权等问题也随之而来,因此使用者必须扮演裁判角色,思考AI生成信息的正确性、评估其可信度与安全性。郭柏森则指出,面对AI和数码转型等新技术、新概念时,企业不免心有旁徨,且担心IT系统被入侵、攻击。对此疑虑,他重申企业善用外部专业力量,例如群环科技携手IBM提供的整合性解决方案,就结合AI、云端和大数据技术,以一站式服务与全方位的支持模式,协助企业积极应变IT浪潮,在享受科技红利的同时,关注潜在网安风险,从而强化竞争优势,实现永续发展愿景。