白帽黑客看生成式AI：将成网安新战场
- 林佳楠／台北
-
生成式人工智能（AI）工具雨后春笋般出现，企业应用有何风险？主打攻击型服务的网安公司戴夫寇尔（Devcore）认为，生成式AI对攻击者是一大利多，料将成为攻防新战场。AppWorks董事长暨合夥人林之晨日前也点名，生成式AI与网安是2023年值得关注的科技趋势。
戴夫寇尔于2012年由白帽黑客团队成立，主打红队演练、渗透测试、顾问服务及教育训练等技术服务。至今已为高科技半导体制造、金融、公部门、电商等大型企业及组织执行过近70场红队演练。据其内部调查，目前上市柜公司约有2～3%已采购红队演练服务。
被问到生成式AI伴随的网安风险，共同创始人暨CEO翁浩正认为，企业首先要问的是，要不要用AI？若要使用，则应留心使用条款，包括AI平台会如何运用用户上传的数据、是否拿来提供模型学习、会否分享给其他人等，都是易遭用户忽视的面向。
翁浩正也分享，近日与某些企业网安长餐叙，有人提到使用ChatGPT分析归纳内部文件的重点。对此，他强调，「千万不要，先等等。」毕竟相关工具是建立在云端，而非自建服务器，数据外泄风险将提高。
黑客也可能利用生成式AI提高攻击效率，例如快速量产钓鱼信件、社交工程内容。不过他认为，这类信件内容生成的成本原本就低，影响不明显。
数据隐私和身份识别还是比较麻烦的议题，深伪技术让假照片、假影片几可乱真，未来也会出现更多侦测AI生成文字、图片、影片的新技术，「确实会是未来攻防的新战场，」翁浩正说。
戴夫寇尔资深副总徐念恩指出，生成式AI对攻击者也是一大利多，攻击者可把特定数据喂予ChatGPT，快速衍生出更多攻击手法、甚至学到新手法。
Check Point Software 大中华区董事总经理何伟国认爲，2023年将成为新AI元年，生成式AI工具虽降低了打造恶意程序的门槛，但如何发挥AI潜力却更为关键。企业可善用AI打击愈加复杂的网络攻击。
AppWorks董事长暨合夥人、台湾大哥大总经理林之晨日前在Facebook点名五大科技趋势，生成式AI与网安也上榜。
林之晨于贴文中写到，「2023势必是诡谲的一年，但也是极适合深耕与启动变革的一年，」并强调生成式AI、节能、机器人流程自动化（RPA）、D2C（Direct To Consumer ）/OMO（Online merge Offline）、网安与个网安全等五大科技领域，值得创业者和经营者特别关注。
他提及，疫情加速社会数码化，许多「数码新移民」长者是首次使用带有个资、数码与金融资产的在线服务，诈骗温床因而形成。
林之晨认为，企业对网安的重视度势必提高，网安事件对商誉的影响也势必放大。同时，社会与政府也正要求企业提升对网安与个网安全的投资，这些都是新创的机会。
责任编辑：毛履万亿
