趋势科技推深伪侦测方案防范AI视讯诈骗 智能应用 影音
Event
EVmember

趋势科技推深伪侦测方案防范AI视讯诈骗

  • 孙昌华台北

全球网络网安领导厂商趋势科技发表企业网安平台与消费性网络网安产品中的创新功能,防范快速成长的AI攻击与深伪(Deepfakes)诈骗,以保护所有网络环境。
请点选以下连结观赏趋势科技深伪侦测功能展示

趋势科技研究报告指出,黑客正搭上AI应用爆炸性成长的热潮,导致网络犯罪地下市场的AI犯罪工具暴增。这些工具不仅越来越便宜且更容易取得,使得任何技术能力的黑客都能更轻易地发动大规模攻击,藉由欺骗受害者来从事勒索、身份冒用、诈骗以及散播假信息。

趋势科技推深伪侦测方案Trend Micro Deepfake Inspector助企业与消费者防范AI视讯诈骗。趋势科技

趋势科技推深伪侦测方案Trend Micro Deepfake Inspector助企业与消费者防范AI视讯诈骗。趋势科技

趋势科技营运长Kevin Simzer表示:「如同过去其他新兴威胁与IT情势的转变一样,我们早已预见并克服AI的网安挑战。我们的最新研究披露了多项新的深伪工具,这些工具让任何具备技术能力的网络黑客都能轻而易举地从事诈骗取财、发动社交工程攻击,以及避开网安防护。我们领先业界率先推出可侦测深伪与其他型态的AI诈骗的最新技术来保护我们的企业与消费性客户。」

侦测与打击这些AI犯罪手法是企业改善攻击面风险管理以及降低消费者整体网络风险的核心。根据趋势科技最近一项调查,71%的消费者对深伪抱持着负面观感,并相信深伪的最大用途之一就是诈骗。

即将在Trend Vision One平台全新推出的深伪侦测技术,运用多种进阶方法来侦测AI生成内容。除了影像杂讯分析与色彩侦测等技术,Vision One平台还会分析使用者的行为元素来执行更强大的深伪侦测及拦截方法。在侦测的当下,趋势科技便会立即通知企业网安团队,让他们有机会学习及获得更新,并采取主动措施来防范未来的攻击。

此外,该功能即日起也将经由Trend Micro Deepfake Inspector提供给一般消费者使用,可协助确认实时视讯会议当中是否有人正在使用深伪技术,并提醒使用者其目前谈话的对象可能有人是假的。

请点选以下连结来进一步了解并下载 Trend Micro Deepfake Inspector

根据Gartner分析师Dan Ayoub表示:「一些现成的高品质生成式AI(GenAI)应用程序现在已经可以产生逼真的视讯内容,足以骗过或误导观赏者。由于这些工具的使用门槛很低,而且越来越精密,因此有必要发展出一套可侦测GenAI深伪内容的系统性方法。」

深伪对现代企业和一般个人都是一项严重风险,只要一次不小心被深伪所骗,就可能面临财务损失、丢掉工作、法律问题、名誉损失、身份遭冒用,以及潜在的精神或健康损害。在趋势科技近期的一份调查中,36%的消费者表示曾经遇到过深伪诈骗。而美国联邦调查局(FBI)先前也曾警告大众小心歹徒结合深伪技术与视讯电话来从事变脸诈骗(BEC),以及假装应徵线上上班工作的情况。

这不仅可能被滥用于骗过真人审查程序,还可能用来欺骗一些生物识别安全机制,例如脸部识别。趋势科技研究也披露了最近网安情势所出现的一些转变,指出黑客越来越喜欢使用一些创新的越狱技巧来攻击现有大型语言模型(LLM)的弱点,而非自行开发犯罪专用的AI工具。

趋势科技推出最新解决方案以致力保护客户迈向AI之路。在推动零信任策略的方针下,趋势科技最近也为Trend Vision One推出新的功能来实现以下目标:集中管理员工存取与使用GenAI的情况。检查GenAI指令(prompts)来防止数据外泄与恶意注入攻击。过滤GenAI内容来达成法规遵循要求。防范大型语言模型(LLM)攻击。

Trend Micro Deepfake Inspector是一套免费的解决方案,专为提醒使用者注意视讯通话中的潜在深伪内容而设计。这项分析技术会在使用者的装置上实时执行,确保数据和隐私随时受到保护。


关键字
商情专辑-AI专栏