智能应用 影音
DFourm0819
Automation

对抗精进的深伪 东京大学推出更强破解AI

对抗精进的深伪 东京大学推出更强破解AI

日本东京大学(University of Tokyo)公开新的AI辨伪技术:SBIs(Self-Blended Images),对抗以AI制造几可乱真画面与影像的深伪(Deepfake)技术,并指出此一技术以5种识别技术指标评比,在其中4项获得最高表现,仅1项获得10种技术中的第2名,细节将于2022年6月19~24日在美国发表。

透过制造假新闻执行的信息战,在2010年代因AI的快速进化,出现新的层面,「深伪」让受害者积极研发反制技术,如2020年美国IT大厂微软(Microsoft)推出的Microsoft Video Authenticator。

但深伪技术也随反制技术出现而进化,针对2020年Microsoft Video Authenticator或其他较早技术的弱点,如识别破坏性压缩调整过的档案,或是照度差异大的影像,识别成功率下降的缺点,提出解答,使得伪造与识别技术斗争,持续升级。

就识别端而言,目前碰到的主要问题之一,在于学习样本,目前的识别AI学习数据,需真伪并呈,因此当新的深伪技术伪造图片影片出现时,很可能抓不出来,需要重新学习,让识别始终落后于伪造技术一步。

根据东京大学大学院情报理工学系研究所的研究团队发布消息,以既有Face X-ray +BI技术比较,若没有伪造数据与正确数据一起学习,则识别效果在不同指标中将降低2~9%,失误率有可能提高到近30%。

而SBIs技术的优点,据研究团队指出,在于学习过程中会自行从正确数据中产生可能的伪造数据,据以进行学习,因此不需要额外提供伪造数据;且因具高度伪造数据模拟研判能力,可望预测深伪技术的发展,即使是新出现的深伪技术,也有办法应付。

目前SBIs针对的是图片深伪,至于影片识别技术,日本国立情报学研究所(NII)在2021年已公布其程序,SYNTHETIQ(Synthetic video detector),可以嵌入网页,避免引用深伪制造影片而不自知,是否持续升级仍未公开。

这项SBIs技术,将在电脑影像处理相关领域的国际学术研讨会中,对外公开,同时也将公开SBIs技术的下一步发展方向,以利提高识别精度及预测深伪发展方向,根绝滥用AI技术的问题。

  •     按赞加入DIGITIMES智能应用粉丝团
更多关键字报导: 美国 东京