DIGITIMES

識別AI伪造

林一平
2026-10-13

有人问我如何辨别AI伪造的内容,我想起南宋岳珂在《桯史》里记下的一则故事。

岳珂是岳飞的孙子,嘉定庚午年(西元1210),他在临安一场宴席上遇见一张名为「冰清」的古琴。琴腹铭文写著唐代大历年间由蜀郡雷氏斫成,贞元年间再修。席上的叶知几以博古知音自命,一见便断为至宝,力劝主人李奉宁买下。有人还从《渑水燕谈录》中找到同名古琴的记载,铭文年月全数吻合,众人更加笃信。

岳珂旁坐觉得不对劲,便起身细读凤沼内的题字,然后问了一句,贞元是哪个朝代。众人答是唐德宗,他才指出题字里的「贞」字,贝字缺了旁边一点。宋仁宗赵祯在位时,「贞」字因避讳而缺笔,这是宋人的书写习惯,唐代工匠不可能预先知道。伪造者自己是宋人,习以为常的避讳不知不觉写进要冒充唐代的作品里,而那份吻合的书证,恰恰是他照著书抄出来的。

800年后的今天,同样的场面换了新的形式。

2026年3月,中东局势升高,社群平臺上出现大量AI生成的影片,声称拍到伊朗飞弹轰炸特拉维夫,被数百万人观看。有用户拿其中一段去问X平臺的AI聊天机器人Grok,它斩钉截铁地回答,那是当天从特拉维夫阳臺拍到的真实画面,这则回复获得160万次观看。查核机构NewsGuard却发现,那段影片里的街道空无一人,警报声也与真实的特拉维夫飞弹警报不符。

两件事的破绽本质相同,造假者只模仿表面,却没能顾及内容所处的时空与地方脉络。古琴的伪造者无意间泄漏自己的时代,假影片则泄漏它与真实现场的脱节。Grok在这里扮演叶知几,识破的人,用的正是岳珂的方法,拿一条真实世界的规则去核对。

这个类比有一个限度。冰清古琴的破绽是一条确定不变的制度规则,深伪的视觉破绽却会随技术进步而消失,眨眼、牙齿、手指、屋顶重复这类线索,今天只能当辅助。所以更耐久的,是时空与出处这一层的核对,例如时间地点是否矛盾、原始出处在哪里、当事人与可信机构有没有回应。也别把查证外包给另一位叶知几,无论是名人、演算法热度还是AI聊天机器人,权威的一句断语,都不能取代自己走近细看。

所以面对可疑内容,不妨学岳珂起身走近,而且由内而外分3层。第一层是冷静,情绪被触动的当下先停3秒,暂不转发。第二层是溯源,以关键词查找原始出处,查看主流媒体或事实查核机构是否报导,并对照不同角度、不同语言、不同时间的报导。第三层才是细看,逐帧检视边缘、光影、声音与文字,但要记得这一层的线索最容易随技术消失,只能辅助前两层。重大事件的澄清常在数小时到数日内出现,等待本身也是一种验证。

岳珂写下这则笔记,起初只是记一桩见闻,800年后却成了信息时代的提醒。造假者能模仿内容,却难以模仿内容背后的时代与脉络,而破局的关键,始终是那个愿意起身细看的人。

现为中国医药大学医疗信息学系讲座教授,曾任科技部次长,为ACM Fellow、IEEE Fellow、AAAS Fellow及IET Fellow。研究兴趣为物联网、移動计算及系统模拟,发展出一套物联网系统IoTtalk,广泛应用于智能农业、智能教育、智能校园等领域/场域。兴趣多元,喜好艺术、绘画、写作,遨游于科技与人文间自得其乐,著有<闪文集>、<大桥骤雨>。
智能应用 影音