一秒识破“假脸”,AI版“火眼金睛”亮相数字经济大会

穿上一件看似普通的T恤衫,你就如同穿上了隐身衣,能在AI摄像头面前遁于无形;用AI换脸技术制作的视频,在深度伪造检测平台的“火眼金睛”下,瞬间就能被识破,避免人脸被恶意使用。8月2日,在2021全球数字经济大会主题展上,清华人工智能研究院成果转化公司瑞莱智慧带来的一系列AI攻防技术展示颇为吸睛。

“隐身衣”能躲过AI摄像头的检测。戴冰摄

工作人员介绍,之所以T恤能够帮助实现隐身,是因为这款隐身衣上印刷了特定的对抗图案,该图案能够使监控系统的检测算法出错,让AI算法难以检测到目标,一旦穿上便可以实现隐身逃逸。

近年来,人工智能在很多场景里正逐渐替代人工或与人类协作,成为人类的眼睛。然而,这些主流应用场景的背后,往往也藏着由技术性缺陷导致的算法安全风险。例如,在一些训练数据无法覆盖到的极端场景中,自动驾驶汽车可能出现匪夷所思的决策,造成安全隐患。

小车模型涂上了对抗图案,能够从AI车辆检测中“逃逸”.戴冰摄

技术人员就在现场演示了如何通过对抗性算法将车辆隐身。将对抗样本图案张贴到模型小车上,对准摄像头,小车就能够从摄像头对车辆的检测中“逃逸”,变成隐形。瑞莱智慧高级副总裁朱萌说,对抗补丁图案能够使检测算法出错,将本应能检测到的物体变为检测不到,因而让车辆逃避检测系统的追踪。

常言道,眼见为实。然而,随着人工智能的迅猛发展,一些使用Deepfake深度伪造技术制作的换脸视频在网络上屡见不鲜,眼见已不一定为实。这项技术甚至被别有用心的人利用,成为诈骗、诬陷等罪恶勾当的工具,给社会和个人带来严重威胁。

朱萌介绍,公司基于第三代人工智能技术研发出的DeepReal,能够通过研究深度伪造内容和真实内容的表征差异性辨识、不同生成途径的深度伪造内容一致性特征挖掘等问题,快速、精准地对多种格式与质量的图像进行真伪鉴别。

记者在位于中关村科学城的瑞莱智慧展厅看到,一段借助AI技术将英国女王的脸“换”到恶搞舞蹈中的视频,在普通人肉眼看来十分逼真自然,但DeepReal平台迅速检测出异样并作出提示:“假!视频含有非真人脸。”

据介绍,瑞莱智慧团队利用产学研一体化优势,创新性地提出了“攻防动态平衡”机制,以子之矛、攻子之盾,通过攻防对抗不断升级,演练出针对性的防御技术。通过对抗性算法研究,能够先于黑客发现并修补漏洞,避免攻击隐患;通过生成更为逼真的深度伪造视频,再训练出更为领先的检测算法。目前,围绕算法可靠、数据安全、应用可控等核心能力,团队已相继推出人工智能安全防火墙、隐私保护计算与深度合成内容检测等多款自研优势平台。