穿上一件看似普通的T恤衫,你就如同穿上了隐身衣,能在AI摄像头面前遁于无形;用AI换脸技术制作的视频,在深度伪造检测平台的“火眼金睛”下,瞬间就能被识破,避免人脸被恶意使用。8月2日,在2021全球数字经济大会主题展上,清华人工智能研究院成果转化公司瑞莱智慧带来的一系列AI攻防技术展示颇为吸睛。
“隐身衣”能躲过AI摄像头的检测。戴冰摄
工作人员介绍,之所以T恤能够帮助实现隐身,是因为这款隐身衣上印刷了特定的对抗图案,该图案能够使监控系统的检测算法出错,让AI算法难以检测到目标,一旦穿上便可以实现隐身逃逸。
近年来,人工智能在很多场景里正逐渐替代人工或与人类协作,成为人类的眼睛。然而,这些主流应用场景的背后,往往也藏着由技术性缺陷导致的算法安全风险。例如,在一些训练数据无法覆盖到的极端场景中,自动驾驶汽车可能出现匪夷所思的决策,造成安全隐患。
小车模型涂上了对抗图案,能够从AI车辆检测中“逃逸”.戴冰摄
技术人员就在现场演示了如何通过对抗性算法将车辆隐身。将对抗样本图案张贴到模型小车上,对准摄像头,小车就能够从摄像头对车辆的检测中“逃逸”,变成隐形。瑞莱智慧高级副总裁朱萌说,对抗补丁图案能够使检测算法出错,将本应能检测到的物体变为检测不到,因而让车辆逃避检测系统的追踪。
常言道,眼见为实。然而,随着人工智能的迅猛发展,一些使用Deepfake深度伪造技术制作的换脸视频在网络上屡见不鲜,眼见已不一定为实。这项技术甚至被别有用心的人利用,成为诈骗、诬陷等罪恶勾当的工具,给社会和个人带来严重威胁。
朱萌介绍,公司基于第三代人工智能技术研发出的DeepReal,能够通过研究深度伪造内容和真实内容的表征差异性辨识、不同生成途径的深度伪造内容一致性特征挖掘等问题,快速、精准地对多种格式与质量的图像进行真伪鉴别。
记者在位于中关村科学城的瑞莱智慧展厅看到,一段借助AI技术将英国女王的脸“换”到恶搞舞蹈中的视频,在普通人肉眼看来十分逼真自然,但DeepReal平台迅速检测出异样并作出提示:“假!视频含有非真人脸。”
据介绍,瑞莱智慧团队利用产学研一体化优势,创新性地提出了“攻防动态平衡”机制,以子之矛、攻子之盾,通过攻防对抗不断升级,演练出针对性的防御技术。通过对抗性算法研究,能够先于黑客发现并修补漏洞,避免攻击隐患;通过生成更为逼真的深度伪造视频,再训练出更为领先的检测算法。目前,围绕算法可靠、数据安全、应用可控等核心能力,团队已相继推出人工智能安全防火墙、隐私保护计算与深度合成内容检测等多款自研优势平台。
你可能也喜欢
- 宁静岛池畔酒吧WET
- 中国驻美大使馆发布重要提醒!
- JW万豪酒店 Hashi
- 普京到底帮了中国什么?为什么说没有他,很难有现在的中国
- 神仙珊瑚岛 Kid Club
- 与多人发生性关系的美女局长落马,权色交易,潮水退去谁在裸泳
- 洲际酒店 Fitness Center
- 坎多卢岛 双层泳池别墅(Duplex Pool Villa)
- 英达,一切都是咎由自取!
- 果然应验了,老百姓对于此次医疗改革的反应,超出了专家的想象
- 同样是冯小刚的孩子,把前妻女儿和领养女儿一对比,差距就出来了
- 普京喝醉痛哭?对于俄罗斯孤立无援的尴尬处境,周恩来早已经预测
- 1976年,是谁在关键时刻,促成了华国锋叶剑英联手粉碎四人帮?
- 洲际酒店 家庭沙滩泳池别墅(Family Beach Pool Villas)
- 河北沧州富豪榜大洗牌,孙纪木身价暴涨217亿,于桂亭跌出前五
- 《狂飙》里其实还有3个保护伞没被抓!
- 《狂飙》中最红莫过于大嫂高叶,网友说该她火了
- 坎多卢岛 Olive橄榄餐厅
- 毛主席临终前提出一个请求,秘书哭着不愿答应,但还是执行一辈子
- 2月14日,纪委一天通报18名干部涉嫌违纪违法被查处,看看是谁?