Facebook出资1000万美元 ,寻找对抗DeepFake的Super Hero
2019年09月09日 由 TGS 发表
149081
0
据外国媒体报道,近日,社交网络巨头Facebook宣布计划出资1000万美元,与人工智能(AI)合作伙伴、微软以及学术界一道发起DeepFake检测挑战赛,以刺激创新,对虚假内容进行打击。
根源——由 Deepfakes 产生的“恶”
2017 年,一名 ID 为 Deepfakes 的网友在 Reddit 网站上传了一段换脸视频,并在之后上传了一系列类似的视频;由于换脸视频涉及色情内容,并且侵犯了他人的隐私,引起了恶劣的反响。最终,Reddit 官方将 Deepfakes 封号。而作为报复,Deepfakes 也将换脸视频的 AI 代码免费公开,从此,Deepfakes 视频像病毒一样蔓延全球,无论是明星还是政客,都有可能被“换脸”。
虽然Deepfakes 时常会被用于恶搞视频里,而且人们也觉得无伤大雅;但是,如果出现在政党竞选领域,或许就另当别论了——有专家表示,在 2020 年美国总统大选之前,或许会有更多关于政客的 Deepfakes 假新闻出现。就目前而言,美国还没有引发重大政治后果的 Deepfakes 事件,但重要的是,使用该技术的成本在变得越来越低。
网络上有一些团队正在开发制作简单 Deepfakes 视频的市场;甚至在 YouTube 上传指导教程,教人手把手制作 Deepfakes 视频,再收取一定的费用;也有一些自助服务网站可以帮助生成 Deepfakes 视频。前两天刷爆朋友圈的换脸 app ZAO 更是大大降低了人们感受这项技术的门槛——不需要 P 图技术、不需要代码知识、不需要专业设备;仅需要一部手机,一张照片,就能快速生成换脸视频;效果逼真,动作流畅。而且,一旦用户上传自己的照片,并且同意该软件的用户协议和隐私协议,肖像权和隐私权就有可能面临着巨大的风险。
只有AI才能对付AI
有“换脸”就有“反换脸”,因为巨大的威胁,越来越多的研究人员在努力寻找准确识别 Deepfake 的假视频的方法。
上周,Facebook宣布与 Partnership on AI、微软、以及来自康奈尔理工学院、麻省理工学院、牛津大学、加州大学伯克利分校、马里兰大学帕克分校和纽约州立大学奥尔巴尼分校等机构合作,发起Deepfake检测挑战赛(DFDC)。而这次挑战的目标只有一个,那就是创建出可用于训练模型的实质数据集,准确检测Deepfake并报告它们。
纽约州立大学工程与应用科学学院的吕思伟教授说道:
虽然 Deepfakes 视频看起来可能很逼真,但它们毕竟是由算法生成的,而不是由摄像机捕获的真实事件;这意味着它们仍然可以被检测出来。一些有前景的新方法可以发现和减轻 Deepfakes 的有害影响,包括在视频素材中添加“数字指纹”以帮助验证其真实性。除此之外,解决这个问题还需要技术人员、政府机构、媒体、公司和每一个在线用户共同努力。
研究人员发现,Deepfake假视频里的人物极少眨眼,甚至不会眨眼,因为它们都是使用睁眼的照片进行训练的。利用这些细微的线索,可以检测出图像或视频中的脸是真实的还是 AI 生成的。
但可惜的是,这一工具来不及实用化就被宣告无效了——早期的Deepfake视频远远算不上完美,存在各种容易发现的缺陷,比如不眨眼。但随着Deepfake 技术的飞速发展,假视频中人物从不眨眼的缺陷很快得到了改善,生成的假视频变得越来越逼真可信。
最近,来自加州大学伯克利分校和南加州大学的研究人员在用AI对付AI的战斗中开发了出了新的“武器”——用AI 来寻找每个人的 “软性生物识别” 标签,以更加准确地识别伪造视频。
这听起来很复杂,但实际上对我们来说并不陌生,简而言之——习惯性小动作。每当我们开口说话时,我们的头、手、眼睛甚至嘴唇都会产生微妙但独特的运动。这一切都是下意识的,很少有人会意识到身体正在做这件事,从结果上看,这是目前 Deepfake 在创造假视频时考虑不到的因素。在实验中,这款新的 AI 准确发现伪造视频的几率达到了 92%,实验对象包括使用多种技术创建的假视频,以及由于视频文件被过度压缩导致图像质量下降的视频。
路漫漫,其修远
Facebook 投入了 1000 万美元来发起竞赛,竞赛将从 2019 年末开始,到 2020 年春季结束;届时还将有一个排行榜,用来评定 Deepfakes 检测系统的能力。从某种程度上来说,这不失为一种明智之举,可以激励研究人员以及业余爱好者寻找解决方案。
不过,与所有有关于人工智能的问题一样,Deepfakes 视频的检测也涉及到大量的数据和训练。所以,想要彻底解决 Deepfakes 的问题并非易事,这期间的过程注定是漫长的。
Facebook 首席技术官 Mike Schroepfer 在接受记者采访时说道,人们有许多方法可以检测 Deepfakes 视频,比如通过视频中一些奇怪的阴影形态和不自然的视觉效果。但随着 Deepfakes 背后的技术迅速发展,检测也变得越来越困难。
另外,从检测系统本身来看,当一个系统已经“看过”原始视频时,确实能够轻易地从假视频中发现变化,从而检测出 Deepfakes 视频;但如果怀有恶意的人故意录制视频,然后对其进行处理,那么对于人工智能系统而言,这个视频就是“原始视频”,没有可以参考的标准,也就难以发现其中存在的问题。
尽管取得胜利的道路崎岖漫长,但能看到学术界和企业联合起来研究解决 Deepfakes 的相关问题,不可谓不喜闻乐见,随着科技的发展与人们的越发重视,AI换脸的问题终有一天能彻底解决。技术无对错,人性分善恶。这个世界上有很多“灭霸”,但也同样不缺少“Super Hero”。