Deepfake 的兴起,让视频和音频不再是记录历史的可靠证据!
近日一则电影片段在 YouTube 爆火,影片中两位主演分别是好莱坞两位顶级流量巨星西尔维斯特 · 史泰龙(Sylvester Stallone)和阿诺 · 施瓦辛格(Arnold Schwarzenegger)
然而,短片爆火的原因不是两位巨星,而是它逼真的视频合成效果。
事实上,这部名为《Step Brothers》的电影主演是两位小众演员,短片创作者利用 Deepfake 将面部替换成了两位巨星。
短片中,人脸自然、毫无痕迹的融合效果,让不少网友们惊叹:太恐怖。
但事实上,更让人恐怖的是短片背后,Deepfake 愈演愈烈的负面应用。自 2017 年,某 Reddit 用户首次将其用来伪造色情视频开始,Deepfake 造假已逐渐渗透到政治、媒体等多个领域,甚至还威胁到了今年的美国总统大选。
与此同时,伪造品的数量也在逐年增长,特别是在 2020 年再次创下历史新高,达到 49081 个。
那么,快速增长的 Deepfake 有哪些特点,背后有哪些应对措施?
Deepfake 泛滥成灾,增长率超 330%近些年,计算机视觉技术得到飞速发展。
尤其是 2014 年生成式对抗网络 GAN 的提出,让图像和视频合成不断取得惊人的效果。
2017 年,这项技术被不良分子用来伪造了一段色情视频,由此该技术被人们称为 “Deepfake”,后来 Deepfake 的负面应用不断发酵,并逐渐覆盖到更广泛的图像、视频,乃至音频领域。
具体来说,Deepfake 主要是对人脸进行篡改和重新编辑,包括表情修改,换脸、换口型、合成新人脸四种模式。其中,换脸和对口型是 Deepfake 最主要的应用模式,其破坏性和杀伤力也最强。如篡改政客公开演讲以及伪造色情视频。
值得注意的是,造假者无需了解这些修改模式背后的技术原理,诸多开源软件,已经可以让他们轻松地制造虚假内容。比如 DeepFaceLab 之类的工具,任何人都可以拍摄一张图片或视频,并替换或操纵人脸。
技术的普及和便捷性,让造假品数量成指数级增长。根据安全分析公司 Sensity 最新结果显示,
自 2018 年 12 月以来,Deepfake 在线造假品的数量大约每六个月翻一番。
2019 年 7 月 Deepfake 的总数达到 14,678,相比于 2018 年 12 月的 7964 部造假视频增加了近 100%。而截至今年 6 月,造假视频已多达 49081 个,比 2019 年 7 月增长了 330%以上。