新智元报导
来历：thedailybeast
修改：鹏飞
【新智元导读】本文梳理了deepfake的来龙去脉，以及发展趋势，并给出了防护Deepfake假视频可行的办法。>>>人工智能改动我国，咱们还要跨过这三座大山 | 献礼 70 周年
上一年下半年，西非加蓬总统阿里·邦戈（Ali Bongo）被报导中风，音讯一出，Ali几个月没出面。
可是本年元旦网上忽然呈现一个官方的视频，人们惊奇的发现视频中Ali向加蓬公民说话，尽管看起来有点目光有点迷幻。
竞争对手站出来，声称该视频运用“deepfake”假造的，因而他们断语Ali肯定是死了，或许丧失了举动才能。所以在1月7日，戎行领导人发动了一次政变。
政变失利了，由于Ali还没死。而这段视频也并非假造的，仅仅一段荒诞的录像，记载了一个身体不适的人，尽力使他自己体现的比实践他更健康罢了。
可是政变策划者最少说对了一件事：deepfake彻底有或许假造令人信服的国际领导者或其他人的视频。
Deepfake是交际媒体的一项适当新的功用，现已在全国范围内加重了暴力和不稳定，专家以为，问题只会越来越糟糕。
最早的Deepfake呈现在2017年末的Reddit上。一个匿名用户称自己为“deepfakes”（人工智慧“深度学习”和“虚伪”的描写），将名人的面孔加在色情内容上。
Reddit终究制止了deepfakes，可是这只猫现已锋芒毕露。斯坦福大学的研究人员Tom Van de Weghe在5月的一篇文章中写道：“一波仿照者在其他平台上替代了他。”
Deepfake视频，静止图画或音频记载是称为“生成对立网络”或GAN的奇妙编码的产品。
在Facebook的查找栏中输入“ deepfake”，你能够观看汤姆·克鲁斯（Tom Cruise）主演的漫威超级英豪电影，或许巴拉克·奥巴马（Barack Obama）出演漫威超级英豪电影。
不难想象，政党、情报机构，急进安排和在线巨魔会布置deepfakes来抹黑、栽赃或使对手感到为难。这种危险使得计算机科学家现已在力争上游地规划出深层的对策。乔治亚理工大学计算机科学副教授马克·里德尔（Mark Riedl）对《The Daily Beast》说：“这简直便是军备竞赛。”
也便是说，布置GAN简单但做起来难。底层代码并不难找到，但不只需求代码。关于初学者来说，需求很多牢靠的媒体作为生成器的中心。
要假造或人的相片或视频，需求很多明晰的人脸图画。要假造该人的声响，需求很多明晰记载他们的实在说话。
Van de Weghe指出，交际媒体能够更轻松地找到杰出的内容作为起点。可是搜集一切原资料依然需求时刻和精力。
佐治亚理工学院计算机科学家Polo Chau对《The Daily Beast》说：“一个歹意实体或许需求不止一个图画、音频或视频来有效地大规模地影响言论。”
单一的造假视频不会形成多大的声浪，只要当你制作了一堆不错的造假视频，它们都以相同的办法针对同一个人，并且假定你的视频没有被人识破，才会发生足够大的作用。
当然，GAN一向都在前进。可是现在来说辨认假货比造假要更简单一些。Riedl解说说，当今的GAN擅长于人脸。可是它们在杂乱，移动的资料周围变得不可信。在Deepfake视频中仔细观察目标的头发，你应该能够发现显着的失真。
能够主动进行这项检查。交际媒体公司和用户能够布置区别器，以挑选网络上的媒体，寻觅GAN出产的冒充产品的像素化和其他数字指纹。
谷歌在9月份发布了3000个旧的deepfake著作，一切这些都是为了加强辨认新假货的尽力。
别的，还有一些不只仅依托代码来应对Deepfake的办法。Chau解说说，Deepfake的供货商需求交际媒体帐户和不道德的媒体来协助传达歹意内容。
Riedl说，这会导致骗子露出于交际媒体剖析中。“你能够对其进行剖析，找出这些事物的来历，检查此人周围的网络，并承认这些事物是人为的实体仍是与已知集体相关联。”
“你能够对此进行反编程，” Reidl弥补说。办法或许包含阻挠或陈述正在推进深deepfake的帐户。“这是不直接与技能打交道的十分有出路的办法。”
专家说，归根到底，抵挡GAN及其制作的deepfake品的最佳防护办法是受过杰出教育和持置疑态度的大众，能够在知情的情况下检查媒体，并考虑其来历，支持者和反对者以及兵器化的潜力。
奥巴马闲聊着一些Marvel的反派人物？关于巴望将前总统描绘为愚笨的边际媒体而言，这无疑是有用的，因而很或许是假的。聪明的交际媒体用户应该知道这一点。
置疑是要害。可是在一个多党派的媒体环境中，每个人都在为承认自己现有的成见而尽力，置疑主义或许会求过于供。
这不只使GAN变得愈加虚伪，并且使一些专家感到忧虑。里德尔说：“deepfake冒充如此要挟的原因并不是技能如此超卓，而是人们想被捉弄。”
参阅链接：
https:///inside-the-deepfake-arms-race?ref=scroll
