Deepfake AI使得人们很难区分修改过的视频和原始视频。以下是Facebook首席执行官马克·扎克伯格(Mark Zuckerberg)的原创和深度伪造视频的对比。

 

在互联网所有可怕的力量中，它欺骗毫无戒心的人的能力可能是最可怕的。“点击诱饵”、ps过的图片和假新闻是最严重的作恶者，但近年来，一种名为“深度假人工智能”(deepfake artificial intelligence, AI)的新危险工具也在兴起。

 

“深度伪造”一词指的是电脑生成的视频和音频的伪造，很难与真实的、未经修改的内容区分开来。它是用来拍摄Photoshop图像的。

 

deepfake人工智能是如何工作的?

 

据《大众机械》报道，该工具依赖于一种被称为“生成式对抗网络”(GANs)的技术，该技术是目前在苹果公司工作的博士生Ian Goodfellow在2014年发明的。

 

根据Vox的说法，GAN算法涉及两个独立的人工智能，杏耀挂机一个生成内容——比如说，人的照片——另一个是试图猜测图像真假的对手。生成的人工智能一开始几乎不知道人们的长相，这意味着它的搭档可以很容易地分辨出真假照片。但随着时间的推移，每一种类型的人工智能都变得越来越好，最终生成的人工智能开始生成看起来非常逼真的内容。

 

GANs是令人印象深刻的工具，并不总是用于恶意目的。2018年，一幅模仿荷兰“老大师”风格的油画在佳士得拍卖行以43.25万美元的惊人价格成交，其中包括17世纪的伦勃朗(Rembrandt van Rijn)。

 

但是当GANs被训练成视频和音频文件时，它们会产生一些真正令人不安的材料。2017年，西雅图华盛顿大学(University of Washington In Seattle)的研究人员训练了一种人工智能，让它改变前总统巴拉克·奥巴马(Barack Obama)的一段视频，让他的嘴唇按照完全不同的演讲内容移动。这项研究发表在《ACM图形学报》(TOG)杂志上。

 

Vice网站报道说，同年，deepfakes的知名度大增，主要是通过一位名叫“deepfakes”的Reddit用户。GAN技术经常被用来把名人的脸——包括盖尔·加朵、麦茜·威廉姆斯和泰勒·斯威夫特——放在色情电影女演员身上。

 

其他的甘斯已经学会了拍摄一个人的一张照片，并为这个人创建相当真实的替代照片或视频。2019年，深度仿真可能会产生令人毛骨悚然但真实的电影，蒙娜丽莎在不同的位置说话、移动和微笑。

 

深度赝品也可以改变音频内容。据The Verge网站今年早些时候报道，这种技术可以将新单词拼接到一个人说话的视频中，让人感觉他们说了一些他们从未想过的话。

 

新工具部署起来的简单程度可能会带来可怕的后果。如果任何人在任何地方都能拍出真实的电影，展现名人或政客的演讲、动作和从未说过的话，观众就不得不对互联网上的内容更加警惕。举个例子，在Buzzfeed网站上的这段视频中，奥巴马总统警告称，杏耀下载未来的反乌托邦将会“耗尽能量”。这段视频是由电影制作人乔丹·皮尔(Jordan Peele)用deepfake制作的。