深伪技术

深度伪造（英语：Deepfake），简称深伪，是英文“deep learning”（深度学习）和“fake”（伪造）的混成词^[1]，专指基于人工智能的人体图像合成技术的应用。此技术可将已有的图像或影片叠加（英语：Superimposition）至目标图像或影片上。伪造面部表情并将其呈现至目标影片的技术在2016年出现，此技术允许近实时地伪造现有2D视频中的面部表情^[2]。为发展Deepfakes检测技术，Facebook联合微软举办全球Deepfakes检测竞赛^[3]。

技术背景

换脸伪造是通过交换两张图像的人脸达到伪造身份的目的。传统上是采用基于图形学的3D模型重建追踪技术^[4]。较新的研究则是采用深度学习来达到换脸效果，为了解决深度学习的训练难度和生成质量，又进一步融合了生成对抗网络技术^[5]。表情伪造是将其他人脸图像的表情替换到目标人脸上，从而达到目标人物做指定表情的目的^[5]。此外，换脸伪造和表情伪造还常常结合语音伪造技术。通过文本到语音合成和语音转换技术来制作虚假语音^[5]。

部分应用

影剧深伪

部分连续剧如《光荣时代》^[6]、《三千鸦杀》^[7]，因某些因素替换角色，但不进行重拍，以深伪技术进行脸部替换。
2022年播映之《买定离手我爱你》亦使用此技术更新内容后重新上映^[8]。

犯罪隐忧

Deepfake常用来伪造名人性爱影片和复仇式色情等等媒体^[9]。带色情成份的Deepfake作品于2017年间在互联网上流出，特别是在Reddit上^[10]。此后Deepfake作品被Reddit、Twitter和Pornhub等网站所禁止^[11]^[12]^[13]。Deepfake也可以用以制造假新闻及恶意恶作剧^[14]^[15]。在Youtube、Vimeo等流行的在线视频流媒体网站上，可以很容易地找到非色情的Deepfake影片。^{[来源请求]}FakeApp是一款使用TensorFlow开源软件库的Deepfake影片制作程式^[16]^[17]。

参阅

参考资料

^ Brandon, John. Terrifying high-tech porn: Creepy 'deepfake' videos are on the rise. Fox News. 2018-02-16 [2018-02-20]. （原始内容存档于2018-06-15）（美国英语）.
^ Thies, Justus. Face2Face: Real-time Face Capture and Reenactment of RGB Videos. Proc. Computer Vision and Pattern Recognition (CVPR), IEEE. 2016 [2018-02-24]. （原始内容存档于2018-02-26）.
^ Deepfake Detection Challenge. [2021-03-02]. （原始内容存档于2021-03-17）.
^ Zollhöfer, M.; Thies, J.; Garrido, P.; Bradley, D.; Beeler, T.; Pérez, P.; Stamminger, M.; Nießner, M.; Theobalt, C. State of the Art on Monocular 3D Face Reconstruction, Tracking, and Applications. Computer Graphics Forum. 2018-05, 37 (2): 523–550. doi:10.1111/cgf.13382.
^ ^5.0 ^5.1 ^5.2 李旭嵘; 纪守领,吴春明,刘振广,邓水光,程鹏,杨珉,孔祥维. 深度伪造与检测技术综述. 软件学报. 2021, 32 (2): 496–518 [2021-03-02]. doi:10.13328/j.cnki.jos.006140. （原始内容存档于2021-01-17）.
^ 《光荣时代》赵立新被“换脸”，“AI换脸”应用影视剧是福是祸. 中华娱乐网. 2019-10-09 [2021-10-19]. （原始内容存档于2021-10-20）（中文（简体））.
^ 林奕如. 女星劉露大鬧車站「新戲被AI換臉」五官浮臉上網嚇死：好恐怖！. ETtoday星光云. 2020-03-24 [2021-10-19]. （原始内容存档于2021-10-20）（中文（繁体））.
^ 张若昀老婆唐艺昕旧作冰冻4年终上档　男主角沦劣迹艺人AI换脸撞《梦华录》收视惨淡（页面存档备份，存于互联网档案馆）上报 2022-06-08
^ What Are Deepfakes & Why the Future of Porn is Terrifying. Highsnobiety. 2018-02-20 [2018-02-20]. （原始内容存档于2021-07-14）（美国英语）.
^ Roettgers, Janko. Porn Producers Offer to Help Hollywood Take Down Deepfake Videos. Variety. 2018-02-21 [2018-02-28]. （原始内容存档于2019-06-10）（美国英语）.
^ It took us less than 30 seconds to find banned 'deepfake' AI smut on the internet. [2018-02-20]. （原始内容存档于2019-04-10）（英语）.
^ Kharpal, Arjun. Reddit, Pornhub ban videos that use A.I. to superimpose a person's face over an X-rated actor. CNBC. 2018-02-08 [2018-02-20]. （原始内容存档于2019-04-10）.
^ PornHub, Twitter Ban 'Deepfake' AI-Modified Porn. PCMAG. [2018-02-20]. （原始内容存档于2019-04-10）（英语）.
^ Experts fear face swapping tech could start an international showdown. The Outline. [2018-02-28]. （原始内容存档于2020-01-16）（英语）.
^ Roose, Kevin. Here Come the Fake Videos, Too. The New York Times. 2018-03-04 [2018-03-24]. ISSN 0362-4331. （原始内容存档于2019-06-18）（美国英语）.
^ FakeApp: Finally, a Program that Will Let You Seamlessly Put Donald Trump in Porn!. Reason.com. 2018-01-25 [2018-03-24]. （原始内容存档于2018-03-22）（英语）.
^ I’m using AI to face-swap Elon Musk and Jeff Bezos, and I’m really bad at it. The Verge. [2018-03-24]. （原始内容存档于2018-03-24）.

外部链接

Sasse, Ben. This New Technology Could Send American Politics into a Tailspin. Opinions. The Washington Post. 19 October 2018 [10 July 2019]. （原始内容存档于2019-07-01）.
Fake/Spoof Audio Detection Challenge (ASVspoof) （页面存档备份，存于互联网档案馆）
Deepfake Detection Challenge (DFDC) （页面存档备份，存于互联网档案馆）

[FoxNews2018-1] Brandon, John. Terrifying high-tech porn: Creepy 'deepfake' videos are on the rise. Fox News. 2018-02-16 [2018-02-20]. （原始内容存档于2018-06-15）（美国英语）.

[Thi2016-2] Thies, Justus. Face2Face: Real-time Face Capture and Reenactment of RGB Videos. Proc. Computer Vision and Pattern Recognition (CVPR), IEEE. 2016 [2018-02-24]. （原始内容存档于2018-02-26）.

[3] Deepfake Detection Challenge. [2021-03-02]. （原始内容存档于2021-03-17）.

[4] Zollhöfer, M.; Thies, J.; Garrido, P.; Bradley, D.; Beeler, T.; Pérez, P.; Stamminger, M.; Nießner, M.; Theobalt, C. State of the Art on Monocular 3D Face Reconstruction, Tracking, and Applications. Computer Graphics Forum. 2018-05, 37 (2): 523–550. doi:10.1111/cgf.13382.

[jos.006140-5] 5.0 ^5.1 ^5.2 李旭嵘; 纪守领,吴春明,刘振广,邓水光,程鹏,杨珉,孔祥维. 深度伪造与检测技术综述. 软件学报. 2021, 32 (2): 496–518 [2021-03-02]. doi:10.13328/j.cnki.jos.006140. （原始内容存档于2021-01-17）.

[6] 《光荣时代》赵立新被“换脸”，“AI换脸”应用影视剧是福是祸. 中华娱乐网. 2019-10-09 [2021-10-19]. （原始内容存档于2021-10-20）（中文（简体））.

[7] 林奕如. 女星劉露大鬧車站「新戲被AI換臉」五官浮臉上網嚇死：好恐怖！. ETtoday星光云. 2020-03-24 [2021-10-19]. （原始内容存档于2021-10-20）（中文（繁体））.

[8] 张若昀老婆唐艺昕旧作冰冻4年终上档　男主角沦劣迹艺人AI换脸撞《梦华录》收视惨淡（页面存档备份，存于互联网档案馆）上报 2022-06-08

[HighSnobiety2018-9] What Are Deepfakes & Why the Future of Porn is Terrifying. Highsnobiety. 2018-02-20 [2018-02-20]. （原始内容存档于2021-07-14）（美国英语）.

[10] Roettgers, Janko. Porn Producers Offer to Help Hollywood Take Down Deepfake Videos. Variety. 2018-02-21 [2018-02-28]. （原始内容存档于2019-06-10）（美国英语）.

[TheRegister2018-11] It took us less than 30 seconds to find banned 'deepfake' AI smut on the internet. [2018-02-20]. （原始内容存档于2019-04-10）（英语）.

[CNBC2018-12] Kharpal, Arjun. Reddit, Pornhub ban videos that use A.I. to superimpose a person's face over an X-rated actor. CNBC. 2018-02-08 [2018-02-20]. （原始内容存档于2019-04-10）.

[PCMag2018-13] PornHub, Twitter Ban 'Deepfake' AI-Modified Porn. PCMAG. [2018-02-20]. （原始内容存档于2019-04-10）（英语）.

[14] Experts fear face swapping tech could start an international showdown. The Outline. [2018-02-28]. （原始内容存档于2020-01-16）（英语）.

[15] Roose, Kevin. Here Come the Fake Videos, Too. The New York Times. 2018-03-04 [2018-03-24]. ISSN 0362-4331. （原始内容存档于2019-06-18）（美国英语）.

[16] FakeApp: Finally, a Program that Will Let You Seamlessly Put Donald Trump in Porn!. Reason.com. 2018-01-25 [2018-03-24]. （原始内容存档于2018-03-22）（英语）.

[17] I’m using AI to face-swap Elon Musk and Jeff Bezos, and I’m really bad at it. The Verge. [2018-03-24]. （原始内容存档于2018-03-24）.

[1]

[2]

[3]

[4]

[5]

[6]

[7]

[8]

[9]

[10]

[11]

[12]

[13]

[14]

[15]

[16]

[17]