当视频也能PS，我们在互联网上还能相信谁呢

当视频也能PS，我们在互联网上还能相信谁呢 原创 三易生活 2019-02-25 20:37:06
说起AI，也就是人工智能，相信很多人不会陌生了，毕竟从华为麒麟970开始，在这1年多的时间里，智能手机这一现代人必不可少的工具上，已经密布了AI的身影。而有了AI，无论是在自拍镜头中我们变得更美，还是在后置相机中画面更协调，更或是在游戏中的性能得到更进一步的加强，也无一不与大家的日常使用有关。

杨幂演黄蓉，让黑寡妇演AV的神奇技术

不过，如今的AI肯定还比不上《流浪地球》中的MOSS，但也绝对不是仅仅作为智能手机的一个“添头”。就比如说，最近B站一名UP主就上传了一段为影视剧角色换脸的视频，让杨幂的面庞出现在了94版《射雕英雄传》中，代替了原本由朱茵扮演的黄蓉，甚至表情都相当自然。

这种神奇的操作背后，其实就是AI技术的功劳，而更具体一点，其所依靠的一款名为“FakeApp”的神奇软件。2017年12月，在“美国贴吧’Reddit上出现一个名为“DeepFakes”的网友，这位老哥干了件许多人心心念念的大事，他通过AI合成了以Daisy Ridley、Gal Gadot、Scarlett Johansson等好莱坞女星为主角的虚假爱情动作片。
虽然Reddit很快封掉了这个帐号以及相关的群组，并且Google和Twitter等网站也禁止了相关搜索，但“DeepFakes”的代码已经被开源，并被制作成了这款傻瓜式的“FakeApp”。而DeepFakes的源流，则是目前非常热门的AI技术——生成对抗网络(GAN)。

生成对抗网络(GAN)是什么？其实这是一类在无监督学习中使用的神经网络，这个模型的框架中至少包含两个模块——生成器(generator)与判别器(discriminator)，这两者则通过在互相博弈学习中，产生出能够以假乱真的输出。
生成器是给定某种隐含信息来随机产生观测数据，判别器则需要输入变量 ，通过某种模型来预测 。简而言之就是，生成器的目标就是尽量生成真实的图片去欺骗判别器，而判别器生成的图片和真实的图片分别开来。因此在训练判别器时，需要利用生成器生成的假图片和来自真实世界的真图片，训练生成器时，则只用噪声生成假图片，判别器用来评估生成的假图片的质量，促使生成器相应地调整参数。也正是在二者的不断的动态博弈之中，所产出的图片就变得越来越逼近真实。

孰真孰假，你分的清吗？

如果说DeepFakes使用的GAN技术还存在着一些瑕疵，那么由NIVDIA推出的StyleGAN软件显然就强大的多，甚至官方此前用它将晴天视频转换成雨天，甚至都毫无违和感。而且在今年2月NVIDIA宣布StyleGAN开源后，包括源代码和官方TensorFlow框架实现都一并公布，并且还附有Flickr的高清人脸数据集。

StyleGAN这项算法，是NVIDIA在GAN的基础上为开发者提供的一套傻瓜式开发包，其中已经包含了完整的训练模型，开发者可以跳过漫长的训练过程并立即开始生成面部合成照。因此在StyleGAN开源的数天之后，两位美国华盛顿大学的教授Carl T. Bergstrom和Jevin D. West，以StyleGAN为基础做出了一个特别的网站，而这个网站也仅有一个目的，“Click on the person who is real(那张脸是真实的)”?

我们来看看这样两组照片，相信很多人都会认为第一组的左边和第二组的右边是真人的照片，因为这两张照片的细节更加真实，但遗憾的是它们都是由AI自动生成的照片。随着技术的进步，AI如今已经能够跨越“恐怖谷效应”，实现以假乱真的感觉，毕竟《阿丽塔：战斗天使》之中的纯CG人物和真人其实也没有太大差异。
啰嗦了这么多之后，一个显而易见的事实是，当技术越来越发达，网络给我们呈现出的真实感就愈发缺失，PS还能够通过种种手段来区分，但是这种通过GAN技术“P过”的视频或者产出的图片，应该说压根就是“真的”。

按照去年瑞士Idiap生物识别安全和隐私小组的评测，目前市面上最先进的图像分类模型VGG对其是毫无办法，识别错误率高达95%。因此StyleGAN被公开之后，目前已经广泛应用的人脸识别将会受到极大的冲击，而且各种“三无”的人像图片也会造成不小的伦理道德冲击，也或许会开始让曾经被视作最重要证据形式的视频和照片，变得不那么可信。

AI技术开源，慎重为好

这就顺势引发了一个问题，StyleGAN软件以及TensorFlow框架(用来训练GAN)的开源，到底是不是一个合适的选择。对于谷歌与NVIDIA来说，将新技术开源是扩大其影响力的重要武器，君不见谷歌在2015年开源的TensorFlow，如今已经成为如今最受欢迎的机器学习框架之一。

源代码，特别是大公司的源代码就像是金庸大侠小说之中的《九阴真经》和屠龙宝刀，是一般人成为高手的捷径，而练了这些大公司的“武功”就意味着与他们结下了善缘，越多开发者使用就代表这项技术影响力越大，而这种影响力正是谷歌们甘之如饴的。同时也就像武林高手也是需要切磋武艺的一样，开源有利于开发者之间的交流，更能够推动项目的进展。
谷歌和微软等大企业中研究开源 AI 框架的科学家，基本都有签下类似不对道德发展造成伤害的承诺书，但对于下载和使用这些技术的用户却没有进行限制。TensorFlow网站有软件运行的说明，但却没有关于软件使用软件伦理道德的免责声明，以及确保数据集无偏见的说明。

但是现在的情况，是随着计算机技术从极客们的游戏变为了普通的职业之一，像“FakeApp”这样的傻瓜软件只需要用户会使用电脑就能够操作。一方面是门槛的大幅度降低，另一方面是技术本身的能力边界越来越大。
而一件威力无穷的武器却没有相应的监管，对于AI技术的开源，或许也是这些业内领头羊企业所需要再多多斟酌一件事了。

我知道答案 本帖寻求最佳答案回答被采纳后将获得系统奖励10 天空金币 , 目前已有0人回答