决定一样事物的好与坏，往往在于使用它的人。在一项技术的研究和发展过程中，许多人可能都没想过未来将如何利用它，以及会带来怎样的结果。
上月，三星AI研究室创建了新的工具，通过机器学习，只要有几张图片，就可以合成为虚拟的视频。
通常，要做出以假乱真的视频需要大量数据支持。但这项新的deepfake技术不再需要大量数据，新的神经网络只需要少量数据就能生成新的人脸信息甚至是视频，也就是说一张普通照片就能伪造一段视频。
不只是面部表情，口型和声音也可以造假。
此前，一批来自斯坦福大学、马克斯普朗克信息学研究所、普林斯顿大学和Adobe Research的研究人员组织了一个团队，他们创建了一种算法，能编辑头部特写的对话视频。
这种应用从各种视频片段中提取讲话时的唇部动作，并采用机器学习将它“移植”到目标视频中，让观众看起来更自然。
耳听为虚，连眼见也是假的。而有关“变声”的技术更是已经非常常见了，拿出你的手机，只要一个输入法就能实现。
同样的，我们之前介绍过的手机应用，已经可以做出非常逼真的性别转换照片、视频。还有什么是可以相信的？
可能不久的将来，当别人从你的社交网络上抓取一张照片，只需要一部手机就能给你做出一段连你自己都从未见过的“真实视频”了。
AI技术在图像领域的飞速进步，已经到了不得不警觉的地步。苹果CEO蒂姆·库克上周日在斯坦福大学毕业演讲上提到，“如果你建了一个制造混乱的工厂，你就不能逃避你对这些混乱的责任。”
Adobe疯起来，连自己都打
*近，Adobe和加州大学伯克利分校的研究人员做了一套工具，不仅可识别出人像照片中被修改过的部分，还能预估原图的模样。
为了制造这个工具，研究人员首先写了个脚本，自动用液化工具修了一大把人像图片，用作神经网络的训练数据。结果令人惊喜，测试数据显示，人类志愿者识别出图片真伪的正确率只有53%，算法的正确率却高达99%。
更难得的是，算法不仅可辨别图片是否有经过修改，落实修改过的地方，更能够恢复出一个大概的原图。
目前，该算法只能识别经Photoshop液化工具处理的照片，无法应用于其它工具修出的效果，也只能应用于人脸，不过，团队接下来会继续将“还原按钮”研究拓展到更多领域，譬如修身和磨皮。
为什么要研发这类工具？Adobe在官方博客中写道：“我们对于Photoshop和其它Adobe创意工具在世界上的影响力感到很自豪，但同时也意识到我们科技潜在的道德延伸影响。虚假内容已成为了一项日益紧迫的严重问题。”
虽然这一工具还有诸多限制性，但每一个进步都有意义。
