ZAO作一下，你会是谁 | 半佛仙人

 

1

本周末，整个互联网行业最火爆的产品，毫无疑问是ZAO，一款主打AI换脸的工具类产品。
一时之间朋友圈里全都是使用ZAO做出的短视频，表情包以及对于ZAO本身的讨论。
ZAO上线的第一时间我就上手在玩儿了，周六就发了与ZAO有关的信息，多家媒体上也能看到我对于ZAO的简短评论。
之所以正式文章今天才出来，是因为我这两天一直在用ZAO试验一些可能性，从进攻的角度，一直玩到周日晚上才差不多结束试验。
可以说我的整个周末，都在ZAO作。

这篇文章我想谈谈，ZAO本身的一些问题，法律与安全问题，以及技术问题。
更想谈谈，ZAO的出现背后所代表的，AI年代我们当前很多理念和规则即将迎来的挑战。
这与我们每一个人的生活都有关。
至于这是好还是坏，我不做结论。

2

先说ZAO的核心技术，其实并不新鲜。
这套换脸的玩法，是基于已开源的DeepFakes，更底层原理基于深度学习模型——生成式对抗网络（GAN, Generative Adversarial Networks ）。
这个技术是近几年无监督学习领域最热门的方向之一，什么都能做，似乎万物都可GAN。
你们不要读错，更不要乱联想。
当然读者不需要特别清楚的知道技术原理，可以简单理解为是一种相对成熟的机器学习理论，类似于万有引力定律。
这个理论引起公众的轰动是因为DeepNude以及DeepFakes两个应用产品。
简单来说，类似于人们基于万有引力定律造出了无重力仓，这东西特别好玩儿，于是人们开始重视万有引力定律。
DeepNude以及DeepFakes，很快就爆火，但同样很快就出现了问题。
前者是基于图片处理，可以实现一键换衣，能换衣自然就能脱衣，很多明星的公开照片被这个软件直接扒光，就是前段时间盛传的一键脱衣。
国内LOL爱好者应该也知道前段时间知名主持人小珏的一张采访图片被扒了衣流传出来，实际上就是用了DeepNude的组件。
后者是基于视频处理，可以实现一键换脸，神奇女侠加尔盖朵以及黑寡妇斯嘉丽约翰逊的脸被很多人直接加到色情片中，毫无违和感。
甚至之前一度非常流行的奥巴马痛骂特朗普以及各种骚操作的视频，也是DeepFakes做的；
还有用DeepFakes把希拉里和特朗普做成夫妻的，把他俩脸坐到一起的，把他俩做到色情片里的，玩法多种多样。
人们的智慧是无限的，只要有工具出来，就一定会给玩出花样来，而且早期的花样一定不够高尚。
由于人们的智慧过于无限，导致就连尺度过大著称的各类神奇网站，都集体封杀了DeepNude以及DeepFakes。
可以随意给人换衣换脸，而且多数人看不出来，这造成的影响，实在是有点大。
别的不说，各种捏造的特朗普视频，就足够让世界经济局势上蹿下跳了。
只要有波动，就有获利者。

3

DeepNude和DeepFakes虽然被封杀了，但是他们把核心技术做了开源。
就像是海贼王直接把one piece直接发给所有人人手一份，就像如来佛把佛经直接挂在百度云上一样。
一下子人人都成了AI换脸专家。
只要稍微懂一点技术的人，都可以使用他们的技术来套层壳来玩儿，ZAO也是诸多衍生APP之一。
ZAO的爆红本身不意外，产品流程设计的确实非常流畅（我不会承认他们开屏中的某个人我还认识），AI换脸在国内也确实是全新的体验，很好玩儿。
我看到很多媒体文章都在分析ZAO是如何成功的，ZAO的成功能否延续，ZAO下一步要如何运营，ZAO能火多久。
这根本不是重点，这种涉及人脸的产品不火才怪。
真正的重点在于，这类支持使用者随意创造换脸，到底，有没有真正的授权？
有没有侵犯肖像权？如果侵犯了怎么办？责任在谁？
翻看ZAO的隐私协议，挺有趣的。
建议每个人在玩儿ZAO之前，在注册阶段，好好把红色的字读10遍，然后再来考虑。
ZAO没有隐瞒任何东西，他们写的明明白白，清清楚楚。
当你使用ZAO来编辑人脸的时候，【你】不仅仅是把自己的肖像授权给了【ZAO】及其【关联公司】使用，并且，如果你编辑的【不是你】的人脸，那么【你】需要保证这个是拿到授权的，不然产生的一切后果，要【你】来承担。
这是最重要的东西，可惜大多数人一开始忽略了这个。

4

我用简单的例子来解释一下这段话，同时讲一下ZAO面临的风险。
假如，我把我自己的脸放在ZAO上面了，那么就等于是默认了把自己这张照片授权给了ZAO使用，这张照片以及用这张照片生成的视频，都可以给ZAO使用。
不仅是给了ZAO，同样还给了ZAO的关联公司，这个关联公司的定义是模糊的，也就是，你也不知道ZAO给了谁用，这要这家公司和ZAO存在关联关系，那么这家公司就可以用，你可能都不知道这家公司的存在。
至于拿去干什么用，协议上没有明写，这就留下了一个很大的想象空间。
反正即使拿去卖钱你也管不着，因为协议里是允许ZAO再授权的。
简而言之，就是只要你传了照片，之后就都是ZAO的了。
ZAO自己也意识到这个东西有问题了，所以紧急修改了协议，修改后的版本如下图。
只要用ZAO，你的这张脸，就借给ZAO了。
当然问题不仅仅是这点。
如果你使用了别人的脸，那么更有趣。
按照用户协议，如果你上传了一张吴亦凡的照片，那么这张照片同样也是授权ZAO及其关联公司免费使用的。
简单来说，就是你把吴亦凡借给了ZAO。
如果吴亦凡不干了，要起诉ZAO，那么依据用户协议，ZAO不承担后果，因为【您同意或者确保权利人已同意】，上传者要自己确保自己上传的他人的脸已经得到了授权，如果没有确保的话，那么问题出在上传者。
所以吴亦凡只能起诉你，因为你签的用户协议中保证了自己上传的都是拿到了授权的内容。
ZAO作为一个平台，不负责审查照片是否侵权（也没这个能力）享受着所有照片的授权及传播红利，但是侵权风险归上传照片用户，这个操作是很有趣的。
并且ZAO自己那些拿来让大家玩的视频素材，很多版权都存在模糊。
ZAO用户大战视觉中国，听起来就很刺激。

5

除了肖像权风险的转嫁（这一手真的很漂亮），ZAO面临的最大的两个风险，一个是敏感人物（DeepNude和DeepFakes就因为这个被封杀），一个是不法用途。
ZAO自己号称是可以过滤掉公众人物，防止用户乱来玩出事儿。
但实际上，不可能100%过滤掉，机器学习和人工智能是厉害，但其识别机制就代表了100%过滤根本不存在。
简单介绍一下机器是如何认识人的。
人是如何区分猫狗的？说白了，就是猫狗具有不同的特征，例如两耳的距离，耳朵的形状，鼻子的面积，眼睛的颜色等等等数百个特征。
人是如何区分不同人的？一个道理，有的人鼻子与整张脸的比例夸张，有的人嘴巴小，有的人有雀斑，有的人耳朵到嘴的距离很短等等等等数百到上千个特征。
机器也是一样，只不过是把这些东西量化了，机器会把人脸打上数千个点，然后把点连成线，只要这些线的总体比值符合一定的相似度，然后对相似度切一刀，例如大于95%,那么就认为是一个人。
所以机器其实不知道你是不是你，机器只是知道你和理论上你的照片的相似度是多少，这就代表着一定存在误判，漏判，这是必然，让人看也会漏看。
这里不存在百分之百。
而且黑产在过人脸这件事情上的经验，已经足够成熟了，想要上传明星或者其他公众人物，并不困难。
我在以前的文章中写过干扰人脸检测，机器认人是通过拆解无数的点，然后比对点与点之间的线。
所以如果在人脸中加入一些干扰的【噪点】，就可以改变整个线的分布，从而让机器认错人。
这周末做的第一个实验，就是利用照片噪点技术来尝试能否绕过ZAO的所谓公众人物人脸检测。
实际上测下来不困难，可以上传处理过的人脸，这个脸在人眼中看来是一个人，但是在机器眼中不是。
这背后带来的，就是ZAO产品本身存在的巨大风险，一旦有竞争对手或者黑产利用噪点上传了一些特殊的人物做了视频，然后进行传播，这对于ZAO将是毁灭性的打击。
DeepNude和DeepFakes已经有了前车之鉴，ZAO在这方面需要狠下功夫来防御，目前看来是远远不够的。
目前微信已经限制了ZAO的视频直接分享功能，ZAO也不支持直接分享微信，这里面，或多或少就有这样的担忧。
一个失控的人脸替换，是非常可怕的。
不需要我再举例了，大家自己脑补就就想到无数的伦理应用。

6

第二个实验，是使用ZAO处理过的视频，能否通过刷脸支付。
答案是，在APP上基本不可以，因为所有涉及刷脸的APP本身，都有设备验证及SDK加固，但是少数几个型号手机的安卓系统，在Root之后，切换网络后，通过沙盒有能够突破的迹象，如果有更多时间钻研的话，应该是存在可能的。
当然这个其实不属于支付产品问题，这个属于手机系统问题。
不过刷脸支付的核心场景并不是手机APP，而是各大商场的人脸支付，这种情况下不需要接触APP，单纯脸对摄像头，只要用视频让摄像头认为是真人即可，伪造难度要低很多。
这个实验花了一天多的时间，最终结论是在现实场景中的某些情况下可以实现刷脸，虽然通过率比较低，需要对设备和照片做特殊处理，并且使用特定的几个视频模板。
或者直接一点，实验室环境小概率可以绕过，现实环境考虑到人流的因素，很难绕过。
幸亏我和附近超市老板的关系不错，所以他的几个刷脸付款设备（多家公司）被我玩了一天，如果你周日发现杭州某个超市里有个胖子带着一堆神奇的设备一脸便秘地在操作好几台刷脸机器，操作了一整天，请你不要误会他是修机器的。
经过一整天的折腾，大概也知道了如何实现机器刷脸以及防御这种攻击，赶在黑产开始研究前，先介绍如何防御吧。
 
1.刷脸机器判断是否活人的依据之一是屏幕反光程度及清晰度，但是如果把测试机器的外屏拆掉的话，可以有效降低阈值，所以这一部分的策略需要迭代更新，反光属于必杀，不反光也不代表正常。
当然反光的定义也需要更新，不要把一些人的油性皮肤和秃头反光也给误杀了。
2.增加摄像头的数量以及位置，可以有效增加黑产作案成本，提高失败率。
现阶段刷脸通用的解决方案往往是2到5摄像头小范围并排，如果黑产使用专业的固定工具加定制的4K视网膜屏安卓平板（好修改系统，尤其是视频需要锐化），再配合特定的固定工具控制角度，是足够完全覆盖这几个摄像头的范围的，再配合无反光和高清晰度，这导致辅助摄像头也无法及时识别是设备而非真人。
所以需要增加更多的摄像头位置，甚至安放部分肉眼不可见的摄像头，来防止使用大尺寸设备覆盖摄像头范围。
3.ZAO视频中有少数几个模板符合人脸识别动作要求，这几个模板本身包含人物的几个特定摇头眨眼动作，替换后和真人无异。
所以需要各家机构对于人脸识别的固定动作进行更新，当前多家采用的策略是5选3,5选2,5选1，建议扩充这个库。
4.对于在常驻地以外的刷脸支付，第一次一定要配合手机验证码或者手机APP刷脸。
虽然黑产圈一直有各种过人脸的方法和理论流出，大家也在实时攻防，但过去往往都是骗骗网贷的人脸识别，随着商超刷脸支付的进一步发展，以及DeepFakes这种大杀器的开源，接下来面临的各种盗刷风险是需要所有人都警惕的。

7

最后，我想谈的是，ZAO这类产品代表的是DeepFakes技术的全面民用化落地，这为多数用户带来了非常有趣的体验，但与此同时，带来的是黑产对这类技术的滥用。
DeepFakes的开源，打开了潘多拉的魔盒。
不得不承认的一点是，在应用新技术上面，黑产是远远比大多数人要更努力更用心钻研的，因为一旦成功，有钱拿。
这种无缝替换人脸的技术，在黑产手中可以玩出无数的花样。
例如诈骗，黑产使用这项技术无缝把老人子女的脸融入视频中，不管是生病要钱，还是绑架，还是转账，都很容易骗过来人。
例如冒充公检法，黑产使用这项技术把自己的脸P到一些公开视频中，然后说自己就是某某某，对方一看还真是，就轻易相信。
例如敲诈，黑产使用这项技术把受害人脸加到一些黄色视频中，然后威胁不给钱就群发散布，实际上很多高利贷的催收就喜欢这么玩儿，只不过过去的P图不够震撼。
不说敲诈类黑产，但是无缝换脸技术流入平民手中，带来的新玩法就很多。
随手一个操作，把女友的脸放到色情视频中，到底是不是出轨，如果用这种方法起诉离婚，有没有方法可以破解这个视频是真的假的？
A和B发生冲突，然后A把B的脸融到各种猥琐的地方散布或者直接诬陷，如何才能破解这个视频是真还是假？
用AI去融合明星的脸，危害其实有限，因为大家都知道是假的。
但如果用AI去融合生活中身边人的脸，那么又要如何分辨呢？
尤其是很多人看到视频就先入为主的情况下（实际上绝大多数人是不会本能怀疑视频有问题的），造成的后果又有谁来承担呢？
或许今后我们面对每一段视频都要带上一段疑惑，你是你，或者你不是你？
AI年代，我们每个人最大的问题或许会是。
你是谁？
精选留言
  • 256
    感谢阅读，在技术爆炸的年代，我们可能首先要思考一个哲学问题。
  • 225
    百毒李眼红说过，中国人会为了便利不在意隐私。看来是低估了这个时代，现在大家仅仅为了好玩儿，都不会介意隐私！
  • 196
    连zao都懒得体验的互联网人，是不是证明我老了？
    113
    作者
    哈哈哈，我在人脸机器上挥汗如雨的时候，反而找到了久违的激情
  • 146
    尺度过大著称的各类神奇网站，咱也不知道，咱也不敢问
  • 60
    即便自己不用，也防不了别人去用。那这红色划线部分的内容，所能够约束的，仅仅是那些有原则，有良知或者有底线的人。简称，善良的人。
    139
    作者
    防君子不防小人，问题是君子不用防，小人防不住
  • 79
    8说了，支付宝给我. 我要给这个打响新科技哲学问题第一炮的男人打钱
    108
    作者
    每一个字都对，连起来就觉得哪里不对
  • 85
    4月看到半佛推荐了微保的医疗险，反正一个月才十几块钱就给家里人都买了一份！上个月父亲做手术花了16万多，医保报销了8万，微保理赔了7万，自费了1万多。真的很棒，感谢半佛！
  • 79
    人类的智慧是无限的，下限也是无限的……
  • 16
    男神!你说要是有人把我换成吴彦祖，我认不出来怎么办
    63
    作者
    不会，只有我才是正版
  • 44
    最害怕的就是你知道，你谨慎保护了自己的照片及头像信息，问题你身边的人没有经过你同意还是上传了，即使你和这些人解释他们也不以为然。重点你也不能拿他们如何，即使哪一天出事了，也仅仅换来我不知道（会把所有告诫忽略，反正不是我的错）。
  • 42
    太好了，东哥再也不怕找女大学生了，都是别人zao出来的。
    16
    作者
    ？？？？
  • 39
    哭了。。。舍友就是用这个把我头像换成药水哥头像，让我在专业群火了一下
  • 37
    看来得学学，以后被仇人黑了，比如散布激情小视频，立马自己再补几个知名女优互动视频，顿时大家就不信了
  • 33
    我只能说ZAO让黑产的目光集中了过来，这可不是什么好事啊
  • 25
    突然发现所谓的风控岗位遵守的道理和刺客一样诶。万事皆虚，万物皆允。
    29
    作者
    风控本就是刺客
  • 29
    这种要个人隐私的app我是绝对不会下载的，现在的我把个人隐私看得是比天还大，经过了这么些年来，我们的个人隐私被各种看似好玩的，方便的app攫取的干干净净，我已经无比的厌倦了，如果不是一时之间还无法摆脱，我连支付宝，微信都想卸载了
  • 29
    科技和伦理会越来越冲突。
  • 29
    最后的设想让人毛骨悚然，想到3年A班的剧情，制作假视频作为犯罪证据，离我们比想象的近很多。
  • 6
    加个红外摄影头怎么样？要使画面与热源图像重合，代价怕是非常大吧。不行就连深度摄像头也加上。感觉基本没造假的空间吧
    26
    作者
    就是成本，效率，收益的博弈~
  • 21
    是时候亮出我隐藏多年的小区吴彦祖身份了！
  • 20
    就知道仙人会拿ZAO说事，最近在写论文，研究了不少黑灰产案例，这个人脸应用技术真的防不胜防
  • 18
    从原来的无图无真相，再到有图也不知真相，到这会动图都辨别不了真相。。。真假真假，真真假假，亦真亦假，无为真假，脑袋会越来越大，视力越来越差。。
  • 17
    如果我们的便利是要依托于把个人隐私暴露得干干净净，那我宁愿回到那个读书看报看电视的年代，总有一天我会彻底的抛弃智能手机，用回功能机，对于我来说，希望那天尽快到来
  • 17
    以后任何人可能会因为任何原因犯戒，有图有真相
  • 16
    脸不像手机那么容易更换，一旦滥用，后果不堪设想
  • 5
    果然是硬核朋克，风控都像你这样吗，还是你是个例
    15
    作者
    我在风控中也属于比较奇怪的那种。。，
  • 13
    這類技術潛在的風險已經超過了技術帶給我們的收益（指的是合法收益），想想以後要是自己惹到別人，被別人用deepfakes這類技術惡搞，自己的菊花莫名緊張了起來
  • 12
    生物信息是你的个人信息根基不要随便滥用了
  • 11
    实用之极，预测今后会有无数人被骗后回来挖这篇文章。看好突破百万阅读量。
  • 11
    某些小视频领域早早就用了！某某换脸，春光无限，so！zao出来刷屏，我就知道要wan
  • 9
    有人为了好玩，ZAO自己，责任自负。有人用你的照片ZAO，会怎样？不寒而栗，毛骨悚然
  • 9
    潘多拉魔盒，十分贴切的形容！随着互联网的高速发展，越来越多的人不在乎自己的隐私，就给越来越多黑产的带来了市场。仙人这次预防，既是“商机”也是“危机”。
  • 9
    能破解真假，需要成本。即使破解了，也无法消除已经产生的负面影响，就如同这个世界无法消除曼德拉效应的影响。
  • 7
    vr满足了人的动作体验，换脸则是满足了意淫的究极体验。但是为了这种究极体验，人们是否能负担得起其中的代价？用户协议里把相关事项基本都会说得明明白白，但是又有多少人会细看？ 然鹅我从来不用人脸支付，为啥？因为丑啊话说回来，仙人你为什么会和附近的超市老板比较熟
    4
    作者
    因为英俊吧。。。
  • 1
    这么长一篇，竟然没有表情包！
    7
    作者
    我硬核的时候，是没有表情包的
  • 7
    “ZAO作为一个平台，不负责审查照片是否侵权（也没这个能力）享受着所有照片的授权及传播红利，但是侵权风险归上传照片用户，这个操作是很有趣的。”
  • 7
    朋友圈发的那些人，几乎什么热门点的也都是他们发，不发的大多数还是不太会发。这个从关注到，下意识就觉得想去看看他们提供的协议...果然有问题
  • 6
    你认真的时候，连表情包都不发了
  • 6
    之前看了一个解决方案，用区块链技术来校验视频是属于原版无修改过的。以后我们大概要进入一个，默认所有视频都是假视频，只有链上的视频才是真视频的时代了。
  • 6
    这些照片都是最好的训练素材啊！！！
  • 6
    看的背后发凉
  • 5
    你是谁？ 谁是你？ 感觉如果落入平民手中所造成的矛盾伤害，是比黑产更需要顾虑的
  • 5
    这个潘多拉魔盒有点厉害
  • 5
    来来来，技术跑太快，伦理学跟不上了。
  • 4
    zao刷屏后一直在等仙人的文章，原来仙人周末“修机器”去了
  • 4
    卧槽，我是怎么关注到这么一个硬核又对口味的作者的。赞赏赞赏，在看在看。
  • 4
    仙人这篇有点晚了哦~ 话说电脑版微信更新了，写留言好方便…… 前几天先看到有人发换脸视频不亦乐乎（那人好像也是做产品的，但ta毫无防范意识的体验产品让我有点担忧……）第二天就看到有人发推送说ZAO了。。于是我回手就是一转发，然后我的朋友圈里就一条换脸视频也没有了……也不知道是不是他们把我屏蔽了…… 不过，这些黑产的效率确实是，利益本能驱使的行为效率果然是比伦理道德驱使的应对效率高很多。 也不知未来到底还会出现什么状况。 不过，目前……万一谁因为不小心而有真实视频/图片流出。。或许可以假装怪罪于这类产品呢 hhh 比如当年的陈老师 要是在当下，是不是就可以怪罪于黑产，然后脱身正名了呢~
  • 3
    玩儿出火了，就会让更多的普通用户引起隐私方面的关注的
  • 3
    “导致就连尺度过大著称的各类神奇网站”应为“导致就连以尺度过大著称的各类神奇网站p*****b”
  • 3
    一个其他角度的思考 以后做产品不是简单做产品 而且拼人品 未来的产品竞争也许是人品、口碑和底线的竞争，不过不再是比谁低 更愿意往好了看，技术本无错，善良和诚实也终归会得到珍视，有问题就会有解决办法。
  • 2
    如果将人心和技术结合起来，无论是正义面还是阴暗面，都会得到无限扩大。
  • 2
    互联网和信息时代带给我们的风险，就在于风险不可预估或者说不能充分预估，即使预估了可能大多数人也不信
  • 1
    我是谁？我从哪里来？我将到哪里去？
  • GAN很火，大批有关GAN论文出来了。我也感觉，GAN很厉害，啥都可以做。可能是因为博弈思想

作者： RESSRC

个人资源站

发表评论

邮箱地址不会被公开。 必填项已用*标注

此站点使用Akismet来减少垃圾评论。了解我们如何处理您的评论数据。