连色情网站都不敢碰的AI禁区，ZAO正在疯狂试探

本篇文章给大家谈谈连色情网站都不敢碰的AI禁区，ZAO正在疯狂试探对应的信息，希望对各位有所帮助，不要忘了收藏本站喔。

你ZAO吗？一夜“成”明星不再是梦。

从上周末开始，一个名为“ZAO”的AI换脸App忽然火爆全网，用这款App制作的换脸视频在微博、朋友圈随处可见。

只要一张照片，想附体谁就附体谁！▼ZAO在第一个公开版本发布不到24个小时里迅速蹿红，不仅在社交媒体上刷屏，更登上苹果iOS免费榜第二，微博热搜话题榜前十，堪称“现象级”。

而这个刷屏的背后，其实与我们每一个人的生活都息息相关。

01陌陌打造，技术用于情***ZAO最大的噱头是和明星“换脸”，并且嵌入短视频中，可下载后传播，用于社交娱乐。

而“ZAO”是由著名线上交友软件“陌陌”团队打造，两位实际控股股东都是陌陌公司的高管。

值得一提的是，ZAO的开发商显示为“长沙深度融合网络科技有限公司”，而陌陌创始人兼CEO唐岩本人就是湖南人。

不过，其实AI换脸视频并不是新鲜事了。

换脸技术七八年前就有了，比如电影《速度与激情7》里，保罗沃克就是用AI技术合成的，花费了千万美金。

但民间的换脸软件，因为逼真程度较差，反响一般。

直到2017年12月，一名ID为Deepfakes的码农大牛，在Reddit网站上上传了一段“名人AV”视频。

当时，“deepfakes”把情***里的女主角换成了盖尔·加朵等好莱坞明星，这也是世界上所有人们第一次公开见识到AI换脸的强大。

而他随后也制作了一系列“明星AV”合成视频。

但是很快就出现了问题。

比如DeepFakes把希拉里和特朗普做成夫妻的，把他俩脸做在一起的，把他俩做到色情片里的，玩法多种多样。

人们的智慧是无限的，只要有工具出来，就一定会给玩出花样来，而且早期的花样一定不够高尚而且低俗色情的。

由于尺度过大，Reddit论坛迫于压力封杀了“deepfakes”的账号，不过这次封杀却让“deepfakes”直接开源了其AI换脸项目的代码——完全免费公开。

在代码开源后，AI换脸技术已经有如普罗米修斯盗来的火种，一瞬间撒遍了世界各地。

一下子人人都成了AI换脸专家。

景甜换脸AV只要稍微懂一点技术的人，都可以使用他们的技术来套层壳来玩儿，ZAO也是诸多衍生APP之一。

ZAO运用的是Deepfake技术，但是Deepfake的相关App在国外因为道德、伦理和隐私问题已经被禁用:但在我们国内，在这个色情网站都不敢触碰的AI禁区，ZAO却可以大张旗鼓的商业应用。

不知道玩ZAO的用户知不知道，在你玩这款APP的时候，自己脸部数据已经上传到企业服务器，可以卖钱的。

02吃相难看的用户协议因此，这款APP看似有一张有趣的皮囊，但其灵魂并不好看。

我们平时并不会多看上一眼的用户协议中的隐藏着巨大猫腻，以及让人无法接受的法律风险。

为什么我会这么说，首先我们先来看看ZAO的用户协议。

用户协议第6条第1款是这样规定的：这密密麻麻一大段话是什么意思呢？意思是，当你选择使用这个app以后，根据协议内容，该app除了可免费使用并修改你的肖像，还可以将它任意授权给自己想授权的第三方，当做信息进行贩卖。

所以当有一天，你在ZAO或者其它关联平台上发现你的脸被随意变换、不再属于自己的时候，你想起诉ZAO，不好意思，它会拿出这个协议来堵你的嘴，告诉你你自己早已同意。

其次，我们再来看看关于侵权的规定。

第6条第2款明确规定：这又是什么意思呢？比如现在你将杨幂的脸换成自己的脸，你除了要保证自己永久、不可撤销地把自己的肖像免费给ZAO使用，还要保证杨幂同意ZAO及关联公司使用她的肖像...但是问题来了，你又不认识杨幂，你怎么能确保？这不是在搞笑吗？而它这么写，说白了，就是因为自己没钱拿到明星们的授权，为了日后侵权的问题，它通过这个协议，可以将锅甩给你们。

而在此情形下，协议第七条第7款规定：这条意思就是延续上一条，如果杨幂状告ZAO，主张自己的肖像权被ZAO平台滥用，那ZAO完全可能说这不怪我，技术无罪，要怪就怪这些换你脸的用户，并且，即使ZAO承担了平台责任，其也完全可以起诉具体用户进行追偿。

对于这样的用户协议，我只能说吃相未免太难看了点，他们把自己的屁股擦得非常干净，将侵权的苦果全部甩给了用户。

所以，现在你们明白了吗？你今天在网上换脸，觉得很开心，其实你在无形中，已经成了一名你最不齿的侵权人。

更惨的是，你的脸，也不再只属于你自己，它也归ZAO，及它想授权的所有人。

更感到后怕的是，截至我发这篇文章，已经不知有多少用户同意了这份吃相难看的协议，丧失了自己的肖像自主权。

而我选择将用户协议分析给你们，也只是希望你们能将这篇文章转发给所有对这个app感兴趣的人。

因为他们很有可能在不明所以的情况下，就对app进行了使用，同意了协议。

你可能以为只是在用户协议那点了个小小的勾，但你在点确定的一刹那，你已经无形之中丧失了很多本属于你自己的东西。

而这些东西，其实是你无比珍视的“脸面”。

03AI技术的“潘多拉魔盒”除了利用协议进行漂亮的肖像权风险的转嫁外，还有一个值得我们探讨的就是——技术真的是无罪的，中立的吗？似乎是，至少很多技术的开发者自己是这么认为的。

快播的王欣在法庭上那句“技术是无罪的”言犹在耳，谷歌的态度更具代表性和普遍性：重视道德责任，但如果对新技术严加限制，可能会让延缓开发出一些对人类有益的用途。

而DeepFakes的开源，更是打开了“人脸识别技术”的潘多拉魔盒。

这种无缝替换人脸的技术，在黑产可以玩出无数的花样。

例如诈骗，使用这项技术无缝把老人子女的脸融入视频中，不管是生病要钱，还是绑架，还是转账，都很容易骗到老人。

例如敲诈，使用这项技术把受害人脸加到一些黄***中，然后威胁不给钱就群发散布，实际上很多高利贷的催收就喜欢这么玩，只不过过去的P图不够震撼。