用户只须要在APP中上传一张自己的照片，就能将自己的脸更换到周润发、白展堂、玛丽莲梦露、紫薇等明星的头上，而且脸领悟效果非常棒，险些可以以假乱真，你可以和小李子一样叱咤银幕，涌如今经典镜头里，也可以和心中的“男神”“女神”同框飙戏……
在愉快了一阵之后，不少人以为哪里不对劲儿了：这么强大的“换脸术”会不会被滥用？比如，自己的脸被换到色情视频的主角头上，那真是跳到黄河里都洗不清了。或者，有犯罪分子利用“换脸”技能在视频里，向家属履行诱骗、敲诈……如此完美的换脸技能，切实其实成了敲诈打单、毁人明净的利器。
该当看到，这款APP也采纳了方法防止换脸被滥用，对用户利用了一样平常只有金融支付APP才有的“实脸认证”，用户在镜头前要按哀求眨眼、扭头，在系统判断你上传的这张照片便是你本人之后，才能进行下一步操作，确保你没有拿别人来换脸。
但是，这种换脸APP搞的“实脸认证”，形成了一个悖论：为了防止头像被滥用，我们在利用这款APP之前要交出自己更多的信息，特殊是脸部信息。担心隐私被滥用的我们，被迫将更多的隐私情给了APP……谁来监管APP本身？
APP已经给自己准备好了“甩锅条款”，有心的网友创造“ZAO”的用户协议当中，有“您赞许或确保肖像权利人赞许付与‘ZAO’及其关联公司环球范围内完备免费、不可撤销、永久、可转授权和可再容许的权利”之类霸王条款味道十足的条款。
这即是用户在愉快玩耍这款软件之前，默认自己的换脸视频要被APP“完备免费、不可撤销”地“玩耍”。从法律层面上说，“ZAO”已经打定主意充分利用“避风港条款”，一旦有法律轇轕，将会将任务推给用户上传。
我们还没有习气“刷脸”时期，更颠覆性的“换脸时期”就来了。事实上，很多新技能、新经营模式产生之后，最先嗅到商机的每每是一些灰色家当，这次AI换脸术也可能难逃此劫了。
怎么担保“ZAO”能保护好这些直接包含用户手机和面部生物信息的核心信息？怎么担保这些“脸”不被不正当“开拓”？怎么担保我们的“脸”不被卖掉？
AI换脸术的最早运用便是情色视频。2017年12月，国外某ID名为“deepfakes”的Reddit论坛用户首次将自己制作的AI换脸视频发布在了网络上，并把情色电影里的女主角换成了盖尔•加朵等好莱坞明星。后来在一片声讨声中，“deepfakes”将这一技能作为开源代码放到了网上，只假如懂一些干系技能的，都可以得到这些开源程序，并且稍加改造就可以利用。
以是，当下，舆论的炮火也不必全面指向“ZAO”本身，“ZAO”不是什么高科技，而是基于开源程序的“低科技”商业运用。但更大的问题在于，这么肉眼难辨、足以乱真的换脸技能居然可能是唾手可得的，乃至可能轻意落到诱骗、色情家当的违法分子手里，这就不禁让人倒吸一口凉气。
人类几十万年来，一贯把脸作为最主要的生物识别指标，通过“看脸”来差异你、我、他，然而这个最明确的边界却模糊了。法律有没有做好准备？行政管理有没有做好准备？民气有没有做好准备？
“黑镜社会”正在降临，干系法律和伦理规范、技能规范必须同步出台，这不是杞人忧天。
(来源:澎湃新闻)