编译 | 喷鼻香草编辑 | 云鹏
试想一下，当一位顶级企业家向你抛出橄榄枝，“亲口”见告你现在有一种无风险的办法快速致富，只要填个表就能赚100万美元，你会怎么做？
如果这个人是马斯克，并且还有BBC为其背书，见告你这是“一场不为"大众年夜众所知的技能革命”呢？
视频加载中...
▲AI马斯克深度假造视频
当心性较高的人可能会急速嗅到电信诱骗的气息，但对付不常打仗互联网的人群，要识别出这样的假造视频并不随意马虎。
智东西8月16日，据《纽约时报》宣布，去年年底，82岁的退休职员Beauchamp看到马斯克宣扬一项激进的投资机会，并承诺无风险、快速回报。他联系了视频中的公司，在随后几周的一系列交易中花光了退休金，累计“投资”超过69万美元。
接下来的事情可想而知，退休金和这家公司一起消逝了。
随着名为Deepfake（深度假造）的AI技能愈发成熟，类似的视频充斥在互联网上。据有名咨询机构德勤估算，深度假造视频每年将造成数百亿美元的诱骗丢失。
监测深度假造视频的机构Sensity近日做了一项调查，通过剖析2000多段深度假造视频，创造马斯克已经成为这类视频中最常见的“发言人”。自去年年底以来，马斯克涌如今近1/4的深度假造诱骗视频中，个中针对加密货币的视频他的涌现率更是达到90%。
其他常见的假造工具，还有著名的投资人巴菲特、亚马逊创始人贝索斯等。
一、每年诱骗上百亿美元，马斯克涌现率1/4为了制造这些视频，诱骗者首先会找到马斯克等人的真实采访视频。比如开篇视频的画面原来来自马斯克在《华尔街日报》接管的一次采访，评论辩论的话题是如何利用AI等技能实现公司的高效管理。
视频加载中...
▲原马斯克采访视频
诱骗者会利用唇形同步技能（Lip-synching），调度人物的口型，随后利用语音克隆工具添加一个AI复制的语音。
▲唇形同步（图源：《纽约时报》）
末了，部分视频还会添加模拟BBC等专业新闻机构的虚假图标，这对付普通互联网用户来说大概更有说服力。
▲新闻标识（图源：《纽约时报》）
究竟有多少这样的深度假造视频正在网络上流传，已经很难准确量化。在Facebook的广告库中搜索这些骗局的常用宣扬文案，会涌现数十万条广告，个中有不少都是深度假造视频。
视频加载中...
▲AI贝索斯深度假造视频
YouTube也充斥着这类视频。如果在YouTube上搜索“埃隆比特币会议”（Elon Bitcoin conference），你会得到数十个标注着现场直播的视频，但实际上这些都是预先录制的深度假造视频。
▲YouTube深度假造视频（图源：YouTube）
这些“直播”的不雅观看人数动辄数十万，但据YouTube证明，诱骗者可以利用“水军”刷人数，人为地浮夸这个数字。
今年5月，有名咨询机构德勤发布关于天生式AI增加深度假造敲诈风险的报告，个中提到2023年，金融科技领域的深度假造事宜增加了700%，并预测到2027年，AI将使美国的敲诈丢失从2023年的123亿美元增加到400亿美元，复合年均增长率为32%。
▲天生式AI造成的敲诈丢失增长预测（图源：德勤）
深度假造视频的数量和影响力越来越大。据监测深度假造视频的机构Sensity调查，在2000多段深度假造视频中，马斯克已经成为最常见的“发言人”，涌如今近1/4的深度假造诱骗视频中，个中针对加密货币的视频他的涌现率更是达到90%。
Sensity联合创始人Francesco Cavalli认为，这可能是有史以来最大的深度假造骗局。
二、本钱不超10美元，几分钟假造大量视频实际上，制作这类视频的本钱并不高，只须要不到10美元，就能在几分钟韶光内制作出大量假造视频。
这些AI天生的视频并不完美。马斯克在一些视频入耳起来像机器人，他的口型也并不总是保持同等。但这些视频已经能骗过相称多的人，而且技能还一贯在不断改进。
视频加载中...
▲AI马斯克深度假造视频
Sensity调查显示，这类诱骗者紧张来自亚洲、东欧国家，利用免费和廉价的工具将视频翻译成多种措辞，不断将骗局传播到更大范围。
个中一种常见的套路是宣扬虚假的AI软件。诱骗者通过让“发言人”声称这些软件可以产生惊人的投资回报，鼓励目标首先交一小笔钱——一样平常是250美元旁边，然后通过声称初始投资的代价正在增加等办法，逐步领导他们投资更多。
例如不才面这段来自特斯拉股东大会的视频中，马斯克“展示”了一款由AI驱动的自动交易产品，该产品每天可以使特定投资翻倍，“只需投资4500兰特，您就能得到每天8000兰特的稳定利润”。（注：兰特是南非的货币单位）
视频加载中...
▲AI马斯克深度假造视频
这些AI诱骗者常日瞄准年事较大的互联网用户，他们可能熟习加密货币、AI等话题，以及马斯克、巴菲特这些人，但不熟习安全的投资办法。
“老年人是一个非常有钱且随意马虎上当的群体。”加州大学戴维斯分校科技研究教授、加密货币市场专家Finn Brunton说，“纵然没有社交媒体平台，老年人也一贯是诱骗的目标。”
而之以是瞄准马斯克，则是由于马斯克拥有独特的环球“粉丝”群体。研究加密货币社区的专家称，这些人常日由守旧派、反建制派和加密货币爱好者组成，他们常常被新奇的赢利路子所吸引——这使他们成为骗局的完美目标。
加密货币社区研究员Molly White称，这群人总是认为，财富的秘密对他们是隐蔽的，而一旦他们“创造”了这一秘密，他们就会认为这是其所需的统统。
视频加载中...
▲AI马斯克深度假造视频
开头提到的退休职员Beauchamp，在75岁之前是一家加拿大公司的发卖代表。他在去年刚开始利用Facebook，随后看到了一则马斯克在CNN上接管采访的广告。
虽然他坚称自己在CNN官方上也看过这段视频，但据CNN发言人称，马斯克已经很多年没接管过他们的采访了。
根据Beauchamp师长西席与视频中提到的公司之间的电子邮件来往记录，去年12月，他向这家名为Magna-FX的公司汇款27216美元。
Magna-FX让他的投资看起来彷佛在增值，乃至让一名发卖代理利用软件远程掌握了Beauchamp的电脑，假装转移资金用来投资。
为了提取增值的资金，Beauchamp被奉告要支付3500美元的管理费和3500美元佣金。他把钱汇出去后，又被奉告还须要支付2万美元，才能提取个中大约20万美元。他再次支付了这笔钱。
末了，Beauchamp用完了退休储蓄，刷爆了信用卡，动用了信用额度，还从姐姐那里借钱来投资和支付用度。但骗子仍几次再三哀求他支付更多笔用度。Beauchamp这才联系了警方。
遗憾的是，这个案件尚未取得任何进展。
三、平台监管面临寻衅，删视频治标不治本虚假广告之以是盛行，和平台的监管轻忽也脱不开关系。
一些被假造视频的人拿起了法律武器。澳大利亚亿万财主Andrew Forrest对Facebook的母公司Meta提起民事诉讼，指控其在广告业务运营方面存在轻忽。他的深度假造视频被用在了Facebook广告投放中，他认为这将领导“无辜用户进行不良投资”。
Meta回应道，公司正在演习自动检测系统，以捕捉其平台上的敲诈行为，但同时也称这是一场“猫捉老鼠”的游戏，诱骗者会不断改变策略以躲避检测。
YouTube也在采纳一些方法来对应深度假造视频。今年3月，YouTube更新了政策，哀求创作者表露他们是否利用了AI进行创作，并禁止敲诈和修改视频。
YouTube在一份声明中提到，今年1-3月期间，公司删除了超过1570万个频道和超过820万个违反内容政策的视频。但只是删除视频仍是指标不治本的行为，平台须要重新核阅自己的审核制度，从根源处办理问题。
结语：深度假造视频污染互联网数字诱骗的历史，就像互联网一样悠久。但随着AI技能越来越成熟、AI工具的利用本钱越来越低，利用该技能进行诱骗的韶光和金钱本钱也大幅压缩。以马斯克等名人为主角的新一波深度假造视频正在污染互联网。
随着技能的不断发展，深度假造技能或许会变得更加难以分辨，这对平台、监管机构、法律都提出新的哀求。
来源：《纽约时报》