图/ 何 昱
输入一段笔墨，即可天生逼真视频……今年年初，Sora横空出世引起环球关注。这类技能的遍及运用，也使诱骗门槛变得更低、辨别难度加大，一些不法分子利用这类AI技能，“AI换脸”后伪装亲友、上司、公职职员进行诱骗，让人防不胜防。
近期，警方表露多起利用“AI换脸”等技能履行诱骗的案例，“AI换脸”诱骗随之成为焦点。“AI换脸”技能发展到了什么程度？骗子套路有哪些？如何履行诱骗？我们如何戒备？针对这些问题，羊城进行了采访理解。
案例
“多人视频会议”
只有一个是真人
随着人脸识别技能的广泛运用和人工智能技能的进步，人脸识别验证类犯罪随之而生，不法分子利用即时通讯、网络直播、网络社交、电商平台、金融支付等重点App，履行“AI换脸”诱骗。
喷鼻香港警方近日就表露了这样的范例案例：一名职员参加总部首席财务官发起的“多人视频会议”，并按哀求将2亿港元转账到5个本地银行账户，其后向总部查询方知受骗。警方调查创造，会议中只有他一个“真人”，其他都是“AI换脸”后的诱骗职员。
“现在利用‘AI换脸’诱骗的案件越来越多，我们身边也有很多实际的例子。”广州大学网络空间前辈技能研究院院长鲁辉接管羊城采访时如是表示。
3月17日，央视《新闻直播间》播出节目《AI造出“老同学” 女子险被诱骗40万》，受害者是内蒙古鄂尔多斯市的李女士，诱骗团伙以“老同学”名义加好友后发来视频对话约请，再伪装旗子暗记不好挂断，并在谈天中借钱，收到转账后便将李女士拉黑。
干系主管部门也关注到这一新型犯罪手腕。2023年8月10日，公安部干系卖力人在新闻发布会上表示，当时已破获“AI换脸”案件79起，抓获犯罪嫌疑人515名……
专家
技能日益成熟
仿真程度极高
“AI换脸”背后的技能事理是什么？
“骗子利用一个换脸视频软件，放到即时通讯谈天视频中，天生仿真度极高的点对点视频。”鲁辉表示，骗子履行“AI换脸”诱骗时，深度假造你所熟知的人的视频和声音，加之理解你的个人信息，诱骗成功率非常高。
“现在人工智能技能发展越来越快，也有越来越多的技能手段。”鲁辉见告，此前有deepfake(深度假造技能），是一个开源的人脸识别剖析工具，能利用图片一键换脸；今年年初出来的Sora更加智能，可以直接用文本天生不同的人在不同场景里非常逼真的图像、视频。
“目前‘AI换脸’技能基本上是基于深度神经网络技能，该技能已经很成熟。”广州运通链达金服科技有限公司CEO邹均博士还进一步阐明说，“AI换脸”技能常日涉及天生对抗网络（GAN）或自编码器等深度学习模型，这些模型能够学习人脸的几何构造和纹理信息，并天生逼真的人脸图像。同样，人的音频特色也能被学习提取，可以天生与目标工具类似的音色，以及匹配说话的嘴型……
“利用门槛越来越低，使得天生式AI更随意马虎被滥用。”鲁辉指出，作为一把双刃剑，AI技能的迭代升级，让人们生活变得便利的同时，也让犯罪分子履行远程视频诱骗变得更为轻松。
调查
“换脸做事”仅需几十元
“AI换脸”App随处可见
AI技能的迅猛发展，让不少人创造了商机。调查创造，“AI换脸”技能做事的购买和利用如今也变得越来越随意马虎。
AI视频换人脸、AI人脸识别监控、AI复活亲人视频……昨日，羊城在某网络平台搜索“AI视频”几个关键字，随即便跳出上述各种“做事”。有商家见告，现在不仅能P图、抠图，还能将视频换人脸，收费几十元或上百元。一名商家见告，供应一张照片，一段照片本人说话的音频，编辑好要说的话发给他们，1天内就可供应表情和动作惟妙惟肖的视频，任何人都能成为视频中的主人公，收费90元。
还在手机运用商店搜索“AI换脸”几个字，即时涌现视频换脸秀、AI换脸、换脸秀、视频换脸、一键换脸等App可下载利用，都可以实现换脸的目的。
在鲁辉和邹均看来，上述商家供应的视频换脸做事的效果，可能仿真度还较低，但利用像Sora这类软件制作视频来进行诱骗，肉眼已很难识别，可以说防不胜防。
戒备
碰着要钱的
要线下核验
普通民众如何戒备“AI换脸”诱骗？
有网友提出，视频通话时，可以让对方在脸部挥手、摸鼻子来鉴别对方是真人还是“AI换脸”后的骗子。对此，鲁辉称，挥手过程可造成面部数据的滋扰，使人脸涌现一些非常情形。“但这可能很快就被技能手段改动。”他认为，可通过设置一些只有你和对方知道的内容来辨别。
专家们认为，最主要的是要树立反诈戒备意识。“犯罪分子无非是要钱，碰着要钱的，就要提高当心！
”
鲁辉、邹均等专家表示，市民如接到线上的电话或视频，不要轻易相信对方身份。可以进行多轮问话查验核实对方身份。特殊是涉及转账、资金交易或重大合约签署，更要反复核查，最好通过线下核验。切忌粗心大意，轻信受骗。
邹均还提醒说，普通民众如果碰着类似“AI换脸”的打单事宜，可以咨询法律见地，不要轻易受骗上当。
提醒
照片视频勿轻易透露
保护好两类敏感信息
目前，人脸识别（支付）、指纹支付、刷掌支付、刷脸入户日趋普遍，须要当心的是，犯罪分子还可能深度假造脸部、指纹等信息，套取钱财或入户盗窃等。
公安部干系卖力人曾强调，随着人工智能、区块链、物联网等新技能、新业态、新运用的发展变革，黑客犯罪分子的作案手腕也在不断升级，利用人工智能技能假造人像和语音套取他人财产的新情形层出不穷。
对此，专家特殊提醒，市民在社交媒体分享含有清晰人脸的照片和视频时，一定要谨慎，由于这些照片可能会被天生之后用于人脸识别验证，或者其他一些造孽目的。此外，一定要保护好两类敏感信息：我们的人脸、虹膜、声纹、指纹等生物特色信息；身份证号、银行卡号、体检报告等主要个人信息。
能否运用AI技能反“AI换脸”诱骗呢？
鲁辉透露，近年来，有很多技能企业已经开始考试测验不断优化检测模型，探索将反诈模型支配在手机、电脑或社交、会议软件中，但网络旗子暗记与算力仍是待办理的难题。鉴于目前戒备“AI换脸”诱骗的规则和技能还不是特殊成熟，他呼吁，民众要提高戒备意识，希望能涌现更好的反诈技能，政府层面能从企业监管、法律等层面制订更细致的条例来预防。
编辑：郑健龙
来源：金羊网