案件表露后，引起舆论高度关注，“AI诱骗正在全国爆发”等干系词条霸占微博热搜榜前列。但多名业内人士认为，目前的AI换脸技能如嵌进视频通话中，要做到不卡顿、呈现肉眼难以识别的真本色感，在技能上并非易事。
不过，警钟已经敲响：利用AI技能制作换脸视频、合成声音等，确实在一些伪装熟人、领导类的电信网络诱骗案件中涌现。而这一新技能能被犯罪分子利用，与犯罪链条上游的个人信息透露等老问题也密切干系。
面对新技能和老问题的双重寻衅，电信网络诱骗是否会造成更大的威胁？干系职能部门、企业和个人该如何应对与戒备？
视频通话实时AI换脸，“没那么随意马虎”
据“安然包头”发布，5月8日，包头市公安局电信网络犯罪侦查局处置了一起利用智能AI技能进行电信诱骗的案件。案件发生于4月20日，福州市某科技公法律人代表郭师长西席的“好友”溘然通过微信视频联系他，称自己的朋友在外地投标，须要430万元担保金，且须要公对公账户过账，想借用郭师长西席公司的账户走一下账。“好友”向郭师长西席要了银行卡号，声称已经把钱打到他的账户上，还将银行转账底单的截图通过微信发给了郭师长西席。
基于打过视频电话和对好友的信赖，郭师长西席没有核实钱是否到账，便先后分两笔把430万元给对方打了过去。钱款转账后，郭师长西席给好友微信发了一条，称事情已经搞妥。但让他没想到的是，好友回过来的竟然是一个问号。郭师长西席拨打好友电话，对方说没有这回事，他才意识到是骗子通过AI换脸技能佯装成好友，对他履行了诱骗。
如果是在微信视频中实时换脸变声，确实让人难辨真假。但多名网络安全和技能专家对表示，要在即时视频中进行高专业级别的AI换脸变声，对设备和技能的哀求都极高，还要利用破解版微信，“分开实验室的环境条件，技能上较难实现”。
“这个诱骗案还有许多细节尚未表露，仅仅通过一次短暂而逼真的AI视频谈天，就能骗走几百万元，不太现实，中间一定还有很多繁芜的过程。”奇安信安全专家裴智勇对表示，以现有的技能发展来看，虽然完成干系诱骗过程不是完备没有可能，但由于本钱高，在现实中被利用的概率较低。
“只管在视频中进行人脸更换已经是非常成熟的技能，但想要在实时对话互换过程中，进行实时的人脸更换、表情捕捉、语音变声，还能以假乱真，这个技能水平已经超过绝大多数的高科技公司了。”一名网络公司高等技能职员说。
一名资深反诈民警剖析认为，这个案件可能是骗子先利用话术骗受害者忽略了细节，之后再发送合成视频履行诱骗。“办案过程中，相称程度的被害人对被骗经由的细节表述不足准确，给案件办理也造成困难。”
上述受访者都表示，利用AI技能履行电信网络诱骗，目前并未形成爆发态势。“以这个案件为例，诱骗职员要同时具备盗取好友的微信账号、利用漏洞挟制摄像头修改视频数据、实时变脸与实时变声且天衣无缝的技能能力，难度极大、本钱极高。很多高科技公司在实验室里也未必能完美完成这些寻衅。”裴智勇认为，干系事宜的笔墨描述在细节上很可能和真实情形有一定的差异。
也从威信渠道获悉，公安部门正对这一案件的诱骗手腕和受骗过程进行再确认。AI技能在此案中究竟被利用到哪种程度、是否已成为骗局关键等情形，都有待调查公布。
AI技能被用于诱骗，风险凸显
不过，AI技能的造孽运用，的确已经在一些网络诱骗案件中涌现。
2022年2月，陈师长西席到浙江温州市公安局瓯海分局仙岩派出所报案称，自己被“好友”诱骗了近5万元。经警方核实，诱骗分子利用陈师长西席好友“阿诚”在社交平台发布的视频，截取其面部视频画面后再利用“AI换脸”技能合成，制造陈师长西席与“好友”视频谈天的假象骗取其信赖，从而履行诱骗。
2020年，上海一公司高管也因骗子利用AI换脸与人工天生的语音技能制作公司领导的面孔，并要该高管转账，致使被骗150万元。
每个人的声音和容貌都具有独特性，AI深度合成技能正在冲破这一边界。而这一新技能被用于电信网络诱骗，无疑提升了犯罪活动迷惑性，给社会安全带来更多寻衅。
“利用AI技能履行诱骗，实际是传统的诱骗手腕利用了新技能的一种稠浊诱骗办法，从诱骗剧本来说还是传统的伪装熟人、伪装领导等手段，但是个中的面部仿真、声纹仿真使得被害人放松当心，更随意马虎被骗。”裴智勇说。
专业人士先容，当前，AI技能被用于电信诱骗犯罪活动紧张表现在三个方面：其一，骗子通过骚扰电话录音等来提取某人声音，获取素材后，利用AI技能进行声音合成，而后用假造的声音欺骗被害人。其二，骗子用AI换脸技能，伪装成被害人的熟人，再通过视频通话办法，进行信息确认，骗取信任。其三，骗子利用AI程序筛选受害人，剖析"大众发布在网上的各种信息，根据所要履行的骗术对人群进行筛选，在短韶光内便可生产出定制化的诱骗脚本，从而履行精准诱骗。“例如履行情绪诱骗时，可以筛选出常常发布感情类信息的人群；履行金融诱骗时，可以筛选出常常搜索投资理财信息的人群等。”
除了电信网络诱骗，随着AIGC（人工智能天生内容）和Deepfake（深度假造技能）技能的日益成熟，虚假音视频的假造效果越来越真实。“这或将成为不法分子的新型诱骗攻击手段，多用在金融诱骗、虚假新闻、色情制作、法律滋扰等不良场景。”上述网络公司高等技能职员说。
AI技能被用于犯罪领域的风险日益凸显。裴智勇先容，这些风险包括：“过脸家当”，比如利用他人照片合成动态人脸，欺骗各种人脸识别系统，如绑定APP、绑定支付工具等；换脸敲诈，如将一段绑架视频中的受害者人脸更换成其他人，之后对其支属进行诱骗；换脸敲诈，如将一个人的脸换到一段不雅观观视频上，之后威胁对方将视频发送给其亲人朋友。
新技能叠加老问题，寻衅升级
多名专业人士指出，AI视频换脸、合成声音等技能被滥用，“已呈现不可阻挡之势”。而在技能运用领域缺少约束，也致使违法犯罪分子能以较低本钱将新技能用于电信网络诱骗等犯罪活动。
调查创造，只管“AI换脸”“换脸”等关键词已被多个电商平台屏蔽，但通过“定制视频”等更暗藏的关键词，仍能找到出售换脸软件、定制换脸视频及教授换脸技能的卖家。在某电商平台，一名卖家通过视频教授“AI换脸”技能，还供应代码脚本网页，收费只要39.9元。
这名卖家见告，根据他发的视频教程就能学会AI换脸操作。卖家供应的传授教化内容显示，用户根据指引，完成登录、提取脸部数据、演习模型、换脸输出视频等步骤，就能轻松实现“AI换脸”的视频制作。
相对当下一些“AI换脸”软件多适用于拍照场景、影视剧片段的更换合成，这一卖祖传授的换脸技能更能为所欲为：用于换脸的照片不受限定，可合成的视频片段也不局限于影视作品，包括新闻、私人影片等都可被“AI换脸”……在专业人士看来，这些游走在法律边缘的AI技能黑灰家当链，大大增加了技能被恶意利用的风险，给公共安全带来更多隐患，“乃至一些低级别的人脸识别防护墙都可能被AI骗过，隐患巨大”。
“技能本身并没有错，紧张是技能利用和场景开拓等方面存在问题，须要进行系统性规制。”前述网络公司高等技能职员说，系统的制度约束和法治规范须要尽快出台，为技能的开拓与运用划定边界。
“AI换脸换声技能如果被用于诱骗，还有一个主要成分，便是骗子必须对被换脸人的外面、声音、行为习气、思维办法以及和被害人之间的相互关系等非常熟习，否则就极易‘穿帮’。”裴智勇表示，在新技能带来手腕迭代的同时，生物信息和个人隐私透露仍是履行电信网络诱骗犯罪链条的“支柱家当”。
相对早期电信网络诱骗紧张涉及姓名、电话、身份证号码、银行卡等个人信息，AI换脸被用于诱骗则须要获取最新的人脸照片和动态视频。而随着市情上涌现越来越多的逼迫哀求采集人脸信息的场景，这些被采集的生物信息安全性，愈发引起"大众年夜众担忧。
在传统的电信诱骗案件中，不法者大多从造孽渠道购买个人信息，个人信息来源则是网站、中介、公共做事乃至政府部门。而随着AI合成技能的发展，一旦人脸等生物信息被广泛透露，将造成不可估量的后果。
同样须要当心的是，越来越多人参与的网络直播、视频日志，这些主动公开的生物信息会不会也被不法者利用，通过“AI换脸”后用于实现造孽目的？
戒备AI作歹，制度和技能都要发力
面对AI技能发展带来的安全风险，社会各方应如何规制和抵御，个体又该如何戒备愈发逼真的骗局？
“在制度设计层面，我国未形成统一的对人工智能技能的系统性立法，现有的法律规范在落地实行层面也存在寻衅。”北京市盈科（海淀区）状师事务所网络犯罪辩解与刑事合规部主任刘洋表示，面对AI技能发展过程中涌现的新征象、新问题，应及时关注并更新干系法律规范。
真假难辨，是AI合成技能的上风，也是被不法者利用的特点。如何识别AI天生的内容，已是社会各界和公众亟需面对的现实问题。多位受访者都表示，应哀求AI合成内容做事商添加对用户可见的数字水印，来奉告用户该图像、音视频内容是由AI天生。同时，政府和企业也要投入科研力量，研究基于AI天生内容的鉴伪技能，在必要时候，使政府、企业和"大众年夜众有能力借助工具进行鉴伪。
实际上，一些网络做事商已经遭遇AI换脸视频造成的实际风险，最直接的表现便是人脸识别验证的安全性。
“AI变脸视频越来越逼真，的确给‘人脸识别’技能带来新寻衅，目前更安全的做法是结合更多信息做多维度检测。”前述网络公司高等技能职员阐明说，比如在人脸识别环节之前，通过各种对抗型的算法模型，结合大数据剖析、用户行为特色剖析等技能，检测用户是否利用常用设备和常用网络环境，形成多模型多角度联防联控的人脸安全防伪技能，提升攻击者的攻击门槛。
未来，AI合成技能结合网络电信诱骗的手段也会更“高明”，须要每个人都提高戒备意识。多名受访者都表示，保护个人信息是保护自身安全的关键。“这须要个体、企业和政府共同提升信息保护意识和能力。”
“对节制和运营大量人脸信息、语音数据的机构，包括政府和企业，应该哀求其不断提升网络安全培植水平，避免公民干系信息被盗取和透露。”裴智勇说，对付人脸和语音采集、识别的场景也应加以限定和规范，避免信息透露的风险。
对付"大众年夜众主动发布的网络图片、视频和音频，网络安全人士表示，干系网络平台可实行数字水印技能，通过在音频、视频、图像中嵌入不可见的水印保护信息，“这些信息可以在不影响视觉效果的情形下，大大降落我们的视频和照片被AI模型成功修改的概率。”
“无论多逼真的骗局，究竟还是假的。”反诈民警对表示，电信网络诱骗的终极目标是被害人的财产，“不要通过陌生渠道向陌生账号转账，这是最紧要的。碰着亲人、好友、领导哀求转账，务必通过电话、见面等路子核实确认。如果创造非常情形，及时拨打110或到就近公安机关报案。”
栏目主编：王海燕 题图来源：上不雅观题图 图片编辑：笪曦
来源：作者：邬林桦