近日，包头警方发布一起利用AI履行电信诱骗的范例案例。4月20日中午，郭师长西席的好友溘然通过微信视频联系他，自己的朋友在外地竞标，须要430万担保金。基于对好友的信赖，加上已经视频谈天核实了身份，郭师长西席分两笔把430万转到了好友朋友的银行卡，期间也没有核实钱款是否到账。此后，郭师长西席拨打好友电话，才知道被骗。骗子通过智能AI换脸和拟声技能，佯装好友对他履行了诱骗。
幸运的是，接到报警后，福州、包头两地警银迅速启动止付机制，成功止付拦截336.84万元，但仍有93.16万元被转移，目前正在全力追缴中。
案件表露后，“AI诱骗正在全国爆发”话题一度冲上热搜第一，引发网友热议。
科技公司老板
10分钟被骗走430万元
4月20日11时40分旁边，福州市某科技公法律人代表郭师长西席的好友溘然通过微信视频联系到他，两人经由短暂谈天后，好友见告郭师长西席，自己的朋友在外地投标，须要430万元担保金，且须要公对公账户过账，以是想要借用郭师长西席公司的账户走一下账。好友向郭师长西席要了银行卡号，声称已经把钱打到郭师长西席的账户上，还把银行转账底单的截图通过微信发给了郭师长西席。基于视频谈天信赖的条件下，郭师长西席没有核实钱是否到账，于11时49分先后分两笔把430万元给对方打了过去。钱款转账后，郭师长西席给好友微信发了一条，称事情已经搞妥。但让他没想到的是，好友回过来的竟然是一个问号。
郭师长西席拨打好友电话，对方说没有这回事，他这才意识到竟然遇上了“高端”骗局，对方通过智能AI换脸技能，佯装成好友对他履行了诱骗。
“从头到尾都没有和我提借钱的事情，就说会先把钱给我打过来，再让我给他朋友账户转过去，而且当时是给我打了视频的，我在视频中也确认了面孔和声音，以是才放松了戒备。”郭师长西席说。
4月20日12时21分，包头市电信网络犯罪侦查局接到福建省福州市公安局刑侦支队的外协要求，称福建省一有名民营企业卖力人被骗走430万元，而涉案的银行卡为包头市蒙商银行对公账户，希望包头警方能够帮忙进行紧急止付。
包头市公安局电信网络犯罪侦查局立即启动“包头市警银联动绿色查询机制”，当班民警以最快速率完成核查、报审程序，第一韶光将涉案卡的信息通报至蒙商银行干系部门。在银行的全力帮忙下，仅用时10分钟，就将该诱骗账户内的336.84万元被骗资金成功拦截。同时，向福州市公安局警方供应了剩余款项93.16万元资金流出信息，为深入打破该案剩余资金查找供应了打破方向。目前，福建警方与包头警方对此资金正在全力追缴当中。
对此，包头警方提示：针对花样翻新的智能AI诱骗，公众要提高戒备意识，不轻易供应人脸、指纹等个人生物信息给他人，不过度公开或分享动图、视频等；网络转账前要通过电话等多种沟通渠道核验对方身份，一旦创造风险，及时报警乞助。如果有人自称“熟人”、“领导”通过社交软件、短信以各种情由勾引你汇款，务必通过电话、见面等路子核实确认，不要未经核实随意转账汇款，不要轻易透露自己的身份证、银行卡、验证码等信息。如不慎被骗或遇可疑环境，请把稳保护证据立即拨打96110报警。
AI诱骗层出不穷
随着ChatGPT和各种AI技能的广泛运用，AI诱骗手段日渐丰富，各种案件层出不穷。
4月7日，浙江杭州萧山区审查院曝光的一个“女神群”引发关注。
据理解，80后安徽小伙虞某在网上推广AI换脸技能及干系的软件从中获利。为吸引他人关注，虞某将原来“换脸软件资源群”的群名变动为“女神试看群”，通过互联网下载了部分淫秽视频，截取片段后发布在该公开群中，吸引、招揽不雅观看者加入，不雅观看者若要看完全版则需缴纳198元-498元不等的“会费”进入“内部群”。此外，虞某表示，顾客还能利用不同的女明星的形象，进行“私人定制”。截至案发，公安机关共在虞某所组建的公开群内查证淫秽视频1200余部、图片1600余张，经鉴定，上述均系淫秽物品。2023年3月28日，萧山区审查院依法以制作、传播淫秽物品牟利罪对虞某提起公诉。案件目前正在法院审理中。
对此，萧山审查官提醒，“AI换脸技能”即便只是用来搞笑或者制作恶搞照片，也有可能涉及陵犯肖像权、名誉权，造成严重后果的，还可能构成侮辱罪或者诋毁罪。希望大家依法利用该项技能，一旦碰着类似本案中利用“AI换脸技能”履行犯罪行为的，应第一韶光固定证据，并及时向法律机关报案。
除利用AI换脸诱骗外，还有人利用ChatGPT炮制不实信息。不久前，甘肃平凉市公安局网安大队就侦破一起类似案件。
4月25日，平凉市公安局崆峒分局网安大队在日常网络巡查中创造，某百度账号涌现一篇标题为“今晨甘肃一火车撞上修路工人 致9人去世亡”的文章，初步判断为信息虚假不实。
民警创造，共计21个百度账号在同一韶光段发布该文章，文章内容地点涉及全国多地。经查，涉案百度账号均为深圳某自媒体公司所有，其法人代表洪某弟有重大作案嫌疑。原来，洪某弟购买大量“百家号” ，并通过ChatGPT人工智能软件将搜集到的热点新闻修正编辑，随后上传赚取大量流量获利。目前，洪某弟已被采纳刑事逼迫方法，案件正进一步侦办中。
查处现场
三部门发布《互联网信息做事深度合成管理规定》
针对技能手段日益更新的AI诱骗事宜，2022年11月25日，国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息做事深度合成管理规定》（以下简称《规定》），自2023年1月10日起施行。国家互联网信息办公室有关卖力人表示，出台《规定》，旨在加强互联网信息做事深度合成管理，弘扬社会主义核心代价不雅观，掩护国家安全和社会公共利益，保护公民、法人和其他组织的合法权柄。
近年来，深度合成技能快速发展，在做事用户需求、改进用户体验的同时，也被一些不法职员用于制作、复制、发布、传播违法和不良信息，诋毁、贬损他人名誉、名誉，仿冒他人身份履行诱骗等，影响传播秩序和社会秩序，危害公民群众合法权柄，危害国家安全和社会稳定。出台《规定》，是戒备化解安全风险的须要，也是促进深度合成做事康健发展、提升监管能力水平的须要。
图片来源：@公民日报微博截图
《规定》明确了深度合成数据和技能管理规范。哀求深度合成做事供应者和技能支持者加强演习数据管理和技能管理，保障数据安全，不得造孽处理个人信息，定期审核、评估、验证算法机制机理。深度合成做事供应者对利用其做事天生或编辑的信息内容，应该添加不影相应用的标识。供应智能对话、合成人声、人脸天生、沉浸式拟真场景等天生或者显著改变信息内容功能的做事的，应该进行显著标识，避免"大众年夜众稠浊或者误认。哀求任何组织和个人不得采取技能手段删除、修改、隐匿干系标识。
AI诱骗常用手腕
第一种：声音合成
骗子通过骚扰电话录音等来提取某人声音，获取素材后进行声音合成，从而可以用假造的声音骗过对方。
案例
某公司财务小王接到领导电话，哀求急速给供应商转款2万元，并将转账信息以邮件形式发送，转款情由是避免缴纳滞纳金。由于老板的口音十分逼真，小王信以为真，在1小时内转款完成，后创造被骗。
第二种：AI换脸
人脸效果更易取得对方信赖，骗子用AI技能换脸，可以伪装成任何人，再通过视频办法进行信息确认，真是防不胜防！
骗子首先剖析公众年夜众发布在网上的各种信息，根据所要履行的骗术，通过AI技能筛选目标人群。在视频通话中利用AI换脸，骗取信任。
案例
近日，小李的大学同学通过QQ跟她借钱。对方打过来一段四五秒的视频电话，小李看到确实是本人，便放心转账3000元。然而，她在第二次转账时觉得非常，便再次拨通对方电话，这才得知同学的账号被盗，遂报案。警方判断，那段视频很有可能是被人换了脸。
第三种：转发微信语音
微信语音居然也能转发，这操作切实其实了！
骗子在盗取微旗子暗记后，便向其好友“借钱”，为取得对方的信赖，他们会转发之前的语音，进而骗取钱款。
只管微信没有语音转发功能，但他们通过提取语音文件或安装非官方版本（插件），实现语音转发。
第四种：通过AI技能筛选受骗人群
骗子不是漫无目的地全面撒网，而是别有用心地锁定特定工具。他们会根据所要履行的骗术对人群进行筛选，从而选出目标工具。
举个栗子：当进行金融诱骗时，常常搜集投资信息的小伙伴会成为他们潜在的目标。
利用AI技能，再加上套路和剧本的演绎，这样的诱骗手段，小伙伴们能hold住吗？
如何戒备？
面对利用AI人工智能等新型手段的诱骗，我们要牢记以下几点：
多重验证，确认身份
01
在涉及到转账交易等行为时，小伙伴们要格外留神，可以通过电话、视频等办法确认对方是否是本人。
在无法确认对方身份时，可以将到账韶光设定为“2小时到账”或者“24小时到账”，以预留处理韶光。只管即便通过电话讯问详细信息，确认对方是否为本人。
即便对方利用AI技能行骗，也可以通过提问的办法进一步确认身份。建议大家最好向对方的银行账户转账，避免通过微信等社交软件转账。一方面有利于核实对方身份，另一方面也有助于跟进转账信息。
保护信息，避免诱惑
02
加强个人信息保护意识，小伙伴们要严防各种信息透露，不管是在互联网上还是社交软件上，只管即便避免过多地暴露自己的信息。
对付不明平台发来的广告、中奖、交友等链接提高当心，不随意填写个人信息，以免被骗子“精准围猎”。
相互提示，共同预防
03
这些高科技手段的诱骗办法，迷惑了很多小伙伴。警察蜀黎也提示各位要多多提醒、告诫身边的亲人、朋友提高安全意识和应对高科技诱骗的能力，共同预防受骗。
做好家中老人的宣扬戒备事情。提醒老年人在接到电话、短信时，要放下电话，再次拨打家人电话确认，不要贸然转账。
谢绝诱惑，提高当心
04
小伙伴们要学会谢绝诱惑，提高当心。避免占便宜生理，当心陌生人无端“献殷勤”。
媒体声音
针对近日涌现的AI诱骗案例，光明日报微信揭橥评论，题为《用AI换脸来诱骗，防不胜防？》。评论认为，“AI诱骗看似一个新问题，实在又回到了个人信息保护上。”
诱骗分子之以是能够鸟枪换炮，便是由于之前他们可以购买的是姓名、住址、亲友关系等社会信息，而如今他们可以获取人脸、人声等生物信息了，并且可以利用技能软件进行合成。那么，是谁在充当这个技能中介？这是非常主要的一环，只要打断了这个中间环节，AI诱骗也就失落去了技能条件。
从目前爆出的案例来看，对付AI诱骗，基本都是事后追查打击，这实在是很被动的。接下来，管理AI诱骗的事情该当进一步前置，多在预防环节下功夫。而对个人信息的保护，便是最好的预防。
我们常说，科技是一把双刃剑。如果前些年，科技的侵害之刃还处于一种“划伤”阶段，那么如今在一些领域已经涌现“刺痛”感了。而疼痛是保持复苏最好的办法。眼下，看着别人被骗几百万，所有人都该当当心，这样的技能侵害是无差别的：任何人的脸与声皆可合成，纵然不被用于诱骗，谁又能担保不被用于其他侵害呢？
综合：公民日报、“网信中国”微信公号、安然包头、新甘肃客户端、东方网、武汉市反电信网络诱骗中央
来源： 工人日报