随着人工智能技能的遍及运用，不法分子履行诱骗的精准性、迷惑性、暗藏性增强，公安、审查等政法机关办案将面临侦查破案难、电子证据调取难、认定处理难等现实困难
近日，北方某地警方发布了一起利用“AI换脸”对当事人履行诱骗的案件。诱骗分子利用人工智能技能，通过微信视频通话与受害人进行了十多分钟互换，受害人转账数百万元。
引人关注的是，该案不仅是一起新型网络诱骗，更是一起涉政诱骗案件。
不法分子仿照假造的，是受害人认识的一名领导干部。在微信视频谈天中，“换脸”后的骗子提出，其朋友有一笔工程担保金须要借用受害人公司的对公账户走账。在视频画面中，骗子“换脸”后面部表情自然，声音逼真，受害人便放松了当心，转账后打电话确认，才知道被骗。
“AI换脸”“AI拟声”、虚拟场景构建……随着设备性能提升和技能软件优化，利用“AI换脸”技能履行诱骗，已成为一种新型网络诱骗。近期，各地曝出多起人工智能“赞助”诱骗案件。一些不法分子利用人工智能“深度假造”伪装领导干部行骗，值得引起高度当心。
由于事情缘故原由，一些领导干部的面部、声音等生物特色信息更易被获取，被人工智能学习利用后造成的潜在危害性也更大。接管《瞭望》新闻周刊采访的业内人士表示，社会各界都应提高识骗防骗意识，有关部门应依法加大对人工智能“赞助”诱骗案件的司法力度，严明深究干系职员法律任务。
朱慧卿图/本刊
眼见不一定为实
近日，华北某地一名地方干部正为一件事犯愁。有人冒用他的名义，与他的亲朋好友大范围添加微信好友。
“和我的亲戚朋友加无缺友后，骗子还给他们打了视频电话。通话韶光只有几秒钟，朋友们觉得声音、画面都有点儿像。”这名干部说，直到许多朋友打电话讯问详细情形，他才知道此事。
“估计下一步就要开始骗钱了。以是，最近几天我连续发了好几条朋友圈提醒大家。”这名干部说。
受访业内人士表示，只要有足够的图像、音频素材，不法分子就可以通过人工智能“换脸”软件、合成声音软件假造虚拟形象，履行诱骗。“只需提取最少10个字、最多32个字，就可以合成其声音。”国网信息通信家当集团安全科研专家赵明明见告。
一些领导干部由于事情缘故原由出镜率相对较高，这为骗子供应了丰富的面部识别素材；在电视、广播新闻中也可以找到一些领导干部的大段同期声，这令“假造本钱”更低。
在一些案件中，不法分子通过“AI换脸”合成视频等办法，假造与领导干部见面、合影等内容履行诱骗，增加了涉政类诱骗的欺骗性和危害性。
AI诱骗四大趋势
中国信息通信研究院干系卖力人表示，当前，人工智能“赞助”诱骗存在四大趋势。随着人工智能技能的遍及运用，不法分子履行诱骗的精准性、迷惑性、暗藏性增强，公安、审查等政法机关办案将面临侦查破案难、电子证据调取难、认定处理难等现实困难。
——技能本钱由高向低转变。腾讯安全玄武实验室卖力人于旸见告，随着技能发展，人工智能“深度假造”“深度合成”已成为一种可以低本钱实现的技能。
——技能运用由单一向多元转变。腾讯互联网安全专家杨建表示，履行人工智能“赞助”诱骗一样平常要知足多个要素，包括造孽获取信息、构建熟人账号、“换脸换声”、破解手机摄像头权限等，涉及多项技能手段。
——假造身份从模糊向详细转变。传统电信诱骗每每只能以“某派出所事情职员”“某网站客服”等模糊虚指人设履行。但在人工智能“赞助”诱骗中，骗子可以以详细的人物形象涌现。
——作案模式从“广撒网”向精准施骗转变。社交媒体平台每每设有视频验证环节，这在客不雅观上增加了伪装熟人、领导干部等诱骗的“可信度”。受访专家剖析，随着技能发展，精准盗号、剖析关系网等有指向性的网络诱骗案件占比可能有所上升。
多层面约束规范
奇安信安全专家裴智勇表示，目前，专业级别的人工智能“深度假造”仍需通过较强的硬件在实验室环境实现。这意味着，近期“AI换脸”诱骗形成系统性风险的可能性不大，但仍需未雨绸缪、预防打击。
在源头端，须要进一步加强公民个人信息保护。杨建等专家建议，加强公民信息尤其是生物特色等隐私信息的技能、法律保护力度。针对伪装领导干部等涉政诱骗风险，可通过规范领导干部个人社交账号管理，遍及提升账号安全意识等办法进行规避。
在技能层面，数字水印鉴伪等技能有待进一步遍及利用。赵明明表示，数字水印能将特定的信息嵌入音频、图片或是视频等数字旗子暗记中，进行版权保护，以防止未经授权的复制和拷贝。他建议，加强打入数字水印、开拓真伪鉴别等技能管理手段，使其为数字内容生产商以及用户端等供应广泛做事，以科技手段制约不法分子利用人工智能技能履行犯罪。
瑞莱聪慧高等产品经理张旭东建议，对涉及政务、安防、金融、消费等主要运用的人脸识别技能漏洞进行完善和升级，戒备不法分子通过后台挟制手机摄像头权限。
“尤其是涉众、涉密、涉及公共利益的干系平台和技能做事供应商，需优先完成技能加固，对手机仿照器做好戒备。同时，鼓励和勾引更多手机厂商在系统升级时支持3D人脸识别技能。”张旭东说。
从法律制度方面看，反电信网络诱骗法、刑法等法律为打击管理各种网络诱骗活动供应了法律支撑。赵明明建议，进一步完善人工智能等领域干系法律，通过案例等指引，建立人工智能侵权轇轕法律框架、诉讼程序和赔偿标准等。
此外，还需通过完善干系制度进一步落实平台任务。新华三集团安全专家曹亮表示，对核心领域利用人脸识别技能的产品，监管部门应建立分级别、多层次的国家安全标准及行业安全标准；压实平台、企业主体任务，督匆匆干系运用开拓企业履行源头审查任务；建立健全用户注册、算法机制机理审核、数据安全个人信息保护、反电信网络诱骗、应急处置等管理制度。（吴帅帅 刘懿德 兰天鸣 《瞭望》2023年第27期）
来源： 《瞭望》