9月8日，2024年国家网络安全宣扬周在南沙正式拉开帷幕，网络安全展览会也同步举行。现场采访多位业行家家，探营展览会数据安全、个人信息保护、网络安全产品与做事等展区，打卡参展企业最新的网安“黑科技”，理解网络新技能新运用，看“黑科技”如何筑牢网络安全樊篱。
人脸“移花接木”，李鬼变李逵
人工智能技能带来了发展和机遇，也带来了风险和寻衅。如今，利用“AI换脸”“AI换声”等虚假音视频进行诱骗、诋毁的违法行为已不少见。早在去年，中国互联网协会便曾发文提示“AI换脸”新骗局。
AI换脸的事理是什么？如何一眼识别换脸马脚，加以戒备？在天融信科技集团株式会社展位，助理总裁张博向详细展示了AI换脸过程和事理，并对如何戒备AI换脸诱骗提出建议。
展位前，摄像头正捕捉一名事情职员的面部变革，与此同时，涌如今屏幕上的却是另一张脸，两者表情变革几近同等。“只须要输入一张正面静态图片，借助人工智能技能，便可以实时‘移花接木’。”
他进一步先容，AI换脸的3大步骤事理：面部识别追踪、面部特色提取、面部变革领悟。“整体的事理是通过打算机深度学习，精准识别人脸图像，然后提取眼睛，鼻子，嘴巴等主要的面部特色，然后把这些特色与目标人脸图像进行匹配，更换和领悟。”
如今“AI 换脸”技能已经比较成熟的，乃至能够实现视频通话的实时换脸，虽然单凭肉眼很难分辨，不过张博指出，只要稍加把稳，“AI换脸”还是有明显马脚，“漏洞”就在面部轮廓和光芒。
“如果吸收到视频信息，视频通话，要仔细不雅观察对方的面部轮廓是否存在非常的模糊，光芒是否正常”张博说道，“如果有必要的话，可以哀求对方快速大幅度地举头、点头，转头，然后来仔细不雅观察这个过程当中，面部轮廓是否有非常模糊。”
不过张博指出，防止网络诱骗还是要从上游入手，首先要防止个人信息的过度外泄。“须要采集面部信息的场景，市民群众还是须要额外把稳网络环境和周围环境。”在碰着疑似AI换脸的场景中，可以选择通过更加直接的办法，比如说给当事人打个电话，确认对方身份是否真实。
用“邪术”打败“邪术”，深度鉴伪5秒辨真假
“AI换脸”逐渐成为一种新型的诱骗手段，假造的内容难以被肉眼或耳朵分辨出来。如何精准识别“AI换脸”成为一个亟待办理问题。
在中国移动展位的现场，一个AI换脸视频被实时鉴伪技能精准识别为假造，全体过程仅需5秒旁边。深度合成换脸实时鉴伪体验区吸引了许多不雅观众的围不雅观，纷纭上手体验深度验鉴伪技能。
“我们先是仿照诱骗分子AI换脸的过程，再去反向学习技能，进而升级迭代反制系统。”中国移动信息安全与管理运行中央副经理王晓晴先容，他们在实名入网业务上开展了试点运用，基于鉴伪能力可实时检测实名验证过程中的AI人脸，主动戒备AI换脸线上开卡、补卡等风险发生，鉴伪的精确率达90%以上。
“一旦辨别为AI人脸就出会弹窗警告，提醒干系用户存在的风险。”王晓晴表示，深度鉴伪能力还将在5G新通话等业务场景中试点运用，对新通话内容进行假造检测、内容有害检测等，及时创造及涉诈有害风险，有效戒备涉诈等违法违规事宜。
不仅如此，深度鉴伪能力还可在多业务场景赋能，包括金融行业中人脸认证环节检测AI人脸、互联网行业进行AI人脸检测及有害内容审核等。王晓晴表示，希望通过技能优化迭代能够赋能各行各业的发展，也能为AI技能发展筑起一道安全的铜墙铁壁。
现实生活中我们如何辨别AI换脸变声？王晓晴表示，一方面，检讨面部特色，不雅观察表情和动作，以及声音和口型匹配度。另一方面，要不雅观察感情和语境，核实信息来源，让对方用手遮住面部或进行其他面部动作判断画面是否连贯。
精准识别25种骗局，让“一老一小”安心通话
老年人和未成年人得到信息的渠道相对较为单一，对各种骗术理解不多，随意马虎成为诱骗分子“下手”的工具。如何为“一老一小”构建安全通讯环境？通过通讯技能手段拦截电信网络诱骗电话或许是一种新的考试测验。
在中国移动展位看到，一位不雅观众体验名为羲和·防诈卫士的全场景防诈做事，利用这一做事远程临时停机用户家人的手机，防止诱骗电话连续轰炸。“当‘一老一小’接到诱骗电话轰炸时，用户可以给他的家人进行远程微停机——停机期间无法上网、没有通话功能，让骗子无从下手。”
王晓晴先容，该项做事通过AI自动检测到用户家人接听疑似诱骗电话时，将自动向用户及家人发送必达关照，实现识别预警。若家人处于通话中并未看到提醒，用户可向家人发送语音预警，直接在当前来电中插播语音提醒。同时用户可以远程临时停机家人的手机，防止诱骗电话连续轰炸。
“该系统是领悟号、卡、、通话、大数据、AI、防诈险等资源禀赋和特色能力，一站式供应智能识诈、智能预警、智家联动的全场景防诈做事。”王晓晴表示，这一做事供应25种骗局套路文本的识别，目前准确率达到99%。未来，我们将对羲和防诈做事系列能力不断迭代升级，为“一老一小”供应更好的全场景防诈做事。
文/广州日报新花城：叶作林、侯翔宇
图/广州日报新花城：莫伟浓
视频/广州日报新花城：王钰舜、王安蕾、陈铭曦
广州日报新花城编辑：莫丽平