国外也发生了一起AI干系诱骗，一封附上谷歌CEO视频的邮件，让不少YouTube博主们下载了带着危险病毒的文件。
这两起诱骗事宜都有着深度假造技能deepfake的身影。这是一项出身了6年之久的换脸大法，如今AIGC技能的大爆发，更使得制作难以识别的deepfake视频越来越随意马虎。对人脸识别运用普遍的金融行业来说，防深伪攻击也显得尤为主要。
在金融行业，由deepfake产生的敲诈紧张是身份敲诈，即通过深度假造的虚假图像和视频来伪装他人身份，骗过金融信贷流程中的身份核验系统，进而履行盗刷和恶意注册等。目前，金融行业应对deepfake已有了比较成熟的技能方法和方案，度小满在deepfake应对方法上就积累了丰富的履历。
度小满先容，近年来利用深伪技能绕过人脸识别流程的趋势有所增长，对金融机构实名认证系统造成了一定的威胁。而要识别认证内容是否造假，最好的办法是交给AI去办理，研发“反deepfake”检测算法。据理解，度小满防深伪检测模型的算法策略就从三个维度入手，有效破解造假视频。
首先是天生瑕疵。详细而言，由于干系演习数据的缺失落，deepfake模型可能无法精确渲染部分人类面部特色，小到眨眼频率不正常，大到口型与声音不吻合等。检测模型则能将这些“基本肉眼可见”的特色都提取出来，设计特定的剖析算子，从而进行剖析研判。
其次是固有属性。由于不同摄像机拥有不同的设备指纹，类似GAN这种模型在天生人脸时也会留下独特的用于识别天生器的指纹，因此经由比拟就能创造端倪。
第三个细节是高层语义。它指的是检测面部动作单元（肌肉群）折衷性、面部各区域朝向同等性、视频微不雅观连续性等方面的问题，由于这些细节建模困难、难以复制，很随意马虎抓到痛处。
当然，由于单一特色难以适应繁芜的deepfake内容，因此检测模型的整体框架采取的是多特色领悟，以此来担保决策的鲁棒性。
在数据样本上风之外，度小满还融入了自己的独创点，包括神经网络搜索调优算法、微表情剖析和图卷积（GCN）技能以及基于重修的自监督预演习方法，让模型实现了从“鉴伪”到“鉴真”的转变。
也恰是以，去年9月度小满防深伪检测模型顺利通过了信通院人脸识别安全专项评测，得到活体检测安全防护能力精良级认证。详细效果上，它可以覆盖各种深伪形式，包含静态人像图片活化、AI换脸、人脸虚假合成等，达到千分之一误报率下召回90%以上，也便是99%+的准确率。
随着新的deepfake工具不断呈现，金融行业要应对的深伪攻击会更多。度小满认为，未来更多的鉴伪技能该当集中去挖掘语义特色、跨模态特色等，让模型利用可阐明性强的高层语义去鉴伪。（柯岩）
来源： 光明网