理解到,该标准在中关村落金融科技家当发展同盟组织下,由蚂蚁天玑实验室和工商银行、培植银行、邮储银行、中信银行、北京国家金融科技认证中央、中关村落互联网金融研究院、网商银行、北京前沿金融监管科技研究院等十几家机构共同撰写。
《标准》在“功能”和“性能”两方面作出了详细规定。功能层面,干系机构应具备更换、活化、深度假造等五种情形下的虚假数字人脸检测功能。性能层面,干系机构应建立不少5000张的真实数字人脸数据集,和不同假造形式的虚假人脸数据集,以应对现实生活中的繁芜场景。例如不同肤色、不同光芒条件、不同清晰度、包含或不包含语音等都是主要维度。据理解,标准的各项条款均在蚂蚁天玑实验室完成了试验验证,并且天玑实验室已经开展了面向金融机构“AI换脸”检测能力的测试评估做事。
此外,《标准》也明确虚假数字人脸内容检测做事性能将从准确性、鲁棒性、泛化性、相应速率等四个维度进行评估,稽核机构是否具备完全的、高准确度、高性能的检测水平。据理解,在刚结束的外滩大会 AI创新赛·环球 Deepfake攻防寻衅赛上,正是运用了此标准的框架和指标,进行赛题的制订和答案的评价。
近两年,随着人工智能技能的飞速发展,深度假造技能(Deepfake)也日益成熟,它在给社会带来便利的同时,也带来了前所未有的安全寻衅。特殊是金融行业,人脸识别技能作为身份鉴别的主要手段,其安全性直接关系到金融交易的安全与用户资金的安全。然而,一些不法分子利用人工智能技能制造虚假数字人脸,企图绕过安全机制,给金融安全带来了严重的威胁。刘勇表示,希望通过这个标准辅导金融行业及干系机构提升识别虚假数字人脸安全的能力,戒备干系金融风险。(完)