作者 | 心缘
编辑 | 漠影
智东西6月3日宣布，在今日下午举行的2021北京智源大会“AI安全与家当管理”分论坛上，清华大学、阿里巴巴、瑞莱聪慧RealAI联合发布业界首个基于深度学习模型的对抗攻防基准平台Adversarial Robustness Benchmark。
清华大学教授、北京智源研究院安全创新中央主任朱军先容对抗攻防基准平台
这一基准旨在全面、客不雅观、科学地衡量算法模型的安全性。清华大学教授、北京智源研究院安全创新中央主任朱军评价这一基准具有一定学术意义，可以更加公正、全面地衡量不同算法的效果，供应方便利用的鲁棒性测试工具，全面衡量AI模型的安全性，用户通过提交模型的办法可以获取安全性的得分。
不同于之前只包含零散攻防模型的对抗攻防基准，这次推出AI对抗安全基准基本上包括了目前主流的AI对抗攻防模型，涵盖了数十种范例的攻防算法。不同算法比测的过程中只管即便采取了相同的实验设定和同等的度量标准，从而在最大限度上担保了比较的公正性。
此外，本次发布的AI安全排行榜也包括了刚刚结束的CVPR2021人工智能攻防竞赛中出身的排名前5代表队的攻击算法。这次竞赛吸引到了环球2000多支代表队提交的最新算法，进一步提升了该安全基准的科学性和可信性。
未来，该基准将不断引入新的攻击防御算法，作为对抗攻防领域的标准测试平台。
“AI安全与家当管理”论坛由北京瑞莱聪慧科技有限公司与阿里安全联合举办，除了发布AI对抗安全基准外，这次论坛上，中国科学院院士、清华大学人工智能研究院院长张钹，中国信息通信研究院安全所信息安全研究部主任魏薇、瑞莱聪慧RealAI田天等数十位专家出席本次会议，环绕AI安全可控发展的话题展开深入磋商。
一、张钹院士：AI安全与家当管理的三个问题
中科院院士、清华大学人工智能研究院院长张钹在致辞环节谈到人工智能（AI）安全与家当管理的三个问题。
一是共性问题，AI在带来传统家当智能化和智能技能家当化的同时，也带来了新的风险和安全隐患，因此AI的创新发展与安全管理要两手抓。
二是分外问题。AI管理的分外性，分别表示在算法、数据及运用层面。
从算法层面看，现有AI算法很薄弱，泛化能力差，当碰着新的突发事宜无法处理，可能造成AI技能无意识的误用，这种薄弱性还使得AI系统易受攻击，给故意识的AI技能滥用造成可乘之机。
从数据层面来看，现有AI运用效果很大程度上依赖于数据质量，但由此会带来隐私泄露、数据确权等问题，如果办理不好数据安全的问题，AI也不可能康健的发展。
在运用层面，AI技能已逐渐对人们的生活造成冲击。比如，看房带头盔、困在算法里的外卖骑手等，还有深度假造之类可能对社会造成重大影响的技能，都必须担保安全可控。
中科院院士、清华大学人工智能研究院院长张钹致辞
三是如何办理创新发展和安全管理的问题。
张钹院士认为，由于AI根本理论还未真正建立起来，我们对AI能做什么、不能做什么一头雾水，因此AI发展缓慢、弯曲，安全问题层出不穷。
因此，他提出将第一代知识驱动和第二代数据驱动人工智能的结合起来，去发展建立AI的根本理论，这便是第三代人工智能的任务。
其思路是，充分利用知识、数据、算法、算力这四个要素，建立一个新的可阐明的、鲁棒的AI技能，在此根本上才可能发展出安全、可信、可靠、可扩展的AI技能，以此办理AI创新发展和安全管理的问题。
“人工智能的根本理论还没有建立起来，以是更精彩的大戏正在上演。我们跟国际处在同一起跑线上，这是我们国家历史上从来没有遇过的机会。”张钹院士呼吁，“我们该当和全天下联络起来共同来发展安全可控的第三代人工智能，让人工智能真正造福于人类。”
二、打造第三代人工智能，需以安全可控的核心技能为根基
瑞莱聪慧成立于2018年，是依托清华大学人工智能研究院设立的人工智能企业，由清华大学人工智能研究院院长张钹院士、清华大学人工智能研究院根本理论研究中央主任朱军教授共同担当首席科学家。
瑞莱聪慧RealAI CEO田天认为，从技能发展目标来看，AI技能开始靠近一些核心的智能问题，包括繁芜策略能力、语法理解能力、理解不愿定性的能力。
近年环球人工智能商业化加速，运用处景愈发繁荣，第三代人工智能技能有助于从根本上增强人工智能的安全性、可靠性、可信性。
AI安全可以分为数据安全与算法安全两大类。
数据安全详细可分为两个层次，一是数据泄露，在运用AI的采集、存储和演习过程都可能产生数据泄露和盗取，可能造成很大的社会经济丢失；二是数据投毒，如果AI演习数据被投毒，可能导致全体AI系统发生崩溃性的风险。
算法安全中，比较范例的是对抗样本。它是深度学习范式下人工智能运用存在的构造性毛病，通过算法修正、恶意样本供给等办法，对算法进行深层次攻击已成为主流趋势。
运用合规可控方面，既哀求人工智能发展不可超出道德伦理、法律法规的红线，又哀求技能本身自主可控。
当前我国AI在根本理论和算法方面，存在原始创新能力不敷的风险。在这一背景下，打造第三代人工智能，更需以安全可控的核心技能为根基，通过理论创新、技能打破，形成核心竞争力。
对此，作为第三代人工智能的先行者，瑞莱聪慧RealAI已经环绕打造安全可控的AI根本举动步伐进行了一系列努力，包括基于自主创新的一系列核心技能，研发了环绕数据安全、算法可靠、运用可靠的一系列AI算法和平台。
环绕备受关注的人脸识别，瑞莱聪慧RealAI兼顾数据、算法、合规层面，打造了完全的人脸识别治理解决方案，通过完全的技能和做事，确保各种人脸识别系统的安全可控。
在田天看来，广度上，AI将成为数字基建时期的水和电，在更多运用处景和运用空间里普惠千家万户；深度上，AI在各行业领域的运用将进入专业化的深层次领悟阶段，综合领域知识与算法开拓能力，面向垂直领域需求，挖掘深层次运用潜力。而安全可控的AI将给AI家当带来新的动能。
三、AI数据安全管理的七条建议
会上，中国信息通信研究院安全所信息安全研究部主任魏薇在演讲期间分享了关于AI数据安全管理的七条建议。
首先，在AI发展中办理数据安全的问题。比如构建我国AI优质的数据资源，在发展中规避数据偏见、数据权属等问题；另一方面，以数据安全促进AI的发展。
第二，勾引社会遵照AI的伦理规范。目前伦理规范相对来说还需加强宣扬贯彻，同时要积极贡献国际聪慧，参与到国际规则的制订中。
第三，建立AI数据安全干系的法律法规。推进AI和数据安全干系的立法，完善AI数据安全干系的部门规章，开展AI的数据安全司法。
第四，完善AI数据安全的监管。包括线上线下多种办法的监督检讨，对AI干系的产品运用和做事进行监测评估。这方面标准已开始制订并快要发布，依据这些标准可以很好地开展评测评估。
第五，健全标准体系。可通过包括设置专门的AI安全的研究组，由于现在都是分散在各个安全组，开展一些急需标准的研制。今年海内立项的干系标准非常多，也解释大家非常重视这方面。
第六是创新AI安全技能手段。包括加强根本理论的研究，培植完善我国的AI开源学习框架，促进AI数据安全地运用。
末了是培养人才。人是最关键的，包括学校、企业和引进人才，和国外的专家进行互换等等，可以通过企业和科研机构、高校等联合进行AI安全课题的报告、技能的研发，乃至到末了的运用，大家一起共同来促进AI的数据安全管理。
结语：AI安全技能的落地仍处于早期阶段
随着AI技能逐渐深入到各行各业，环绕数据与算法的安全管理已经成为业界备受关注的议题，也由此衍生出一些技能热点，如联邦学习、差分隐私机器学习等技能相对在家傍边落地速率较快。
AI安全的主要性日益凸显，越来越多的AI产学界专家开始探索如何冲破现阶段AI技能的局限，兼顾人们对数据安全和算法可靠的诉求。当前AI安全技能的落地仍处于早期阶段，通过产学界协同互助，更多的AI安全技能、产品及办理方案有望深入行业之中，并产生运用代价。