（图片来源：摄图网）
（ 陈晓晟）日前，在2024年国家网络安全宣扬周主论坛上，全国网络安全标准化技能委员会发布了《人工智能安全管理框架》1.0版。剖析认为此举将有助我国构建全方位AI管理体系。五年前，中国电信就已经把AI作为紧张技能方向进行布局，如今《人工智能安全管理框架》1.0版的出炉，也将对中国电信全力打造AI时期安全保障体系形成助力。
AI安全受到多方重视
AI技能的发展，带来很多网络安全、数据安全之外新的安全威胁和寻衅，日益受到多方重视。
AI发展和安全是一体两翼的统一整体。AI技能在实际运用中存在诸多安全风险，既包括技能内生问题，也包括数据安全、算法歧视等技能开拓过程中的风险，更涉及技能滥用等运用层面的影响。业界普遍认为目前AI存在的三大安全隐患：其一为AI运用的滥用问题；其二为数据采集和流利渠道的安全问题；其三为更不易被监管的算法模型自身的安全性和可靠性问题。
在全国政协委员、中国工程院院士吴世忠看来，AI安全既有“近忧”，也有“远虑”。从“近忧”看，AI大模型落地运用紧张面临的安全风险有天生不当内容、产生隐私问题、引发技能攻击等。“远虑”则是AI技能发展失落速、伦理规范和道德约束的缺少。
360集团创始人周鸿祎曾经以无人驾驶为例先容，未来真正实现无人驾驶汽车，驾驶座上没有人时，如果车厂运营中央遭到网络攻击，后果远超想象。轻则是车辆跟车厂失落去联系，很多车只能趴窝无法行驶。更严重的是“黑客掌握了车厂做事器”，就可以给它所掌握的自动驾驶汽车下达各种指令，可能导致车门打不开，或者一起狂奔，后果非常严重。
此外，除了无人驾驶领域，许多不法分子还利用AI进行换脸、换声等操作，侵害公民个人隐私。一张“人像照片”、一段近间隔的人物视频都有可能成为犯罪分子的新工具。
华龙证券研报指出，当古人工智能家当尚处于发展阶段，人工智能的安全问题在环球范围内受到各方重视。在AI安全管理领域，数据加密、隐私保护、算法可阐明性和透明度等环节是AI家当康健发展的基石，有望迎来相应技能打破。
加快AI安全技能研发
中国电信很早就认识到AI技能存在的不容忽略的安全寻衅，已经从多方面入手加快AI安全技能研发，强化数据安全管理，打造新型安全管理和运营体系，加大科技创新研发投入，实现AI安全技能打破。
技能方面，中国电信联合高校成立安全领域前沿研究实验室，例如与哈尔滨工业大学（深圳）联合成立“网络空间对抗技能联合攻关研究实验室”，推动产学研深度领悟，共同探索网络空间对抗技能等领域的打破 ，构建更为紧密的安全家当生态以及天生式AI安全管理体系 ；积极投身科研事情，建成“中央-省-边缘-端”四级算力布局，总智算规模达16EFLOPS（FP16）；自主研发了语义、语音、图像和多模态的星辰大模型，并积极推进多模态大数据AI领悟PaaS底座进程研究进程，为AI安全技能的研发和运用供应了坚实的技能根本 。
中国电信翼支付系统还针对新兴的“AI换脸”敲诈办法，自主研发了金融级KYC证件识别产品“侦图”平台。这个平台利用前辈的技能，如“级联+双路卷积+多尺度特色领悟”，交叉校验用户上传的证件信息，并比对人脸进行精确识别，有效阻挡了“AI换脸”干系敲诈模式的入侵。例如，在支付场景中，侦图平台能够准确识别用户身份，防止不法分子利用AI换脸技能进行敲诈行为，保障用户的支付安全。
随着AI技能的不断发展，中国电信将连续在AI安全领域进行投入和创新，以供应更加安全、可靠的做事体验。
此外，中国电信持续深化与家当链伙伴的计策互助，与海内顶尖科研院所、科技企业成立大模型协会和生态同盟，强化数据开放互助、强化运用开放互助、强化高端人才互助、强化规则戒备风险。
积极打造“AI+安全”创新运用
上周，2024年国家网络安全宣扬周暨网络安全展览会在广州开展。中国电信以“AI链接生态 安全智领未来”为主题，精彩亮相本次展会，展示其在AI时期深耕网络安全，发挥云网领悟的上风，以创新驱动网络安全防护，构建适应AI时期的全新安全樊篱的最新成果。
“云猎”无人机侦测反制系统是低空安全的守护者，以精准的侦测能力和高效的反制策略，一站式全方位保障低空领域安全，确保个人隐私和公共安全不受侵害。量子加密改造是中电信量子集团提出的海内首个量子密码办理方案，结合量子安全技能和商用密码技能，供应根本IT架构和系统的量子密码改造做事，已广泛运用于政务云和企业IT系统。云堤·抗D作为中国电信创始云网协同的“运营商级”抗DDoS产品，在环球分布式支配36个防护节点，监控和防护IP超过1.7亿，DDoS防护能力超过5000G，实现对DDoS攻击的精准识别和全面防护。天翼安全大脑利用云网安全数据上风和AI算法，构建云侧安全数据剖析能力，供应下一代防火墙、流量掌握等做事。帮忙客户构建云侧运营剖析、边侧威胁阻断、端侧贴身防护的立体防护体系，办理末了一公里安全防护需求……
未来，中国电信将连续秉持总体国家安全不雅观，把握AI技能发展机遇，强化科技创新，构建可信可控的数字信息根本举动步伐，提升AI安全管理水平，与互助伙伴共同打造安全生态，为数字中国培植贡献力量。
本文来自【通信信息报社】，仅代表作者不雅观点。全国党媒信息公共平台供应信息发布传播做事。
ID：jrtt