对网络安全而言，每一次新的信息技能浪潮都蕴含着巨大机会，同时也意味着巨大寻衅。这是由于新技能一定带来新的安全问题和新的需求，而“黑客”每每能先一步利用新漏洞发起攻击，“防守方”则须要更快地相应和改变。
大模型技能亦如此。近日，在“C3安全大会·2024”上，亚信安全高等副总裁陈奋提出，自ChatGPT发布以来，大模型驱动的人工智能（AI）技能已让环球“黑客”开始狂欢，网络攻击和网络犯罪不断升级。
大模型技能让“黑客”狂欢
陈奋的话不是骇人听闻。
他先容说，过去“黑客”制造一个攻击性病毒须要数月韶光，现在通过AI工具几分钟就能天生，大大提高了攻击效率，而且大模型对编程措辞的理解能力非常强，攻击者可以利用大模型迅速创造软件漏洞。同时，还有一拨急功近利的“黑客”，利用AI算法批量深度假造人脸视频，导致涌现一波网络诱骗案例，还有攻击者盯上了AI算力根本举动步伐和大模型平台等高代价的打算集群。
据不完备统计，仅去年一年，针对大模型已经有10多种不同类型的攻击手段。
亚信安全北极狐高等攻防实验室去年创造了一种“海绵样本攻击”。这种攻击手段并不繁芜：向大模型发出一个分外样本，更换正常的提示词，代之以繁芜的措辞内容，然后提交要求。如此一来，大措辞模型须要60秒以上才能相应并回答。
对此，陈奋在采访中表示：“未来很多核心运用可能都是大模型驱动的AI原生运用，在这样的攻击下，运用基本上瘫痪了。这只是一个比较根本的攻击事例，针对大模型的密集攻击很快会到来。”
在这次安全大会上，中国工程院外籍院士、清华大学智能家当研究院院长张亚勤表达了类似担忧。
“AI越来越强，这会带来很大风险。”他提到，除了信息安全层面外，大模型的不可阐明性、黑箱问题、参数数据风险等也指向AI本身存在的安全风险；此外，AI的可控性、可信性、边界等问题也迫使人们不得不特殊核阅AI的安全风险。
张亚勤表示，暂且搁置AI以假乱真的问题，它更大的风险在于给物理天下带来的影响。“想象一下，未来一个大模型可能会掌握成千上万的车辆、无人机、机器人以及物联网设备，有的乃至直接连接国家金融等核心体系。我们能否掌握它？如果被坏人所利用呢？届时，安全将成为最主要的议题。”
安全家当面临改造
以大模型为代表的AI技能发展给信息安全带来了深刻影响，亚信安全的技能专家由此认为，大模型技能一定带来网络安全家当“技能范式的改造”。
这表示在多方面，涉及网络攻防角色、安全产品设计、保护工具的变革等。
陈奋认为，从现在起，网络安全攻防将从之古人与人之间的对抗升级到AI与AI之间的对抗。“只有AI驱动的网络安全防护检测技能才能识别发轫于AI的黑客攻击技能。”他说，最范例的案例便是深度假造的鉴别，“人眼肯定不如AI”。
与此类似，未来网络安全产品的设计也须要大模型助一臂之力。陈奋提到，从风险检测到产品体验、从风控到安全运营，大模型技能将推动网络安全产品的全面改造，“如果没有大模型的加持，可能就无法站在最有竞争力的舞台上”。
保护工具也将发生变革。如果一个企业或实体的核心运用是通过大模型驱动的，那么未来企业资产掩护就将从传统的保护资产演进为保护企业的AI中央。
类似的还有智能家居安全。随着智能网联汽车、智能家居等的遍及，家庭信息安全将从保护个别终端设备演进为保护家庭的AI中央。
环球都在行动
在大模型技能发展给网络安全行业带来“范式改造”的背景下，没有人可以“躺平”。
2023年，谷歌开拓并推出了网络安全专有大模型“Sec-PaLM”，并将其全线接入谷歌云；今年4月，微软公司发布Security Copilot（安保副驾驶）正式商用，通过将大措辞模型和安全专用模型相结合，为企业供应信息安全助手。
安全行业巨子更加不会坐失落良机。作为行业龙头，美国网络安全公司Palo Alto、CrowdStrike等已经在各自的安全运营平台集成了大模型的技能能力，并持续深化智能安全产品开拓。
不仅如此，在环球最大的网络安全盛会“RSA Conference”最具影响力和人气的活动——“创新沙盒”大赛上，连续两届冠军都花落环绕“AI安全”做文章的初创企业。
业内专家认为，AI安全连抢风头预示着网络安全正在迎来一场重大范式转移。
这一风潮也席卷海内。亚信安全调查显示，中国80%以上的网络安全公司都在将大模型技能集成到网络安全产品中，30%的公司已经开始做大模型安全的研究，并涌现了一波AI安全创业的浪潮。
AI风险管理须要环球互助
对付AI技能发展引发的安全风险问题，张亚勤表示，近两年来，他“个人花了很多韶光思考并做一些事情”，包括专门组织一个20人旁边的“AI发展与管理专题研讨会”，参与研讨的包括3位“图灵奖”得到者和两位深度学习领域的首创者。他们每过一段韶光就聚在一起，研讨干系主题。
“我们认为，AI技能发展带来的安全和风险管理，不仅是政策制订的问题，也不纯挚是科学问题、技能问题，只有政策制订者和科研事情者开展互助，将AI发展和管理领悟起来，才能有康健的发展。”张亚勤说。
在充分研讨的根本上，张亚勤提出了5个长期建议。
一是对AI大模型分级管理，如万亿乃至更多参数的前沿大模型的风险相对较高，应加强监管；对运用在智能驾驶、生物系统平分歧领域的大模型也要分级监管。
二是AI天生内容要有清晰标识，包括AI天生的数字人、图文、音视频等，要像“广告”标识一样能干标注，以方便甄别。
三是要设立物理映射机制或系统。无人驾驶汽车、智能机器人等智能体，应明确其作为“从属物”，有从属的详细管理人或管理机构等法定实体，干系智能体涌现问题应追溯其从属的主体任务。他提出，现在就应动手制订干系法规。
四是加大对大模型风险管理研究的投入。他建议政府或企业在开拓前沿大模型时拿出10%~30%的资金，投放在与安全风险干系的技能和产品开拓上。
五是设定AI运用的红线。他提出，AI技能本身没有边界，但在利用大模型时，须要设定一些边界。例如规范智能数字人不能无限制地复制，大模型技能用于金融、军事等核心系统举动步伐时要设定清晰的红线等。
“这不是一家企业、一个国家的事，而是须要环球政府和企业精诚互助，面对风险、办理问题。”张亚勤表示。