在意大利威尼斯举办的
AI安全会议上
多位顶尖人工智能（AI）科学家
发出警告——
AI技能可能在几年内
超越其创造者的能力
人工智能系统的滥用或失落控
可能给全人类带来灾害性后果
特斯拉CEO埃隆·马斯克曾感叹
“AI技能的进步速率
比我见过的任何技能都要快得多”
面对马斯克所描述的
可能带来物质极大丰富
但又存在潜在威胁的AI技能
我们该如何
让它“飞”得更高的同时
牵妙手中管控风险的“线”？
AI安全是“环球公共产品”
2024天下人工智能大会期间发布的
《人工智能安全作为环球公共产品》
研究报告首次提出
应将人工智能安全
视为“环球公共产品”的理念
提倡各方致力于培植具有公共性的
安全知识、能力、资源
统筹安全与发展双重目标
在AI安全会议上
科学家们也建议
将人工智能安全
视为环球公共产品
并为推动风险的环球管理而努力
各国应将AI安全
纳入学术与技能互助的核心领域
呼吁各国政府和研究职员联手应对
AI可能带来的灾害性风险
一方面
各国应设立
在其境内监测和应对
人工智能事件与灾害性风险的部门
另一方面
各国监管部门应协同互助
制订应对重大人工智能事件
与灾害性风险的环球应急操持
“创新和安全不是互斥的”
“综合考虑，我认为加州该当
通过SB 1047人工智能安全法案”
近期，马斯克发帖力挺
美国加州一项拟议中的AI安全法案
这项法案哀求
对付规模大、功能强大的人工智能系统
开拓者在向"大众年夜众发布这些模型之前
应进行安全测试
并规定
在加州运营的人工智能模型开拓者
须制订应对模型失落控的关闭方法
SB 1047法案的提出者认为
创新和安全不是互斥的
只管大多数人工智能领域的创新者
都是道德的并乐意对社会卖力
但实践表明
单靠行业自我监管是不足的
还要不断探索人工智能的
法律办理方案和管理模式
2023年8月15日
中国政府发布
《天生式人工智能
做事管理暂行办法》
这是中国首次
对AIGC研发与做事作出明确规定
也是环球首部
针对AIGC进行监管的法律文件
美国去年10月的一项行政命令
为人工智能安全制订了新标准
行政令提出一系列哀求
如美国强人工智能系统的研发职员
需与政府分享其安全测试结果；
制订严密的合成生物检讨新标准
戒备利用人工智能设计
危险生物质料的风险；
建立检测人工智能天生内容
和验证官方内容的标准和最佳实践
帮助民众戒备人工智能驱动的敲诈等
在欧洲
《人工智能法案》已于今年3月
获欧洲议会正式通过
作为环球首部
关于人工智能的综合性立法
欧盟采纳以风险为根本的路径
对人工智能进行监管
这一立法思路为环球其他国家
供应了主要借鉴
撰文：孔繁鑫、刘鑫坤编辑：李飞排版：李汶键统筹：李政葳
参考｜公民日报、新华社、参考、中国新闻网、雷峰网、金融界
光明网出品
来源： 天下互联网大会