据英国《金融时报》当地韶光1月11日援引多名知情人士透露,因担忧这种强大的技能可能会传播缺点信息和威胁社会,中美双方曾于去年7月和10月两度在瑞士日内瓦举行会议,美国AI干系企业OpenAI、Anthropic和Cohere同中国AI专家进行了“秘密外交”。来自北美地区的AI组织科学家和政策专家,以及清华大学和其他中国政府所支持的机构代表也出席了会议。
宣布形容,在环球两个大国在AI和量子打算等尖端科技领域打劫主导权之际,这些此前未被宣布的会商是“中美互助的罕见迹象”。宣布提到,只管美国政府几次再三对华无理打压限定,比如禁止英伟达等公司对华出口开拓繁芜AI软件所必需的高性能芯片,但考虑到AI对人类的潜在生存风险,AI安全议题已成为两国技能开拓者共同关心的问题。
2023年9月20日,2023天下制造业大会在安徽省合肥市启幕,参不雅观者体验智能抓取机器人。图自IC Photo
据宣布,与会者表示,这些会商使得中美双方能够谈论AI这种新兴技能所带来的风险,并鼓励对AI安全研究进行投资。他们补充说,终极目标是找到一条科学的路径,安全地开拓更繁芜的AI技能。
一位出席会商的人士表示:“如果这些参与者没有达成同等,我们就无法环绕AI的安全和同等性制订国际标准。如果他们赞许,就更随意马虎把其他人也拉到一起。”
在会商中,中美双方的AI专家谈论了参与技能互助的领域,以及更详细的政策建议,这些建议为去年7月联合国安理会就人工智能对国际和平与安全的潜在威胁所召开的首次会议,以及去年11月在英国举行的首届环球人工智能安全峰会的谈论,都供应了参考。
与会的会谈代表称,会议的成功举行引领了未来谈论的操持,这些谈论将侧重于科学和技能性的建议——如何使AI系统与每个社会的法律法规、规范和代价不雅观保持同等。
一名不愿透露姓名的与会商判代表称,在日内瓦举行的会议,是在美国白宫,以及中国和英国政府官员知情的情形下安排的。对此,白宫方面谢绝置评。同时,OpenAI证明其环球事务团队的一名成员参加了日内瓦会商;Anthropic和Cohere谢绝就其参与会商揭橥置评;清华大学方面也没有回应置评要求。
参与会谈的人士透露,字节跳动、腾讯和百度等中国AI干系企业没有参加会商;虽然谷歌旗下前沿的AI企业DeepMind被奉告了会议谈论的细节内容,但也没有参加。
随着ChatGPT的爆火,其背后措辞模型——GPT也受到市场广泛关注。2023年3月15日凌晨,OpenAI正式推出GPT-4。图自IC Photo
《金融时报》补充先容称,这些会商是由谢赫集团调集的,这是一个于2015年创办、总部设在塞浦路斯的私人调度组织,旨在促进冲突地区(尤其是中东地区)关键行动者之间的计策对话。
“我们看到了将中国和美国在AI领域的紧张参与者聚拢在一起的机会。我们的紧张目的是强调在环球范围内广泛支配AI模型所带来的薄弱性、风险和机遇。”该集团创始人、首席实行官萨尔曼·谢赫(Salman Shaikh)表示。
“在我们看来,认识到这一事实可以成为协作进行科学事情的基石,终极形成环绕AI模型安全性的环球标准。”他说道。
《金融时报》指出,如今已有越来越多的人开始呼吁紧张大国之间进行互助,以应对AI的崛起。
去年11月,环绕着OpenAI首席实行官萨姆·阿尔特曼(Sam Altman),该公司曾上演一出“宫斗戏”。路透社援引两名知情人士宣布称,此前有几名研究职员曾致信董事会,警告称一项强大的人工智能成果(名为“Q”)可能会威胁到人类。人士称,这封此前未被宣布的信函和个中提到的人工智能算法,是董事会开除阿尔特曼的“关键导火索”,这封信让董事会产生了担忧,并对阿尔特曼产生了诸多不满,并终极开除了他。
同样是在去年11月,首届环球人工智能安全峰会在英国布莱切利公园举行,包括中国、美国、英国和欧盟在内的超25个国家代表以及马斯克、OpenAI创始人兼CEO阿尔特曼等科技巨子与会。11月1日,与会国签署“布莱切利宣言”,赞许通过国际互助,建立人工智能AI监管方法。
2023年11月2日,英国布莱奇利公园,首届人工智能安全峰会举行,阿尔特曼出席。图自澎湃影像
去年7月,谷歌、亚马逊、脸书母公司Meta、微软以及其他三家AI企业已经同拜登政府签署了这一事关AI领域的志愿承诺协议。《华盛顿邮报》称,从ChatGPT母公司OpenAI到Photoshop开拓商Adobe,美国最具影响力的15家企业目前已经作出承诺,包括开拓识别AI天生图像的技能,并誓言与政府和学术界分享有关安全的数据。
去年9月,白宫发布宣告,英伟达、IBM和Adobe等八家企业已经签署了拜登政府关于AI的志愿承诺协议,以帮助推进白宫所称的“安全、可靠和值得相信的AI发展”。承诺协议内容中,哀求这些企业对AI天生内容采纳添加水印等步骤。
而在中国,喷鼻香港《南华早报》曾宣布称,只管AI在推动经济发展和促进家当转型方面具有计策意义,但其快速发展也引起了人们的担忧,可能存在的风险涉及知识产权、隐私和敲诈等。为此,中国已经在遏制风险方面迅速行动。
去年8月15日,由国家互联网信息办公室等七部门联合发布的《天生式人工智能做事管理暂行办法》正式施行,这是我国首个针对天生式人工智能家当的规范性政策,也是环球第一部人工智能天生内容管理办法。
此前,中邦交际部发言人汪文斌曾指出,中方支持在联合国框架下谈论人工智能管理,增加发展中国家代表性和发言权,推动形成具有广泛共识的人工智能管理框架和标准规范。“中方欢迎各国政府、国际组织、技能企业、科研院校、民间机构等各主体秉持共商共建共享的理念,协力共同促进人工智能管理。”汪文斌说。
本文系不雅观察者网独家稿件,未经授权,不得转载。