马斯克等千人呼吁停息人工智能演习，以应对潜在风险
1000多名人工智能领域专家与行业高管在公开信中呼吁，停息演习比现阶段GPT-4更强大的人工智能系统。联名签署人还包括人工智能先驱本吉奥、美国前总统候选人杨安泽等。
信中写道，具有与人类竞争智能的人工智能系统，可能对社会和人类构成重大风险。人类必须问自己，是否该当把所有事情都自动化，包括那些让人们有知足感的事情，又是否该当开拓非人类大脑，而它可能比人类聪明、甚或终极会淘汰并取代人类。
公开信指，近期年夜家工智能实验室争相研发更强大的数字思维，然而没有人能准确预测或掌握进一步研发的后果。他们主见停息时长至少6个月，期间人工智能实验室与独立专家可共同开拓一套用于进阶人工智能研发的安全协议。
与此同时，希望研发者和政策制订者在管理和监管机构方面共同互助，推进人工智能管理系统开拓进程。从而防止人工智能对人类社会的潜在风险，应对人工智能可能对人类政治、经济，尤其是民主方面造成的巨大毁坏。
同样签署联名信的纽约大学教授马库斯则在一篇博客文章表示，他更担心“普通的人工智能”广泛被犯罪分子或胆怯分子利用。
欧洲刑警组织27日警告称，人工智能谈天机器人可能会在网络钓鱼、虚假信息宣扬和网络犯罪中滥用。干系研发团队尚未对公开信有所回应。
凤凰不雅观察：人工智能和人类的关系应是互补和互助
马斯克联同千名人工智能专家与行业高管呼吁停息人工智能演习，对此业内有何不雅观察？若连续演习比GPT-4更强大的AI系统，究竟会对人类与社会带来若何的危急与风险？如何看待人工智能与人类的竞争？两者能够做到平衡发展吗？以下内容摘自喷鼻香港大学打算机系助理教授孔令鹏师长西席的剖析和点评——
这样的担忧也侧面反响出近期的人工智能，尤其是自然措辞处理领域的快速发展，我们不太会去担心一个人工智障系统。
从去年12月以来，ChatGPT发布到现在短短三四个月的韶光，我们实在看到特殊多让人感到愉快的技能进步以及利用，马斯克等人的呼吁本身是有积极意义的，它能够提醒大家去更多地关注人工智能技能的发展。但是呼吁立即停滞这件事情，可能是经典的“囚徒困境”问题，末了或是不能成型。
人类发明的很多工具都是“双刃剑”，比如AI可以用来做一个很好的客服，同时也就解释了它有可能会被用来进行电信诱骗。
而从大的方面来讲，AI的发展可能会对事情劳动所做的内容以及构造产生很大影响，也会对人类的伦理代价不雅观念和意见产生潜在影响。
其余，还有旧调重弹的，即AI对付隐私以及个人数据安全的风险，这些是须要通过技能、通过立法、通过社会广泛参与，来寻求一个更好更负任务的办理办法。
我以为人工智能与人类该当是互助互补关系，而非竞争关系。现在的AI系统还是能够帮我们节省韶光，能够帮我们在更短的韶光去完成更多的事情，我们是能够从这些东西当中获益的，但我们须要让AI系统去学习更多人类的代价不雅观和道德不雅观念，从而让它能够更好地为人类做事，这也是我们现在研究的重点问题之一。只有这样子才能够使这些AI系统末了和人类形成互助互补的关系，从而能够使全体社会终极受益。
来源：凤凰卫视资讯台
编辑：木木