人工智能是否能修正代码自我升级，并变得具有攻击性？
在人工智能的时期中，身为人类的意义是什么？
人工智能能否超越并终极取代人类？
...
近日在世界顶尖科学家论坛·科学T大会探求“未来科学家”重磅活动——“顶科讲座”中，数位来自海内各地的高中生向2007年图灵奖得主约瑟夫·斯发基斯发出了关于机器、人类和未来天下的提问。
“顶科讲座”现场截图
自20世纪50年代“人工智能”一词被创造以来，关于人类与人工智能的谈论层出不穷。人工智能领域的发展一贯备受关注，而其发展对人类自身意味着什么则更受到更多关怀。
如果创造出像人一样的机器人，那人类与机器人是什么关系，边界在哪里？机器觉醒是否真的能实现？真正意义的强人工智能会带来哪些潜在风险？研究人工智能和机器学习领域的科学家作为探索机器与人类未来关系的践行者，也容许以带我们一不雅观。
知识VS智能，实在是一种哲学
2007年图灵奖得主、天下顶尖科学家协会会员约瑟夫·斯发基斯的新书Understanding and Changing the World From Information to Knowledge and Intelligence 于近日正式出版。
图 | Springer
这既是一本脱销科普读物，又充满了哲思，彷佛很难对其进行单一的归类。与一样平常的脱销书不同，斯发基斯教授在书中提出了基于打算、知识和逻辑理论的天下不雅观，既全面而严谨地阐述了“信息”和“知识”的基本问题，以及如何对知识加以运用，又从哲学角度磋商了机器和人类、塑造个人代价与加强社会凝聚力之间的关系等深刻话题。
斯发基斯教授认为，信息作为一个无形实体的观点，是由打算机和人类开拓和利用的；而知识作为真实有用的信息，是非常主要的无形资产，使我们能够理解天下，乃至改变天下。他阐述了人类和打算机的知识生产和运用的过程，剖析二者存在的差异。
谈及什么是智能，斯发基斯教授表达了独到的不雅观点，“智能是学习、理解和思考的能力，是看待天下万物的逻辑办法以及做好这件事的能力。”
机器智能是不是神话？目前与人类智能还有很大差距
在2021年天下人工智能大会上，斯发基斯教授曾畅谈了关于“从弱人工智能到强人工智能到广义人工智能”的话题。在新书中，他对人类和机器智能进行了详细的比较，从人类智能的特点出发，剖析弱人工智能达到人类水平的环境感知和决策能力的技能困难。
“虽然如今存在超越人类思维的机器，能够更快、更准确地皮算并办理打算难题，但机器在态势感知能力，面对环境的寻衅，以及创造性思维方面无法超越人类。”他认为通过逐步改进机器学习技能，无法实现强人工智能的愿景，开拓值得相信的自主系统或许是缩小人机警能之间差距，迈向强人工智能的大胆一步。
图 | WLA
斯发基斯教授在书中详细阐释了自主系统的观点和运作办法，他认为自主系统可以帮助人类战胜天生的认知局限，预测繁芜事宜，同时也谈论了自主系统成功开拓后将面临的伦理问题，以及人类和机器如何分工等假设和真实存在的风险。
正是对自主系统设计的研究深刻地启示了斯发基斯教授关于智能和意识的想法。在书的末了，他阐明了个人意识作为一个自主系统的功能，即根据代价标准和积累的知识来管理短期和长期目标，同时谈论了个人代价不雅观如何在社会中形成，以及制度在培养和掩护一套共同代价不雅观以加强社会凝聚力方面的浸染。
图灵大佬与顶科论坛的不解之缘
出生于希腊的法国打算机科学家约瑟夫·斯发基斯现如今是国际嵌入式系统研究中央Verimag实验室的名誉研究主任。他因“开拓可以检测打算机硬件和软件中的设计缺点的自动化方法”，与埃德蒙·克拉克和艾伦·爱默生共获2007年图灵奖。目前的研究重点是设计值得相信的自主系统。
自2019年起，斯发基斯教授连续三年参加天下顶尖科学家论坛，并揭橥了诸多主要发言和重磅不雅观点，其书中关于打算、知识、智能和逻辑理论的哲思在历届论坛中即可见端倪。
在第二届天下顶尖科学家论坛莫比乌斯论坛上，斯发基斯教授就强调了知识的主要性，磋商人类和打算机如何分工，倡导创造阐明机器学习的新理论。
参加第二届天下顶尖科学家论坛 图 | 澎湃新闻
在第三届天下顶尖科学家论坛上，斯发基斯教授分享了“自主系统”的观点。自主系统的一个主要特色是它们管理基于系统本身及外部环境的知识，个中自学习能力非常主要，这正是目前的机器智能所欠缺的。他认为，短期内真正建立自主系统的可能性很低，至少须要耗费几十年的韶光。
过去几年，斯发基斯教授一贯专注于研究自动驾驶汽车。他提出，自动驾驶的发展将由“自动化”走向“自主化”，自动化阶段人类司机仍应负有任务，而自主化阶段机器将能够独立做出决策。他表示：“如果我们能够建立自主交通系统，那么这将为缩小机器和人类智能之间的间隔迈出一大步。”
参加第四届天下顶尖科学家论坛 图 | WLA
第四届天下顶尖科学家数字未来论坛谈论了关于“人工智能未来将如何改变天下”这一话题。在斯发基斯看来，无论是当前具备一定决策能力的弱人工智能系统，抑或是发展到未来的具有完备自主性的强人工智能，人在个中的参与和代价都是无法被忽略的。基于安全性、伦理、法律等层面的考虑，人工智能的自主系统如何与人类相互合营，会是未来重点考量的主题。
科学家先容
约瑟夫·斯发基斯，天下级自主系统领域专家，2007年获图灵奖，国际嵌入式系统研究中央Verimag实验室名誉研究主任。紧张研究成果为“将模型检讨理论发展为被硬件和软件业中所广泛采纳的高效验证技能”。这项技能本日被运用于集成电路工业中，以便设计繁芜的系统，而且能使其担保符合预设的规范。模型检讨在嵌入式处理器和关键系统方面所能带来的家当影响在未来的几年里将会更加显著。