量子位 | 公众号 QbitAI
“AI确实可能杀去世人类。”
这话并非骇人听闻，而是OpenAI CEO奥特曼的最新不雅观点。
而这番不雅观点，是奥特曼在与MIT研究科学家Lex Fridman长达2小时的对话中透露。
不仅如此，奥特曼谈及了近期环绕ChatGPT产生的诸多问题，坦承就连OpenAI团队，也根本没搞懂它是如何“进化”的：
从ChatGPT开始，AI涌现了推理能力。但没人能解读这种能力涌现的缘故原由。
唯一的路子是向ChatGPT提问，从它的回答中摸索它的思路。
针对马斯克在推特上的“危险论”，他直言：
马斯克在我心中是英雄，我支持也理解他的担忧。
虽然他在推特上挺忘八的，但希望马斯克能看到我们在办理AGI安全问题上付出了多大的努力。
除此之外，在这场对话过程中，奥特曼还提到了不少刁钻的话题，例如：
ChatGPT、GPT-4开拓的底细GPT-4是人类迄今所实现的最繁芜的软件如何看待大家拿ChatGPT越狱……在看过这场对话之后，网友直呼：
两位AI大佬用大家都能理解的办法聊AI，多来点这样的访谈。
那么接下来，我们就来一同看下他们这场深度对话。
GPT-4底细大曝光GPT-4是这场对话中最受关注的部分。
它是如何演习的？如何在演习模型时避免摧残浪费蹂躏算力？如何办理AI回答不同代价不雅观的人的问题？
首先是演习过程，依旧是预演习+RLHF，不过透露了一点详细细节。
GPT-4早在去年夏天就已经演习完成，后面一贯在进行对齐事情，让它表现得更符合人类需求。
比较预演习数据集，RLHF所用的数据非常少，但效果是决定性的。
对此，奥特曼透露了一点数据来源，包含一些开源数据集、以及互助商供应的部分数据集。
当然，数据集中也有一点Reddit论坛上涌现的迷因梗（meme），但不是很多。对此奥特曼遗憾表示：
如果再多点，它的回答可能会更有趣。
即便如此，团队乃至奥特曼自己依旧不能完备解读GPT-4。
目前对它的解读办法，依旧是通过不断问它问题，通过它的回答来判断它的“思路”。
而就在不断测试中，OpenAI创造从ChatGPT开始，GPT系列涌现了推理能力。
虽然ChatGPT绝大部分时候都被当做数据库利用，但它确实也涌现了一定的推理能力，至于这种能力详细如何涌现的，目前却无人能回答。
但大模型的演习每每意味着大量算力需求。对此奥特曼再次提到了OpenAI独特的演习预测方法：
即便模型很大，团队目前也有办法只通过部分演习，预测全体模型的性能，就像是预测一名1岁的婴儿能否通过SAT考试一样。
关于这一点，在GPT-4论文和官方博客中也有更详细先容。
末了奥特曼承认，GPT-4确实存在应对不同代价不雅观的人的问题。
临时办理办法便是把变动系统（system message）的权限开放给用户，也便是ChatGPT中常常见到的那段“我只是一个措辞模型……”。
通过改变系统，GPT-4会更随意马虎扮演个中规定的角色，比在对话中提出哀求的重视程度更高，如规定GPT-4像苏格拉底一样说话，或者只用JSON格式回答问题。
以是，对付GPT系列来说，谁最可能载入人工智能史册？奥特曼倒不认为是GPT-4：
从可用性和RLHF来看，ChatGPT无疑是最具里程碑的那一个，背后的模型没有产品的实用性主要。
最会打太极的CEOGPT-4论文中没有透露参数规模、演习数据集大小等更多细节，还被外界吐槽越来越不Open了。
在这次访谈中，面对主持人步步追问，奥特曼依旧守口如瓶。
GPT-4预演习数据集有多大？奥特曼只是很笼统的先容了有公开数据集、有来自互助伙伴的内容（如GitHub供应的代码）还有来自网络的内容。
活像ChatGPT也能写出来的那种赛博八股文，只有在谈到Reddit的时候透露了网络梗图在演习数据中占比不大，“不然ChatGPT可能更有趣一些”。
GPT-4模型参数量有多大？奥特曼只是说之前疯传的100万亿参数是谣言，然后又乱来过去了。
我认为人们被参数竞赛所吸引，就像过去被CPU的主频竞赛所吸引一样。现在人们不再关心手机处理器有多少赫兹了，关心的是这东西能为你做什么。
不过奥特曼对付一种说法是持有肯定态度——“GPT-4是人类迄今所实现的最繁芜的软件”。
但在主持人Lex溘然抛出一些时下针对GPT-4的尖锐不雅观点时，奥特曼的应对也堪称“AI般淡定”（狗头）。
例如，关于前段韶光闹得沸沸扬扬的GPT-4越狱问题。
一名斯坦福教授仅仅用30分钟，就勾引GPT-4制订出了越狱操持，并全部展示了出来。
对此奥特曼表示，就犹如当年iPhone也面临被“黑”或者说越狱的问题（如当年免费的越狱版App Store）一样，这并非不能办理的事情。
奥特曼乃至坦承，他当年就把自己的第一台苹果手机越狱了——乃至当时以为这是个很酷的事情。
但现在已经没有多少人去干苹果越狱的事情了，由于不越狱也足够好用了。
奥特曼表示，OpenAI的应对思路同样如此，即把功能做的足够强，他乃至表示，乐意在这方面给用户开更多权限，以便理解他们到底想要什么。
除此之外，Lex还提到了马斯克对付奥特曼的批评。
奥特曼虽然是当年被马斯克一手提拔的人才，但如今马斯克不仅退出了他们联手创办的OpenAI，还对OpenAI现状十分不满，常常在推特上阴阳怪气这家公司。
我捐1亿美金成立的非营利组织怎么就变成一个300亿市值的营利性公司了呢？如果这是合法的，为什么其他人不这样做？
作为OpenAI现任CEO，奥特曼并未直接回应此事，而是调侃了一下马斯克在航天领域也常常被“老前辈”们批评的事情。
这一系列采访问答，不禁让人想到在ChatGPT发布后，奥特曼对付“将ChatGPT整合进微软必应和Office”问题的回应办法：
你知道我不能对此揭橥评论。我知道你知道我不能对此揭橥评论。你知道我知道你知道我不能对此揭橥评论。
既然如此，为什么你还要问它呢？
GPT的“偏见”不会消逝GPT在迭代过程中“偏见”一定存在，它不可能保持完备中立。
在主持人提到关于ChatGPT以及GPT-4种存在的偏见问题时，奥特曼这样回应道。
ChatGPT在推出之初，就不是一个成熟的产品，它须要不断迭代，而在迭代的过程中，仅仅依赖内部的力量是无法完成的。
“提前”推出ChatGPT技能，是要借助外部天下的集体聪慧和能力，同时也能让全天下参与进“塑造AI”的过程中。
而不同人对付问题的意见也各不相同，以是在这个过程中，“偏见”问题就不可避免。
乃至奥特曼在话里话外也透露着：在GPT中，“偏见”永久不会消逝。
他将外部参与培植GPT比作“公开领域培植的权衡”。
GPT天生答案是个性化掌握的结果，迭代的过程则是更精准地掌握“个性化”的过程。
有趣的是，期间奥特曼还暗戳戳“背刺”起了马斯克的推特：
推特摧毁掉的多元性，我们正在将其找回来。
（嗯，奥特曼是懂一些话术的）
当然，谈到ChatGPT，总绕不开其背后的公司OpenAI，在成立之初，它就立下了两个Flag：
1、非营利性2、通用人工智能（AGI）如今，已经由去八年之久，这两个Flag也是发生了巨大的变革：AGI的大旗还在高举，而非营利性这面旗则已经风雨飘摇。
对此，奥特曼也是分别作出了回应。
对付OpenAI“非营利性子”的逐渐削弱，奥特曼直言：良久之前，就已经意识到非营利性不是长久之计。
仅仅依赖非营利筹集到的资金对OpenAI的研究来说远远不足，商业化是一定选择。
但在之后奥特曼也试图“找补”回一些，称目前的商业化的程度仅止于知足投资者与员工的固定回报，剩余资金还是会流向非营利性组织。
提到AGI，一开始在OpenAI声称要做通用人工智能时，还有一堆人在嘲讽，如今做出GPT-4这样的产品，回过分来再看，嘲讽的声音已经越来越少了。
而面对外界讯问“GPT-4是AGI吗”这样的问题时，奥特曼则是直接给出了自己理解中的AGI：
AGI所节制的知识该当是要超过人类科学知识总和的，并且具有创造性，能够推动根本科学的发展；
而目前所有GPT并不能做到这些，想要达到AGI还须要在目前GPT的范式上进行拓展，至于如何拓展，正是目前所缺少的。
值得一提的是，谈到AGI时，是奥特曼在访谈中鲜有的“两眼放光”的时候。
他抛出了一句极具“科研分子空想情怀”的金句：
大概AGI是永久抵达不了的乌托邦，但这个过程会让人类越来越强大。
但奥特曼并不否认过分强大的AGI“可能杀去世人类”这一不雅观点：
我必须承认，（AI杀去世人类）有一定可能性。
很多关于AI安全和寻衅的预测被证明是缺点的，我们必须正视这一点，并尽早考试测验找到办理问题的方法。
One More Thing在发言末了，Lex Fridman还试图让奥特曼讲一些给年轻人们的建议，奥特曼直接来了个“反鸡汤文学”：
网络上的“成功学”帖子太诱人，建议不要听太多建议。
我便是忽略建议做到现在这样的。
参考链接：https://www.youtube.com/watch?v=L_Guz73e6fw
— 完 —
量子位 QbitAI · 头条号签约
关注我们，第一韶光获知前沿科技动态