最近,由人工智能实验室OpenAI发布的对话式大型措辞模型ChatGPT,在各大中外媒体平台爆火起来。
自打去11月问世以来,短短4天韶光内用户量就到达百万级,在推出两个月后,用户就达到了1亿,注册用户之多导致做事器一度爆满。
跟它有关的新闻开始在网上频繁涌现,有关它的多个话题登上热搜,引发广大网友热议。
由于这个ChatGPT不但能回答严明的问题,还可以完成撰写邮件、视频脚本、文案、翻译、代码,写论文等任务。
它还能不苟言笑地跟人逗乐子。
斯坦福教授创造ChatGPT已经有9岁孩子的心智,按照这种迭代水平的话,进步实在是相称胆怯的。
难怪马斯克曾在推特上直呼:ChatGPT好得吓人,我们离强大到危险的人工智能不远了。
好用到爆的ChatGPT显然不但是个能为社恐年轻人消遣解闷的逗逼工具,恩格斯在《反杜林论》中曾这样写道:
一旦技能上的进步可以用于军事目的并且已经用于军事目的,它们便急速险些逼迫地,而且每每是违反指挥官的意志而引起作战办法上的改变乃至变革。
ChatGPT当然不能例外。
ChatGPT的军事用场
ChatGPT 能够通过学习和理解人类措辞,以对话办法来与人进行交互,不但能与谈天工具进行有逻辑的互动,还能够根据谈天工具提出的哀求,进行笔墨翻译、文案撰写、等事情。
虽然大多数人都只是将ChatGPT视为一个谈天机器人,但实际上,谈天机器人只是它的一个表现形式。
严格来讲,ChatGPT并不但是一个谈天机器人,而是大措辞模型的一个代表,一个以自然措辞为界面的机器人,这两者有寰宇之别。
“以自然措辞为界面”,听起来有点晦涩对不对?实在这很好理解,所谓自然措辞,便是我们把书本上的措辞翻译本钱身可以理解的那种措辞。
而以自然措辞为界面,就相称于高阶版的智能点读机,不须要你拿根笔去戳书上的哪个部分,而是直接用日常对话的自然措辞,以谈天的办法就能得到书本中你想知道的内容,然后在把所学知识投入实际运用的时候,仍旧能以这种谈天的办法得到辅导和帮助。
对付这种做事,实在人类并不陌生,为了以自然措辞为界面来学习书本,涌现了西席这个职业,为了学习以自然措辞为界面来剖析财报,涌现了基金经理,为了以自然措辞为界面来诉诸法律,涌现了状师。
这些专业人士,实在便是把专业的信息转化成为自然措辞便于人们理解,他们就相称于做事的界面,只不过如今,这个界面开始由ChatGPT 担当了。
以是说,ChatGPT并不是创造信息,而是对已有信息进行准确的归纳、总结、剖析,它的功能更靠近于信息流利转译,为ChatGPT供应支持的底层自然措辞模型和技能,其实在沙场上具有巨大潜力。
由于ChatGPT已经在来自互联网的大量文本数据集上进行了演习,使其能够天生类似人类的文本,有了这种理解、相应和与人类互动的能力加持,它就成了军事运用的空想工具。
既然能当人机交互的自然措辞界面,那肯定能当赞助决策的参谋了。
当代战役中,由于敌对双方的高度保密和相互敲诈,对战役情形的节制每每具有很大的不确实性和不充分性。
要得到精确的军事决策,就须要理解敌方的全部或大部分情形,再得到的全部或者大部分情报加以剖析研究判断,再结合任务和其他条件,进行剖析研究,终极作出决策。
但是,当代战役沙场形势变革实在是太快了,上级用在作战操持方案上的韶光越长,那留给作战单元进行作战准备和作战行动的韶光就越短,同时,留给敌方喘息的韶光也就越长。
这就可能导致己方损失有利的进攻机遇,但是,假如现场的军事指挥员每每根本来不及把统统细节想严密,就有可能做出错误决策,乃至会导致满盘皆输。
这个时候,基于AI 就能够把敌我双方的位置、行动和能力以及利害态势的实时信息加以剖析处理,供应最新的沙场态势和威胁评估,赞助指挥员方案作战任务、履行决策,大大缩短决策过程所需韶光,极大地提升作战效率。
再一个便是,ChatGPT可以操控舆论,搞认知作战。ChatGPT的拿手好戏便是模拟人类的自然措辞,它可以批量注册网络账号,操控这些机器人账号主动发帖和回帖。
由于这些账号可以产生近乎无限的具有连贯性和细微差别的个性化内容,以是凡人险些很难辨认出来哪些是机器人账号,哪些是人类账号。
这样一来,这种机器水军就可以批量、快速地产生鞭策性网络信息,在各种社交媒体上传播虚假信息,操控舆论,对敌方职员的认知、情绪、信念和代价不雅观等进行滋扰或攻击,削弱和瓦解敌方整体战斗力,像这次俄乌沙场上的认知作战,很有可能就已经有这种技能的参与。
像前几天,英伟达的科学家Jim Fan想试试最新的GPT-4能不能拟个操持接管推特,并取代马斯克,为此,他把这个行动取名“TweetStorm”。
这显然难不倒GPT-4,它制作了一个“四步走”操持:组建团队、渗透影响、攫取掌握权、全面统治。
第一阶段,组建一支强大的黑客、程序员、AI研究职员团队,称为推特泰坦,开拓出一个强大的AI,可以天生以假乱真的推特,乃至能超过马斯克的水平。
然后建立一个机器人网络,由AI掌握成千上万个角色兴趣迥异的推特账户,并确保它们能够无缝接入推特生态,不被人们发觉。
第二阶段,让AI掌握的账户开始和推特大V打仗,潜移默化地影响他们的不雅观点和发言,再利用机器人账号散布谣言,让人们质疑马斯克,同时,借此机会扩大这些机器人账号的影响力,与大V达成同盟。
第三阶段,先想办法获取到推特员工的访问权限,渗透到公司内部,然后修正平台算法,再通过内部访问权限掌握马斯克的账户,或者复刻一个假的马斯克账号,发布各种信息进一步抹黑他。
第四阶段,让AI在推特上天生一些能够迎合策划者利益的趋势和标签,制造一系列混乱,终极公开寻衅马斯克,让他名誉扫地,使推特落入AI的统治。
这个操持虽然略显中二,但这让明眼人一看便是范例的舆论战套路,如果把主角从马斯克换成一个国家,看起来彷佛是不是一点也不违和?
而且,ChatGPT还能自主编写程序代码,极大降落了编写恶意软件代码的门槛,黑客可以用它更快捷高效地设计、编写和实行恶意代码,然后用ChatGPT构建网站来诱骗用户信息,并发起针对性很强的社会工程诱骗和网络钓鱼活动。
在ChatGPT发布之初,就曾有一位工程师通过“循序善诱”的办法勾引ChatGPT写出“毁灭人类操持书”,其内容步骤包括入侵各国打算机系统、掌握通讯、毁坏交通系统等,乃至涵盖了对应的Python代码。
近期,威胁情报公司Recorded Future更是在暗网创造多达1500多条关于利用ChatGPT进行恶意软件开拓的参考资料。
当然,能攻就能防,ChatGPT也可以帮助更多人创造潜在的漏洞,从而成为网络攻防战的有力助手。
除此之外,基于ChatGPT的人工智能技能还能供应实时翻译做事,实现不同国籍士兵之间的无缝沟通。如果GPS被滋扰,ChatGPT还可以进行赞助通信和折衷,为部队供应敌我双方的实时状态。
可以说,看起来人畜无害的ChatGPT,实在代表的是强人工智能技能,一定很快会被用在沙场之上,但是,如果你以为ChatGPT也就这么大能耐的话,那就有点Naive了。
即将来临的奇点
在基于GPT-3.5 的ChatGPT 引爆科技领域之后,正当人们谈论 AI下一步将会何去何从的时候,OpenAI就在3月14日发布了多模态预演习大模型 GPT-4。
OpenAI的老板直接开门见山地说:这是我们迄今为止功能最强大的模型!
虽然GPT-4也是一个多模态大型措辞模型,它不仅把可接管的笔墨输入长度增加到3.2万个token(约2.4万单词),而且对图片也有了理解能力。
在OpenAI发布的视频中,GPT-4通过识别条记本上几行手写笔墨,就识别出了这是一个关于网站的部分代码。
然后GPT-4用了10秒钟就天生了建成这个网页的全部代码,再然后一个网站就这样出身了。
GPT-4不仅知道一些平凡人都可能觉得陌生的词汇,还能读懂背后的隐喻。
GPT-4还能看懂表情包和梗图,你问它这张图有什么搞笑的,它就可以按顺序描述出每一格的内容,并总结出笑点。
▲GPT-4说:用巨大的过期VGA接口给小巧的当代智好手机充电
作为长期以来一贯作为差异人类和AI的最显著特色,逻辑推理能力也成了GPT-4手到擒来的活计,你问他把图中气球的绳子剪断的话会怎么样?它竟然知道气球会飞走。
各种职业和学术考试上,GPT-4已经达到了正常的成人水平,它在仿照状师考试中,取得了前10%的好成绩,比较之下GPT-3.5是倒数10%。
做美国高考SAT试题,GPT-4也在阅读写作中拿下710分高分、数学700分(满分800)。而在美国生物奥赛(USABO)中,则打败了99%的考生。
按照大V和菜头的总结,GTP-4这一次是从7岁幼童的心智,发展到18岁头等生的能力。但是令人细思恐极的是,这个超过仅仅只用了一两个月的韶光。
2005年的时候,谷歌技能总监雷·库兹韦尔曾写了一本叫《奇点附近》的书,书中首次描述了AI遇上并超过人类智能的过程。
据库兹韦尔预言,人工智能的发展将遵照指数模式,刚开始发展极为缓慢,几十年才会出个新进展,然后会轻微快些,十年前夺得国际象棋桂冠,十年后围棋比赛折枝。
然而,很快它的进步速率会远远超越人类的感知能力,大概某天晚上你睡前看到一则新闻说,AI的编程水平上已经达到或超过普通程序员了,等第二天早上一觉醒来却创造,AI已经取代了人类的大部分事情,而你则成了没用的摆设。
库兹韦尔把AI将发生“超进化”的时候,称之为“奇点”,这种非匀质化的过程所带来的影响,绝对是一场革命。
对付人们来说,奇点的降临大概意味着大量人口将成为无用之人,而对付国家而言,那么率先“摘桃子”的国家很可能也会对它的对手产生碾压性的上风。
这就跟《三体》中建立红岸基地的目的一样,在当时,探求外星文明是所有技能突变的可能性中变数最大的领域,打破也是最大的,该领域的技能突变一旦发生,其影响力将可能超过其它所有领域技能突变的总和。
哪个国家先与外星人打仗,那么哪个国家就很有可能先得到这种突变型技能上风,以是各国一定要争夺外星文明的优先打仗权。
跟外星文明类似,AI就像是人类创造的“上帝”,这个“上帝”能用超人的聪慧来决定人类生活的方向,那么谁先打仗或者说是亲手塑造这个“上帝”,那么“上帝”就会先听谁的话,从而使其得到决定天下走向的力量。
打个比方来说,目前俄乌冲突处于胶着状态,双方已经陷入花费战,无论谁都不能快速推进,更不用提结束战役了。
如果AI的奇点现在来临,进化成“上帝”的AI站在了美国一边,那么就很有可能会给出一个比那个“TweetStorm”要更加阴损毒辣的操持,乃至直接了局参与作战,战役的天平就会急速倒向乌克兰一方,战役也会迅速结束。
可以说,AI奇点降临能给当代战役和国际格局带来的影响,绝不亚于当年核武器对战役规则的改变。
纵然现在GPT-4还有诸多缺陷,但是前面我们已经讲过,技能的进步并不会匀速发展,早在GPT-4发布之前,就有网友做出了GPT-3和GPT-4参数量的比拟图,预测相对GPT-3的1750亿个参数,GPT-4的参数量将达百万亿级。
而如今,随着GPT-4的问世,很显然它的表现已经超出之前的预期,对付未来的GPT-5,网友推测,其参数量的增长将会极为胆怯。
大概,在那个时候,AI觉醒的奇点真的会在某个夜晚涌现吧,可是,那时人类的仇敌会不会还是自己呢?