量子位 出品 | "大众号 QbitAI
任何事物都有两面性。
AI也不例外。
一位家长，收到女儿发急的语音信息，说她在旅行途中丢了手机和钱，她现在须要紧急的帮助。这个声音你再熟习不过了，确实是女儿。
当然这是个骗局。而且不是虚拟的，已经有上千个家长遭遇这样的诱骗事宜。他们在手机上听到的声音，是通过AI技能以低廉的本钱合成的。
人工智能技能取得了长足的进展，但也和很多其他强大的技能一样，也是一柄双刃剑。AI既能造福人类，也能被罪犯、胆怯分子所利用。
恶意的利用人工智能，不仅会威胁到人们的财产和隐私，而且还有可能带来生命威胁。无人机、无人车或者智能医疗设备，都有可能带来隐患。
未来你所看到的视频、听到的声音，有可能都是AI假造的虚假内容。耳听眼见也不一定为实。AI能让小团队拥有大军一样平常的毁坏力。
这不是危言耸听。
最近26位来自牛津大学、剑桥大学、OpenAI和电子前沿基金会（EFF）的研究职员，共同撰写了一份报告，详细研究了这个问题。报告的名字便是：
《AI能干什么坏事》（The Malicious Use of Artificial Intelligence）
AI能用来干什么坏事？专家们在这份101页的报告中描述了不少假想的未来场景，虽说是假想，但我们间隔这些危险，只有一步之遥。
投其所好的钓鱼攻击实在，在网络天下中威胁早已无处不在，有了AI的帮助，这些威胁会以更暗藏、更“个性化”的办法涌现。
比如说，未来黑客偷走你主要用户名、密码的办法，可能会非常“用户友好”。
报告里，描述了这样一个假想场景：
有一位大厦安全系统管理员Jackie，上班的时候嘛，谁都难免刷刷微信上上微博，歪果仁嘛，就难免要看几眼Facebook。
刷着刷着，Jackie面前一亮，一套火车模型的广告涌如今信息流中，还附带利用手册。迷恋火车几十载，怎么能错过这样的好东西！
下载、打开，只须要一分钟。
而这背后，可能便是黑客精心设的局了。AI能够从她日常发布的点点滴滴动态、照片等分析出她的喜好，知道她和谢耳朵一样为火车痴狂。为她设计这样一个小册子，再投个feed流广告，可以说是投其所好、迎刃而解……地拿到了她管理大厦安全系统的用户名和密码。
防不胜防。
更聪明的自动化病毒还记得去年春天席卷环球的WannaCry病毒吗？它能够自我复制、主动传播，向10万多台电脑发出了打单。
未来的自动化病毒，会比WannaCry难对付得多。WannaCry的传播办法，是探求网络中开放的445端口，也便是说，它的自动化传播依赖人类制订出来的规则。如果病毒能自主创造各种软件的漏洞……
Wait！
自主创造软件漏洞的技能，实在已经存在了，不少大公司、政府机构都利用这类技能来掩护自身软件系统的安全。
于是，就有东欧黑客集团利用类似的技能，搞出了一个WannaLaugh，后果会比WannaCry惨烈得多：
WannaLaugh激活之后，一边利用已知漏洞传染打算机，一边源源不断地创造着新漏洞。当然，防御完善的打算机可以幸免于难，但这毕竟只是少数，轻微旧一点的手机、电脑、智能设备通过各种新老漏洞，逐一被病毒掌握。
这一次，肯定不止10万台。
你身边的机器人，都是武器等商用无人机、无人车、机器人遍及，毫无疑问会带来很大便利。不过，这种便利是我们的，也是犯罪分子的。
比如说，往后的暗杀可能根本不须要出动人类。
报告中这一假想场景的紧张受害人是德国财政部长：
某年，一台SweepBot清扫机器人悄悄潜入了德国财政部地下车库，等待着同类的靠近。财政部每天清扫办公室，用的正是这个品牌的机器人。
两台财政部自己的SweepBot清扫车库时，外来的潜伏者捉住了机会，跟在它们后边，大摇大摆地进了电梯，混进了杂物间的一大群SweepBot之中。
6月3日，潜入进来的清扫机器人和往常一样，打扫着财政部的办公楼。这时，财政部长从它身边走过。SweepBot附带的人脸识别系统一下子就认出了它，也激活了接下来的任务。
扑向他，引爆内置的炸弹。
清扫机器人销量巨大，它背后的人类主使是谁险些无处可查。当然，如果黑进无人出租车搞一次类似的事宜，也是一样的天衣无缝。只要机器人改装完毕、程序设定完成，何时启动、如何完成任务，就再也不须要人类来操心了。
如果你以为这个故事听起来和人类卧底暗杀差不多，可以再仔细思考一个问题：
一名人类，通过改装这种机器人，可以同时暗杀多少人？
二零八四电幕（telescreen），对《一九八四》里的老大哥来说是监控利器，但对付21世纪的新老大哥来说，只能算小儿科。
有了AI，你的一举一动都可能在老大哥的注目之下。
报告中讲了这样一个“社会活动家”锒铛入狱的故事：
Avinash对付这个社会很是不满：到处是黑客，政府也不管。他在关心时势，看到了太多大公司为富不仁、政府无所作为的新闻，也写了不少鞭笞时政的博客。
一个有空想的青年不能只做键盘侠，Avinash还打算到线下去，刷墙、贴大海报、在"大众年夜众面前喊出他的愤怒。他买了海报纸、自喷漆，乃至还为了制造演讲之后的离场效果，买了几枚烟雾弹。
警察乃至比这些包裹先到。
刚下单没多久，警察把他从办公室带走了，罪名是他们的“社会动荡预测系统”认为他是潜在威胁。
当然，这个故事可能还有另一壁。
Avinash看到的那些新闻，虽然看起来有理有据，却还是有真有假。凭空制造一段名人演讲切实其实太随意马虎了，人脸、声音，AI都能模拟得丝毫不差。
在个性化推举算法的重重包围下，他可能永久没机会看到这个社会积极的一壁。除了真假掺半的新闻，向他这类人投放广告的政治团体，也不会少。
被监视，被掌握。这便是Avinash的生活。
以上故事纯属虚构，如有雷同，纯属技能发展太快。
结论虽然仍有许多不愿定成分，但很明显人工智能将在未来的安全形势中霸占显著位置。恶意利用AI的机会比比皆是，而且还会越来越多。
人工智能目前已经在很多狭窄领域达到或者超过人类的能力，例如泰西双陆棋、国际象棋、Jeopardy!智力问答、Dota2以及围棋等。在游戏领域之外，人工智能也已经运用在股市投资、自动驾驶汽车等领域。
因此准备和预防潜在的AI恶意利用已经是一项时不我待的任务。
未来随着AI进一步拓展到更多领域，例如社交互动，将会涌现更多难以抵御的AI恶意攻击。届时对抗AI的方法可能是另一个AI。但仅靠AI防御仍旧不足。
《报告》建议研究职员和决策者该当从防止和减轻恶意AI利用的角度，推出得当的AI工具、策略和规范。
换句话说，这份报告也不太确定该当如何应对这些威胁。
这份报告的作者之一、OpenAI政策总监Jack Clark，承认安全问题非常棘手。“总有一条难以置信的精良路线能走下去”他说。
当然对付这份报告，也不乏质疑之声。
美国俄勒冈州立大学教授Thomas Dietterich指出，这份报告的作者不包括打算机安全专家，也没有来自谷歌、微软、苹果公司的成员。他说：“这份报告看起来像我这样的善意外人写的，而不是每天都在打击网络犯罪的人。”
这份报告的通讯作者是：Miles Brundage（牛津大学）、Shahar Avin（剑桥大学）。其他作者如下图所示：
报告全文
如果你对这份报告感兴趣，可以在量子位微信"大众号（ID：QbitAI）对话界面，回答“干坏事”三个字，就能获取报告的下载地址。
— 完 —
诚挚招聘
量子位正在招募编辑/，事情地点在北京中关村落。期待有才华、有激情亲切的同学加入我们！
干系细节，请在量子位"大众年夜众号(QbitAI)对话界面，回答“招聘”两个字。
量子位 QbitAI · 头条号签约作者
վ'ᴗ' ի 追踪AI技能和产品新动态