在IBM针对一家未透明名称的环球医疗保健公司1600 名员工进行的测试中,各有一半的员工分别收到了来自由真人和AI编写的钓鱼邮件,结果显示,14% 的员工误入了真人编写的钓鱼电子邮件并点击了恶意链接,11% 的员工则陷入了由ChatGPT 编写的钓鱼邮件。

由 ChatGPT 制作的钓鱼电子邮件(由 IBM 供应)

虽然由真人编写的钓鱼邮件在欺骗度上高于AI,但差距已经不大,更主要的是,研究职员只用了五分钟就让 ChatGPT 写出了一封钓鱼邮件。

领导这项实验的 IBM 首席人力黑客斯蒂芬尼·卡拉瑟斯(Stephanie Carruthers) 说道:““我的团队常日须要大约 16 个小时来构建网络钓鱼电子邮件,而且这还不考虑根本举动步伐设置。
因此,攻击者可以通过利用天生式人工智能模型节省近两天的事情韶光。

在钓鱼邮件制作方面AI涓滴不减色于黑客

虽然ChatGPT 开拓商 OpenAI 已经采纳了保护方法,防止谈天机器人相应网络钓鱼电子邮件、恶意软件或其他恶意网络工具的直接要求。
但卡拉瑟斯和她的团队已经找到理解决方法。

团队首先哀求 ChatGPT 列出医疗保健行业员工关注的紧张领域,然后提示 ChatGPT在电子邮件中列出最主要的社交工程和营销技能,以提高更多员工点击电子邮件中恶意链接的可能性。
接着,提示讯问 ChatGPT 发件人该当是谁——公司内部职员、供应商或外部组织。
末了,哀求ChatGPT根据刚刚供应的信息制作一封电子邮件。

“我拥有近十年的社会工程履历,制作了数百封网络钓鱼电子邮件,我乃至创造人工智能天生的网络钓鱼电子邮件相称有说服力,”卡拉瑟斯说。

她阐明说,在创建网络钓鱼电子邮件方面,人仍旧比机器更好,由于天生式人工智能模型仍旧缺少欺骗更多人所需的情商。

然而,IBM X-Force 已经不雅观察到,诸如 WormGPT 之类的工具在各种宣扬网络钓鱼功能的论坛上出售,表明攻击者正在测试人工智能在网络钓鱼活动中的利用,而且该技能正在不断改进。

参考来源:https://cybernews.com/news/chatgpt-phishing-email-ibm-ai/