所谓的“杀猪盘”，是网络诱骗的一种新办法，犯罪分子常日潜伏在约会运用程序和社交平台中，将浪漫爱情和赌钱生理融入其作案手腕。诱骗分子对受害者进行数天乃至数月的网络亲密打仗，然后才“收成”诱骗果实，这一过程类似于将猪养肥以供屠宰。
谈天机器人在感情和感想熏染上“露马脚”
据澳大利亚广播公司（ABC）5月16日宣布，犯罪分子过去常日会利用详细的“脚本”来得到受害者的信赖，而现在他们利用大措辞模型（LLM）或谈天机器人，用不同措辞向受害者发送，进一步扩大了影响范围。天生式人工智能还可以使对话更有说服力，并减少诱骗分子与多个受害者互动的事情量。
虽然ChatGPT、Gemini和Copilot等紧张人工智能谈天机器人都有防止其帮忙造孽活动的护栏，但其他一些正在开拓的大措辞模型没有此类限定。
网络安全公司Sophos的研究职员贾格迪什·钱德拉亚（Jagadeesh Chandraiah）在一篇博客文章中表示，天生式人工智能将文本、图像、视频与翻译相结合，天生不重复的“定制内容”。它还可用于编写“杀猪脚本”，写出令人信服的网络钓鱼电子邮件，乃至供应如何从头开始进行诱骗的步骤解释，这也可能降落诱骗犯罪的门槛。
然而，犯罪集团彷佛还无法闇练地利用人工智能。研究职员发布了一张诱骗目标供应的屏幕截图，显示诱骗分子意外透露了他们正在利用大措辞模型来天生。骗子在给目标客户发送的WhatsApp中写道：“非常感谢您的善意之言！
’我’作为一个措辞模型，没有像人类那样的觉得或感情，我被创造出来供应有用和积极的答案帮你。”
钱德拉亚见告ABC，人工智能的运作仍旧须要人类帮忙，机器人偶尔会发送一些信息，可能表明它们无法与人类互换，尤其是在感想熏染和感情方面。“就’杀猪盘’而言，目前的模型不太善于描述感情和感想熏染，而这又是此类骗局得以成功的关键。”
但钱德拉亚认为，未来随着人工智能的进一步发展，受害者将很难识别他们正在与机器人进行通信。
AI实时换脸已成精准谈天必备
除了最新的谈天机器人，一些传统的人工智能技能，比如深度造假技能近年来也迅速进步，已达到可以用较高的逼真度完成实时对话的水平。前黑客、越南网络安全专家吴明晓（Ngô Minh Hiếu）表示，用户现在可以通过开源软件或付费办法轻松订阅实时换脸技能（一种仅改变工具脸部的深度造假技能）。
环球反诱骗组织（GASO）向ABC提到，一家软件供应商在广告中流传宣传其“人工智能实时换脸是精准谈天的必备”。广告称，“它办理了好看的（真人）模特难以招募和管理、本钱高昂的问题。”该软件还集成了语音克隆功能，对特定目标的模拟相似度可以达到“60％至95％”。
另一家换脸软件供应商在柬埔寨供应7天24小时支持、“送货上门”做事，并声称已在1000多个区域安装了其产品。该广告称，利用该系统只须要供应一张照片，可用于WhatsApp、Messenger、Line等社交平台上的视频通话。
除了“杀猪盘”之外，犯罪分子还利用换脸技能履行其他类型的诱骗，例如伪装名人进行投资诱骗，以及伪装家人或警察来威吓受害者付钱。它还可以用往返避一些金融机构哀求的基于视频的身份检讨。
澳大利亚阳光海岸市市长罗珊娜·纳托利（Rosanna Natoli）最近称，一名诱骗者利用该技能伪装她与她的一位朋友进行Skype通话。她说：“这位朋友见告我，这看起来像我，但听起来不像我。”
“大多数换脸运用程序都无法假造实时声音。”一位理解柬埔寨诱骗情形的人士向ABC表示，技能能力、打算能力和互联网带宽等每每限定了诱骗分子利用换脸技能。“（在许多情形下）聘请东欧模特更为实际。”他说，只管技能进步，镜头前的真人仍旧看起来更合理。
在缅甸，从事加密货币“杀猪盘”业务的Sam在采访中说，他的老板曾短暂考试测验过人工智能，由于越南模特逃跑了。老板希望运用程序能够以数字办法改变团队中讲英语成员在视频通话中的外不雅观，但没有足够的源照片来支撑运用程序运行。
“用头脑思考，而不是存心思考”
上个月，澳大利亚竞争和消费者委员会（ACCC）反诱骗中央表示，虽然2023年统计的诱骗数量比2022年有所增加，但丢失总额低落了13.1%，至27.4亿澳元（约合132.7亿元公民币）。然而，ACCC发言人仍旧对新技能的涌现发出警告，“诱骗手段日益繁芜，我们该当对人工智能带来的风险保持当心。这将使得人们更难识别诱骗，平台应连续谨慎处理任何个人信息或金钱要求，并在点击链接时保持谨慎。”
该发言人表示，迄今为止大多数关于利用人工智能进行诱骗的案例都因此社交平台网站上“谈天机器人”的形式涌现的。“这些机器人给人留下这样的印象：许多其他真实的人对该产品感兴趣，并从骗局中得到经济利益。”此外，“人工智能还被用来制作投资诱骗视频，常日会捕捉或制作名人的图像或镜头，并附上让人信服的音频。”
与诱骗受害者互助的Intelligence for Good的网络犯罪专家罗尼·托卡佐夫斯基（Ronnie Tokazowski）表示，过去表明某人是诱骗者的一个关键危险旗子暗记是他们谢绝进行视频通话。“但现在坏人已经找到理解决办法。“他说，最好的建议是不要向仅在网上认识的人汇款或收款。
“我们须要开始用头脑思考，而不是存心思考。”钱德拉亚说，“纵然觉得很真实，而且这种关系已经持续了一段韶光，但如果它起源于互联网，并且逐步转向涉及金钱或加密货币的问题，那就阔别它。”
来源： 澎湃新闻