继 WormGPT（使用面向恶意软件的数据进行训练的 ChatGPT 克隆版）之后，如今又出现了一种新的生成式人工智能黑客工具：FraudGPT，据称至少另一种基于谷歌的 AI 聊天机器人 Bard 的工具正在开发中。

这两个基于 AI 的机器人程序都出自同一人之手，此人似乎热衷于专门针对众多的恶意用途训练的聊天机器人，包括网络钓鱼、社会工程攻击以及利用漏洞和创建恶意软件。

FraudGPT 于 7 月 25 日问世，由用户名为 CanadianKingpin12 的人在各种黑客论坛上四处宣传，他称这款工具是面向骗子、黑客和垃圾邮件发送者的。

 FraudGPT 在黑客论坛上推广（图片来源：SlashNext）

下一代网络犯罪聊天机器人

网络安全公司 SlashNext 的研究人员开展的调查显示，CanadianKingpin12 正在积极使用从暗网获取的不受限制的数据集训练新的聊天机器人，或基于为打击网络犯罪而开发的复杂的大型语言模型训练聊天机器人。

CanadianKingpin12 在私下表示，他们在开发 DarkBART ——这是谷歌的对话生成式人工智能聊天机器人的 " 恶意版本 "。

研究人员还了解到，广告商还可以访问另一个名为 DarkBERT 的大型语言模型，该模型由韩国研究人员开发，使用暗网数据进行训练，但目的是为了打击网络犯罪。

DarkBERT 可以根据相关的电子邮件地址提供给学术人士，但 SlashNext 强调，获取邮件地址对黑客或恶意软件开发人员来说远远谈不上是挑战，他们花上大约 3 美元就能从学术机构获得电子邮件地址。

待售的 .EDU 电子邮件账号（图片来源：SlashNext）

SlashNext 的研究人员透露，CanadianKingpin12 表示，DarkBERT 机器人程序 " 胜过使用暗网数据进行训练的同类中所有其他机器人程序 "。恶意版本已经过调整，可以执行以下用途：

策划复杂的网络钓鱼活动，以人们的密码和信用卡资料为目标。

执行高级社会工程攻击，以获取敏感信息或获得对系统和网络的未授权访问。

利用计算机系统、软件和网络中的漏洞。

创建和分发恶意软件。

利用零日漏洞以牟取钱财或破坏系统。

正如 CanadianKingpin12 私下向研究人员透露，DarkBART 和 DarkBERT 都将拥有实时访问互联网的功能，并与谷歌镜头（Google Lens）无缝集成，用于图像处理。

为了演示 DarkBERT 恶意版本具有的潜力，开发者制作了以下视频：

目前尚不清楚 CanadianKingpin12 是在 DarkBERT 的合法版本中修改了代码，还是仅仅获取了模型的访问权，只是将其用于恶意用途。

无论 DarkBERT 的起源如何、威胁分子的说法到底有多可信，使用生成式 AI 聊天机器人的趋势总之愈演愈烈，采用率也可能随之增加，因为这种聊天机器人可以为能力较差的威胁分子或那些希望将业务拓展到其他地区但缺乏语言技能的人提供一种简单的解决方案。

SlashNext 的研究人员认为，鉴于黑客已经能够使用两个这样的工具，协助执行高级的社会工程攻击，并且在不到一个月的时间内就开始肆虐，这表明了恶意 AI 对网络安全和网络犯罪领域带来了重大影响。