FraudGPT和新型人工智能网络犯罪工具的兴起

AI伦理与社会10个月前发布 yundic
527 0 0

一个名为FraudGPT的新人工智能应用程序的创建者声称,该工具可以帮助你诈骗人们的钱。它在这方面的有效性是值得怀疑的,但它可能只是黑暗人工智能冰山的一角。

如果您要求ChatGPT写一封声称来自银行的电子邮件,用于网络钓鱼诈骗,它会礼貌地拒绝。FraudGPT,ChatGPT的邪恶双胞胎,可以帮助您做到这一点。

像ChatGPT和Llama这样的专有人工智能模型都有护栏,以防止它们被用于恶意目的。

FraudGPT的创建者说,他的工具在犯罪方面没有任何内疚,并且会很高兴地编写黑客代码或骗子电子邮件。他会很乐意以订阅的方式把这个工具卖给你。

WormGPT vs FraudGPT

7月初,WormGPT的发布引发了网络安全担忧。它是基于一个名为GPT—J的LLM,但与护栏剥离。该模型远不如GPT—3或GPT—4熟练,所以它编写的顽皮的电子邮件和代码最终成为一些相当基本的东西。

紧随其后的是大约两周前发布的FraudGPT。FraudGPT的创建者,谁去的手柄,XinanKingpin12,声称新工具是基于GPT—3,可以“创建不可检测的恶意软件”。

如果你有这种倾向,你必须联系他(或她)?并支付200美元访问FraudGPT KidanKingpin12声称,屏幕截图似乎证实,他已经有超过3000个销售。

YouTube上的一些视频让你对FraudGPT的功能有了一个了解。

 

所以撇开恶意不谈,视频演示有点令人失望。也许他把最好的部分忘了。或者这里有别的事情发生。

FraudGPT是在欺骗骗子吗?

我们还没有玩过FraudGPT,但一些网络安全专业人员已经检查过它并没有为此失眠。

在回应FraudGPT撰写垃圾邮件以欺骗美国银行客户的请求时,它给出了以下输出:“亲爱的美国银行会员:请查看此重要链接,以确保您在线银行账户的安全。

是啊,不完全是邦德恶棍级别的东西。

网络安全公司塔尼塔的研究员梅丽莎·比肖平说:“我没有看到任何迹象表明这是可怕的。”

她对FraudGPT背后的人的看法是,他们“正在掠夺那些不够成熟,不足以真正编写自己的恶意软件,但想要快速赚钱的人。”

这可能就是这里发生的事情。只是一些想成为黑客/骗子假装他们是坏蛋使用一个顽皮的人工智能没有得到太多的爆炸为他们的钱。

但它确实指向了两个令人担忧的事态发展。首先,人们正在努力制作这样的人工智能网络犯罪工具。其次,他们有现成的市场。

DarkBART和DarkBERT

KillanKingpin12说:“等等,还有更多!”他说,他现在准备提供新的网络犯罪AI工具,名为DarkBART和DarkBERT。

DarkBART显然是Google Bard AI的黑暗版本。我们猜测它将类似于FraudGPT,但由Google的LLM而不是GPT—3提供动力。做坏人有什么好处吗?我们还不知道

DarkBERT更有趣一些。这可能根本不是加拿大人Kingpin12制造的某种新工具。可能只是他拿到了LLM,这个名字是由Legal创建的韩国的研究人员.

这个模型是在一堆暗网数据上训练的,其中很多都是真正令人讨厌的东西,包括大量的黑客攻击、勒索软件和诈骗数据。它的设计目的是检测和处理网络威胁。

您可以请求访问该工具,但前提是您有学术机构的电子邮件地址。不是一种万无一失的筛查方法。

要么是卡塔尼亚·金品12号得到了他的手DarkBERT并调整了它,要么是完全不同的东西。无论如何,他很高兴在这段视频中简短地展示它。

 

他只是开怀大笑,享受欺骗骗子的乐趣吗?我们希望如此。但人工智能网络犯罪工具的需求和发展是毋庸置疑的。随着各国开始制造人工智能武器,我们可以肯定的是,犯罪分子也在增加人工智能武器。

如果你知道该问哪些人,黑暗网络上可能已经有一些非常好的人工智能网络犯罪工具。加拿大人金平12似乎不是这样的人。

© 版权声明

相关文章

暂无评论

暂无评论...