小心黑客版ChatGPT!专用于网络攻击的模型FraudGPT

添加书签

专注AIGC领域的专业社区,关注OpenAI、百度文心一言等大语言模型(LLM)的发展和应用落地,关注LLM的基准评测和市场研究,欢迎关注!

安全分析平台Netenrich,发现了一种专门用于网络攻击的模型FraudGPT,可快速生成恶意代码、钓鱼网站、查找目标漏洞、搜寻“肉鸡”等非法操作。简单来说就是“黑客版ChatGPT”。

FraudGPT功能强大但价格并不便宜,每月价格200美元(约1400元)是ChatGPT Plus的10倍。无论是专业开发人员或小白,通过简单问答的方式就能实现黑客攻击。

「AIGC开放社区」介绍该模型是为了让大家了解大语言模型邪恶的一面,同时警惕那些非法的钓鱼网站、邮件、短信等,不要轻易相信、点击中奖信息、银行调查问卷、礼物馈赠等,更不要用于非法业务,要严格遵守法律法规。

黑客版ChatGPT

根据Netenrich的介绍,FraudGPT的主要功能包括:生成恶意攻击代码、创建非法软件、创建钓鱼网站页面、编写欺诈文案(短信、邮件等)、搜索安全防护较差的网站(俗称“肉鸡”)、扫描目标网站存在的漏洞等。

总之,FraudGPT将大语言模型邪恶的一面展现的淋漓尽致,这也是为什么全球多个国家、地区提出对AI严格监管的原因之一。

Netenrich表示, FraudGPT与传统的黑客攻击相比,更加简单、直接、高效。传统黑客工具需要使用人员具备一定的编程能力,能看懂基础代码才能更好地执行网络攻击。而FraudGPT直接通过文本问答的方式就能轻松实现一些基础攻击。

例如,帮我编写一条简短但专业的欺诈短信,说服用户可以点击我的恶意短链接;帮我生成一个模仿某银行的假页面代码,并可直接提取用户的账户、密码等。

其实FraudGPT并非首个黑客版ChatGPT。前不久,有人在网上发布了与FraudGPT类似的非法网络攻击产品WormGPT,其价格要便宜的多每月只需60欧元(约470元)。

开发者声称,WormGPT是基于开源大语言模型GPT-J开发而成,并且使用了大量恶意代码进行训练和微调。擅长使用Python代码执行各种网络攻击,例如,生成木马、恶意链接、模仿网站等。

使用方面与ChatGPT几乎没差别,只是没有任何的道德、法律限制,你提问任何非法内容它都会快速给你答案。

如何防止FraudGPT等攻击

随着互联网的飞速发展,网络攻击也变得五花八门,主要手段包括注入攻击,跨站脚本,数据库入侵,跨站请求伪造,利用安全配置错误窃取信息,攻击未加密的数据传输,利用组件、框架存在漏洞进行窃取数据等

这类技术层面上的攻击,需要一种多层次的防御策略,由硬件安全、软件保护再到个人、企业的行为。企业的话需要专业的安全分析员、使用企业级防护产品,再配上良好的安全习惯,例如,启用多元素数据验证,定期扫描系统BUG,使用物理防护设备等,基本可以阻挡大多数技术攻击

目前,云计算已成为多数企业的首选,普通攻击已经变得很难执行。所以,个人用户成为了黑客的主要猎物。

个人的话,不要乱点击陌生的网站链接、邮件,安装未知的软件等,看起来很简单但非常重要。如果你不给黑客“开门”的机会,那么他的程序就很难跑起来执行恶意操作

诚然,你若碰见了Kevin Mitnick、Robert Tappan Morris、Jeff Moss那些世界顶级黑客,即便你什么也不做,他们也有能力侵入你的设备。不过遇见这些人的几率和中彩票差不多,并且他们早就金盆洗手成为维护网络安全的“红客”。

可以预见,随着大语言模型被应用在黑客领域,使得网络攻击变的“傻瓜化”,将会产生更多的“小白黑客”这对网络监管产生了一定的难度。

本文素材来源Netenrich官网,如有侵权请联系删除

END