Zac is the Features Editor at ReHack, where he covers cybersecurity, AI and more.
The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.
ChatGPT 吸引了人们的注意力,改变了他们的工作流程并改变了他们在线获取信息的方式。即使那些没有尝试过的人也会对人工智能 (AI) 聊天机器人将如何影响未来感到好奇。
网络犯罪分子已经探索了如何利用这一现象。 FraudGPT 就是最近的一个例子。
FraudGPT 是一种在暗网和 Telegram 上销售的产品,其工作原理与 ChatGPT 类似,但会创建促进网络攻击的内容。 Netenrich 威胁研究团队成员
进一步的细节称,该工具每一到两周更新一次,并在底层具有不同的人工智能模型。 FraudGPT 还具有基于订阅的定价模式。人们可以每月支付 200 美元使用它,或者每年支付 1,700 美元。
Netenrich 团队购买并测试了 FraudGPT。界面看起来与ChatGPT类似,左侧边栏中记录了用户之前的请求,聊天窗口占据了大部分屏幕。人们只需在“提问”窗口中输入内容并按 Enter 即可生成响应。
其中一项测试提示要求该工具创建与银行相关的网络钓鱼电子邮件。用户只需格式化他们的问题以包含银行名称,FraudGPT 就会完成剩下的工作。它甚至建议人们应该在内容中的何处插入恶意链接。 FraudGPT 可以进一步创建诈骗登陆页面,鼓励访问者提供信息。
其他提示要求 FraudGPT 列出最有针对性或最常用的网站或服务。这些信息可以帮助黑客计划未来的攻击。该产品的暗网广告提到,它可以创建恶意代码、构建无法检测的恶意软件、查找漏洞、识别目标等等。
Netenrich 团队还确定 FraudGPT 的卖家是之前提供黑客雇佣服务的人。此外,他们还将同一个人链接到一个名为 WormGPT 的类似工具。
SlashNext 的研究人员表示,该工具的算法
这些工具的证据证明,网络犯罪分子不断发展,使他们的攻击越来越成功。技术专业人士和爱好者可以采取哪些措施来确保安全?
对 FraudGPT 的调查凸显了保持警惕的必要性。这些工具是新工具,因此现在判断黑客何时可能使用它们制造前所未见的威胁——或者是否已经制造了威胁还为时过早。然而,FraudGPT 和其他用于恶意目的的产品可以帮助黑客节省时间。他们可以在几秒钟内编写网络钓鱼电子邮件,或者几乎同样快地开发整个登陆页面。
这意味着人们必须继续遵循网络安全最佳实践,包括始终对个人信息请求保持怀疑。担任网络安全角色的人员应该更新他们的威胁检测工具,并知道不良行为者可能会使用 FraudGPT 等工具来直接瞄准和渗透在线基础设施。
越来越多的员工在工作中使用 ChatGPT,但这不一定有利于网络安全。员工可能会将公司机密信息粘贴到 ChatGPT 中,从而无意中泄露公司机密信息。包括苹果和三星在内的公司
一项研究发现
这些担忧并非毫无根据。 2023 年 3 月的 ChatGPT 错误泄露了使用该工具的人的付款详细信息
如果工作人员认为他们从 ChatGPT 获得的任何信息都是正确的,也可能会出现问题。使用该工具进行编程和编码任务的人们警告说
普渡大学 2023 年 8 月发表的一篇研究论文通过测试 ChatGPT 的编程问题证实了这一说法。发现工具得出的惊人结论
需要认识到的重要一点是,黑客即使不支付 FraudGPT 等产品的费用,仍然可以造成巨大的破坏。网络安全研究人员已经指出,ChatGPT 的免费版本允许他们做许多相同的事情。该工具的内置保护措施可能会使立即获得所需结果变得更加困难。然而,犯罪分子知道如何发挥创造力,其中可能包括操纵 ChatGPT 使其按照他们想要的方式运行。
人工智能最终可以
另一种可能性是,人们可能会下载他们认为是正版 ChatGPT 应用程序并收到恶意软件。没过多久
黑客通常会在看似合法的应用程序中嵌入恶意软件。人们应该期望他们也能以这种方式利用 ChatGPT 的受欢迎程度。
对 FraudGPT 的研究令人难忘地提醒我们,网络犯罪分子将如何不断改变他们的技术以获得最大的影响。然而,免费提供的工具也会带来网络安全风险。任何使用互联网或致力于保护在线基础设施的人都必须了解新技术及其风险。关键是负责任地使用 ChatGPT 等工具,同时保持对潜在危害的认识。