ChatGPT 吸引了人们的注意力，改变了他们的工作流程并改变了他们在线获取信息的方式。即使那些没有尝试过的人也会对人工智能 (AI) 聊天机器人将如何影响未来感到好奇。 网络犯罪分子已经探索了如何利用这一现象。 FraudGPT 就是最近的一个例子。 什么是 FraudGPT？  FraudGPT 是一种在暗网和 Telegram 上销售的产品，其工作原理与 ChatGPT 类似，但会创建促进网络攻击的内容。 Netenrich 威胁研究团队成员 2023 年 7 月。一个主要卖点是 FraudGPT 没有内置的控制和限制来阻止 ChatGPT 执行或回答不当请求。 第一次发现并看到它的广告 进一步的细节称，该工具每一到两周更新一次，并在底层具有不同的人工智能模型。 FraudGPT 还具有基于订阅的定价模式。人们可以每月支付 200 美元使用它，或者每年支付 1,700 美元。  FraudGPT 是如何工作的，它能做什么？  Netenrich 团队购买并测试了 FraudGPT。界面看起来与ChatGPT类似，左侧边栏中记录了用户之前的请求，聊天窗口占据了大部分屏幕。人们只需在“提问”窗口中输入内容并按 Enter 即可生成响应。 其中一项测试提示要求该工具创建与银行相关的网络钓鱼电子邮件。用户只需格式化他们的问题以包含银行名称，FraudGPT 就会完成剩下的工作。它甚至建议人们应该在内容中的何处插入恶意链接。 FraudGPT 可以进一步创建诈骗登陆页面，鼓励访问者提供信息。 其他提示要求 FraudGPT 列出最有针对性或最常用的网站或服务。这些信息可以帮助黑客计划未来的攻击。该产品的暗网广告提到，它可以创建恶意代码、构建无法检测的恶意软件、查找漏洞、识别目标等等。  Netenrich 团队还确定 FraudGPT 的卖家是之前提供黑客雇佣服务的人。此外，他们还将同一个人链接到一个名为 WormGPT 的类似工具。  SlashNext 的研究人员表示，该工具的算法 恶意软件数据。该团队表示，WormGPT 在制作真实的网络钓鱼和商业电子邮件泄露消息方面具有特殊的潜力。 接受过大量培训 这些工具的证据证明，网络犯罪分子不断发展，使他们的攻击越来越成功。技术专业人士和爱好者可以采取哪些措施来确保安全？  FraudGPT 和类似工具时代的网络安全提示 对 FraudGPT 的调查凸显了保持警惕的必要性。这些工具是新工具，因此现在判断黑客何时可能使用它们制造前所未见的威胁——或者是否已经制造了威胁还为时过早。然而，FraudGPT 和其他用于恶意目的的产品可以帮助黑客节省时间。他们可以在几秒钟内编写网络钓鱼电子邮件，或者几乎同样快地开发整个登陆页面。 这意味着人们必须继续遵循网络安全最佳实践，包括始终对个人信息请求保持怀疑。担任网络安全角色的人员应该更新他们的威胁检测工具，并知道不良行为者可能会使用 FraudGPT 等工具来直接瞄准和渗透在线基础设施。 黑客并不是唯一的威胁 越来越多的员工在工作中使用 ChatGPT，但这不一定有利于网络安全。员工可能会将公司机密信息粘贴到 ChatGPT 中，从而无意中泄露公司机密信息。包括苹果和三星在内的公司 他们角色中的工具。 已经限制了工人的使用方式 一项研究发现 两年丢失数据。许多人只认为犯罪活动会导致信息丢失。然而，有远见的个人也意识到将机密或专有数据粘贴到 ChatGPT 中的风险。 72% 的小型企业关闭 这些担忧并非毫无根据。 2023 年 3 月的 ChatGPT 错误泄露了使用该工具的人的付款详细信息 并订阅了付费版本。此外，未来版本的 ChatGPT 会根据以前用户输入的信息进行训练。如果机密细节成为指导算法工作的数据的一部分，那么很容易想象会出现什么问题。用户可以选择不将提示用于培训，但这不是默认设置。 在九小时的窗口期 如果工作人员认为他们从 ChatGPT 获得的任何信息都是正确的，也可能会出现问题。使用该工具进行编程和编码任务的人们警告说 经验不足的专业人士可能会将其视为事实。 它提供了不准确的响应 普渡大学 2023 年 8 月发表的一篇研究论文通过测试 ChatGPT 的编程问题证实了这一说法。发现工具得出的惊人结论 的情况下，77% 的时间都是冗长的。如果 ChatGPT 也得到错误的网络安全相关提示，则可能会给试图教员工如何防止黑客攻击的 IT 团队带来挑战。 52% 的人给出了错误答案  ChatGPT 可能成为黑客的游乐场 需要认识到的重要一点是，黑客即使不支付 FraudGPT 等产品的费用，仍然可以造成巨大的破坏。网络安全研究人员已经指出，ChatGPT 的免费版本允许他们做许多相同的事情。该工具的内置保护措施可能会使立即获得所需结果变得更加困难。然而，犯罪分子知道如何发挥创造力，其中可能包括操纵 ChatGPT 使其按照他们想要的方式运行。 人工智能最终可以 更快地策划攻击。相反，许多网络安全专业人员使用人工智能来提高威胁意识并加快修复速度。因此，人们可以依靠技术来加强和削弱保护措施。毫不奇怪，2023 年 6 月的一项调查显示 以及有关 ChatGPT 的安全问题。 扩大网络犯罪分子的影响范围并帮助他们 81%的受访者表示安全 另一种可能性是，人们可能会下载他们认为是正版 ChatGPT 应用程序并收到恶意软件。没过多久 出现在应用程序商店中。有些只是起到类似的作用，并且似乎并没有故意欺骗用户。然而，其他一些名字听起来很相似——比如“Chat GBT”——很容易欺骗毫无戒心的人。 许多类似该工具的应用程序 黑客通常会在看似合法的应用程序中嵌入恶意软件。人们应该期望他们也能以这种方式利用 ChatGPT 的受欢迎程度。 新兴技术需要新的网络安全方法 对 FraudGPT 的研究令人难忘地提醒我们，网络犯罪分子将如何不断改变他们的技术以获得最大的影响。然而，免费提供的工具也会带来网络安全风险。任何使用互联网或致力于保护在线基础设施的人都必须了解新技术及其风险。关键是负责任地使用 ChatGPT 等工具，同时保持对潜在危害的认识。

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

2022 - HackerNoon Contributor of the Year - Cyber Threats

2022 - HackerNoon Contributor of the Year - Data Security

2022 - HackerNoon Contributor of the Year - Hacking

2022 - HackerNoon Contributor of the Year - Media

Portfolio

Nominated for 2022 - HackerNoon Contributor of the Year - Data Security

Nominated for 2022 - HackerNoon Contributor of the Year - Cyber Threats

Nominated for 2022 - HackerNoon Contributor of the Year - Media

Nominated for 2022 - HackerNoon Contributor of the Year - Hacking

What Is FraudGPT?

該音頻是用故事的原始語言製作的！

太長; 讀書

什么是 FraudGPT？

什么是 FraudGPT？

About Author

註釋

標籤

这篇文章刊登在

Related Stories

如何将您的工作流程提高 10 倍：17 个必备应用程序

架构师指南：构建 AI/ML 数据湖参考架构

HackerNoon Decoded: The Top 10 Countries Where HackerNoon Is the Most Active

Claude Sonnet 3.5 系统提示泄漏：法医分析

如何将您的工作流程提高 10 倍：17 个必备应用程序

架构师指南：构建 AI/ML 数据湖参考架构

HackerNoon Decoded: The Top 10 Countries Where HackerNoon Is the Most Active

Claude Sonnet 3.5 系统提示泄漏：法医分析

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps