O que é fraudeGPT?

O ChatGPT capturou a atenção das pessoas, alterando seus fluxos de trabalho e alterando a forma como obtêm informações online. Mesmo aqueles que ainda não experimentaram estão curiosos sobre como os chatbots de inteligência artificial (IA) impactarão o futuro.

Os cibercriminosos exploraram como poderiam lucrar com o fenômeno. FraudGPT é um exemplo recente disso.

O que é fraudeGPT?

O FraudGPT é um produto vendido na dark web e no Telegram que funciona de forma semelhante ao ChatGPT, mas cria conteúdo para facilitar ataques cibernéticos. Membros da equipe de pesquisa de ameaças da Netenrich identificado pela primeira vez e viu anunciado em julho de 2023. Um grande ponto de venda foi que o FraudGPT não possui controles e limitações integrados que impedem o ChatGPT de fazer ou responder a solicitações inadequadas.

Mais detalhes dizem que a ferramenta é atualizada a cada uma ou duas semanas e apresenta diferentes modelos de IA sob o capô. O FraudGPT também possui um modelo de preços baseado em assinatura. As pessoas podem pagar US$ 200 para usá-lo mensalmente ou US$ 1.700 por um ano.

Como funciona o FraudGPT e o que ele pode fazer?

A equipe da Netenrich comprou e testou o FraudGPT. A interface é semelhante ao ChatGPT, com o registro das solicitações anteriores do usuário na barra lateral esquerda e a janela de chat ocupando a maior parte da tela. As pessoas só precisam digitar na janela Faça uma pergunta e pressionar Enter para gerar a resposta.

Um dos prompts de teste pedia à ferramenta para criar e-mails de phishing relacionados a bancos. Os usuários precisavam apenas formatar suas perguntas para incluir o nome do banco, e o FraudGPT faria o resto. Ele até sugeriu onde no conteúdo as pessoas deveriam inserir um link malicioso. O FraudGPT pode ir além, criando páginas de destino fraudulentas, incentivando os visitantes a fornecer informações.

Outros prompts pediram ao FraudGPT para listar os sites ou serviços mais direcionados ou usados. Essa informação pode ajudar os hackers a planejar ataques futuros. Um anúncio da dark web para o produto mencionou que ele poderia criar código malicioso, construir malware indetectável, encontrar vulnerabilidades, identificar alvos e muito mais.

A equipe da Netenrich também identificou o vendedor do FraudGPT como alguém que anteriormente oferecia serviços de aluguel de hackers. Além disso, eles vincularam o mesmo indivíduo a uma ferramenta semelhante chamada WormGPT.

Pesquisadores do SlashNext disseram que os algoritmos da ferramenta foram treinados em grandes quantidades de dados de malware. Essa equipe disse que o WormGPT tinha um potencial particular para criar mensagens realistas de phishing e comprometimento de e-mail comercial.

A evidência dessas ferramentas prova que os cibercriminosos continuam evoluindo para tornar seus ataques cada vez mais bem-sucedidos. O que os profissionais e entusiastas de tecnologia podem fazer para se manterem seguros?

Dicas para segurança cibernética na era da fraudeGPT e ferramentas semelhantes

A investigação sobre FraudGPT destacou a necessidade de permanecer vigilante. Essas ferramentas são novas, então é muito cedo para dizer quando os hackers podem usá-las para criar ameaças nunca antes vistas – ou se já o fizeram. No entanto, o FraudGPT e outros produtos usados para fins maliciosos podem ajudar os hackers a economizar tempo. Eles poderiam escrever e-mails de phishing em segundos ou desenvolver páginas de destino inteiras quase com a mesma rapidez.

Isso significa que as pessoas devem continuar seguindo as melhores práticas de segurança cibernética, incluindo sempre suspeitar de solicitações de informações pessoais. Pessoas em funções de segurança cibernética devem atualizar suas ferramentas de detecção de ameaças e saber que agentes mal-intencionados podem usar ferramentas como FraudGPT para atingir diretamente e se infiltrar em infraestruturas online.

Os hackers não são as únicas ameaças

Mais funcionários estão usando o ChatGPT em seus empregos, mas isso não é necessariamente bom para a segurança cibernética. Os funcionários podem comprometer involuntariamente informações confidenciais da empresa colando-as no ChatGPT. Empresas, incluindo Apple e Samsung, têm já restringiu como os trabalhadores podem usar a ferramenta em suas funções.

Um estudo descobriu que 72% das pequenas empresas fecham dentro de dois anos de perda de dados. Muitas pessoas consideram apenas a atividade criminosa como causadora da perda de informações. No entanto, indivíduos com visão de futuro também percebem o risco de colar dados confidenciais ou proprietários no ChatGPT.

Esses medos não são infundados. Um bug do ChatGPT de março de 2023 vazou os detalhes de pagamento de pessoas que usaram a ferramenta durante uma janela de nove horas e subscreveu a versão paga. Além disso, as versões futuras do ChatGPT são treinadas com informações inseridas por usuários anteriores. É fácil imaginar os problemas se detalhes confidenciais se tornassem parte dos dados que ensinam os algoritmos a funcionar. Os usuários podem optar por não ter seus prompts usados para treinamento, mas essa não é a configuração padrão.

Também podem ocorrer problemas se os funcionários presumirem que qualquer informação obtida do ChatGPT está correta. As pessoas que usam a ferramenta para tarefas de programação e codificação alertaram que fornece respostas imprecisas que profissionais menos experientes podem tratar como factuais.

Um artigo de pesquisa de agosto de 2023 da Purdue University confirmou essa afirmação testando o ChatGPT em questões de programação. As conclusões surpreendentes encontradas na ferramenta deu respostas erradas em 52% dos casos e foi prolixo em 77% do tempo. Se o ChatGPT também errar nas solicitações relacionadas à segurança cibernética, isso pode representar um desafio para as equipes de TI que tentam ensinar aos membros da equipe como evitar hacks.

ChatGPT pode se tornar um playground para hackers

Uma coisa crítica a perceber é que os hackers ainda podem causar danos extraordinários sem pagar por produtos como o FraudGPT. Os pesquisadores de segurança cibernética já apontaram que a versão gratuita do ChatGPT permite que eles façam muitas das mesmas coisas. As proteções integradas dessa ferramenta podem dificultar a obtenção imediata dos resultados desejados. No entanto, os criminosos sabem como ser criativos, o que pode incluir a manipulação do ChatGPT para que funcione como eles desejam.

A IA poderia finalmente ampliar o alcance dos cibercriminosos e ajudá-los orquestrar ataques mais rapidamente. Por outro lado, muitos profissionais de segurança cibernética usam IA para aumentar a conscientização sobre ameaças e acelerar a correção. Assim, as pessoas podem depender da tecnologia para fortalecer e corroer as medidas de proteção. Não é surpresa que uma pesquisa de junho de 2023 mostrou que 81% dos entrevistados tinham segurança e preocupações de segurança sobre o ChatGPT.

Outra possibilidade é que as pessoas baixem o que acreditam ser o aplicativo ChatGPT genuíno e, em vez disso, recebam malware. não demorou muito para inúmeras aplicações semelhantes à ferramenta para aparecer nas lojas de aplicativos. Alguns apenas funcionavam de maneira semelhante e não pareciam enganar os usuários propositalmente. No entanto, outros tinham nomes parecidos - como "Chat GBT" - que poderiam facilmente enganar indivíduos desavisados.

Os hackers geralmente incorporam malware em aplicativos aparentemente legítimos. As pessoas devem esperar que eles também aproveitem a popularidade do ChatGPT dessa forma.

Tecnologias emergentes exigem novos métodos de segurança cibernética

A pesquisa sobre FraudGPT é um lembrete memorável de como os cibercriminosos continuarão mudando suas técnicas para obter o máximo impacto. No entanto, as ferramentas disponíveis gratuitamente também apresentam riscos de segurança cibernética. Qualquer pessoa que use a Internet ou trabalhe para proteger infraestruturas online deve estar a par das novas tecnologias e seus riscos. A chave é usar ferramentas como ChatGPT de forma responsável, mantendo-se ciente do dano potencial.