FraudGPT é uma nova ferramenta de IA generativa baseada em assinatura, descoberta em julho de 2023 nos canais Telegram da dark web. Ela automatiza várias atividades maliciosas de ciberataque, incluindo a escrita de código malicioso, a criação de malware indetectável e a elaboração de e-mails de phishing convincentes. Essa ferramenta permite que atacantes inexperientes acessem métodos avançados de ataque e democratiza a IA generativa armada em grande escala.

Vários principais fornecedores de cibersegurança, como CrowdStrike, IBM Security, Ivanti, Palo Alto Networks e Zscaler, já haviam alertado sobre a utilização de IA generativa para ataques antes do lançamento do ChatGPT no final de 2022. Sven Krasser, Chief Scientist da CrowdStrike, enfatizou que, embora a IA generativa acelere os ataques cibernéticos, ela não altera significativamente a qualidade dos mesmos.

Quanto custa?

O FraudGPT, disponível por US$ 200 por mês ou US$ 1.700 por ano, oferece recursos como escrever e-mails de phishing, criar exploits e malware, descobrir vulnerabilidades e credenciais comprometidas e fornecer orientação sobre técnicas de hacking, entre outros casos de uso. O preço é acessível a atacantes novatos e representa uma ameaça para diversos setores, incluindo bancos, saúde e manufatura.

O surgimento desta ferramenta, destaca a necessidade de inovação contínua nas defesas baseadas em IA para combater o uso hostil da própria IA. Exercícios de simulação de ataques são essenciais para entender as vulnerabilidades da IA generativa e impedir seu uso em ferramentas de ciberataque.

Formas de uso mais comuns

Algumas maneiras pelas quais o FraudGPT antecipa o futuro da IA armada incluem ataques de engenharia social e phishing automatizados, malware e exploits gerados por IA, descoberta automatizada de recursos de crimes cibernéticos, evasão de defesas impulsionada por IA e aumento da dificuldade de detecção e atribuição. Esses desenvolvimentos exigem a unificação de endpoints e identidades, a consolidação de plataformas de segurança e o uso de soluções de Detecção e Resposta Estendida (XDR, na sigla em inglês).

Em resumo

O FraudGPT marca o início de uma era em que ferramentas básicas de ciberataque estão disponíveis para atacantes de todos os níveis de habilidade, incluindo nações. Essa acessibilidade pode levar a um aumento nos ciberataques em alvos vulneráveis em diversos setores. Para se manterem resilientes nesse cenário em evolução, as organizações precisam adotar proativamente tecnologias de IA e aprendizado de máquina para a segurança cibernética.

Cada vez mais falamos a rápida adoção de tecnologias baseadas no que há de mais avançado, se faz urgente e necessário. Aplicar camadas de segurança, como, biometria comportamental e física, sistemas robustos de orquestração e decisão baseados em Machine Learning, tem se tornando essenciais neste contexto.