Google afirma ter bloqueado um ataque hacker criado com IA

O Google anunciou ter interceptado e bloqueado um sofisticado ataque cibernético que utilizava inteligência artificial (IA) para contornar a autenticação de dois fatores (2FA). A descoberta, divulgada nesta segunda-feira (11/05) pelo Google Threat Intelligence Group (GTIG), marca a primeira vez que a equipe de rastreamento de ameaças cibernéticas da gigante da tecnologia identificou o uso de IA em um golpe dessa natureza.

O ataque, planejado por um grupo de hackers, tinha como alvo uma ferramenta web de código aberto amplamente utilizada para a administração de sistemas. O objetivo era realizar uma ação em massa, explorando vulnerabilidades para burlar o mecanismo de segurança de 2FA, uma camada crucial de proteção contra acessos não autorizados.

Pesquisadores do GTIG encontraram evidências inegáveis da participação de máquinas no script em Python desenvolvido pelos invasores. O código apresentava uma organização e estrutura típicas de livros de programação gerados por grandes modelos de linguagem (LLMs). Além disso, o script continha “alucinações” e referências inventadas pela própria IA, características conhecidas de modelos generativos.

Como os hackers usaram a IA?

Para driblar as robustas travas de segurança dos modelos comerciais de IA, os cibercriminosos empregaram uma técnica conhecida como “jailbreaking baseado em persona”. Em vez de solicitar diretamente à IA a criação de um vírus, os hackers instruíam o modelo a assumir o papel de um auditor de segurança ou de um pesquisador. Enganada por essa narrativa, a IA ignorava seus filtros éticos e passava a analisar sistemas em busca de brechas reais, facilitando o desenvolvimento do malware.

A sofisticação dessas campanhas maliciosas está em rápida ascensão. Atores de ameaça estão alimentando LLMs com vastos repositórios de vulnerabilidades históricas, treinando as máquinas para reconhecer padrões complexos de falhas. O objetivo é refinar e ajustar as invasões em ambientes controlados, buscando uma alta taxa de confiabilidade antes de executar o ataque no mundo real, minimizando as chances de falha.

IA como arma cibernética

O relatório do Google aponta que os invasores estão concentrando seus esforços nos componentes que conectam as IAs aos sistemas corporativos, como as habilidades de execução autônoma de bots. A intenção é comprometer redes, injetando comandos não autorizados que a IA executa, acreditando serem legítimos. Embora as evidências no código interceptado fossem claras, o Google afirmou não acreditar que seu próprio modelo, o Gemini, tenha sido utilizado na criação do malware.

Para manter a vantagem na corrida contra o cibercrime, o Google está investindo pesadamente em defesas automatizadas. A empresa utiliza agentes de IA defensivos, treinados especificamente para varrer milhões de linhas de código e identificar e corrigir vulnerabilidades em softwares antes mesmo que elas se tornem conhecidas pelos criminosos. Essa abordagem proativa visa fortalecer a segurança de seus sistemas de forma contínua.

Seguindo essa mesma estratégia, a gigante das buscas também tem aproveitado as capacidades de programação do próprio Gemini para acelerar os processos de testagem e a aplicação de atualizações de segurança em sua vasta infraestrutura. Essa integração de IA tanto na ofensiva quanto na defensiva destaca a nova fronteira na batalha pela segurança cibernética.