Google impede uso de ferramenta automatizada para cibercrime desenvolvida com IA

A divisão de cibersegurança do Google anunciou que encontrou um possível uso de inteligência artificial (IA) de forma inédita no setor para criar uma ferramenta de invasão.

Detalhes do caso

• O grupo hacker e a vítima não foram citados nominalmente, mas estão envolvidos no caso ‘proeminentes atores de ameaça’ e uma desenvolvedora de softwares de acesso a sistemas.
• O mecanismo que eles tentaram burlar era um autenticador de múltiplos fatores, com o objetivo de ganhar acesso a redes internas usando o software sem precisar de logins vazados.
• Um script em Python seria a forma de obtenção das credenciais de acesso.

Segundo o Google, a desenvolvedora da ferramenta foi alertada antes que o mecanismo fosse utilizado na prática contra usuários, embora a vulnerabilidade estivesse exposta ao longo de meses.

Implicações da IA no cibercrime

• A empresa não nomeou qual foi o modelo de linguagem possivelmente utilizado no desenvolvimento da ferramenta criminosa, mas acredita que não foi o próprio Gemini e nem o Mythos, o modelo ‘perigoso para a humanidade’ da Anthropic que chegou a ser acessado por pessoas não autorizadas.
• A empresa reforça que o incidente confirma uma preocupação de especialistas: ‘estamos oficialmente no momento do mercado em que o uso de IA no desenvolvimento de ferramentas de cibersegurança é uma realidade ‘tangível’ e tende a ficar mais acessível.’

A divisão de cibersegurança do Google anunciou que encontrou um possível uso de inteligência artificial (IA) de forma inédita no setor para criar uma ferramenta de invasão.

Reações da indústria

• Empresas donas de chabots de modelos de linguagem só faziam alertas para o uso potencial dessas ferramentas em cibercrimes, ao mesmo tempo em que elas mesmas já são usadas para encontrar vulnerabilidades e ajudar a fortalecer sistemas.

A divisão de cibersegurança do Google anunciou que encontrou um possível uso de inteligência artificial (IA) de forma inédita no setor para criar uma ferramenta de invasão.