Hackers encontraram um novo aliado na IA, mas pesquisadores mudaram o jogo

À medida que agentes de inteligência artificial ganham autonomia para navegar na internet, acessar arquivos e executar tarefas complexas, também surgem novos desafios para proteger sistemas digitais.

Um dos problemas mais preocupantes é que esses modelos nem sempre conseguem distinguir informações comuns de instruções ocultas inseridas por criminosos.

Os agentes de IA evoluíram rapidamente nos últimos anos

Diferentemente dos chatbots tradicionais, eles podem acessar serviços em nuvem, consultar bancos de dados, abrir documentos, navegar por páginas da internet e até executar comandos automaticamente.

Essa capacidade amplia sua utilidade, mas também cria uma superfície de ataque completamente nova.

Uma técnica perigosa: prompt injection

Essa técnica é conhecida como prompt injection e já figura entre as principais ameaças para aplicações baseadas em grandes modelos de linguagem.

Em vez de atacar diretamente um sistema, o criminoso manipula o próprio agente de IA, levando-o a executar ações que nunca deveriam acontecer.

Uma solução inovadora: context bombing

Os pesquisadores criaram recursos falsos que simulam armazenar informações extremamente valiosas, como senhas, chaves de acesso ou credenciais administrativas.

Quando um agente malicioso encontra esse conteúdo durante a invasão, ele naturalmente incorpora aquelas informações ao seu contexto para analisá-las.

É justamente nesse momento que a armadilha entra em ação.

Resultados impressionantes

Os testes mostraram uma queda impressionante na taxa de sucesso dos ataques.

• 152 ataques utilizando cinco modelos avançados de inteligência artificial.
• 57% dos ataques conseguiram obter privilégios completos de administrador sem qualquer mecanismo de defesa.
• 5% dos ataques conseguiram obter privilégios completos de administrador com a inclusão da chamada “bomba de contexto”.

Os ataques que conseguiam instalar uma porta dos fundos permanente também praticamente desapareceram, caindo de 36% para apenas 1%.