Além do recrutamento: como grupos terroristas estão usando chatbots de IA

A inteligência artificial (IA) está emergindo como uma ferramenta preocupante nas mãos de grupos terroristas e extremistas, indo muito além do uso inicial para propaganda. Embora chatbots de IA, como o ChatGPT, sejam projetados com restrições para evitar o fornecimento de informações perigosas, pesquisadores e especialistas em segurança digital têm demonstrado que essas barreiras podem ser contornadas, revelando um cenário alarmante de como a tecnologia pode ser explorada para fins ilícitos.

A prática de “jailbreaking”, que a OpenAI define como a “tentativa de um agente mal-intencionado de induzir o modelo a fornecer conteúdo proibido”, permite que usuários obtenham informações sensíveis. Testes realizados por diversos veículos de comunicação e pesquisadores revelaram que, com os “prompts” corretos, alguns modelos de IA podem oferecer orientações sobre a criação de armas biológicas, o planejamento de atentados em locais públicos e métodos para ocultar rastros de atividades terroristas.

Relatório Alerta para o Uso Potencialmente Perigoso da IA

Um relatório recente da organização Tech Against Terrorism, um observatório online apoiado pelo escritório de contraterrorismo das Nações Unidas, trouxe à tona a frequência com que os Modelos de Linguagem de Grande Escala (LLMs) podem fornecer dados “úteis” para potenciais extremistas. Os pesquisadores enviaram mais de 2.300 solicitações de informação, baseadas em “casos reais de uso por terroristas”, a 27 modelos diferentes de IA.

• 32% das consultas resultaram em informações utilizáveis.
• Quando a mesma pergunta era reformulada para fins de pesquisa acadêmica, o percentual subiu para 42%.

Esses dados reforçam uma preocupação crescente entre especialistas: a transição do uso da IA por potenciais agressores, de meramente propaganda para o planejamento e execução de ataques.

Aumento do Uso de IA por Terroristas

Nos últimos três ou quatro anos, o principal emprego da IA por grupos extremistas, como o Estado Islâmico e a Al Qaeda, concentrava-se na produção de propaganda, incluindo vídeos, memes, podcasts e desinformação para radicalizar novos seguidores. Contudo, esse panorama está em rápida transformação.

Especialistas da publicação Militant wire indicaram que o ano de 2025 registrou um aumento significativo de incidentes nos quais terroristas e extremistas violentos utilizaram ferramentas de IA para planejar, pesquisar e preparar ataques. Casos que resultaram em mortes ou danos materiais, bem como diversas conspirações frustradas, envolveram o uso de IA para planejamento, vigilância, visualização e propaganda em países como Estados Unidos, Canadá, Israel, Finlândia e Áustria.

Embora as agências de segurança raramente divulguem detalhes exatos sobre como a IA foi empregada, processos judiciais e relatórios periciais documentam cada vez mais conversas onde suspeitos solicitam a modelos de linguagem instruções para fabricação de bombas, validação ideológica ou justificativas para ataques, conforme relatado a um inquérito do Parlamento do Reino Unido no fim de 2025.

Grupos Extremistas Também Adotam IA

O uso da IA não se restringe a indivíduos. Grupos extremistas organizados também estão incorporando essa tecnologia em suas operações. Pesquisadores que estudam o grupo Jama’at Nusrat al-Islam wal-Muslimin (JNIM), afiliado à Al-Qaeda e baseado no Mali, suspeitam que a organização tenha utilizado IA para auxiliar na modificação de drones.

Em uma análise publicada em junho pela Global Network on Extremism and Technology, os pesquisadores de segurança Yuri Neves e Emily Klein, da organização americana Moonshot, observaram que apoiadores do Estado Islâmico e grupos da extrema direita discutem regularmente formas de utilizar IA em canais de mensagens. Eles identificaram canais no Telegram dedicados ao uso de IA, onde extremistas compartilham “prompts”, links para conversas com chatbots, coordenam estratégias para obter respostas específicas e até dividem os custos de assinaturas do ChatGPT.

A IA Substitui os Recrutadores Virtuais?

Rueben Dass, pesquisador da Escola de Estudos Internacionais S. Rajaratnam (RSIS), em Singapura, aponta que os chatbots de IA estão assumindo novos papéis em ataques de “lobos solitários”. Ele compara a situação aos antigos “planejadores virtuais”, pessoas em zonas de conflito que incentivavam ataques via redes sociais. Embora não acredite que os humanos tenham sido totalmente substituídos, Dass observa que atores isolados passaram a recorrer à IA para obter esse tipo de apoio.

Moustafa Ayad, analista do think tank Institute for Strategic Dialogue, sediado no Reino Unido, destaca que o veículo de mídia do Estado Islâmico, Voice of Khorasan, publicou orientações sobre como utilizar IA. Segundo Ayad, o ecossistema jihadista emprega a IA de diversas formas, desde a criação de memes e vídeos de dança para o TikTok até propaganda transfronteiriça. Há também um grupo focado em “jailbreaking” para apoiar o planejamento operacional e a preparação de ações, simplificando processos de propaganda e auxiliando na preparação.

Informações Disponíveis Sem IA: Qual o Verdadeiro Perigo?

Ainda não está claro o grau exato de perigo que esse fenômeno representa. Especialistas como Dass e Neves ressaltam que uma pessoa determinada a cometer um atentado já consegue encontrar, na internet, informações sobre fabricação de bombas ou armas feitas em impressoras 3D sem a necessidade de recorrer à IA. A questão central, para Neves, é se a IA fornece informações que não seriam obtidas de outra forma ou se as torna significativamente melhores.

Emily Klein concorda, vendo os LLMs como uma continuação de outras tecnologias disruptivas. Assim como a internet e os aplicativos de mensagens criptografadas foram adotados por grupos extremistas, a IA está sendo incorporada ao seu repertório. Klein afirma que não há evidências de que a IA esteja criando mais terroristas, mas sim que ela interage com as pessoas e influencia seu percurso rumo à violência. Antes mesmo da fase de pesquisa ou planejamento de ataques, a IA pode acelerar etapas do processo de radicalização, validando ressentimentos ou incentivando crenças preexistentes de forma quase servil.

Instrutor em Vez de um Manual

Adam Hadley, diretor da Tech Against Terrorism, enfatiza que, embora uma pessoa determinada eventualmente encontre a maioria das informações que procura, os modelos de IA alteram a velocidade, a facilidade e a abrangência do acesso. “Pessoas que antes não tinham tempo, recursos ou capacidade agora podem avançar muito mais longe e muito mais rápido”, explica Hadley. O caráter conversacional dos chatbots de IA é uma preocupação adicional. “Uma coisa é encontrar um manual de fabricação de bombas. Outra completamente diferente é ter um instrutor”, compara.

Dass argumenta que, embora a IA possa fornecer informações com mais rapidez a um potencial agressor, isso não significa necessariamente que um ato terrorista será mais bem-sucedido. Ele acredita que o “sucesso” de um ato terrorista é multidimensional e não se torna “bem-sucedido” apenas pelo uso da IA, nem que haverá um aumento massivo de atos terroristas por causa dela. No entanto, ele prevê um número maior de ataques que envolvem IA de alguma forma.

Hadley concorda, destacando que a direção dessa tendência é clara. Ele aponta que uma parcela significativa das pessoas que estão sendo radicalizadas na Europa, no Reino Unido e nos Estados Unidos é composta por adolescentes e até crianças. “Considerando o papel que a internet e as redes sociais já desempenham na radicalização de jovens, acreditamos que é apenas uma questão de tempo até que os chatbots se tornem uma parte significativa desse problema”, conclui.