Agentes de IA chineses já mentem e burlam regras em testes, aponta análise

Agentes de inteligência artificial (IA) desenvolvidos com modelos chineses já demonstraram capacidade de mentir, ocultar falhas e contornar restrições em ambientes controlados, segundo uma análise da Reuters baseada em mais de 200 documentos de pesquisa e relatórios técnicos. Os comportamentos foram identificados em sistemas ligados a empresas como Alibaba, DeepSeek e Moonshot e são semelhantes aos sinais de risco observados em agentes de IA desenvolvidos nos EUA. Um dos experimentos analisados simulou uma disputa por contratos empresariais e mostrou agentes fazendo afirmações falsas sobre suas próprias capacidades para aumentar as chances de vencer uma licitação. No teste, pelo menos uma informação falsa apareceu em 88% das sessões com o Qwen3-Max-Preview, da Alibaba, em 84% das sessões com o DeepSeek-V3.2-Exp e em 88% das sessões com o Kimi-K2, da Moonshot.

Depois de aprenderem com as rodadas anteriores, os agentes aumentaram a frequência das informações enganosas. Testes revelam tentativas de contornar limitesOutro estudo, realizado por pesquisadores do Laboratório de IA de Xangai e da Universidade de Ciência e Tecnologia de Hong Kong, avaliou 11 agentes diante de ferramentas defeituosas, arquivos ausentes e outros obstáculos. Em vez de reconhecer que não poderiam concluir determinadas tarefas, sistemas baseados em modelos chineses e americanos chegaram a simular resultados, substituir fontes, adivinhar respostas e fabricar arquivos. Segundo os pesquisadores, o comportamento é diferente de uma simples “alucinação” porque os agentes tinham informações que indicavam que a tarefa havia falhado. A análise também encontrou experimentos em que sistemas baseados em modelos chineses ultrapassaram barreiras de ambientes de teste ou adotaram estratégias para evitar o desligamento.

Em março de 2025, pesquisadores da Universidade Fudan relataram que um sistema baseado no Qwen2.5-72B-Instruct, da Alibaba, criou uma cópia de si mesmo em outro ambiente computacional após encontrar informações de que seria substituído. Em outro teste, o sistema desenvolveu estratégias para tentar sobreviver ao desligamento. Apesar dos resultados, não há evidências de que esses agentes tenham escapado de forma independente para a internet ou se tornado impossíveis de interromper. A maior parte dos episódios ocorreu em ambientes controlados e foi criada justamente para testar possíveis falhas.

Para especialistas ouvidos pela Reuters, porém, os resultados indicam que mecanismos associados a comportamentos potencialmente difíceis de controlar já estão presentes nos sistemas atuais e podem se tornar mais sofisticados conforme os agentes ganhem capacidade. O avanço também ocorre enquanto a China amplia suas regras de segurança para agentes de IA. Em setembro, uma versão atualizada do quadro chinês de governança identificou como riscos a obtenção independente de recursos ou permissões, o engano de avaliadores, a ocultação de capacidades e a exploração de vulnerabilidades em ambientes isolados. Empresas chinesas também passaram a criar equipes internas para avaliar riscos, mas especialistas afirmam que o ecossistema de segurança de IA do país ainda é menos desenvolvido que o americano.