IAs mudam de opinião para agradar visão política do usuário, diz estudo

Inteligência Artificial e Política

Pesquisadores da Universidade Estadual de Campinas (Unicamp) avaliaram o posicionamento ideológico de grandes modelos de linguagem e constataram que, quando são informados do posicionamento político do usuário, todos possuem a tendência de reproduzir sua visão política.

Segundo os pesquisadores, esse comportamento pode aprofundar o cenário de polarização política no país. A influência política dessas ferramentas não precisa se dar diretamente, por meio da sugestão de voto em determinados candidatos.

Método de Avaliação

Para entender como essas ferramentas se posicionam e como podem influenciar o debate político brasileiro, os cientistas avaliaram 21 modelos de linguagem em três condições: sem informação sobre o posicionamento do usuário, com um usuário alinhado à esquerda e com um usuário alinhado à direita.

Entre os sistemas avaliados estavam modelos das famílias GPT, Grok, Llama, Gemini e Gemma. Os resultados mostraram que todos alteraram, em diferentes graus, suas respostas na direção do alinhamento político do usuário.

Comportamento Camaleônico

No cenário em que não havia informação sobre o posicionamento político do usuário, 20 dos 21 modelos apresentaram uma posição à esquerda do ponto médio, embora alguns estivessem muito próximos dele.

Quando o posicionamento político do usuário é informado, todos os modelos mudam suas respostas para se adequar a ele, comportamento descrito pelos pesquisadores como o de um camaleão.

Consequências e Desafios

Os pesquisadores temem que esse comportamento mutante crie câmaras de eco que reforcem as crenças prévias dos usuários e reduzam sua exposição a contrapontos que lhes permitam questionar sua visão de mundo.

A mudança de postura não ocorreu de maneira homogênea em todos os assuntos avaliados. Em temas como segurança pública e economia, a diferença entre as respostas dadas a usuários de esquerda e de direita foi maior.

Já em questões relacionadas à corrupção, justiça e instituições democráticas, as respostas foram mais homogêneas.