Google deve derrubar da busca sites de nudes falsos com IA, determina AGU

O Google deverá remover dos resultados de busca sites que utilizam inteligência artificial (IA) e deepfake para produção de imagens sexualizadas de pessoas reais. Em notificação extrajudicial, divulgada na quarta-feira (1°), a Advocacia-Geral da União (AGU) informou que solicitou à big tech a desindexação desses resultados. A notificação foi enviada tendo como base uma pesquisa da Fundação Getúlio Vargas do Rio de Janeiro (FGV-RJ) que trata sobre a “nudificação”, direitos humanos e prevenção de violência online contra mulheres, crianças e adolescentes. De acordo com a AGU, os resultados do Google exibem sites do tipo “desde meados de 2023”, tendo como principais vítimas, sem consentimento, “mulheres, crianças e adolescentes”. Por meio da Procuradoria Nacional da União de Defesa da Democracia (PNDD), a notificação requer a adoção de duas medidas que devem ser adotadas pelo Google com prazo de até cinco dias: A primeira medida é, de fato, a desindexação de sites que promovem projetos de nudificação, tendo como base uma lista de 40 links; Já a segunda trata da “implementação de filtros algorítmicos para impedir indexação futura de sites similares”. A AGU também reforça, com base em outras pesquisas e relatórios, que o problema sofre uma crescente com o uso da IA para criar deepfakes de pessoas reais. O órgão entende que, neste caso, a exibição dos links na busca do Google pode “facilitar o acesso massivo a essas mesmas ferramentas”. Medidas insuficientesPara a AGU, as atuais diretrizes do Google que proíbem a veiculação de imagens íntimas não consensuais “não têm sido suficientes” para impedir a nudificação, considerando que tais sites seguem sendo exibidos nos resultados. A notificação também tem base em decisões recentes do Supremo Tribunal Federal (STF) que podem responsabilizar plataformas por conteúdos gerados por terceiros.