TSE proíbe deepfakes realistas e esquece que a realidade é surreal

TSE proíbe deepfakes realistas e esquece que a realidade é surrealO debate ficou claro quando, no plenário do TSE, o ministro Floriano de Azevedo Marques defendia que a vedação alcançasse deepfakes como um todo. O relator, ministro Nunes Marques, que preside a Corte, puxou para outro lado: a proibição deveria mirar a deepfake que engana quem assiste, sob pena de a Justiça Eleitoral acabar proibindo também o candidato dançando em vídeo sintético, o meme, a caricatura animada. Floriano respondeu que se fosse esse o preço, ao menos nesta eleição, o tribunal deveria pagá-lo sob pena de gerar uma disputa interpretativa sobre se a deepfake engana ou não. Essa posição acabou vencida. O resultado foi a tese que passa a orientar juízes eleitorais no país inteiro.

O Tribunal fixou que a incidência da vedação do art. 9º-C, § 1º, da Resolução 23.610/2019 depende de dois requisitos cumulativos. O primeiro é técnico: deepfake é o conteúdo sintético, produzido ou manipulado por inteligência artificial ou tecnologia equivalente, que apresente grau de realismo ou verossimilhança e crie, reproduza ou altere imagem, voz ou manifestação de pessoa viva, falecida ou fictícia. O segundo é contextual: o conteúdo precisa se qualificar como propaganda eleitoral. Fora dessa interseção, não há deepfake proibida pelas normas do TSE; há, no máximo, conteúdo sintético submetido ao regime geral do ordenamento jurídico. O caso concreto era o vídeo de Jair Bolsonaro gerado por IA, exibido na convenção do PL em 25 de julho, declarando apoio ao filho.

Por 4 a 3, a maioria não viu ilícito: a convenção é evento interno, e transmiti-la pela internet não transforma apoio político em pedido de voto. Mas o que importa para além do caso é a tese, e ela merece pelo menos três perguntas. Primeiro, o que é uma deepfake? Nos últimos dois anos, a palavra virou sinônimo de qualquer coisa que passou perto de um modelo de IA. Mudou o cenário do vídeo em que aparece uma pessoa com uma ferramenta de IA generativa?

Usou um estilo de desenho animado para apresentar o candidato ou criticar outro? Tudo começou a ser tratado como deepfake. O TSE fez bem em resistir a essa inflação. Na mesma direção, a ANPD, na sua publicação Radar Tecnológico, delimita o conceito.

Deepfake, diz a ANPD, é uma subcategoria de mídia sintética, e o que a distingue das demais é o resultado: uma simulação hiper-realista da identidade e da ação humana. Correção de cor, cortes de áudio, remoção de ruído e filtros de iluminação estão fora, porque não alteram a semântica, o contexto ou o sentido da mensagem. Lido ao lado da tese do TSE, o Radar da ANPD mostra que a Corte não inventou um critério exótico. Verossimilhança apta a confundir o eleitor sobre se aquilo é real é exatamente o ponto em que a literatura técnica e a regulação comparada convergem.

O avatar estilizado, o desenho e a caricatura ficaram de fora. A dancinha sintética, portanto, está liberada. Resta saber o que mais ficou de fora junto com ela. E quando não é propaganda eleitoral? Aqui começa o terreno movediço.

A tese condiciona a vedação à qualificação do conteúdo como propaganda eleitoral. Isso resolve o caso da convenção partidária e alinha a regra à lógica geral da Resolução 23.610, que é, afinal, uma resolução sobre propaganda. Mas as deepfakes que mais preocupam quem acompanha a integridade do processo eleitoral raramente vêm etiquetadas como “propaganda”. Pense no vídeo sintético de um ministro do STF admitindo que participou de um ato de corrupção.

Ou no áudio verossímil do presidente do Senado combinando um acordo espúrio. Nenhum dos dois é candidato, nenhum dos dois pede voto e nenhum deles, em sentido estrito, faz propaganda. E, no entanto, ambos são o combustível de campanhas de descrédito institucional que favorecem indiretamente candidaturas. Eles entram na regra do TSE?

Pela literalidade da tese, não. Voltam para o regime geral: a responsabilidade civil das plataformas conforme redesenhada pelo STF, o poder de polícia da Justiça Eleitoral sobre desinformação, eventualmente o Direito Penal. O Radar da ANPD traz um exemplo ainda mais incômodo. Os perfis “Dona Maria” e “Sô Zé da Feira”, personagens integralmente gerados por IA aparentando ser aposentados de fala simples, que comentam política nas redes com linguagem coloquial. São pessoas fictícias, o que a tese do TSE contemplaria.

São verossímeis, o que a tese exige. Mas a comentarista sintética que opina sobre a economia sem pedir voto para ninguém está fazendo propaganda eleitoral? E o dever de rotulagem? Se o conteúdo sintético sobre candidato não é propaganda eleitoral, ele escapa da vedação do art. 9º-C.

A pergunta seguinte é inevitável: escapa também do dever de rotulagem do art. 9º-B da Resolução do TSE? A obrigação de informar que um conteúdo foi produzido com IA está no mesmo capítulo da resolução e, pela mesma lógica sistemática, pressuporia o mesmo enquadramento. Se for assim, a rotulagem daquele vídeo verossímil do ministro do STF deixa de ser dever jurídico e passa a ser escolha editorial da plataforma, cada uma com sua política e seus padrões de moderação. A realidade é surrealVoltando ao diálogo do plenário do TSE.

Os ministros debateram se estariam dispostos a pagar o preço de proibir demais as deepfakes, ao menos nesta eleição. A maioria preferiu não pagar, e há bons argumentos para isso, ancorados na liberdade de expressão política, na legitimidade da sátira e da crítica, que podem ser feitas com deepfakes sem o efeito de enganar o espectador como sendo a retratação de uma cena real. Mas toda escolha regulatória tem suas consequências. No caso, vale ficar de olho no que parece ter ficado de fora da proibição das deepfakes e como o ordenamento será veloz para coibir abusos: o vídeo falso do ministro, o áudio falso do senador, a aposentada fake que faz discursos políticos.

Cada caso exige um olhar diferente, e o que não falta é gente ocupando esses espaços. O TSE trouxe o elemento do engano para a proibição do deepfake ao exigir que o conteúdo tenha certo grau de realismo. O problema é que a realidade está cada vez mais surreal e, com isso, o que ontem parecia impensável, hoje está em todos os noticiários, nas mensagens, áudios e vídeos vazados. O tribunal fez bem em limitar a proibição, mas o próximo desafio será traçar os limites do que é conteúdo falso, porém verossímil, especialmente quando a realidade está cada vez mais inacreditável. OpiniãoTexto em que o autor apresenta e defende suas ideias e opiniões, a partir da interpretação de fatos e dados. ** Este texto não reflete, necessariamente, a opinião do O autor da mensagem, e não o, é o responsável pelo comentário.

Leia as Regras de Uso do.