Denúncias de deepfake sexual expõem falha grave da Meta

O Conselho de Supervisão da Meta (Oversight Board) instou a empresa a expandir significativamente suas proteções contra deepfakes sexualizados, abrangendo não apenas figuras públicas, mas também usuários comuns. As recomendações surgem após uma investigação que expôs falhas na resposta da Meta a denúncias de impersonação sexual gerada por inteligência artificial no Instagram, evidenciando uma grave lacuna nas políticas de moderação da plataforma.

A investigação foi desencadeada por um caso específico envolvendo um vídeo criado por IA e publicado no Instagram. O conteúdo mostrava uma mulher ajustando o vestido, com a roupa íntima aparecendo em alguns quadros. A denúncia foi feita por um usuário que se identificou como amigo da pessoa retratada, que, por sua vez, já não possuía uma conta ativa na rede social.

A Resposta da Meta e a Falta de Solução

Dois usuários denunciaram o vídeo à Meta, mas a plataforma não procedeu com a remoção do conteúdo. O usuário que levou o caso ao Oversight Board já havia tentado contato com a própria empresa anteriormente, sem obter retorno. Após a análise do Conselho, a Meta optou por apenas limitar a publicação para maiores de idade, mantendo o conteúdo no ar sob o argumento de que não havia motivo suficiente para sua remoção.

A empresa informou ao Board que, no momento das denúncias iniciais, não havia indicação clara de que a pessoa no vídeo fosse real. Segundo a Meta, a remoção do conteúdo sob a política de Exploração Sexual de Adultos ocorreria apenas se a própria pessoa retratada fizesse a denúncia, o que seria interpretado como um sinal inequívoco de não consentimento. Outros sinais válidos para remoção incluem denúncias de autoridades policiais, veículos de imprensa ou parceiros confiáveis, além de legendas ou títulos que sugiram exposição vingativa ou sensacionalista.

Contudo, na avaliação do Conselho, esse modelo de denúncia e remoção cria um problema prático significativo. Para a maioria das pessoas comuns, acionar facilmente a polícia ou a mídia é uma tarefa difícil. Dessa forma, o autorrelato acaba se tornando, na prática, a única forma viável de comprovar a ausência de consentimento. Diante dessa constatação, o Board reverteu a decisão da Meta e determinou a remoção imediata do vídeo em questão.

As Recomendações do Conselho de Supervisão

O Conselho defende que a Meta inclua as impersonações geradas por inteligência artificial diretamente na política de Exploração Sexual de Adultos, partindo do princípio de que esse tipo de conteúdo deve ser tratado como inerentemente não consensual. Além disso, o Board sugeriu a implementação de um recurso que permita aos usuários indicar “contas conectadas”, como amigos e familiares de confiança, para auxiliar na denúncia de violações dessa natureza.

Outras recomendações importantes incluem a separação desses casos das categorias gerais de assédio e nudez nos formulários de denúncia. Atualmente, apenas usuários do Texas e da Flórida têm acesso a um formulário específico para deepfakes íntimos. O Conselho exige que essa funcionalidade seja ampliada globalmente, enfatizando que “o abuso íntimo não consensual gerado por IA, incluindo impersonações sexualizadas, é um problema global”.

A Meta é obrigada a responder às recomendações do Conselho, mas não tem a obrigação de implementá-las. Caso a empresa decida adotar as mudanças propostas, o Conselho passará a acompanhar de perto o processo de implementação.

Histórico de Críticas à Moderação de IA da Meta

No relatório, o Oversight Board fez uma declaração contundente: “É evidente que a escala, a velocidade e a sofisticação das ferramentas de IA resultaram em uma proliferação global de conteúdo sexual não consensual gerado por IA. A disseminação de vídeos deepfake sexualizados causa danos à reputação e danos psicológicos, que afetam de forma desproporcional mulheres e meninas, e tem um efeito inibidor sobre a participação na vida social e política. ”

Esta não é a primeira vez que o órgão critica a Meta em relação à moderação de conteúdos envolvendo inteligência artificial. Em 2025, o Conselho já havia classificado a aplicação inconsistente das regras da empresa como “incoerente e injustificável”. Em outra recomendação anterior, o Board pediu que a Meta criasse uma política específica para conteúdos gerados por IA, separada das regras de desinformação, após um caso de vídeo falso sobre destruição em Haifa, publicado por uma conta que se apresentava como veículo de imprensa, mas era operada fora dos Estados Unidos.