Apple remove app de deepfakes pornográficos promovido pela Meta

A Apple removeu da App Store um app promovido por anúncios da Meta que permitia aos usuários criar deepfakes de cunho pornográfico de pessoas reais usando inteligência artificial generativa — algo que contraria as diretrizes da loja.

Segundo a WIRED, que foi quem denunciou o aplicativo criminoso à Apple, a ferramenta se autodenominava como um gerador de imagens de IA “ sem restrições” apresentando todos os “ personagens” como “ pessoas reais”

Ainda publicizando o app como “ a IA que os homens realmente usam” um dos anúncios mostrava uma imagem bastante semelhante à de uma proeminente política dos Estados Unidos ao lado de símbolos que representam a presidência do país.

Busca da App Store está sugerindo e até promovendo apps de “nudificação”, mostra relatório

Aplicativo que gera imagens de nudez é encontrado e retirado da App Store

“ E se ela mudasse? ” questionava o anúncio antes de a imagem subitamente ser cortada para uma cena deepfake de uma mulher com um rosto bastante semelhante ao da política em questão se apresentando em um vídeo de teor pornográfico.

Em resposta ao site, a Apple destacou que proíbe apps estritamente projetados para distribuir ou consumir pornografia e afirmou também que trabalha agressivamente para identificar e remover esses apps e seus desenvolvedores.

Assim como a Maçã, a Meta também agiu após a WIRED lhe relatar a presença dos anúncios, removendo as 32 peças — todas elas destinadas a usuários do sexo masculino — de sua base de publicidade.

via 9to5Mac