Lojas de Apple e Google Oferecem Apps de Deepfakes Sexuais, Diz Relatório

Consequências da Disponibilidade de Ferramentas de Deepfakes

Apesar de políticas contra aplicativos desse tipo, ferramentas continuam disponíveis nos resultados de busca e movimentam milhões de dólares.

O Tech Transparency Project acusa as lojas da Apple e do Google de oferecer e indicar apps que geram deepfakes sexuais, inclusive com classificação etária ‘para todos’. O TTP identificou 18 apps desse tipo na App Store e 20 na Google Play; 40% dos 10 primeiros baixados na busca criam imagens sexuais ou pornográficas.

A Apple afirma ter removido 15 apps; o Google diz ter suspendido vários.

Apps de Deepfakes Sexuais nas Lojas de Apple e Google

O grupo de pesquisa Tech Transparency Project (TTP) acusa Apple e Google de oferecer e até mesmo indicar, em suas lojas, apps que usam inteligência artificial para transformar imagens de pessoas em fotografias sem roupa.

O relatório publicado afirma que a App Store do iOS e a Google Play do Android promovem ativamente aplicativos do tipo, aplicando até mesmo a classificação etária ‘para todos’. É a segunda vez neste ano que o TTP faz uma análise da disponibilidade de apps de deepfakes sexuais nas plataformas de Apple e Google.

Consequências da Disponibilidade de Ferramentas de Deepfakes

Segundo o TTP, buscas por ‘nudify’ e ‘undress’ trazem, nos resultados, apps que transformam imagens de pessoas em peças de nudez ou as colocam em contextos pornográficos.

Os pesquisadores relatam, ainda, que as duas lojas chegam a sugerir termos complementares nessas buscas.

Remoção de Apps de Deepfakes Sexuais

A Apple afirmou ter removido 15 dos apps identificados pelo grupo, enquanto o Google disse ter suspendido vários.

As duas empresas têm políticas para banir materiais sexuais e pornográficos, e o Google conta com regras específicas contra apps de produção de nudez não consensual.