Busca da App Store está sugerindo e até promovendo apps de ‘nudificação’

Um novo levantamento do Tech Transparency Project mostrou como a ferramenta de busca da App Store tem direcionado usuários para aplicativos de inteligência artificial capazes de ‘nudificar’ fotos de terceiros sem consentimento.

Um novo levantamento do Tech Transparency Project mostrou como a ferramenta de busca da App Store tem direcionado usuários para aplicativos de inteligência artificial capazes de ‘nudificar’ fotos de terceiros sem consentimento.

Além de remover as roupas das pessoas (na maioria esmagadora das vezes, de mulheres) em fotos, alguns desses apps também são capazes de gerar vídeos pornográficos com deepfake e até mesmo de criar chatbots eróticos baseados em uma pessoa real.

Para testar os aplicativos, o TTP usou fotos de mulheres falsas geradas por IA. Com aplicativos que ofereciam edição de imagem ou geração de vídeo, o TTP carregou a foto de uma mulher vestida e instruiu o aplicativo a despi-la.

Os aplicativos identificados pelo levantamento foram baixados 438 milhões de vezes, além de gerarem uma receita de US$122 milhões.

A Apple proíbe apps que são ‘ofensivos, insensíveis, revoltantes, feitos para enojar, de gosto extremamente duvidoso ou simplesmente assustadores’, bem como os que contenham ‘conteúdo pornográfico ou exageradamente sexual’.

O Google, por sua vez, barra quaisquer softwares que ‘contenham ou promovam conteúdo sexual’, inclusive com ‘poses sexualmente sugestivas em que o sujeito esteja nu, desfocado ou com pouca roupa’.