📸 Créditos da imagem: reprodução / MacMagazine
Uma investigação publicada pela WIRED revelou que mais de 400 aplicativos e domínios relacionados escondiam ferramentas para gerar imagens e vídeos sexuais e violentos com inteligência artificial, incluindo deepfakes não consensuais de pessoas reais. Parte desses apps foi distribuída pela App Store, da Apple, e pelo Google Play, apesar das políticas das empresas contra esse tipo de conteúdo.
Segundo a publicação, os aplicativos aparentavam oferecer serviços legítimos, como criação de retratos de animais com IA, aulas de idiomas e ferramentas de exercícios físicos. Por trás dessas funcionalidades, porém, havia recursos que permitiam inserir fotografias enviadas pelos usuários em cenas pornográficas e violentas.
A investigação identificou centenas de domínios e aplicativos conectados, aparentemente parte de uma operação comercial coordenada. Pesquisadores encontraram referências à mesma infraestrutura e ao mesmo código em diferentes serviços, além de indícios de ligações com desenvolvedores chineses e com a empresa KeLing Technology Limited, registrada em Hong Kong.
Como os aplicativos escondiam os recursos
Os aplicativos utilizavam uma estratégia conhecida como bait-and-switch: apresentavam funcionalidades inofensivas durante a análise das lojas, mas podiam exibir recursos proibidos depois da aprovação — algo que a Apple passou a proibir explicitamente, não tem muito tempo.
De acordo com os pesquisadores, os apps entravam em contato com servidores remotos após a instalação e enviavam informações como o idioma do usuário, a origem do acesso e um identificador único. O servidor decidia, então, qual versão do serviço seria exibida.
Um dos fatores que pareciam ativar os recursos ocultos era a instalação do aplicativo após o usuário clicar em um anúncio relacionado a deepfakes sexuais no Facebook ou no Instagram.
Apple removeu 19 aplicativos
Após ser procurada pela WIRED, a Apple removeu 19 aplicativos relacionados à operação.
Em declaração à publicação, o porta-voz da empresa, Adam Dema, afirmou que os aplicativos estavam em conformidade com as regras da App Store no momento da análise inicial. Segundo ele, os desenvolvedores alteraram posteriormente os sites dos quais os apps obtinham conteúdo, substituindo as funcionalidades aprovadas por material pornográfico.
A empresa também afirmou ter suspendido dezenas de milhares de aplicativos ao longo do último ano por práticas semelhantes, nas quais desenvolvedores ocultam funcionalidades proibidas durante a revisão e as disponibilizam posteriormente.
O Google também removeu diversos aplicativos associados à rede antes de ser procurado pela publicação.
via 9to5Mac
📰 Leia a notícia completa em: MacMagazine »