📸 Créditos da imagem: Unsplash
Aplicativos de inteligência artificial na App Store britânica
Um aplicativo disponível na loja da Apple permitia simular estupro com fotos no Reino Unido. Esse aplicativo utilizava inteligência artificial (IA) para transformar fotos em imagens sexualizadas e, em um caso, em cenas de estupro e agressão sexual.
O que aconteceu
Um dos aplicativos deixava os usuários inserirem fotos em uma cena descrita como “estupro no quarto”. O serviço gratuito cobrava US$ 10,83 por mês por uma assinatura e exibia vídeos gráficos das situações oferecidas.
A Apple retirou esse aplicativo após ser alertada sobre o conteúdo. A empresa não comentou o caso diretamente, mas afirmou que suas diretrizes proíbem material sexual explícito ou pornográfico.
Outros aplicativos
Outros aplicativos ofereciam ferramentas para “despir” pessoas retratadas em imagens reais e criar vídeos com cenários sexualizados. A Apple disse que parte dos recursos que violam suas regras foi incluída após a análise inicial dos aplicativos.
Regras e denúncias no Reino Unido
Pornografia que retrata estupro e agressão sexual é ilegal na Inglaterra, no País de Gales e na Irlanda do Norte desde 2015. Também se tornou crime no Reino Unido criar ou solicitar uma imagem sexual falsa de um adulto sem consentimento.
A deputada trabalhista Jess Asato processa a xAI após imagens sexualizadas falsas dela circularem na internet. “Ninguém deveria viver com medo de que sua imagem possa ser sexualizada e compartilhada pelo mundo por uma ferramenta de IA”, disse Asato.
Consequências
As consequências para as vítimas da distribuição desses materiais podem ser profundas e duradouras. O problema é particularmente grave em escolas, onde há relatos de estudantes criando imagens falsas de colegas como forma de bullying.
📰 Leia a notícia completa em: UOL »