Apple Ameaçou Remover o Grok da App Store por Conta de Conteúdo Sexual

Conflito entre a Apple e a xAI

Segundo uma carta obtida pela NBC News, a Apple encontrou violações dos seus termos nos apps X e Grok, tendo ameaçado a remoção do Grok da App Store.

A Apple apontou a geração não consensual de imagens sexualizadas de mulheres e a circulação de imagens sexualmente sugestivas envolvendo menores ligadas ao modelo de inteligência artificial (IA) da xAI no X.

Reclamações e Ameaças de Remoção

A Apple contatou as equipes por trás do X e do Grok após receber reclamações e ver a cobertura midiática do escândalo, solicitando a criação de um plano de melhoria da moderação de conteúdo.

Em resposta, uma atualização do Grok foi enviada para análise, mas rejeitada pela Apple, que alegou que as mudanças não foram suficientes.

Consequências da Rejeição

Depois de diversas tentativas, apenas uma versão revisada dos apps Grok e X foi aceita pela Apple.

A Apple determinou que o X resolveu substancialmente as suas violações, mas o aplicativo do Grok permanece em desacordo.

Implicações e Consequências

A ferramenta ainda é capaz de gerar imagens sexualizadas de pessoas sem o devido consentimento.

A Apple rejeitou a submissão do Grok e notificou os desenvolvedores que mudanças adicionais para corrigir a violação serão necessárias, ou o aplicativo poderá ser removido da App Store.