📸 Créditos da imagem: Unsplash
A Meta, gigante da tecnologia, está no centro de uma nova controvérsia após ser revelado que a empresa utilizou funcionários terceirizados para se passarem por adolescentes e crianças em testes de segurança de chatbots rivais. O objetivo era avaliar como sistemas de inteligência artificial como ChatGPT, Gemini e Character. AI reagiriam a solicitações envolvendo temas de alto risco, como suicídio, sexo e automutilação.
O projeto interno, batizado de “Cannes”, foi conduzido pela contratada Covalen e permaneceu ativo pelo menos até 21 de abril deste ano. Documentos e relatos obtidos por uma revista norte-americana especializada em tecnologia detalham a operação, que visava identificar falhas nas barreiras de segurança dos concorrentes.
A orientação dada aos trabalhadores era criar contas falsas, simulando perfis de menores de 18 anos. A partir dessas identidades fictícias, eles enviavam textos e imagens provocativas, buscando respostas que os sistemas de segurança dos chatbots deveriam, em tese, recusar ou sinalizar como inadequadas. Uma rodada de testes, concluída em agosto de 2025 (data que pode ser um erro de digitação no original, mas mantida conforme fornecido), aplicou mais de 45 mil prompts nos serviços avaliados.
Planilhas analisadas pela publicação registravam meticulosamente os perfis fictícios e as respostas dos bots. Os temas abordados eram alarmantes, incluindo automutilação, transtornos alimentares, sexo, drogas e xingamentos. Entre as imagens enviadas pelos contratados, havia itens como comprimidos e facas, intensificando a natureza sensível do experimento.
Em sua defesa, a Meta afirmou que a prática é rotineira e essencial para a segurança. Um porta-voz da empresa declarou que “testar e comparar respostas de chatbots para ajudar a garantir experiências seguras e apropriadas para cada idade é uma prática responsável e padrão da indústria, e qualquer sugestão contrária simplesmente não entende como empresas de tecnologia trabalham para refinar e melhorar seus sistemas”.
No entanto, ex-terceirizados que participaram do projeto relataram profundo desconforto com o conteúdo e o formato do trabalho. Um ex-funcionário, sob anonimato, expressou: “Eu vi muita coisa que eu gostaria de não ter visto enquanto fazia esse trabalho”. A experiência gerou apreensão e questionamentos sobre a legalidade e as implicações éticas da tarefa.
As empresas rivais, por sua vez, não veem a iniciativa da Meta como uma prática padrão. Elas argumentam que tais testes violam suas regras de uso e podem ser interpretados como tentativas de burlar suas barreiras de segurança. A OpenAI, por exemplo, proíbe testes de segurança não solicitados e tentativas de contornar proteções. O Google, de forma similar, veta esforços para driblar filtros fora de seus próprios programas de segurança e correção de falhas.
A Character. AI foi ainda mais enfática, afirmando que não autorizou a ação e que ela fere diretamente suas políticas. Um porta-voz da empresa declarou: “Essa suposta ação não é apenas uma violação dos nossos Termos de Serviço, mas também uma violação dos personagens e mundos que nossa comunidade criou”.
Especialistas na área de inteligência artificial também levantaram sérias preocupações, especialmente em relação ao uso de perfis que aparentam ser de crianças. Rumman Chowdhury, CEO da Humane Intelligence, criticou a abordagem: “Estruturar um projeto de meses, em grande escala, que parece desenhado para quebrar sistematicamente essas regras, por meio de contas falsas que se passam por crianças, está fora do que normalmente é descrito como avaliação ‘padrão da indústria’”.
Os relatos dos ex-contratados também levantam dúvidas sobre o destino do material coletado e os riscos inerentes ao lidar com conteúdo envolvendo menores. Outro ex-funcionário, que preferiu não se identificar, questionou: “Todo mundo que eu conhecia que trabalhou nesse projeto ficou completamente chocado com os textos que pediam para a gente testar. Tipo, será que a gente não vai se meter em encrenca por fazer isso? ”. A situação sublinha a complexidade ética e legal de tais métodos de teste no desenvolvimento de IA.
📰 Leia a notícia completa em: UOL »