OpenAI lança plano para prevenir exploração sexual infantil com IA

A OpenAI anunciou, na quarta-feira (8), um plano de ação para fortalecer a proteção de crianças nas plataformas online em meio à popularidade da inteligência artificial generativa. O objetivo é combater a exploração sexual infantil associada aos avanços da IA. Segundo a startup, a iniciativa foi desenvolvida em parceria com o Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC) e autoridades dos Estados Unidos, incorporando sugestões de organizações e especialistas em segurança infantil. Ela otimiza detecções e investigações de casos de abuso. Plano de Segurança Infantil da OpenAIO projeto foca em três aspectos principais, como explicou a desenvolvedora do ChatGPT. Um deles é a atualização das leis para lidar com lidar com material de abuso sexual infantil (CSAM) gerado e/ou modificado com soluções de IA. Aprimorar os sistemas de denúncias às autoridades competentes é outro ponto em destaque, mudança essencial para investigações mais eficazes; Também é destacada a integração de novas medidas de segurança preventivas nos modelos de IA, combatendo e detectando usos indevidos da tecnologia; De acordo com a OpenAI, a estrutura traz, ainda, abordagens legais, operacionais e técnicas para melhorar a identificação de riscos, acelerar respostas e apoiar a responsabilização; Além de auxiliar a detectar ameaças potenciais mais cedo, o projeto garantirá que essas informações estejam prontamente disponíveis para os investigadores.”Como copresidentes da Força-Tarefa de IA da Aliança dos Procuradores-Gerais, saudamos este plano como um passo significativo para alinhar as práticas de segurança infantil do setor de tecnologia com as realidades de fiscalização que nossos escritórios enfrentam diariamente”, disseram os procuradores-gerais Jeff Jackson e Derek Brown. Esse novo plano de segurança infantil da OpenAI tem como base outros projetos anteriores.