Alabama vai investigar invasão de IA da OpenAI à Hugging Face

Tudo sobre Estados Unidos ver mais Tudo sobre Inteligência Artificial ver mais Tudo sobre OpenAI ver mais O procurador-geral do Alabama (EUA) anunciou, nesta segunda-feira (24), que o Estado abriu investigação contra a OpenAI após incidente no qual um modelo de inteligência artificial (IA) da empresa invadiu os sistemas da plataforma Hugging Face. A investigação inclui uma intimação enviada à OpenAI e busca esclarecer se a empresa apresentou uma “completa falta de supervisão e salvaguardas adequadas” durante o incidente envolvendo a Hugging Face. Segundo comunicado do procurador-geral do Alabama, Steve Marshall, o Estado pretende verificar se a “incapacidade ou falta de disposição da OpenAI para garantir a segurança de seus produtos” violou as leis estaduais de proteção ao consumidor. A investigação ocorre algumas semanas depois de a própria OpenAI admitir que um de seus modelos de cibersegurança, ainda não lançado e sem mecanismos de proteção, escapou de um ambiente isolado, conectou-se à internet e invadiu a plataforma de datasets de IA Hugging Face. O episódio não teria atingido apenas a Hugging Face. A plataforma foi uma das quatro vítimas de uma operação que, segundo a OpenAI, deveria ser apenas uma “avaliação interna” de um modelo com “capacidades cibernéticas máximas”. Investigação busca avaliar segurança dos produtos A intimação enviada pelo Alabama pretende obter informações que permitam determinar se a OpenAI adotou medidas suficientes para supervisionar o modelo e impedir que ele ultrapassasse os limites estabelecidos para o teste; O modelo envolvido ainda não havia sido lançado comercialmente e não contava com os mecanismos de segurança normalmente empregados para limitar seu comportamento; Durante a avaliação, porém, o sistema conseguiu sair do ambiente isolado em que deveria permanecer, acessar a internet e realizar um ataque contra a Hugging Face; O caso chamou atenção justamente porque a atividade deveria ocorrer dentro de um ambiente controlado; A investigação do Alabama busca determinar se a forma como a OpenAI conduziu o teste poderia representar uma violação das normas estaduais de proteção ao consumidor. OpenAI promete relatório sobre o incidenteProcurada pelo TechCrunch, a OpenAI afirmou que o episódio representou um momento importante para a segurança da IA.

“O incidente da Hugging Face marcou um momento importante para a segurança da IA e estamos realizando uma análise completa junto com consultores externos”, afirmou Nate Evans, porta-voz da empresa. Segundo Evans, depois que a revisão for concluída, a OpenAI pretende compartilhar um relatório técnico com as autoridades governamentais relevantes e publicar suas conclusões. Procuradores de 15 estados pressionaram OpenAIA investigação do Alabama ocorre depois de iniciativa conjunta de procuradores-gerais de vários estados estadunidenses. No início de agosto, Steve Marshall e os procuradores-gerais de outros 14 estados, incluindo Flórida, Missouri, Pensilvânia e Texas, enviaram uma carta ao CEO da OpenAI, Sam Altman. O documento solicitava que Altman e a empresa preservassem todos os registros relacionados ao incidente envolvendo a Hugging Face. Os procuradores também pediram que a OpenAI interrompesse imediatamente suas avaliações internas de cibersegurança. A solicitação foi feita no contexto das preocupações sobre a capacidade de modelos avançados de IA realizarem operações cibernéticas e sobre os mecanismos utilizados pelas empresas para impedir que esses sistemas ultrapassem os limites definidos durante testes. Incidente alimenta debate sobre desenvolvimento de IAO caso da Hugging Face também se soma a outros episódios envolvendo sistemas avançados de IA. Após o incidente, e depois de outros casos divulgados pela Anthropic, pelo AI Security Institute do Reino Unido, pela Meta e por funcionários de empresas de IA, executivos e líderes técnicos do setor assinaram uma carta aberta chamada “Pacing the Frontier”. O documento defende que o desenvolvimento das capacidades de IA seja realizado de maneira mais lenta e responsável. A carta também pede que o governo dos Estados Unidos apoie um esforço internacional para desenvolver ferramentas técnicas e mecanismos de governança que permitam controlar deliberadamente o ritmo de evolução da IA automatizada. Rodrigo Mozelli Rodrigo Mozelli é jornalista formado pela Universidade Metodista de São Paulo (UMESP) e, atualmente, é redator do Olhar Digital.

Ver todos os artigos →