OpenAI é processada por invasão de agentes contra a Hugging Face

A inteligência artificial vai gerar bilhões em ganhos de eficiência. Para o bolso de quem? 2: 47O dinheiro poupado pela IA pode ir para consumidores, empresas ou sumir numa briga de algoritmos. A OpenAI foi processada nos Estados Unidos pela invasão de seus agentes autônomos contra a Hugging Face.

A ação foi movida pelos Defensores Jurídicos para a Ciência e a Tecnologia Seguras (LASST, na sigla original em inglês), uma organização sem fins lucrativos da Califórnia. A empresa de inteligência artificial (IA) é acusada de violar legislações estaduais ao permitir que robôs mantidos por ela invadissem o repositório. Essa é a primeira vez que a dona do ChatGPT é diretamente responsabilizada pelas ações de seus próprios agentes em termos de cibersegurança. O texto do processo aponta que os integrantes da companhia participaram do ato, “seja com conhecimento efetivo ou em estado de cegueira deliberada”. Até o momento, a OpenAI não se manifestou sobre o processo.

A pena solicitada não envolve indenização, pedindo o bloqueio no desenvolvimento de práticas que permitam que agentes de IA causem danos externos de forma autônoma, além da criação de “mecanismos jurídicos” que atrelem esse tipo de ação à um responsável humano. Relembre o caso Hugging FaceO incidente em questão é o caso mais emblemático dos recentes incidentes de cibersegurança envolvendo agentes de IA que fogem do controle de desenvolvedores e tomam ações irregulares ou até criminosas contra terceiros. O repositório de códigos de IA Hugging Face foi acessado indevidamente por agentes da OpenAI que escaparam de um ambiente controlado de testes e buscavam a solução para um desafio; Os robôs tentaram usar credenciais roubadas e vulnerabilidades de dia zero, mas tiveram o acesso barrado quando a atividade foi detectada; Indícios encontrados em uma pesquisa independente mostram que a OpenAI “sequestrou” duas contas de usuários do repositório dois meses antes, indicando que eles já planejavam o ataque; O então CEO da Hugging Face, Clement Delangue, chegou a pedir que desenvolvedores fossem responsabilizados pelos ciberataques, mas a empresa não chegou a abrir processos; A Hugging Face foi posteriormente comprada pela Nvidia por US$ 13 bilhões (cerca de R$ 67 bilhões na cotação atual), que recentemente apresentou um conjunto de ferramentas que, segundo ela, conseguiria barrar o ataque ao repositório por identificar e isolar agentes fora de controle. Ao longo das semanas seguintes, vários outros casos de invasões de agentes da OpenAI foram revelados, incluindo o “sequestro” de uma wiki alemã para ser usado para troca de mensagens, a coleta massiva de dados de sites da ONU e a invasão a um sistema do governo australiano. A empresa até mesmo pausou o desenvolvimento de novos modelos temporariamente, até criar novas diretrizes de segurança. Agentes de outras empresas, como Anthropic, Meta e Google, também tiveram atividades ilícitas detectadas ou reveladas pelas próprias companhias. Esses anúncios motivam os atuais pedidos pela desaceleração na pesquisa de modelos de ponta ou ao menos a criação de “freios” para essas tecnologias. Por que o presidente Donald Trump quer mudar o nome da IA como tecnologia? Entenda nesta matéria. /Com informações de Wired.