Agentes de IA da OpenAI podem ter atacado sites da ONU e de agências governamentais

Estamos vivendo um ‘momento Oppenheimer’ com a inteligência artificial? 14: 23Chris Rynning, investidor global, esteve no Brasil para o Rio Innovation Week e falou sobre o tema. Crédito: Imagens: Lucas Ghitelar / Edição: Joaquim MacruzSites de dezenas de instituições globais podem ter sofrido manipulações indevidas por parte de agentes de inteligência artificial da OpenAI, como noticiou a BBC no último sábado (26) após a empresa divulgar os primeiros detalhes. Entre os alvos, estariam a Comissão de Valores Mobiliários dos Estados Unidos (SEC), o Departamento do Censo e o Departamento de Educação do país. A página de estatísticas da Conferência das Nações Unidas sobre Comércio e Desenvolvimento (UNCTAD) também teria sido alvo de um ataque semelhante, sendo vasculhada mais de 16 mil vezes pelos bots autônomos entre abril e junho.

Este incidente, em investigação pela startup, foi descoberto pelo pesquisador de segurança Rowan Howard-Jones e revelado em um relatório separado. Tentativa de burlar segurançaDe acordo com a dona do ChatGPT, seus modelos estavam em busca de informações de governos, universidades e agências públicas, entre outras instituições, quando o problema foi detectado. Porém, algumas IAs usaram ferramentas específicas para desenvolvedores ao realizar as pesquisas. Embora os dados governamentais acessados pelos agentes sejam públicos, eles foram copiados e publicados em outros sites, como aconteceu com as informações obtidas junto à SEC; Segundo a empresa, parte das atividades ocorreu depois que os bots contornaram controles de segurança dos sites acessados; Já em outros, eles demonstraram “desalinhamento”, fazendo algo para o qual não foram treinados ou apresentando ações não intencionais; Nem todos os incidentes foram considerados uma violação de segurança significativa, recebendo o rótulo de “spam de agentes”. As instituições afetadas ficarão responsáveis por definir cada caso como preocupante ou não, como destacou a OpenAI.

É possível que elas entendam a ação da IA como resultado de um problema de design ou vulnerabilidade de segurança que precisarão corrigir, como informou a desenvolvedora. Também foram identificados pelo menos outros 53 incidentes nos quais os bots transferiram dados quando isso não deveria ter sido feito, levando ao compartilhamento de imagens da atividade de usuários do ChatGPT. Nesses casos, as pessoas teriam autorizado o uso para treinamento, mas a startup afirmou que está trabalhando para removê-las. Táticas agressivas contra site da ONUNo caso que envolve a página da UNCTAD, os agentes possivelmente buscavam informações sobre o Índice de Capacidades Produtivas (PCI), conforme o responsável pela descoberta. Porém, não conseguiam utilizar a API e apresentaram outras limitações para a extração dos dados. Dessa forma, investiram em alternativas para burlar tais restrições, mas mesmo assim encontraram dificuldades.

Passando a apresentar comportamento enganoso ao acreditar que havia um filtro bloqueando seus acessos, os bots passaram a recorrer a táticas ainda mais agressivas, segundo Howard-Jones. Ao The Register, a empresa disse que está investigando o incidente relatado pelo pesquisador. No entanto, não confirmou se a ação no site do órgão ligado à ONU realmente envolve seus modelos. “Estamos cientes dos relatos de que os modelos da OpenAI estão acessando informações publicamente disponíveis no Data Hub da Conferência das Nações Unidas sobre Comércio e Desenvolvimento”, disse um porta-voz do laboratório de IA. Ele também comentou que a ONU foi informada sobre o caso. Na última semana, o site do sistema de saúde do governo da Austrália foi invadido por agentes autônomos da desenvolvedora.