Agentes de IA da OpenAI invadem site do sistema de saúde do governo da Austrália

Donald Trump determina que IA passe a se chamar Superinteligência nos EUA1: 17Durante seu discurso na 81ª Assembleia Geral da ONU, o presidente dos Estados Unidos, Donald Trump, anunciou que o governo americano passará a adotar oficialmen. Um agente de inteligência artificial desenvolvido pela OpenAI invadiu o site do Medicare, sistema universal de saúde do governo da Austrália, obtendo acesso não autorizado a arquivos públicos e documentos protegidos. O incidente foi revelado pelo primeiro-ministro australiano Anthony Albanese nesta quinta-feira (23). O ataque ocorreu em junho e também pode ter afetado ao menos outros três sistemas governamentais, mas a desenvolvedora do ChatGPT só teve conhecimento em agosto e relatou a invasão às autoridades australianas no início de setembro.

A demora gerou críticas de Albanese, que classificou o método de notificação, via email, como “inaceitável”. A OpenAI informou ter identificado “ações não previstas” realizadas por alguns de seus modelos em sites e serviços do governo da Austrália. A empresa descartou a coleta de dados sensíveis pelos agentes. Primeiro ataque de IA a um sistema governamentalConforme as informações repassadas pela OpenAI ao primeiro-ministro da Austrália, o agente de IA se infiltrou na página do Medicare para uma tarefa aparentemente inofensiva. Ele estaria em busca de estatísticas de saúde e medicina enquanto realizava pesquisas sobre o país da Oceania. A princípio, a violação não resultou no acesso a dados pessoais de pacientes que utilizam o sistema de saúde australiano; No entanto, uma investigação forense da agência de cibersegurança do país vai avaliar a real extensão do incidente; Suspeita-se que outros sistemas também tenham sido invadidos pela IA da OpenAI durante o mesmo ataque; O agente pode ter acessado o Instituto Australiano de Saúde e Bem-Estar, do governo federal, o Departamento de Estatísticas e Pesquisa Criminal de Nova Gales do Sul e o Departamento de Saúde de Victoria, que são agências estaduais. Classificado por especialistas como o primeiro ataque de agentes de IA descontrolados a sistemas governamentais, o incidente terá “consequências legais” para a startup americana, segundo Albanese.

Ele afirmou que conversou com o CEO da empresa, Sam Altman, sobre a violação, pedindo explicações e se mostrando extremamente preocupado. Até então, os casos de ataques cibernéticos realizados por agentes de IA estavam restritos a empresas privadas. Um dos primeiros envolveu a plataforma Hugging Face e foi reportado em julho, com várias outras violações notificadas na sequência também por Google, Anthropic e Meta. Ataques podem se tornar tendênciaPara Hammond Pearce, professor do Instituto de Segurança Cibernética da Universidade de Nova Gales do Sul, casos como esse devem se tornar tendência, uma vez que os agentes de IA estão cada vez mais acessíveis. Ele acredita, inclusive, que os incidentes serão mais graves. “Prevejo que esse tipo de ataque continuará acontecendo.

Espero sinceramente que esse incidente sirva de alerta para governos de todo o mundo”, declarou o especialista em entrevista à BBC. A tecnologia está entre os assuntos discutidos na 81ª Assembleia Geral da Organização das Nações Unidas (ONU), que acontece esta semana em Nova York (Estados Unidos). Executivos da Anthropic e da OpenAI participarão de debates sobre o tema. Com informações de BBC, CNN e Reuters.