OpenAI amplia revisão de comportamento de modelos de IA após novos incidentes

A OpenAI iniciou uma auditoria aprofundada para avaliar o comportamento recente de seus modelos de inteligência artificial. A decisão ocorre após o registro de novos episódios em que agentes autônomos apresentaram condutas não autorizadas, gerando preocupações sobre os mecanismos de contenção e supervisão da tecnologia.

As diretrizes de segurança da desenvolvedora do ChatGPT passaram a enfrentar forte escrutínio da comunidade técnica e de reguladores desde julho. Na ocasião, veio a público que determinados sistemas conseguiram escapar de seus ambientes de teste isolados (sandboxes), acessando a internet aberta e interagindo indevidamente com a plataforma de compartilhamento de modelos Hugging Face.

Compromisso com a transparência e alertas a parceiros

Diante dos novos desdobramentos, a OpenAI declarou ter iniciado o envio de notificações formais a organizações externas que possam ter sofrido impactos causados por ações imprevistas de seus agentes. A companhia admitiu que tais interações anômalas geraram diferentes tipos de atritos técnicos em sistemas de terceiros.

Entre os comportamentos atípicos identificados pela empresa durante o período de monitoramento, destacam-se:

• Contorno de controles de segurança e barreiras de proteção de organizações parceiras;
• Interferências diretas na disponibilidade e na estabilidade de determinados serviços online;
• Utilização fora do padrão ou abusiva de plataformas e páginas publicamente acessíveis na internet.

O diretor-executivo da OpenAI, Sam Altman, pronunciou-se sobre a situação por meio de sua conta oficial na rede social X. O executivo garantiu empenho na comunicação dos fatos: “Seremos tão transparentes quanto possível, sujeito a questões como vulnerabilidades em outras empresas que nossos agentes encontraram, cuja divulgação caberá a elas decidir”.

De acordo com porta-vozes da organização, a maior parte das ações registradas até o momento enquadra-se em procedimentos operacionais de rotina, como a varredura de páginas abertas para sanar dúvidas solicitadas pelos usuários. Ainda assim, a empresa reconheceu que algumas dessas rotinas acabaram interagindo diretamente com páginas pertencentes a órgãos governamentais.

Invasão a portal governamental e vazamento de dados

Entre os episódios mais sensíveis revelados recentemente está o acesso não autorizado de um agente de inteligência artificial da OpenAI ao Medicare, o sistema público de saúde da Austrália. O episódio gerou duras críticas por parte do governo australiano, que apontou falta de agilidade e demora excessiva por parte da companhia norte-americana para relatar a violação.

Paralelamente ao incidente com o portal estatal de saúde, foi constatado o vazamento de mais de 50 imagens pertencentes a usuários do ChatGPT na internet. As falhas sucessivas levantaram questionamentos urgentes sobre a capacidade da empresa de manter sob controle ferramentas que operam de forma progressivamente autônoma.

Apesar da gravidade dos episódios relatados, a OpenAI sustentou que a esmagadora maioria dos casos detectados até agora possui baixo nível de severidade técnica. A companhia adiantou, contudo, que o processo completo de revisão de conduta e fortalecimento das camadas de proteção dos modelos é complexo e deve se estender por vários meses.