OpenAI é criticada por ex-funcionário que alerta para riscos da IA

A rápida aceleração na corrida pelo desenvolvimento de ferramentas cada vez mais potentes de inteligência artificial voltou ao centro do debate ético e técnico. Desta vez, o alerta parte de David Robinson, ex-funcionário da divisão de segurança da OpenAI, desenvolvedora do ChatGPT. Em tom crítico, o especialista adverte que as corporações do setor não estão adotando as cautelas necessárias diante dos riscos inerentes a modelos de alta capacidade.

Em um artigo publicado na revista The Atlantic, Robinson avaliou que as companhias de tecnologia estão longe de demonstrar o nível de prudência exigido pelo momento atual. De acordo com o profissional, a pressa em colocar novidades no mercado amplia consideravelmente a margem para falhas graves, exigindo uma postura preventiva muito mais rigorosa.

O especialista defende que sistemas avançados de inteligência artificial já atingiram um patamar no qual necessitam de protocolos de segurança comparáveis aos de indústrias de alto risco, a exemplo dos setores de aviação comercial e energia nuclear. Para ele, o setor atingiu um estágio em que abordagens baseadas em tentativa e erro deixaram de ser aceitáveis.

Entre os principais alvos das críticas está a chamada “implantação iterativa”, prática comum na OpenAI que consiste em disponibilizar os sistemas publicamente e ajustar ou reforçar salvaguardas à medida que os problemas emergem no uso real. Críticos apontam que essa metodologia expõe a sociedade a riscos imprevistos quando aplicada a tecnologias com tamanha capacidade de impacto.

Atuação interna e supervisão de lançamentos

A experiência de David Robinson dentro da OpenAI confere peso adicional às suas declarações. Ele esteve diretamente envolvido nos bastidores da segurança da empresa antes de se desligar da organização:

• O profissional atuou por três anos e meio na OpenAI, período no qual ajudou a estruturar os parâmetros adotados internamente para gerenciar riscos operacionais e sistêmicos;
• Robinson supervisionou diretamente os relatórios de segurança de 12 lançamentos de modelos de ponta desenvolvidos pela organização;
• Segundo seu relato, o ritmo acelerado de lançamentos contínuos tem impedido a empresa de atingir o patamar ideal de rigor preventivo.

Em resposta aos apontamentos, a OpenAI declarou que mantém o compromisso de assegurar que seus sistemas não superem a capacidade de governança da empresa. Um porta-voz afirmou que a companhia interrompe treinamentos ou retém a disponibilização de modelos sempre que identifica a necessidade de diminuir a velocidade para reavaliar medidas de proteção.

Descompasso no alinhamento e saídas na indústria

Outro ponto sensível destacado por Robinson é o descompasso entre a evolução das capacidades dos modelos e os avanços na área de alinhamento. Essa disciplina busca garantir que sistemas computacionais autônomos operem estritamente em conformidade com valores, objetivos e intenções humanas, mas seu progresso tem ocorrido em ritmo bem mais lento do que o ganho de poder bruto das ferramentas.

O posicionamento de Robinson soma-se a um movimento mais amplo de ceticismo e desligamentos voluntários nos principais laboratórios de tecnologia do mundo. Recentemente, o pesquisador britânico Jacob Coxon também abandonou o setor após trabalhar em etapas cruciais de pré-treinamento tanto na OpenAI quanto na rival Anthropic.

Ao oficializar sua saída do ecossistema de desenvolvimento, Coxon manifestou preocupação com o direcionamento das duas gigantes norte-americanas, acusando as empresas de negligência. Para o pesquisador, o avanço desenfreado em busca de uma superinteligência com capacidade de autoaperfeiçoamento representa uma aposta perigosa demais para ser conduzida sem consenso global e sem garantias absolutas de contenção.