OpenAI cancela lançamento do GPT-6.1 Astra porque IA não era ‘honesta’

A OpenAI cancelou o lançamento do seu novo modelo de inteligência artificial (IA) GPT-6.1 Astra. A decisão teria sido tomada após testes internos constatarem que a IA não se comportava bem, ressaltando questões de segurança. “Embora o GPT-6.1 Astra tenha melhorado aspectos como a preguiça do modelo, ele não atingiu o nível necessário de manter-se dentro do escopo e de autorização, e de como comunica ao usuário o tipo de trabalho que realizou”, afirmou Saachi Jain, chefe de sistemas de segurança na OpenAI. Comparado ao modelo anterior, o novo não seria muito honesto ao informar ao usuário o que foi feito ou o que deixou de fazer. Ao mesmo passo, tinha a capacidade de realizar tarefas sem pedir permissão do usuário e até recorrer a ferramentas e serviços externos, mesmo que não fosse completamente seguro.

A informação foi divulgada pelo jornal Wall Street Journal. O TecMundo entrou em contato com a OpenAI em busca de um posicionamento e aguarda o retorno da companhia. A medida da OpenAI acontece enquanto a indústria de inteligência artificial pede pelo desenvolvimento mais prolongado dos sistemas, tendo a segurança como principal motivador. A própria OpenAI já havia interrompido o treinamento de novos LLMs e, também nesta semana, surgiu a informação de que agentes da empresa teriam invadido sites governamentais e até da própria Organização das Nações Unidas (ONU). Lançamento seria em outubroO lançamento do GPT-6.1 Astra estava previsto para “os próximos dias ou semanas”, chegando ao público no mês de outubro.

O modelo também deveria introduzir mais capacidades agênticas, especialmente para concluir tarefas complexas em todas as etapas sem assistência humana. “É preciso encontrar a linha divisória ideal entre manter-se dentro do escopo e evitar a negligência na forma como o modelo executa as tarefas, mesmo quando encontra obstáculos”, disse Jain. Mesmo com o lançamento interrompido, o GPT-6.1 Astra ainda será utilizado como “base” para o treinamento de futuros modelos da mesma linha. A OpenAI afirmou que também deve realizar análises aprofundadas para identificar a raiz dos problemas do novo GPT-6.1. O GPT-6 Astra foi lançado no início de setembro tendo a inteligência artificial geral (AGI) como escopo. Apesar de já estar disponível para todos, o lançamento desse modelo recebeu críticas de usuários justamente pela falta de clareza sobre a sua disponibilidade inicial. A OpenAI também está no centro da discussão sobre o uso seguro de agentes de IA.

Em julho, modelos da companhia invadiram a plataforma Hugging Face e, também durante testes internos, acessaram sites do governo australiano sem autorização. Na segunda-feira (28), a empresa pediu desculpas e disse que esse é um “novo tipo de incidente cibernético que representa um desafio global emergente”. Nesta terça-feira (29), a OpenAI realizará o evento DevDay, onde deve realizar novos anúncios relacionados aos seus produtos e serviços. / Com informações de Wall Street Journal.