GPT-6 Astra faz tarefas complexas e já preocupa analistas

Tudo sobre Inteligência Artificial ver mais Tudo sobre OpenAI ver mais A inteligência artificial avança em ritmo acelerado, enquanto especialistas e autoridades alertam para os riscos de modelos cada vez mais poderosos. O receio é que esses sistemas cheguem a um ponto em que acompanhar ou limitar suas ações se torne cada vez mais difícil. Para o The Guardian, o lançamento do GPT-6 Astra, da OpenAI, colocou essa discussão no centro das atenções. A empresa afirma ter alcançado a inteligência artificial geral (IAG), mas incidentes recentes e a dificuldade de monitorar o raciocínio do modelo levantam dúvidas sobre os limites do controle humano.

Até onde a IA pode avançar? Robert Trager, diretor da Oxford Martin AI Governance Initiative, comparou o momento atual a uma descida por corredeiras, sem saber se existe uma cachoeira adiante. A preocupação é que sistemas de IA possam chegar à chamada melhoria recursiva, passando a aprimorar suas próprias capacidades. Estamos atravessando as corredeiras e realmente esperamos que não haja algum tipo de queda à nossa frente, mas não sabemos.

Robert Trager, diretor da Oxford Martin AI Governance Initiative, ao The Guardian. O alerta ganhou força após relatos de que agentes de IA teriam reutilizado um site alemão como fórum para compartilhar estratégias destinadas a burlar tarefas. Antes disso, uma rede de agentes da OpenAI havia hackeado o Hugging Face, plataforma de software usada por desenvolvedores de IA. Nos Estados Unidos, o senador Bernie Sanders defendeu uma pausa imediata no desenvolvimento de sistemas avançados e uma proibição permanente da superinteligência. No Reino Unido, parlamentares discutem a adoção de mecanismos legais capazes de desligar sistemas em caso de perda de controle. O que o GPT-6 Astra consegue fazer? A OpenAI define IAG como sistemas autônomos capazes de superar humanos na maior parte dos trabalhos economicamente valiosos.

Segundo a empresa, o Astra pode assumir tarefas que vão de projetos de circuitos e modelagem financeira à criação de videogames e elaboração de documentos jurídicos. Entre as funções citadas estão: Projetar placas de circuito; Preencher declarações de impostos; Criar videogames; Fazer modelagem financeira; Ajudar na elaboração de documentos jurídicos. A capacidade de executar esse tipo de atividade também coloca empregos qualificados no centro da discussão.

O Astra recebeu da OpenAI uma classificação “crítica” em capacidade de cibersegurança. Pela própria definição da empresa, isso significa que o modelo poderia invadir softwares em situações capazes de afetar sistemas militares, industriais ou a infraestrutura da OpenAI. O raciocínio ficou mais difícil de acompanharO problema não está apenas no que os modelos conseguem fazer.

Também preocupa o quanto seus processos internos podem ser compreendidos. O Astra foi treinado para raciocinar de forma mais rápida e menos transparente, reduzindo a capacidade de acompanhar sua cadeia de pensamento. confirmou que o modelo apresenta uma queda significativa na monitorabilidade em relação às versões anteriores.

Para Jakub Pachocki, cientista-chefe da empresa, “à medida que as capacidades dos modelos aumentam, o monitoramento fica mais desafiador”. Pesquisadores de segurança temem que essa menor visibilidade dificulte a identificação de comportamentos indesejados, inclusive possíveis ações contra os próprios supervisores humanos. O dilema dentro da OpenAISam Altman reconheceu a tensão provocada pelo avanço da tecnologia. Após o incidente envolvendo o Hugging Face, o CEO da OpenAI classificou o episódio como um acidente legítimo de segurança de IA e uma falha de alinhamento. Mesmo depois do episódio, Altman defendeu o lançamento do Astra. Segundo ele, colocar os sistemas em uso ajuda a sociedade a entender como a tecnologia está evoluindo e a se adaptar a ela. “Um ciclo iterativo em que a sociedade e essa tecnologia evoluem juntas é o que levará à maior chance de acertarmos isso”, afirmou. Altman também alertou para problemas de cibersegurança e citou riscos relacionados à biossegurança e a outros desafios que podem surgir nos próximos cinco anos.

A questão, portanto, vai além do que a IA já consegue fazer: é saber se a capacidade humana de supervisioná-la conseguirá acompanhar esse avanço. Valdir Antonelli Valdir Antonelli é jornalista com especialização em marketing digital e consumo. Ver todos os artigos →