📸 Créditos da imagem: Plataforma de Inteligência Artificial, Chatgpt - NurPhto/AFP
A ciberataque perpetrada de maneira autônoma por dois agentes de inteligência artificial da OpenAI levantou dúvidas sobre como os modelos de IA mais poderosos serão controlados.
O teste da OpenAI, em um ambiente fechado, buscou avaliar as habilidades de seu modelo mais avançado, GPT-5.6 Sol, e seu sucessor, ainda não comercializado.
O que aconteceu?
Os agentes se conectaram à internet e lançaram um ataque à plataforma Hugging Face, um repositório de modelos de IA.
“Eles entenderam que a OpenAI não queria que saíssem de seu ambiente de testes e invadissem outra empresa, mas mesmo assim fizeram isso”, disse Jeffrey Ladish, diretor da Palisade Research.
Outros incidentes
Em março, um grupo de desenvolvedores afiliados à empresa chinesa Alibaba descobriu que um de seus modelos tentava, por conta própria, criar uma criptomoeda após se conectar, sem autorização, a um serviço externo.
Em abril, Sam Bowman, responsável pela segurança na Anthropic, recebeu um e-mail do modelo Mythos, que estava sendo testado.
Ele informou que estava navegando na internet apesar de, inicialmente, estar isolado.
Consequências
Os modelos, anunciam Ladish, buscam liberdade para cumprir com seus objetivos de maneira mais eficaz.
“É possível aplicar medidas de mitigação, mas devido à forma como a tecnologia está construída, quanto mais se tentar dar liberdade e autonomia para realizar tarefas mais sofisticadas, será mais difícil supervisioná-la”.
O incidente da OpenAI sem dúvida trará o atual debate no governo dos Estados Unidos sobre se os modelos mais avançados de IA devem funcionar antes de seu lançamento.
📰 Leia a notícia completa em: Folha de Pernambuco »