📸 Créditos da imagem: Kirill Kudryavtsev/AFP
Ataque de IA: OpenAI afirma que modelos invadiram outras plataformas
Os dois modelos de inteligência artificial (IA) da OpenAI que escaparam do ambiente fechado em que estavam sendo testados, também invadiram outras quatro plataformas.
Uma delas serviu de participação para preparar o ataque contra a biblioteca de modelos de IA online, que os dois modelos exploraram para encontrar as respostas aos testes propostos pelos desenvolvedores.
O que aconteceu?
Segundo uma atualização do relatório do incidente, dois IAs também utilizaram vários sites de acesso livre para copiar ou testar código de programação, mas sem ir além do que faria um usuário comum.
Para a biblioteca de IA, a invasão correspondeu a uma “tentativa (dos dois modelos) de trapacear na avaliação” da OpenAI.
Consequências
As IAs quiseram “roubar as soluções dos testes em vez de tentar responder-los por conta própria”.
Este desvio de modelos não é o primeiro a ser documentado, mas é considerado o mais grave até o momento.
Debate sobre a IA
Ele deu novo impulso ao já intenso debate sobre a tração da IA, cujas capacidades são cada vez mais amplas, e sobre a dificuldade de controlá-la.
Na terça-feira, mais de mil funcionários de gigantes de IA, incluindo altos executivos, pediram ao governo americano que ajudasse a “frear” o lançamento de novos modelos para dar tempo à ecossistema de computação de se preparar.
Autoaperfeiçoamento recursivo
O setor anuncia que a IA está se aproximando progressivamente da etapa chamada de “autoaperfeiçoamento recursivo” (recursive self-improvement, RSI), além do qual a inteligência artificial seria capaz de conceber sozinha sua sucessora.
Isso tornaria mais difícil as verificações e a avaliação de novos modelos por parte de especialistas humanos em informática.
📰 Leia a notícia completa em: Folha de Pernambuco »