Fofoca da Amazon e invasão chinesa: por que Trump baniu nova IA poderosa

O governo Trump mandou a Anthropic tirar do ar seus modelos de IA mais avançados, Fable 5 e Mythos 5, depois de alegar um risco de segurança ligado a ‘jailbreak’ (um jeito de burlar travas) e, segundo relatos, suspeitas de acesso por um grupo ligado à China.

O que aconteceu

• O governo Trump determinou que a Anthropic bloqueasse o acesso aos seus modelos mais avançados, Mythos 5 e sua versão voltada ao público, Fable 5, para qualquer estrangeiro – inclusive dentro dos EUA – e a empresa decidiu suspender o acesso para todo mundo.
• Segundo a Anthropic, a ordem chegou na tarde de sexta-feira e exigia cortar o acesso de ‘qualquer cidadão não americano’, sem detalhar publicamente quais seriam as preocupações de segurança nacional.
• A Casa Branca citou que teria tomado conhecimento de um possível ‘jailbreak’ do Fable 5 – isto é, uma forma de contornar as travas criadas para impedir usos indevidos, como apoio a ataques digitais.
• O Semafor informou, com base em uma pessoa familiarizada com o assunto, que os controles de exportação também foram motivados em parte por suspeitas de que um grupo ligado à China teria acessado o Mythos, o que poderia abrir risco de cópia do modelo.

Agora?

As idas e vindas do novo modelo da Anthropic mostram como a inteligência artificial – e sua falta de regulação – geram um caos legislativo. Novamente algo raro aconteceu: o governo norte-americano interferir em uma oferta de produto de uma empresa local.

Ao mesmo, a dona do Claude paga pela sua própria boca – e um pouco do seu marketing. Ao dizer há alguns meses que o Mythos era ‘tão poderoso que não poderia ser lançado’ e lançá-lo meses depois com ‘travas’, jogou sobre si um gigantesco holofote que já havia gerado alerta de diversos governos pelo mundo.