U. S. Prohibits Foreign Access to Anthropic’s New AI Models: ‘National Security’

Background

Os Estados Unidos proibiram, nesta sexta-feira, 12, o acesso de estrangeiros aos novos modelos de inteligência artificial da Anthropic; o país alega risco de ‘segurança nacional’. A medida é válida para estrangeiros dentro e fora dos EUA, inclusive para funcionários da startup.

Reasons for Prohibition

• O pedido não especificou qual seria o ‘risco de segurança nacional’, mas a companhia acredita que o motivo da ação do governo seja a possibilidade de um jailbreak do Fable 5.
• A prática consiste em utilizar engenharia de prompt ou simulações para fazer com que um bot de IA retorne algo diferente da forma que foi programado.

Anthropic’s Response

A dona do Claude disse que, apesar de cumprir a ordem, acredita que a diretiva do governo se trata de ‘mal entendido’. A Anthropic discorda que a possibilidade de um jailbreak seja motivo o suficiente para barrar a utilização da ferramenta por milhões de pessoas.

Consequences

A ordem veio apenas três dias após o lançamento dos modelos; o Fable 5 e o Mythos 5 foram disponibilizados ao público na última terça, 9.

A empresa precisou derrubar os modelos globalmente para que a diretiva fosse cumprida.

Previous Disagreements

A própria já havia informado sobre a possibilidade da ‘invasão’ ao governo americano, mas critica a atitude.

A ordem não está em conformidade com os princípios de transparência, justiça e fundamentação em fatos técnicos.

Impact

A medida pode paralisar a indústria de inteligência artificial, pois praticamente toda nova implementação, pelo menos dos principais fornecedores de modelos, seria paralisada.

A Anthropic acredita que o governo tenha a autonomia para barrar implementações arriscadas como parte de um processo legal.