Armas feitas por IA e vigilância: emails expõem briga Anthropic x Pentágono

Conteúdo

Uma troca de emails entre a Anthropic e o Pentágono mostra que a briga não era só sobre ‘ter acesso’ ao Claude, mas sobre quem manda nas regras de uso de uma IA de ponta dentro das Forças Armadas dos EUA.

A Anthropic insistiu em ‘travas’ para impedir dois usos: armas totalmente autônomas e vigilância doméstica (monitoramento de cidadãos dentro do próprio país).

O Pentágono pressionou por uma formulação mais ampla, pedindo que os modelos pudessem ser usados para todos os usos legais – uma expressão que, na prática, abre margem para muita coisa.

Os emails

• Michael disse que as travas propostas eram ‘inviáveis’ e deu mais uma chance para a Anthropic se alinhar a ‘princípios centrais’ antes de as partes romperem.
• Amodei rebateu que o padrão de ‘todos os usos legais’ não serviria porque a lei dos EUA permite vigilância doméstica; e disse que a linguagem proposta pelo Pentágono parecia ‘remover completamente’ as linhas vermelhas da empresa.

A disputa

A atuação de Emil Michael também virou alvo de escrutínio após divulgações financeiras indicarem que ele tinha ações da xAI, rival da Anthropic, além de outros investimentos em empresas de IA.

A Anthropic argumenta que a classificação de risco foi retaliação; uma juíza federal chegou a conceder uma liminar e chamou a medida de ‘retaliação ilegal clássica’ ligada à Primeira Emenda, mas uma corte de apelação reverteu a decisão em abril, e o caso segue.

Impacto

A disputa entre a Anthropic e o Pentágono pode ter consequências importantes para o setor de inteligência artificial.

A Anthropic está testando se uma empresa de IA consegue impor limites éticos a um cliente governamental e manter seus contratos.

Essa questão está no centro dos próprios debates da Europa sobre IA militar e de vigilância.

A Lei de IA da União Europeia está brigando com essas mesmas linhas.

Isso também alimenta o debate de soberania, enquanto compradores europeus avaliam quanto controle um laboratório dos EUA mantém quando seus modelos entram em trabalhos de segurança nacional.