U. S. Agency Uses Anthropic AI to Find Government System Flaws

Agência de Segurança Cibernética e de Infraestrutura dos Estados Unidos (CISA)

A Agência de Segurança Cibernética e de Infraestrutura dos Estados Unidos (CISA) está utilizando o modelo de inteligência artificial Mythos, desenvolvido pela Anthropic, para auditar códigos de software do governo em busca de vulnerabilidades de segurança.

Segundo as fontes, a ferramenta está sendo empregada para analisar repositórios de código do governo estadunidense em busca de falhas que possam ser exploradas por espiões estrangeiros ou criminosos cibernéticos.

Trabalho de Análise

• O trabalho de análise está sendo conduzido pela equipe Attack Surface Evaluation, unidade da CISA responsável por realizar avaliações de segurança digital e exercícios de invasão em órgãos do governo.
• As auditorias já identificaram um grande número de vulnerabilidades, mas não forneceram detalhes.

Relação Conturbada entre Anthropic e Governo dos EUA

A utilização do Mythos pela CISA ocorre em meio a uma relação marcada por tensões entre a Anthropic e o governo dos Estados Unidos.

A empresa, sediada em San Francisco, enfrentou um dos momentos mais delicados dessa relação em fevereiro, quando se recusou a remover mecanismos de proteção que impediam que sua inteligência artificial fosse utilizada em armas autônomas ou em sistemas de vigilância doméstica.

Como consequência, o Departamento de Defesa dos Estados Unidos classificou formalmente a Anthropic como um risco para a cadeia de suprimentos, uma designação que, até então, havia sido aplicada apenas a empresas estrangeiras suspeitas de facilitar atividades de espionagem.

Essa medida acabou sendo bloqueada por um juiz em março.

Uso do Mythos pela NSA

A Agência de Segurança Nacional dos Estados Unidos (NSA) utiliza o Mythos desde pelo menos abril, mesmo durante o período em que a classificação de risco ainda estava em vigor.

Analistas da NSA vinham testando o modelo em ambientes classificados e haviam ficado impressionados com suas capacidades.

Posteriormente, a Anthropic lançou uma versão pública do Mythos chamada Fable, que, segundo a empresa, incluía mecanismos de proteção voltados para segurança cibernética.

A decisão provocou uma suspensão global da ferramenta, que só foi encerrada na semana passada.