Anthropic propõe lei para bloquear IAs que podem ‘matar mais de 50 pessoas’

A empresa Anthropic está sugerindo para o Congresso dos Estados Unidos uma lei nacional para supervisionar e ter o poder de bloquear uma inteligência artificial (IA) possivelmente violenta. Um esboço do texto foi obtido pelo site Politico. Apesar de não ter publicamente divulgado a proposta, a dona do chatbot Claude já teria falado com parlamentares sobre a ideia e até citou esses riscos na documentação da própria IPO. A regulamentação de IAs, segundo a companhia, seria uma forma de garantir a segurança da humanidade no uso dessas ferramentas. Caso vire de fato um projeto de lei, o material daria ao governo dos EUA maior poder para fiscalizar e monitorar modelos potencialmente danosos, que é uma preocupação crescente no setor após vários incidentes de cibersegurança. A lei “anti-IAs do mal” da AnthropicDe acordo com a versão do projeto de lei obtida pelo Politico, o texto permite que o governo dos EUA bloqueie o lançamento ou a utilização de um modelo de linguagem de ponta.

Isso poderia acontecer em dois casos: Se ele se mostrar um risco iminente capaz de causar mais de US$ 1 bilhão em danos; Ou se ele tiver a possibilidade real de matar ou ferir gravemente mais de 50 pessoas. Os tais riscos envolveriam casos como “criação ou liberação de uma arma biológica, a fuga do modelo ao controle de seus desenvolvedores ou um ataque cibernético”. O primeiro desses exemplos já foi identificado e barrado pela própria Anthropic, enquanto ciberataques de agentes de IA fora de controle tem sido cada vez mais frequentes em relatos. O monitoramento das IAs seria de responsabilidade de um comitê independente de avaliadores registrados junto ao Departamento do Comércio, encarregado de analisar laboratórios e modelos de ponta do mercado. Caso o grupo aponte o risco, esse relato deve ser entregue ao órgão público em até 72 horas, para que um juiz receba a ordem de pausar o uso ou lançamento da IA. Além disso, as companhias teriam uma série de novas responsabilidades, como criar estruturas de segurança, proteger denunciantes, publicar relatórios de transparência sobre novos casos e comunicar obrigatoriamente novos incidentes críticos de segurança. Apesar de ser a preferência de parte da indústria, a lei pode gerar algum atrito entre estados, pois locais como a Califórnia já possuem as próprias legislações sobre riscos de IA.

Caso aprovada, ela se sobreporia a essas determinações. Como a IA passou a ser usada na segurança pública de grandes eventos?