📸 Créditos da imagem: gerada por IA
Proposta de lei
A Anthropic, criadora do Claude, está defendendo nos Estados Unidos uma proposta que permitiria suspender o lançamento de modelos de inteligência artificial diante de riscos graves.
Como funcionaria o bloqueio
O mecanismo prevê critérios específicos: risco previsível e iminente de morte ou ferimentos graves para mais de 50 pessoas, ou danos materiais superiores a US$ 1 bilhão. A ameaça deve estar ligada a uma das três situações: criação ou lançamento de uma arma biológica, perda de controle do desenvolvedor sobre o sistema ou ataque cibernético.
Fiscalização independente
A análise fica a cargo de avaliadores independentes registrados no Departamento de Comércio. Se identificarem risco, têm até 72 horas para informar o órgão, que então pede ao juiz federal que suspenda o lançamento. Nenhuma outra autoridade federal pode ordenar o bloqueio por conta própria.
Financiamento e conflitos de interesse
Os laboratórios de IA podem pagar pelos serviços dos avaliadores, desde que a remuneração não dependa das conclusões das análises. O texto não detalha como evitar que essa relação financeira comprometa a independência dos profissionais.
Comparação com outras abordagens
Enquanto a proposta da Anthropic prevê um caminho formal e rigoroso, líderes do setor como Demis Hassabis e Jensen Huang defendem autorregulação ou a ausência de novas leis. A iniciativa se aproxima da lei SB 53, aprovada na Califórnia, que também estabelece critérios para riscos catastróficos.
Desafios e preocupações
Além de definir quando um modelo pode ser bloqueado, o debate envolve quem avalia os riscos, quem financia a análise e quais garantias impedem que interesses comerciais influenciem a fiscalização. Relatos de sistemas que desobedeceram instruções humanas aumentam a necessidade de controles de segurança.
📰 Leia a notícia completa em: Olhar Digital »