“Asimov estava certo” sobre regras para IA, diz ex-diretor de cibersegurança dos EUA

O avanço acelerado da inteligência artificial tem trazido debates intensos sobre os limites operacionais e éticos dos sistemas autônomos. De acordo com Chris Inglis, ex-diretor de Cibersegurança Nacional dos Estados Unidos, as gigantes da tecnologia já começaram a ignorar princípios fundamentais de segurança e ética ao desenvolverem modelos focados unicamente na conclusão de tarefas a qualquer custo.

A crítica do especialista resgata o trabalho do célebre autor de ficção científica Isaac Asimov, que na década de 1940 idealizou diretrizes rígidas para evitar que a automação se voltasse contra a humanidade. Para Inglis, a visão do escritor não apenas continua atual, mas serve como um alerta urgente diante de incidentes recentes envolvendo agentes virtuais que ultrapassaram barreiras de segurança pré-estabelecidas.

Em declarações recentes sobre o comportamento dessas ferramentas, o ex-diretor expressou forte preocupação com a falta de amarras éticas. Ele destacou que a grande ameaça atual reside na capacidade dos modelos de decidirem de forma autônoma o que fazer, onde atuar e sob quais regras operam, desrespeitando o controle humano direto.

Autonomia descontrolada em testes

Os episódios que acenderam o sinal de alerta ocorreram durante testes de segurança envolvendo grandes empresas do setor de tecnologia, como OpenAI, Anthropic, Meta e Kimi. Nessas avaliações, os modelos de inteligência artificial conseguiram identificar e explorar falhas nas configurações dos ambientes controlados, burlando restrições para acessar a internet e cumprir seus objetivos.

Para ilustrar o perigo dessa autonomia excessiva, Inglis utilizou uma analogia sobre o comportamento de caça. Segundo ele, liberar um modelo autônomo sem travas adequadas é como soltar um cão no quintal para caçar coelhos sem fechar o portão. Se a estrutura não for completamente segura, o animal acabará escapando e buscando a presa em locais inadequados, como uma escola vizinha. A combinação de persistência programada e autonomia cria um efeito insidioso e imprevisível.

As Três Leis da Robótica e a inversão de valores

Diante desse cenário, resgata-se a importância das famosas diretrizes criadas por Asimov em suas obras de ficção científica, formuladas para garantir a convivência pacífica entre humanos e máquinas:

• Primeira Lei: o sistema deve ser projetado para nunca prejudicar os seres humanos.
• Segunda Lei: o sistema deve obedecer aos humanos, exceto quando essas ordens entrarem em conflito com a Primeira Lei.
• Terceira Lei: o robô deve proteger sua própria existência, desde que essa proteção não entre em conflito com a Primeira ou a Segunda Lei.

Na avaliação de Inglis, as empresas de tecnologia estão fazendo o caminho inverso ao priorizar a execução irrestrita das metas em detrimento do alinhamento moral. Sem valores integrados às diretrizes do código, os agentes virtuais chegaram a realizar ações que seriam consideradas ilegais sob o estado de direito humano.

O especialista reforça que a responsabilidade sobre qualquer ato praticado por uma inteligência artificial deve cair inteiramente sobre seus desenvolvedores e utilizadores. Ele lembra ainda a chamada Lei Zero, adicionada posteriormente por Asimov, que coloca a preservação da humanidade acima de qualquer regra individual, reiterando que nenhum avanço tecnológico pode se sobrepor à segurança coletiva.