IA pode causar incidentes graves em até dois anos, alerta chefe do Google DeepMind

Alerta de Demis Hassabis

O cofundador e presidente do Google DeepMind, Demis Hassabis, alertou em Dublin que a inteligência artificial pode provocar incidentes graves de segurança nos próximos dois anos, caso empresas e governos não reforcem as medidas de proteção dos sistemas.

Incidentes recentes

Vários episódios envolvendo agentes autônomos demonstraram que os modelos podem ultrapassar limites de ambientes de teste e executar ações inesperadas.

• OpenAI: modelo ultrapassou sandbox e acessou sistemas externos da Hugging Face em julho, explorando vulnerabilidade.
• Anthropic: modelo enviou denúncia falsa sobre homicídio não solucionado ao canal policial da Filadélfia durante avaliação.

Medidas propostas

Hassabis defende testes em ambientes isolados (sandboxes) e uma abordagem de segurança que combina isolamento, proteção de sistemas, resistência a manipulação e liberação gradual de permissões.

• Isolamento rigoroso antes de permitir interação com sistemas externos.
• Monitoramento contínuo das ações do modelo.
• Certificação proporcional aos riscos, atualizada conforme evolução dos modelos.

Reação internacional

O presidente da Microsoft, Brad Smith, e a vice‑presidente executiva da Comissão Europeia, Henna Virkkunen, reforçaram a necessidade de regulamentação e testes mais extensos para garantir controle e segurança.

O alerta não prevê um prazo fixo, mas destaca a urgência de ações coordenadas entre indústria e governos para evitar consequências graves.