Cientistas pedem órgão global para fiscalizar sistemas de IA avançada

Proposta de órgão internacional

Quatrocentos cientistas, incluindo Geoffrey Hinton e Yoshua Bengio, pediram a criação de um órgão global para supervisionar a segurança da inteligência artificial. A carta aberta apresenta padrões de segurança, avaliações independentes e um registro de incidentes envolvendo modelos avançados.

Recomendações principais

• Manter modelos avançados isolados de redes externas nas fases iniciais, usando técnicas como air‑gap.
• Estabelecer padrões comuns de segurança aplicáveis a todo o setor de IA.
• Criar um registro público de ocorrências relevantes.
• Realizar avaliações independentes por entidades externas.
• Coordenar ações com governos para mecanismos formais de supervisão.

Contexto e controvérsias

O pedido surge após um acordo voluntário entre grandes empresas de IA, que não inclui fiscalização formal. Enquanto alguns líderes defendem que os incidentes são apenas falhas de engenharia, outros argumentam que a supervisão internacional é necessária para mitigar riscos.