EUA e China concordam em criar sistema de alerta de incidentes envolvendo a IA

Qual será a próxima grande descoberta científica da inteligência artificial? 1: 55A solução do problema do milênio de Navier-Stokes por uma IA acelerou as expectativas. Crédito: Alexandre Chiavegatto FilhoOs Estados Unidos e a China vão manter diálogo recorrente sobre inteligência artificial e concordaram em criar um canal de comunicação bilateral para reportar incidentes envolvendo a tecnologia. O anúncio foi feito na última sexta-feira (25), após o encerramento da cúpula entre os presidentes Donald Trump e Xi Jinping. As negociações entre os dois lados para o compartilhamento de informações sobre problemas que afetem sistemas inteligentes avançados começaram antes mesmo da visita do líder chinês aos EUA.

Nas conversas prévias, participaram o Secretário do Tesouro americano, Scott Bessent, e o vice-primeiro ministro do país asiático, He Lifeng. Que tipos de incidentes serão notificados? Apesar do anúncio sobre a criação de um canal para registrar incidentes de IA, EUA e China não divulgaram muitos detalhes sobre a iniciativa. Não se sabe, por exemplo, quais tipos de eventos serão relatados nem quando a troca de dados será iniciada. Mas anteriormente, as superpotências haviam falado em incidentes que coloquem a segurança nacional em risco; Com isso, estima-se que os alertas incluirão apenas casos de IAs escapando de ambientes de testes e invadindo sistemas de terceiros; Um dos primeiros incidentes do tipo envolveu modelos da OpenAI atacando a plataforma Hugging Face, seguido por vários outros relatos semelhantes; Na semana passada, também foi revelado um ataque de agentes de IA contra o site do sistema de saúde do governo da Austrália, levando à abertura de uma investigação pelas autoridades do país. O comunicado divulgado pela Casa Branca chama a atenção, ainda, pela oficialização da troca de nome da tecnologia anunciada por Trump. No texto, é informado que a China “concordou em usar o termo ‘Superinteligência’ em vez de ‘inteligência artificial’ para descrever as tecnologias emergentes aplicáveis”. Também foi firmado um prazo para que os dois países se encontrem novamente com o objetivo de dar continuidade às discussões sobre riscos e benefícios da IA.

A próxima reunião deve acontecer até novembro deste ano. Sem governança global da IAMesmo com o estabelecimento de um diálogo entre EUA e China sobre IA, a dupla segue caminhos opostos quando o assunto é a criação de regras internacionais para o desenvolvimento de sistemas inteligentes. Enquanto o gigante asiático já se mostrou favorável à iniciativa, os americanos são contra. “Os Estados Unidos estão comprometidos com a diplomacia e o diálogo sobre superinteligência. Mas o diálogo internacional não pode ser permitido que derive para uma governança global”, escreveu no X o diretor do Escritório de Política Científica e Tecnológica da Casa Branca, Michael Kratsios.

O país também pediu aos membros do G20 que não avancem com essas regras. Com o aumento de casos de “IAs rebeldes”, a Nvidia lançou softwares específicos para tentar barrar as ações desses bots.