📸 Créditos da imagem: Thrive Studios ID / Shutterstock
Proposta de Satya Nadella
O presidente do conselho e CEO da Microsoft, Satya Nadella, publicou no X que sistemas avançados de inteligência artificial devem contar com mecanismos de contenção e um botão de emergência controlado por humanos. A ideia é permitir que pessoas autorizadas interrompam ou desliguem um modelo enquanto ele executa uma tarefa, garantindo segurança em operações críticas.
Princípios de Segurança
- Separação entre o modelo e a estrutura de execução.
- Registros verificáveis e legíveis por humanos de todas as ações relevantes.
- Testes contínuos que incluam falhas, ataques e cenários extremos.
- Auditabilidade independente, sem depender do próprio modelo.
- Contenção que permita pausar ou desligar o sistema em caso de comprometimento.
- Divulgação rápida de incidentes e lições aprendidas.
Contexto e Reação
O comentário de Nadella surge em meio a debates sobre a velocidade do desenvolvimento da IA e a necessidade de reforçar medidas de segurança. Outros líderes, como Bill Gates, Dario Amodei, Sam Altman e Elon Musk, já expressaram preocupações semelhantes. O presidente dos Estados Unidos, Donald Trump, tem adotado uma postura mais otimista, enfatizando a competitividade global.
Conclusão
Para Nadella, a segurança não pode depender da confiança em um modelo. Ele defende uma arquitetura onde a observação, o teste e a limitação sejam realizados por mecanismos independentes, mantendo o controle humano sobre as ações executadas em nome das organizações.
📰 Leia a notícia completa em: Olhar Digital »