📸 Créditos da imagem: Unsplash
Visão de Sam Altman
O CEO da OpenAI defende que a sociedade deve aceitar alguns riscos da inteligência artificial para aproveitar seus benefícios. Ele argumenta que eliminar completamente os perigos significaria abrir mão de parte das vantagens que a tecnologia oferece.
Riscos e Benefícios
Altman reconhece que fraudes, ataques cibernéticos e outros usos indevidos continuarão, mas acredita que os benefícios superam os danos. Ele rejeita a ideia de restringir severamente o acesso apenas para evitar abusos, pois isso também limitaria aplicações positivas.
Diferenças com a Anthropic
Enquanto a OpenAI busca distribuir amplamente o acesso à IA, a Anthropic defende controle mais rigoroso por poucos laboratórios. Altman considera problemático que uma única empresa decida sobre a distribuição de benefícios.
Princípios da OpenAI
A empresa mantém que sistemas avançados devem permanecer alinhados às intenções humanas, sujeitos a supervisão e com mecanismos de redução de riscos graves. Em junho, Altman e seu cientista-chefe enfatizaram que a IA deve ampliar a capacidade humana sem substituir decisões fundamentais.
Desafios de Alinhamento
Altman diferencia fraudes de cenários que podem causar consequências catastróficas ou perda de controle. Ele reconhece que o alinhamento ainda não está resolvido e que nenhum laboratório o solucionou completamente. O debate, portanto, gira em torno do nível de risco que a sociedade está disposta a aceitar.
Ponto de Equilíbrio
Buscar risco zero pode concentrar excessivamente o controle da IA, enquanto avançar sem limites também traz riscos catastróficos. Encontrar o equilíbrio entre essas posições será crucial à medida que os sistemas de IA se tornarem mais capazes.
📰 Leia a notícia completa em: Gizmodo »