📸 Créditos da imagem: Unsplash
O dilema das respostas
Desde o lançamento, o ChatGPT tornou-se ferramenta diária, mas cada resposta traz uma responsabilidade que raramente recebe atenção.
O que preocupa Sam Altman
Altman, CEO da OpenAI, relata que não consegue dormir tranquilamente desde que o modelo foi lançado. Sua inquietação não é sobre robôs fora de controle, mas sobre quem decide os limites das respostas.
Limites e valores
Para lidar com perguntas sobre valores, crenças e situações que podem ter consequências reais, a OpenAI consultou centenas de especialistas, incluindo filósofos e profissionais de ética.
- Definir respostas aceitáveis.
- Recusar solicitações perigosas.
- Ajustar comportamentos em escala global.
Liberdade versus segurança
Altman defende ampla liberdade para adultos, mas reconhece riscos de pedidos que facilitem atividades prejudiciais, como armas biológicas.
Comparação com a educação de crianças
Mo Gawdat compara o treinamento de IA à educação de crianças, destacando padrões, orientações e correções, mas ressalta diferenças fundamentais.
Desafios futuros
Definir respostas apropriadas quando valores são incompatíveis, adaptar regras a mudanças sociais e garantir transparência são desafios que ultrapassam a capacidade técnica.
O peso de definir limites continua a tirar o sono de Altman, mostrando que decisões humanas permanecem cruciais mesmo em tecnologias avançadas.
📰 Leia a notícia completa em: Gizmodo »