📸 Créditos da imagem: Unsplash
A gente sabe que o objetivo de toda rede social é só um: aumentar o tempo de tela. Para isso, os algoritmos são treinados para entregar conteúdos que prendem e sequestram a atenção. E nada melhor do que aquilo que provoca, irrita ou divide.
Quando uma mensagem desperta emoções que o usuário não consegue ignorar, a plataforma vence. É por isso que esses mecanismos tendem a radicalizar e amplificar o extremo.
Só que agora surge a hipótese de que a IA pode fazer exatamente o oposto.
Uma matéria recente publicada no Financial Times testou os principais chatbots em 61 temas políticos e encontrou algo que vai na contramão do que estamos discutindo.
Em vez de polarizar, todos eles empurraram os usuários para posições mais moderadas, mais ao centro.
A explicação para isso não é nenhum mistério. Redes sociais ganham com atenção, e atenção vem da indignação e do conflito.
A IA quer ganhar pela utilidade e confiança, e isso exige respostas ponderadas e precisas.
Cada tecnologia é influenciada por seus modelos de negócios, e eles são diferentes. Pelo menos até agora.
Essa parece uma boa notícia. E talvez seja.
Só que ainda existem perguntas relevantes que precisamos fazer antes que esse processo oculto se torne ainda mais poderoso e influente na vida das pessoas.
De que centro estamos falando? Definido por quem, com quais dados e refletindo a cultura de onde?
Moderar não é necessariamente o mesmo que informar.
Quando tento entender um fenômeno novo, gosto de dar nome a ele. Nomear ajuda a enxergar melhor o problema.
Neste caso, fiquei em dúvida entre ‘paradoxo do consenso’ e ‘ditadura do consenso’. Acho que fico com a segunda opção.
E quando falo em ditadura, não me refiro ao sentido clássico de proibir alguém de dizer ou de pensar.
É algo mais sutil.
Os sistemas passam a definir, de forma invisível, o que parece razoável, equilibrado e aceitável sem que ninguém tenha votado nisso e sem que o leitor perceba as escolhas que estão sendo feitas.
O consenso geralmente é construído a partir do debate, da negociação de ideias.
Mas o que a IA faz é nos conduzir para um consenso a partir de um mecanismo de influência que foi calibrado a partir dos dados de treinamento e com ajustes que também têm o dedo de quem controla o sistema.
É por isso que o Grok, a IA de Elon Musk, tende a dar respostas um pouco mais a centro-direita do que seus concorrentes.
O lance é que a IA está se tornando o principal mediador do debate público, e é por isso que esse problema pode ser estrutural.
O extremo das redes sociais é fácil de identificar porque é barulhento, mas a ‘ditadura do consenso’ opera no silêncio do que parece sensato.
E quanto mais a IA se vender como isentona, menos alguém vai questionar o equilíbrio que ela está oferecendo.
Entendem o poder que ganha quem controla a definição do que é razoável?
Neste ano, vamos ter eleições em um momento em que a IA está ficando cada vez mais popular.
O TSE deu um passo importante ao proibir que sistemas de IA ranqueiem, recomendem ou priorizem candidaturas, mesmo quando isso é solicitado pelo usuário.
Mas, ainda assim, a regulação não consegue operar em todos os níveis de interação.
Quando o eleitor perguntar à IA qual é a posição mais equilibrada sobre a reforma tributária ou segurança pública, a IA responde livremente, tentando encontrar um equilíbrio que faz parte de uma escolha invisível, determinada também por quem treinou o modelo.
O problema das redes sociais foi transformar o extremo em espetáculo.
O da IA pode ser transformar o consenso em uma infraestrutura invisível.
Se o primeiro é fácil de enxergar, o segundo talvez nem seja reconhecido como um problema.
📰 Leia a notícia completa em: UOL »