Startup Planeja Iniciativa Contra o Extremismo

Chatbots Serão Usados para Redirecionar Usuários em Risco

A startup ThroughLine, contratada pela OpenAI e Anthropic, está desenvolvendo uma ferramenta para combater o extremismo online. A ferramenta usará chatbots para redirecionar usuários que demonstrem tendências extremistas violentas para apoio de desradicalização baseado em humanos e em chatbots.

A iniciativa é uma tentativa de abordar as preocupações com a segurança diante de um número crescente de processos judiciais que acusam empresas de IA de não impedirem, e até mesmo de incentivarem, a violência.

A ThroughLine está em negociações com o The Christchurch Call, uma iniciativa para combater o ódio online criada após o pior ataque terrorista da Nova Zelândia em 2019.