📸 Créditos da imagem: Unsplash
O vice-presidente de Segurança e Confiança do Discord, Jud Hoffman, admitiu falhas no processo e disse que a plataforma não agiu rápido o suficiente no caso que terminou com a morte de uma adolescente brasileira de 13 anos durante uma transmissão.
O que aconteceu
Hoffman diz que o servidor ligado ao caso era novo e pequeno e não foi sinalizado a tempo para revisão humana. Ele afirmou que a empresa trabalha para melhorar os modelos e os esforços de segurança após o episódio.
No caso da menina, o servidor era novo e pequeno. Tinha sido criado há menos de duas horas. As informações disponíveis não acionaram nosso modelo de aprendizado de máquina para encaminhá-lo à revisão humana. Não fomos rápidos o suficiente, mas estamos sempre trabalhando para melhorar esses modelos e os esforços de segurança.
Investigação e medidas
A Polícia Civil de Mato Grosso do Sul investiga as circunstâncias da morte e a atuação de integrantes de um grupo virtual. A empresa vai cumprir a determinação da ANPD e aplicar o bloqueio em todos os recursos de vídeo disponíveis no país.
A ANPD fez o que acredita ser necessário. Nossa abordagem no momento é trabalhar na implementação dessa ordem. A suspensão será aplicada de forma consistente em todos os lugares onde existe vídeo no Discord no Brasil.
Segurança e moderação
Hoffman ressaltou que a plataforma tem moderação proativa e reativa, combinando automação e equipes especializadas. Ele disse que cerca de 15% da empresa atua em segurança, com centenas de pessoas em funções de moderação.
Executivo atribuiu parte da dificuldade à escala e ao equilíbrio entre detectar mais riscos e evitar falsos positivos. Ele afirmou que sinais iniciais podem vir de denúncias de usuários ou de autoridades e que modelos de aprendizado de máquina ajudam a priorizar o que vai para revisão humana.
Colaboração e prevenção
Hoffman defendeu que o combate a grupos mal-intencionados precisa ser coordenado entre plataformas. Ele citou que comunidades extremistas podem migrar entre serviços e que o objetivo é impedir a atuação desses atores de forma mais ampla, e não só removê-los do Discord.
Se você estiver tendo pensamentos suicidas, procure ajuda especializada. O CVV (Centro de Valorização da Vida) oferece apoio emocional e prevenção ao suicídio gratuitamente, 24 horas por dia, pelo telefone 188.
📰 Leia a notícia completa em: UOL »