'Não fomos rápidos o suficiente', diz representante do Discord sobre morte
Resumo
O vice-presidente de Segurança e Confiança do Discord, Jud Hoffman, admitiu, em entrevista ao jornal O Globo, falhas no processo e disse que plataforma não agiu rápido o suficiente no caso que terminou com a morte de uma adolescente brasileira de 13 anos durante uma transmissão.
O que aconteceu
Hoffman diz que o servidor ligado ao caso era novo e pequeno e não foi sinalizado a tempo para revisão humana. Ele afirmou que a empresa trabalha para melhorar os modelos e os esforços de segurança após o episódio.
No caso da menina, o servidor era novo e pequeno. Tinha sido criado há menos de duas horas. As informações disponíveis não acionaram nosso modelo de aprendizado de máquina para encaminhá-lo à revisão humana. Não fomos rápidos o suficiente, mas estamos sempre trabalhando para melhorar esses modelos e os esforços de segurança.
Jud Hoffman, vice-presidente de Segurança e Confiança do Discord, ao O Globo
Adolescente teria sido induzida ao suicídio na plataforma. Ela morreu em 22 de julho, em Naviraí (MS), e a Polícia Civil de Mato Grosso do Sul investiga as circunstâncias da morte e a atuação de integrantes de um grupo virtual.
Entrevista foi feita após a ANPD (Agência Nacional de Proteção de Dados) dar prazo para que a plataforma suspenda as lives no Brasil. Hoffman disse que a empresa vai cumprir a determinação e aplicar o bloqueio em todos os recursos de vídeo disponíveis no país.
A ANPD fez o que acredita ser necessário. Nossa abordagem no momento é trabalhar na implementação dessa ordem. A suspensão será aplicada de forma consistente em todos os lugares onde existe vídeo no Discord no Brasil.
Jud Hoffman, vice-presidente de Segurança e Confiança do Discord, em entrevista ao O Globo
Hoffman ressaltou ainda que a plataforma tem moderação proativa e reativa, combinando automação e equipes especializadas. Ele disse que cerca de 15% da empresa atua em segurança, com centenas de pessoas em funções de moderação, e que há profissionais que entendem português e conhecem o mercado brasileiro.
Executivo atribuiu parte da dificuldade à escala e ao equilíbrio entre detectar mais riscos e evitar falsos positivos. Ele afirmou que sinais iniciais podem vir de denúncias de usuários ou de autoridades e que modelos de aprendizado de máquina ajudam a priorizar o que vai para revisão humana.
Como eu disse, esses modelos trabalham em conjunto com nossas equipes especializadas. Às vezes, o primeiro sinal vem de denúncias de usuários ou das próprias autoridades policiais. Os modelos pontuam os servidores com base nos sinais disponíveis e são calibrados para equilibrar precisão e abrangência.
Jud Hoffman
Questionado sobre a criptografia de ponta a ponta em chamadas de voz e vídeo, Hoffman disse que o recurso não torna servidores invisíveis à empresa. Ele afirmou que textos não são criptografados e que metadados, convites, denúncias e uploads seguem visíveis para os sistemas de segurança.
Executivo disse que a empresa se reuniu com a ANPD e prometeu enviar esclarecimentos completos sobre o caso. Ele afirmou que o Discord tem buscado colaborar desde o episódio e que informações repassadas às autoridades são tratadas como confidenciais para não atrapalhar a investigação.
Hoffman defendeu que o combate a grupos mal-intencionados precisa ser coordenado entre plataformas. Ele citou que comunidades extremistas podem migrar entre serviços e que o objetivo, segundo ele, é impedir a atuação desses atores de forma mais ampla, e não só removê-los do Discord.
Discord afirmou que há indícios de articulação paralela em outras plataformas, como Telegram e TikTok, mas não detalhou as evidências. Hoffman disse que informações compartilhadas com a ANPD e o Ministério da Justiça são confidenciais para não interferir nas apurações.
O executivo ressaltou que a empresa não quer perder de vista a morte da adolescente. Ele afirmou que o Discord compartilha da dor da comunidade e expressa condolências à família.
Procure ajuda
Se você estiver tendo pensamentos suicidas, procure ajuda especializada.
O CVV (Centro de Valorização da Vida) oferece apoio emocional e prevenção ao suicídio gratuitamente, 24 horas por dia, pelo telefone 188. Também há atendimento por chat, e-mail e presencialmente.
Outra opção é procurar um Caps (Centro de Atenção Psicossocial) na sua cidade.
Há ainda o Pode Falar, canal criado pelo Unicef para jovens de 13 a 24 anos, com atendimento anônimo e gratuito.
Veja também
Deixe seu comentário
O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.
Meridiano
