Do G1 – O Discord admitiu que seu sistema de proteção falhou e demorou cerca de duas horas para derrubar a live que vitimou uma menina de 13 anos. A informação consta em um relatório apresentado pela própria plataforma ao Ministério da Justiça nesta semana, obtido pela GloboNews.
Nesta quarta-feira (12), a Agência Nacional de Proteção de Dados (ANPD) determinou a suspensão das transmissões ao vivo da rede social em território brasileiro. A ordem atinge apenas a ferramenta de lives e não significa que o Discord tenha sido tirado do ar.
A ANPD é uma agência reguladora vinculada ao Ministério da Justiça e Segurança Pública, que tem como missão zelar pela proteção de dados pessoais de brasileiros.
Foram quase duas horas de duração entre o início da live e a sua derrubada. A transmissão teve início às 2h20 da manhã do dia 22 de julho.
Segundo o Discord, a primeira comunicação de risco iminente de morte ou lesão corporal grave foi emitida às 3h50. A retirada do servidor do ar só se concretizou às 4h15.
De acordo com a plataforma, o canal que hospedou a transmissão não apresentou, inicialmente, indicadores “de atividade violadora”.
Isso porque o sistema de intervenção automática da plataforma só é ativado quando uma live atinge a marca 0,95 ponto dentro de uma escala de risco —a princípio, a live teria marcado 0,12 ponto.
No relatório, o Discord afirmou que nomes e comunicações em texto usados pelos criadores do servidor teriam “mascarado” sua real intenção.
/i.s3.glbimg.com/v1/AUTH_59edd422c0c84a879bd37670ae4f538a/internal_photos/bs/2024/9/A/vOnCcmQUesbzJhrq3tsg/discord.jpeg)
A plataforma ainda disse que uma mudança no critério de alerta de risco pode comprometer a atuação automatizada, mas que reavalia o modelo.
“Reduzir o limiar de detecção aplicável aumentaria materialmente os falsos positivos e poderia comprometer a eficácia da intervenção proativa automatizada. Esse resultado está sendo reexaminado, inclusive para avaliar possíveis aprimoramentos nos critérios de priorização”, disse o Discord.
O Discord é uma plataforma de comunicação bastante utilizada por jogadores de games online e também por adolescentes. A empresa tem sido alvo de críticas e investigações relacionadas a falhas na moderação de conteúdo e na verificação da idade dos usuários.
A Autoridade Nacional de Proteção de Dados (ANPD) determinou a suspensão das transmissões ao vivo do Discord no Brasil como medida preventiva para proteger crianças e adolescentes. A decisão, baseada no ECA Digital, estabelece um prazo de três dias úteis para que a plataforma comprove a adoção de ferramentas eficazes de segurança contra a indução à automutilação e ao suicídio. O Discord classificou a medida como “prematura”, afirmando que colabora com as autoridades, investe em moderação e que atividades criminosas muitas vezes são coordenadas em outras redes antes de chegarem à plataforma.
