Alerta: a reportagem abaixo trata de temas como suicídio e transtornos mentais. Se você está passando por problemas, veja ao final do texto onde buscar ajuda.
Após a morte de uma menina de 13 anos de Naviraí (MS) induzida ao suicídio e a Agência Nacional de Proteção de Dados (ANPD) determinar a suspensão das transmissões ao vivo da plataforma Discord no Brasil, especialistas ouvidos pelo Estadão defendem fiscalização mais efetiva das redes, mas também apontam o risco de que a suspensão de apenas uma delas pode fazer com que os criminosos apenas migrem para outras plataformas.
A pesquisadora Michele Prado, especialista em radicalização, extremismo e terrorismo online, diz que os criminosos recrutam vítimas em diversas plataformas como Roblox, TikTok, Instagram, Facebook, X (antigo Twitter). “A verdade é que não existe espaço seguro na internet para criança e para adolescente”, diz.
Para ela, é preciso fazer um “alerta público e uma conscientização de pais e mães” sobre as redes de ódio, compostas por adolescentes niilistas que praticam diversas violências. “O Discord é uma das plataformas que eles mais exploram, mas há manuais no Telegram ensinando como fazer manipulação psicológica, como fazer uma menina se cortar, matar o animal, fazer a tortura, eles explicam tudo.”
Especialista em direito digital, Carlos Affonso Souza também diz ter dúvidas quanto à efetividade da medida porque os criminosos podem migrar para redes menos populares, apesar de reforçar a dificuldade de fiscalização de lives no Discord.
“Se está proibindo uma funcionalidade por conta de práticas indevidas e danosas, e não é de hoje que o Discord vem falhando em moderação de conteúdo de violência extrema, também se bloqueia todas as outras lives que podem ser lícitas”, diz ele, professor da Universidade Estadual do Rio de Janeiro (Uerj).
Para Souza, o ideal seria que a plataforma apresentasse um plano de moderação real, com ajuste por inteligência artificial, aperfeiçoamento de palavras-chave em português e que isso fosse acompanhado com rigor pela ANPD.
Segundo documento ao qual o Estadão teve acesso, a transmissão de conteúdos no Discord do caso da adolescente de 13 anos não acionou os mecanismos automatizados de alerta da plataforma, que disparariam sinais para necessidade de revisão humana e eventual derrubada do conteúdo. Isso é o que a própria plataforma admite em resposta ao Ministério da Justiça e Segurança Pública e à Agência Nacional de Proteção de Dados (ANPD).
O Discord afirmou que o sistema de alerta da plataforma classificou a live com uma pontuação de risco que era apenas 1/8 da nota necessária para ativar as travas da rede. Procurado para comentar o documento, a plataforma não falou.
Afirmou ainda que “investigou um servidor privado no qual acredita-se que indivíduos envolvidos em atividades criminosas tenham incentivado a automutilação e derrubou o servidor antes da morte da adolescente”. Segundo a própria empresa, a atividade no canal de transmissão começou por volta das 2h20 da madrugada e o servidor foi removido pelo Discord às 4h15, após contato da polícia.
O Estadão teve acesso a prints que mostram a garota ainda viva em live do Discord em que, segundo pesquisadores que se infiltram em grupos extremistas na internet, ela foi incentivada a cometer violência com seu gato. Outra reprodução de tela, com a interface de uma live no Instagram, mostra a menina já morta, às 5:07.
Procurada pela reportagem, a Meta, responsável pelo Instagram, não respondeu.
“É um caso difícil e é preciso fugir dos dois extremos; de um lado os que querem proibir tudo e, de outro, os que acham que o governo quer censurar e passam a defender as plataformas”, diz Souza.
Já o pediatra Daniel Becker comemorou a medida, que acredita ter sido uma das primeiras consequências mais rigorosas do ECA Digital, a nova lei brasileira de proteção das crianças e adolescentes no ambiente digital. “O Discord tem uma arquitetura que favorece a atividade criminosa”, afirma.
Para ele, o argumento de que os criminosos vão procurar outras plataformas não se sustenta. “Se tem pessoas que estão querendo cometer crimes e tem um lugar onde elas se sentem totalmente à vontade e seguras, terá mais crimes na sociedade. Se elas precisam buscar deep web, se têm que buscar territórios muito mais difíceis de serem acessados ou plataformas mais abertas, vai reduzir o crime.”
Não se trata de medida política ou isolada, diz nota de entidades
Na sexta-feira, 14, as organizações Instituto Alana, Childhood Brasil, Coalizão Brasileira pelo Fim da Violência contra Crianças e Adolescentes e Instituto Liberta publicaram uma nota em apoio à medida da ANPD, dizendo que o bloqueio foi “proporcional ao risco identificado”. Diz ainda que “reduzir a atuação da ANPD à repercussão política do caso ignora seu dever de fiscalização que acompanha outros casos de violação de direitos e de proteção de dados de crianças e adolescentes no ambiente online, que decorre da própria legislação e que independe da posição de atores políticos sobre o episódio.”
“A suspensão não é uma medida isolada. Ela faz parte de um esforço mais amplo da ANPD para cobrar de todas as grandes plataformas digitais, não apenas do Discord, provas concretas de que estão gerindo os riscos que crianças e adolescentes enfrentam em seus serviços”, completa a nota.
Em nota, o Discord afirma investir na segurança do usuário e ter “equipes altamente especializadas que trabalham incansavelmente no combate a indivíduos envolvidos em atividades violentas”. Diz ainda que elas identificam “indivíduos que representam ameaças de alto risco”, além de “possíveis vítimas” e “comportamentos de alto risco”.
Acrescentou que estavam “desapontados com o fato de a ANPD ter adotado essa medida de forma prematura” já que o processo havia começado na sexta-feira, dia 7.
Segundo a ANPD, a medida não foi motivada apenas pelo caso da menina de Mato Grosso do Sul e, sim, de diversas denúncias sobre violências cometidas em ambientes da plataforma. Outras plataformas também serão investigadas.
Em nota, diz que há “evidências robustas de que a empresa não adotou medidas razoáveis para prevenir e mitigar riscos de acesso, exposição, recomendação ou facilitação de contato com conteúdos ou práticas que representem graves violações de direitos de crianças e adolescentes no âmbito do seu serviço, sobretudo indução, incitação, instigação ou auxílio à violência, à automutilação e ao suicídio”.
A agência reguladora afirma ainda que o Discord não consegue ter acesso ao conteúdo das transmissões de vídeo enquanto elas ocorrem. “A plataforma depende de sistemas automatizados falhos e de denúncias dos próprios participantes desses ambientes voltados à prática dessas violações”, completa.
Busque ajuda
Se você está passando por sofrimento psíquico ou conhece alguém nessa situação, veja abaixo onde encontrar apoio:
Centro de Valorização da Vida (CVV)
Se estiver precisando de ajuda imediata, entre em contato com o Centro de Valorização da Vida (CVV), serviço gratuito de apoio emocional que disponibiliza atendimento 24 horas por dia. O contato pode ser feito por e-mail, pelo chat no site ou pelo telefone 188.
Canal Pode Falar
Iniciativa criada pelo Unicef para oferecer escuta para adolescentes e jovens de 13 a 24 anos. O contato pode ser feito pelo WhatsApp, de segunda a sexta-feira, das 8h às 22h.
SUS
Os Centros de Atenção Psicossocial (Caps) são unidades do Sistema Único de Saúde (SUS) voltadas ao atendimento de pacientes com transtornos mentais. Na cidade de São Paulo, é possível buscar os endereços das unidades nesta página.
Mapa da Saúde Mental
O site traz mapas com unidades de saúde e iniciativas gratuitas de atendimento psicológico presencial e online. Disponibiliza ainda materiais de orientação sobre transtornos mentais.
