Nascido como um espaço de conversa para gamers, o Discord cresceu na pandemia e se tornou uma ferramenta ampla de comunicação. Mas, junto com o novo status, a companhia enfrenta agora problemas de gente grande. Assim como ocorreu com outras redes sociais, a plataforma não está conseguindo conter a presença de conteúdo extremista e de ódio, incluindo servidores e canais brasileiros.
A estrutura do Discord lembra muito os antigos fóruns de internet, algo um tanto diferente de redes sociais como Facebook, TikTok e Twitter. Funciona da seguinte forma: o usuário cria um servidor, um espaço que abriga diversas salas de chat (ou canais). Os servidores podem ser públicos (qualquer pessoa pode entrar) ou privados (apenas para convidados).
Leia também
O Estadão conseguiu identificar com facilidade material que viola as políticas de uso do Discord em alguns dos servidores públicos, que costumam ser listados por sites especializados na web. Ou seja, o conteúdo estava aberto para que qualquer usuário pudesse fazer parte. Um deles, com 35 membros, se identifica como neonazista na descrição.
Em outro servidor, desta vez voltado para gamers, que possui 471 membros, um dos usuários exibia o nome de perfil com apologia ao antissemitismo. Outros dois canais encontrados pela reportagem possuem conteúdo explícito de homofobia e culto à mutilação e automutilação. Também foi possível encontrar material racista.
“Existem canais específicos dedicados a conteúdos neonazistas, como glorificação de personagens e imagens de suásticas. Mas também há recrutamento de jovens, que visam à radicalização, em canais mais amplos”, explica ao Estadão Thiago Tavares, presidente da ONG SaferNet.
Procurada pela reportagem, a empresa diz em nota: “Temos uma política de tolerância zero com conteúdos de ódio e extremismo violento e tomamos medidas quando ficamos cientes disso, incluindo banir usuários, desativar servidores e colaborar com as autoridades quando apropriado”.
Na mensagem, o Discord reforçou sua capacidade de moderação do conteúdo. “Nosso time de segurança usa uma combinação de ferramentas proativas e reativas para manter fora do serviço atividades que violam as nossas políticas, incluindo usar tecnologias avançadas, como modelos de aprendizado de máquina, empoderar e equipar moderadores e oferecer mecanismos de denúncias”.
Não é o que dizem os especialistas, especialmente em relação a conteúdo em português. “Na prática, os termos de uso do Discord são inoperantes. Eles não têm equipes de moderação dedicadas e equipes que entendem português e o contexto brasileiro”, afirma Tavares. A grande crítica é a de que a companhia não mantém escritório no País, embora o Brasil seja o seu segundo maior mercado. De acordo com a plataforma de dados Statista, o Discord teve 101,5 milhões de visitantes do Brasil em abril deste ano (atrás dos EUA, com 220 milhões).
Thiago Tavares, presidente da ONG SaferNet
A reportagem perguntou ao Discord sobre a existência de equipes de moderação em português, sobre a existência de conteúdo extremista em canais brasileiros e sobre abertura de escritório no País, mas a empresa não respondeu.
Um dos problemas na atuação da companhia é que ela não promove moderação proativa dos servidores e canais. O Estadão apurou que a companhia vem colaborando com o Ministério da Justiça de forma reativa. Ou seja, remove material apontado pelo órgão, mas não se antecipa a pedidos.
Sem citar nomes de empresas, Alesandro Barreto, coordenador do Laboratório de Operações Cibernéticas (Ciberlab), órgão ligado ao Ministério da Justiça, diz que as empresas de tecnologia colaboram no combate ao conteúdo extremista quando acionadas - “até as que não têm representação no País”, diz ele. Atualmente, apenas Twitter e Discord entram nessa categoria entre as plataformas mais conhecidas.
“Embora colaborem, o trabalho proativo das empresas poderia ser melhor”, diz Barreto à reportagem.
Já Tavares acredita que falta diálogo. “O Discord precisa abrir um canal de diálogo com as instituições brasileiras. É preciso que isso aconteça não apenas com o Ministério da Justiça, mas também com Ministérios Públicos estaduais e todo o ecossistema que lida com moderação de conteúdo no Brasil”, diz. “O segundo ponto é que o Discord precisa abrir um escritório no Brasil. Não tem cabimento.”
Histórico ruim
Fundada em 2015 pelos gamers Jason Citron e Stan Vishnevskiy, a plataforma nasceu para ser uma forma de comunicação fácil e rápida para a comunidade de jogos online. Na pandemia, o serviço ganhou músculo e houve rumores de que a Microsoft faria uma oferta de compra de US$ 10 bilhões.
O negócio não ocorreu, e, no final de 2021, a empresa recebeu um investimento de US$ 500 milhões. Agora, espera-se que o Discord esteja entre as primeiras empresas a abrir o capital quando a janela do mercado financeiro estiver favorável. Especialistas estimam que um IPO do Discord pode avaliá-lo em US$ 15 bilhões.
O crescimento dos negócios, porém, não alteraram o histórico ruim de moderação da companhia. Em 2017, a manifestação de supremacistas brancos em Charlottesville (EUA), que resultou em três mortos, foi organizada pelos servidores do Discord. Segundo o New York Times, a empresa tinha ciência da presença dos grupos em seus serviços e nada fez.
No ano passado, pouco antes de um tiroteio na cidade de Buffalo (EUA), que resultou em 10 mortos e três feridos, o atirador compartilhou seus planos e ideias racistas em um servidor na plataforma.
Mais recentemente, o Discord foi o palco de vazamentos confidenciais do governo americano sobre a guerra na Ucrânia. Segundo o Washington Post, os documentos apareceram em um servidor onde os usuários compartilhavam interesses como armas, equipamentos militares e Deus. As informações acabaram se espalhando para outros serviços na internet, como Twitter e Telegram.
Em seu relatório de transparência mais recente, que cobre o período entre outubro e dezembro de 2022, o Discord afirma que os números de advertências e remoções estão em queda. No período, 153.883 contas foram removidas, queda de 17%, em relação ao trimestre anterior - foram feitas também 12.720 advertências (queda de 29%). Em relação aos servidores, foram feitas 1.926 advertências (queda de 17%) e 33.232 remoções (alta de 9%).
Em relação a conteúdo de ódio, 4.505 contas e 620 servidores foram removidos, alta de 37% e 25% respectivamente. Sobre violência ligada ao extremismo, foram removidos 7.223 contas e 829 servidores, queda de 42% e 21%, respectivamente. No documento, não há informações agrupadas por país.
Dificuldades
Uma das principais diferenças entre o Discord e outras plataformas, que estão na mira do governo para serem reguladas, é a ausência de algoritmos de recomendação. Enquanto YouTube, Facebook, Twitter e TikTok são questionados por amplificar material extremista e conteúdo de ódio por meio de seus sistemas de sugestão, o Discord lembra mais a internet “de antigamente”, na qual os fóruns e a transmissão boca a boca de conteúdo imperavam.
Esse modo de funcionamento permite que parte do discurso radical seja diluída nas conversas de fóruns mais amplos. Segundo Myllena Araújo, doutoranda em Linguística pelo Programa de Pós-Graduação em Linguística da UFSCar, a linguagem do humor, pela qual muitas mensagens de ódio são propagadas nas redes sociais, é uma das formas mais rápidas e mais difíceis de ser combatida por se “disfarçar” de piada em muitas ocasiões.
A “trollagem”, brincadeiras como memes que utilizam a comédia como elemento para reforçar o preconceito, são frequentes em servidores do Discord, e aparecem com mensagens racistas e machistas, por exemplo. Para Myllena, o componente visual — da união de texto com imagens nesses memes — é o que mais dificulta o filtro de moderação na plataforma.
“O fato de não haver tantas pessoas que entendam a língua portuguesa trabalhando no Discord possibilita a disseminação desse discurso de ódio. Esse conteúdo de humor tem toda uma carga de preconceito, que muitas vezes as pessoas demoram para refletir. Essa reação faz a mensagem preconceituosa chegar a mais pessoas”, explica Myllena.
Embora os gamers estejam longe de ser os únicos expostos a conteúdos extremistas no Discord, existe uma intersecção entre os espaços ocupados por essas pessoas e por promotores desses discursos. “Essa é uma tática da extrema-direita que vem desde 2014. Ela ocupa os espaços de socialização de gamers e normaliza o discurso de ódio. Assim, ao chegar no Discord, parte da comunidade já foi exposta a esse material em outros lugares. Não é preciso nem algoritmo”, explica Flávia Gasi, estrategista do Laboratório de Impacto Gamer (Liga).
Myllena Araújo, doutoranda em Linguística pelo Programa de Pós-Graduação em Linguística da UFSCar
Recentemente, a instituição lançou uma pesquisa qualitativa sobre jogadores brasileiros, na qual o Discord apareceu como uma das plataformas preferidas. O trabalho também identificou seis perfis entre os jogadores nacionais, e, entre eles, cinco se identificam com ideais conservadores ou apolíticos - e estão sujeitos a discursos radicalizados.
“Ao longo do tempo, a identidade gamer foi sendo cooptada. O videogame surgiu como algo para família, depois virou algo ‘de menino’ por volta do lançamento do PlayStation. E isso se aprofunda, causando opressão de minorias nas comunidades. A extrema-direita utiliza os espaços de sociabilidade como celeiro para um projeto de radicalização. Demorou para que o resto de nós enxergássemos isso”, afirma Flávia.
“Quem não é de extrema-direita precisa fazer o trabalho para combater isso”, diz.