O Brasil tem de se preparar para enfrentar a radicalização online. É com essa premissa que pesquisadores da Universidade de São Paulo (USP) montaram um relatório sobre como os grupos de ódio se articulam nas redes e quais medidas podem ser tomadas para evitar a escalada de violência. A previsão é que o documento, com cerca de 40 páginas, seja entregue no começo da próxima semana ao Ministério da Justiça e Segurança Pública.
O País tem passado por uma disseminação de ameaças nas redes sociais, o que levantou a cobrança por uma maior moderação das plataformas e por investigações mais integradas para combater grupos extremistas. Atentados em São Paulo e Blumenau (SC) vitimaram ao menos cinco pessoas nas últimas semanas, entre alunos e uma professora. Em outros Estados, como Goiás e Amazonas, também houve tentativas de massacres.
“O que a gente enfrenta agora – e isso ocorre não só o Brasil, mas a nível global – é o extremismo pós-organizacional. São redes extremistas sem uma hierarquia fixa, sem um elo direto com um organização”, afirma ao Estadão a pesquisadora Michele Prado, uma das autoras do relatório. O documento, que está em fase de revisão, teve colaboração de um grupo de cerca de sete integrantes do Monitor do Debate Político no Meio Digital da USP.
Logo após o caso de Vila Sônia, no mês passado, o grupo de pesquisa lançou uma nota técnica para alertar sobre o avanço do extremismo em ambiente escolar no País. Com o caso recente em Blumenau e o aumento da preocupação sobre o tema, os pesquisadores estreitaram as relações com o Ministério da Justiça. “O relatório é resultado justamente disso”, diz Michele.
1. Usar hashes para identificar vídeos proibidos
Um dos focos do relatório, segundo a pesquisadora, é reforçar a importância da utilização de hashes, que são códigos criados por meio de um algoritmo criptográfico para identificar mais precisamente cada arquivo. “É muito importante que isso seja implementado o quanto antes, para evitar a circulação por muito tempo de vídeos e imagens extremistas nas redes”, diz a pesquisadora.
Na portaria publicada nesta semana, o Ministério da Justiça definiu que a Secretaria Nacional de Segurança Pública (Senasp) deverá instituir um banco de dados de “conteúdos considerados ilegais”, como vídeos de massacres antigos, para fins de compartilhamento entre as plataformas de redes sociais que atuam no País.
A pasta definiu que poderá ser atribuído um hash exclusivo para cada material, o que pode auxiliar na limitação da circulação de determinadas postagens nas plataformas de redes sociais. “Hoje tudo isso é feito de forma muito rudimentar, então demora para um conteúdo de massacre, por exemplo, ser retirado de uma rede. Às vezes ele nem chega a ser derrubado”, diz a pesquisadora.
Atrelar hashes a conteúdos extremistas é uma das bandeiras do Global Internet Forum to Counter Terrorism (GIFCT), fundado em 2017 por Twitter, Microsoft, Facebook e YouTube. “Em países que participam desse fórum, vídeos de massacre logo já são derrubados, porque são identificados muito rapidamente pelo hash”, diz Michele. Quando um vídeo com um hash ilegal entra no sistema, a plataforma logo identifica.
A adoção dessa medida no Brasil, exemplifica, poderia inclusive evitar a circulação de imagens como as recentemente vazadas da cantora Marília Mendonça. Os pesquisadores alertam que a definição do que são conteúdos ilegais, ainda assim, demanda a definição de um critério claro. “O combate ao extremismo é algo que vai muito além de embates políticos-partidários, o País precisa se inserir logo nesse debate”, diz a pesquisadora.
2. Monitorar subculturas específicas
Evitar a circulação de vídeos de massacres antigos e materiais violentos é um primeiro passo para evitar a radicalização das chamadas subculturas, que são grupos que se formam na internet – inicialmente, em torno de algum tema específico – e acabam aprofundando a relação em comunidade.
É a partir de alguns da inserção de conteúdos extremistas em braços de alguns desses grupos, segundo Michele, que ideários misóginos (de ódio à mulher) e neonazistas acabam ganhando força. Muitas vezes, os integrantes entram nessas comunidades não por uma identificação direta com os assuntos, mas em busca de pertencimento.
Depois, naturalizam o compartilhamento de conteúdos extremistas e a adoração a assassinos de atentados já conhecidos. “É uma mistura. Os usuários que estão na internet hoje e que de repente começam a se radicalizar vão colocando no seu prato um pouquinho de cada coisa. Não são ideais tão claros”, diz a pesquisadora.
“A True Crime Community é a principal subcultura relacionada a esse tipo de crime de ataque a escolas, mas tem várias outras, como a da machosfera e a dos ‘red pills’ (movimentos que defendem a dominação do homem em relação à mulher)”, diz Michele. Ela também cita que há comunidades que se radicalizam em comunidades gamers.
O relatório por pesquisadores da USP reserva um pedaço para listar quais são as principais dessas subculturas e de que maneira elas se articulam no Brasil. O documento é carregado de vídeos e imagens de referência de como se dão as interações em alguns desses grupos, além de denúncias sobre grupos específicos. “Para muitas polícias, isso tudo é visto como algo novo ainda.”
3. Buscar por palavras-chave de nicho
Conforme pesquisadores, os massacres em escolas são crimes que, ainda que normalmente praticados pelos chamados “lobos solitários” – em geral, adolescentes e homens –, têm um caráter coletivo. Muitos dos agressores normalmente se articulam, antes dos atentados, justamente por subculturas e exaltam agressores antigos.
No caso do fim do fim último mês, em que um adolescente de 13 anos matou uma professora de 71 a facadas na zona sul de São Paulo, havia referências claras a atentados antigos. O autor do crime não só vestia uma máscara já conhecida de outros massacres no momento do ato, como usava o sobrenome de outro agressor nas redes.
Por conta de casos como esse, o grupo de pesquisa montou um glossário, no relatório apresentado ao Ministério da Justiça, com os principais termos usados por potenciais agressores. Conhecer os principais facilita a busca de palavras-chave nas redes. “Os ataques têm esse grau de repetição, de reutilizar os símbolos usados por outros agressores”, diz Michele Prado.
Essa parte do relatório contempla não só palavras relacionadas a atentados mais antigos, como também hashtags próprias ou referenciações internas dos grupos, que se desenvolveram nos últimos anos. Muitas delas já mudaram, até como forma de os alvos das investigações tentarem driblar a polícia, mas outras seguem como âncoras para facilitar o encontro de pessoas com ideais extremistas.
Segundo pesquisadores ouvidos pelo Estadão ao longo dos últimos dias, é por meio dessas interações que parte dos adolescentes acabam sendo incentivados a praticar crimes como forma de libertação, são instruídos sobre como fazer e até mesmo recebem ajuda para conseguir armas de fogo.
4. Identificar marcadores de violência em postagens
Em outra frente, o relatório indica quais seriam alguns dos perfis âncoras que acumulam o maior número de interações nas redes e, desse modo, têm potencial de influenciar mais pessoas. Essas informações, se houver necessidade, podem ser direcionadas pelo ministério para secretarias de Segurança Pública de determinados Estados.
Ainda com a identificação desses perfis, a localização dos alvos das investigações não é tão fácil, já que muitas vezes trocam de usuário continuamente e usam softwares para esconder o IP (identificador de cada computador).
Para tentar auxiliar o trabalho do ministério, o grupo de pesquisa delimitou quais seriam os marcadores mais claros da atuação desses perfis nas redes sociais e também os principais indicativos de que alguém está prestes a cometer um atentado. A reportagem não irá divulgar detalhes para não comprometer as investigações.
O relatório também lista medidas que poderiam ser tomadas para monitoramento dos perfis e faz uma avaliação do nível de transparência das plataformas. As com graus mais críticos de avanço do extremismo, segundo Michele, são Twitter, TikTok e Discord (muito usada pela comunidade gamer).
“Ainda há muito há ser feito, mas achamos que seria importante apontar alguns caminhos, já que o avanço da radicalização é algo que tem preocupado a todos nesse momento”, diz a pesquisadora. O grupo da USP, afirma, tem tido relação direta com o ministério para tentar auxiliar a combater esse cenário.
“É muito importante orientar as pessoas também para que mantenham a calma e, se virem algum conteúdo suspeito nas redes, não repliquem. O ideal é repassar para o canal oficial do ministério”, acrescenta Michele. O canal identificado, que não exige identificação do denunciante, é www.gov.br/mj/pt-br/escolasegura
Procurado nesta semana para comentar o descontrole do Brasil em relação a falas de ódio nas redes, o TikTok afirmou estar “trabalhando agressivamente para identificar e remover relatos e conteúdos que buscam promover ou incitar atos de violência, glorificar os autores de violência e espalhar desinformações prejudiciais que poderiam causar pânico ou validar farsas, incluindo a restrição de hashtags relacionadas”. O Discord não se pronunciou, e o Twitter respondeu a solicitação apenas com um emoji de fezes.