Por que os grupos de ódios estão cada vez mais próximos dos adolescentes nas redes sociais?


Extremistas ganham espaço no Twitter e no TikTok, elevando risco de cooptação de adolescentes; ministério disparou 134 alertas de atentados em colégios desde 2021

Por Ítalo Lo Re
Atualização:

O ataque a uma escola estadual em São Paulo por um aluno de 13 anos, em que uma professora foi morta, expõe o avanço dos grupos extremistas nas redes sociais. Antes concentrados em ambientes mais escondidos, como chans (fóruns anônimos) e outros espaços na deep web (face oculta da internet), eles agora se espalham por redes com milhões de acessos, como Twitter e TikTok. Um dos principais alvos são adolescentes, em geral meninos, em busca de aceitação e atraídos por replicar ideias radicais. Na véspera do atentado desta semana, o agressor fez postagens no Twitter, indicando a intenção violenta.

O Ministério da Justiça e Segurança Pública começou, há dois anos, um novo trabalho de prevenção no Ciberlab, laboratório de operações cibernéticas que passou a ficar mais focado em auxiliar as polícias a desarticular possíveis atentados em escolas. Com ajuda da Homeland Security Investigations (HSI), agência americana que atua no Brasil por meio da Embaixada dos Estados Unidos, o setor enviou 80 alertas desse tipo aos Estados só no último ano – 134 desde 2021.

Ataque à escola estadual Thomázia Montoro terminou com a morte de uma professora de 71 anos e deixou outras quatro pessoas feridas.  Foto: Werther Santana/Estadão
continua após a publicidade

Nas redes virtuais, os grupos se organizam normalmente em braços de subculturas como a True Crime Community – focados em ideários misóginos (ódio à mulher) e neonazistas – e costumam homenagear autores de outros massacres, tanto no exterior, como o de Columbine (EUA, 1999), quanto do Brasil, como os de Suzano (São Paulo, 2019) e Realengo (Rio, 2011). Entre os adolescentes mais suscetíveis às investidas dos extremistas estão os da comunidade gamer e aqueles que se veem cativados por promessas de que a violência apagará frustrações cotidianas.

“Eles formam um sistema de crenças no qual têm uma imagem autopercebida distorcida, de que o atentado vai transformá-los em heróis, em mártires, e de que haverá uma purificação”, diz Michele Prado, que estuda a extrema direita e integra o Monitor do Debate Político no Meio Digital da USP. As postagens, afirma, apresentam falsamente os crimes de ódio como reação a uma sensação de exclusão.

Nas redes, não é difícil achar “edits”, vídeos que romantizam os autores de atentados mais antigos com músicas dramáticas. Antes do caso dessa semana, o adolescente disse que esperava justamente a difusão de conteúdos o exaltando após o ato. No ataque, usou uma máscara de caveira, já conhecida de outros atentados.

continua após a publicidade

A cooptação de adolescentes normalmente começa em redes mais abertas, como Twitter e TikTok, e as interações se radicalizam ainda mais ao chegar em ambientes privados, como Discord (popular entre gamers) e Telegram. Quem se envereda por esses grupos nem sempre tem perfil extremista no começo, mas se empolga com a possibilidade de pertencer a uma comunidade e se torna cada vez mais radical. A pouca idade dificulta a avaliação sobre o risco dos conteúdos apresentados.

“Com o avanço principalmente de aplicativos de mensagem, como Telegram, que são criptografados, ficou mais difícil o monitoramento e mais fácil para todos os extremistas conseguirem amplificar seus conceitos, para cooptar, radicalizar e recrutar inclusive para o extremismo violento”, diz Michele. A pesquisadora reforça que a migração dos grupos extremistas para a “superfície” da internet se intensificou há cerca de quatro anos. “Hoje não precisa mais buscar por conteúdo extremista; chega na palma da mão”, alerta.

continua após a publicidade

Para especialistas, faltam políticas públicas focadas em crimes de ódio, como interface mais direta entre escolas e polícia, e especialização dos investigadores – conhecer massacres emblemáticos ajuda a identificar simbologias comuns e buscar palavras-chave na rede. Eles cobram ainda atuação mais proativa das plataformas.

Iniciativas

No Espírito Santo, onde um ataque em Aracruz teve quatro mortos em novembro, foi criado este ano um comitê de segurança escolar, de atuação interdisciplinar, que envolve trabalho de inteligência policial, ações educativas nos colégios e incentivo para que a população acione canais de denúncia ao notar conteúdos suspeitos, como mensagens em cadernos, postagens ou pichações. “Realizamos, desde janeiro, duas intervenções que evitaram casos similares ao de Aracruz”, afirma Alexandre Ofranti Ramalho, secretário da Segurança capixaba.

continua após a publicidade
Em 2022, um ataque a uma escola em Aracruz, em Espirito Santo, vitimou quatro pessoas.  Foto: KADIJA FERNANDES / AFP

Já o Ministério da Justiça, de janeiro a março, emitiu 21 alertas aos Estados. “Esse conteúdo é repassado às polícias estaduais, que instauram seus procedimentos investigativos e, a depender da quantidade de elementos, solicitam eventualmente busca e apreensão”, diz o delegado Alessandro Barreto, coordenador do Ciberlab. “Não dá para dizer quantos iriam causar vítimas, mas vidas foram salvas e tragédias, evitadas. Infelizmente não conseguimos pegar todos os dados, como desse caso em São Paulo.”

Um obstáculo, apontam especialistas, é justamente ter integração maior e mais ágil entre os órgãos de segurança. Como as redes online têm membros de vários lugares, é frequente que uma denúncia feita em um Estado leve a um autor da postagem ou plano de ataque em um local diferente.

continua após a publicidade
Hoje não precisa mais buscar por conteúdo extremista; chega na palma da mão

Michele Prado, do Monitor do Debate Político no Meio Digital da USP

O apoio de agências e entidades especializadas, além de grupos de pesquisa, é outro caminho. A Safernet, organização não governamental, auxilia a divisão de São Paulo do Ministério Público Federal (MPF) nas investigações no ambiente virtual. No ano passado, o total de queixas recebidas pela Safernet cresceu 67% – chegou a 74 mil. Já as denúncias de apologia a crimes contra a vida, onde se enquadram ameaças de ataques a escolas, subiram 40% – foram 10,4 mil. As plataformas com mais registros foram Twitter, TikTok, Instagram, Facebook e Telegram.

Segundo Thiago Tavares, presidente da Safernet, os atentados a escolas não seguem a lógica de células terroristas na Europa e no Oriente Médio. “Aqui tem sido mais a ação de ‘lobos solitários’”, diz. “Geralmente jovens com problemas mentais, com ideação suicida, estimulados a praticar atos de violência e que passaram por processo de radicalização. Eles enxergam o diferente como alguém a ser eliminado. Não aceitam conviver com diferenças de gênero, orientação sexual, raça, etnia”, continua.

continua após a publicidade
Homenagens em frente à Escola Estadual Prof. Raul Brasil, em Suzano (SP), que em 2019 foi palco de uma chacina praticada por dois jovens e que resultou na morte de nove pessoas. Foto: Guiherme Rodrigues/Estadão

Ele destaca a necessidade de atuação mais ampla da educação e da saúde, para acompanhamento psicológico. E reforça aos pais ter atenção em interações dos filhos com desconhecidos. “Os fóruns em ambientes de games têm alta incidência de conteúdos misóginos, um prato cheio para incels (celibatários involuntários, que em muitos casos estimulam violências), que acabam se conhecendo, se aproximando nesses fóruns e, dali, migram para outros espaços.”

Iniciativas como a Christchurch Call, comunidade de mais de 120 governos (entre eles Argentina e Chile), provedores de serviços online e organizações da sociedade civil buscam monitorar e denunciar ameaças mundo afora – o Brasil, porém, não integra a rede. “Estamos pelo menos uns dez anos atrasados em relação a outros países”, afirma Michele.

Plataformas

O TikTok diz, em nota, atuar “continuamente para remover qualquer conteúdo e indivíduos que prejudiquem a experiência criativa e alegre que as pessoas esperam em nossa plataforma”. Procurado, o Twitter, que desmembrou a assessoria após Elon Musk assumir a empresa, respondeu apenas com a mensagem automática de um emoji.

O Discord afirma, em nota, ter “política de tolerância zero contra ódio ou extremismo violento”. Sobre Facebook e Instagram, a Meta afirma colaborar com as autoridades locais, respondendo a solicitações governamentais, e diz não permitir que organizações ou indivíduos que anunciem missão violenta ou envolvidos com violência estejam nas plataformas. O Telegram não respondeu. /COLABOROU RODOLPHO PAIXÃO, ESPECIAL PARA O ESTADÃO

O ataque a uma escola estadual em São Paulo por um aluno de 13 anos, em que uma professora foi morta, expõe o avanço dos grupos extremistas nas redes sociais. Antes concentrados em ambientes mais escondidos, como chans (fóruns anônimos) e outros espaços na deep web (face oculta da internet), eles agora se espalham por redes com milhões de acessos, como Twitter e TikTok. Um dos principais alvos são adolescentes, em geral meninos, em busca de aceitação e atraídos por replicar ideias radicais. Na véspera do atentado desta semana, o agressor fez postagens no Twitter, indicando a intenção violenta.

O Ministério da Justiça e Segurança Pública começou, há dois anos, um novo trabalho de prevenção no Ciberlab, laboratório de operações cibernéticas que passou a ficar mais focado em auxiliar as polícias a desarticular possíveis atentados em escolas. Com ajuda da Homeland Security Investigations (HSI), agência americana que atua no Brasil por meio da Embaixada dos Estados Unidos, o setor enviou 80 alertas desse tipo aos Estados só no último ano – 134 desde 2021.

Ataque à escola estadual Thomázia Montoro terminou com a morte de uma professora de 71 anos e deixou outras quatro pessoas feridas.  Foto: Werther Santana/Estadão

Nas redes virtuais, os grupos se organizam normalmente em braços de subculturas como a True Crime Community – focados em ideários misóginos (ódio à mulher) e neonazistas – e costumam homenagear autores de outros massacres, tanto no exterior, como o de Columbine (EUA, 1999), quanto do Brasil, como os de Suzano (São Paulo, 2019) e Realengo (Rio, 2011). Entre os adolescentes mais suscetíveis às investidas dos extremistas estão os da comunidade gamer e aqueles que se veem cativados por promessas de que a violência apagará frustrações cotidianas.

“Eles formam um sistema de crenças no qual têm uma imagem autopercebida distorcida, de que o atentado vai transformá-los em heróis, em mártires, e de que haverá uma purificação”, diz Michele Prado, que estuda a extrema direita e integra o Monitor do Debate Político no Meio Digital da USP. As postagens, afirma, apresentam falsamente os crimes de ódio como reação a uma sensação de exclusão.

Nas redes, não é difícil achar “edits”, vídeos que romantizam os autores de atentados mais antigos com músicas dramáticas. Antes do caso dessa semana, o adolescente disse que esperava justamente a difusão de conteúdos o exaltando após o ato. No ataque, usou uma máscara de caveira, já conhecida de outros atentados.

A cooptação de adolescentes normalmente começa em redes mais abertas, como Twitter e TikTok, e as interações se radicalizam ainda mais ao chegar em ambientes privados, como Discord (popular entre gamers) e Telegram. Quem se envereda por esses grupos nem sempre tem perfil extremista no começo, mas se empolga com a possibilidade de pertencer a uma comunidade e se torna cada vez mais radical. A pouca idade dificulta a avaliação sobre o risco dos conteúdos apresentados.

“Com o avanço principalmente de aplicativos de mensagem, como Telegram, que são criptografados, ficou mais difícil o monitoramento e mais fácil para todos os extremistas conseguirem amplificar seus conceitos, para cooptar, radicalizar e recrutar inclusive para o extremismo violento”, diz Michele. A pesquisadora reforça que a migração dos grupos extremistas para a “superfície” da internet se intensificou há cerca de quatro anos. “Hoje não precisa mais buscar por conteúdo extremista; chega na palma da mão”, alerta.

Para especialistas, faltam políticas públicas focadas em crimes de ódio, como interface mais direta entre escolas e polícia, e especialização dos investigadores – conhecer massacres emblemáticos ajuda a identificar simbologias comuns e buscar palavras-chave na rede. Eles cobram ainda atuação mais proativa das plataformas.

Iniciativas

No Espírito Santo, onde um ataque em Aracruz teve quatro mortos em novembro, foi criado este ano um comitê de segurança escolar, de atuação interdisciplinar, que envolve trabalho de inteligência policial, ações educativas nos colégios e incentivo para que a população acione canais de denúncia ao notar conteúdos suspeitos, como mensagens em cadernos, postagens ou pichações. “Realizamos, desde janeiro, duas intervenções que evitaram casos similares ao de Aracruz”, afirma Alexandre Ofranti Ramalho, secretário da Segurança capixaba.

Em 2022, um ataque a uma escola em Aracruz, em Espirito Santo, vitimou quatro pessoas.  Foto: KADIJA FERNANDES / AFP

Já o Ministério da Justiça, de janeiro a março, emitiu 21 alertas aos Estados. “Esse conteúdo é repassado às polícias estaduais, que instauram seus procedimentos investigativos e, a depender da quantidade de elementos, solicitam eventualmente busca e apreensão”, diz o delegado Alessandro Barreto, coordenador do Ciberlab. “Não dá para dizer quantos iriam causar vítimas, mas vidas foram salvas e tragédias, evitadas. Infelizmente não conseguimos pegar todos os dados, como desse caso em São Paulo.”

Um obstáculo, apontam especialistas, é justamente ter integração maior e mais ágil entre os órgãos de segurança. Como as redes online têm membros de vários lugares, é frequente que uma denúncia feita em um Estado leve a um autor da postagem ou plano de ataque em um local diferente.

Hoje não precisa mais buscar por conteúdo extremista; chega na palma da mão

Michele Prado, do Monitor do Debate Político no Meio Digital da USP

O apoio de agências e entidades especializadas, além de grupos de pesquisa, é outro caminho. A Safernet, organização não governamental, auxilia a divisão de São Paulo do Ministério Público Federal (MPF) nas investigações no ambiente virtual. No ano passado, o total de queixas recebidas pela Safernet cresceu 67% – chegou a 74 mil. Já as denúncias de apologia a crimes contra a vida, onde se enquadram ameaças de ataques a escolas, subiram 40% – foram 10,4 mil. As plataformas com mais registros foram Twitter, TikTok, Instagram, Facebook e Telegram.

Segundo Thiago Tavares, presidente da Safernet, os atentados a escolas não seguem a lógica de células terroristas na Europa e no Oriente Médio. “Aqui tem sido mais a ação de ‘lobos solitários’”, diz. “Geralmente jovens com problemas mentais, com ideação suicida, estimulados a praticar atos de violência e que passaram por processo de radicalização. Eles enxergam o diferente como alguém a ser eliminado. Não aceitam conviver com diferenças de gênero, orientação sexual, raça, etnia”, continua.

Homenagens em frente à Escola Estadual Prof. Raul Brasil, em Suzano (SP), que em 2019 foi palco de uma chacina praticada por dois jovens e que resultou na morte de nove pessoas. Foto: Guiherme Rodrigues/Estadão

Ele destaca a necessidade de atuação mais ampla da educação e da saúde, para acompanhamento psicológico. E reforça aos pais ter atenção em interações dos filhos com desconhecidos. “Os fóruns em ambientes de games têm alta incidência de conteúdos misóginos, um prato cheio para incels (celibatários involuntários, que em muitos casos estimulam violências), que acabam se conhecendo, se aproximando nesses fóruns e, dali, migram para outros espaços.”

Iniciativas como a Christchurch Call, comunidade de mais de 120 governos (entre eles Argentina e Chile), provedores de serviços online e organizações da sociedade civil buscam monitorar e denunciar ameaças mundo afora – o Brasil, porém, não integra a rede. “Estamos pelo menos uns dez anos atrasados em relação a outros países”, afirma Michele.

Plataformas

O TikTok diz, em nota, atuar “continuamente para remover qualquer conteúdo e indivíduos que prejudiquem a experiência criativa e alegre que as pessoas esperam em nossa plataforma”. Procurado, o Twitter, que desmembrou a assessoria após Elon Musk assumir a empresa, respondeu apenas com a mensagem automática de um emoji.

O Discord afirma, em nota, ter “política de tolerância zero contra ódio ou extremismo violento”. Sobre Facebook e Instagram, a Meta afirma colaborar com as autoridades locais, respondendo a solicitações governamentais, e diz não permitir que organizações ou indivíduos que anunciem missão violenta ou envolvidos com violência estejam nas plataformas. O Telegram não respondeu. /COLABOROU RODOLPHO PAIXÃO, ESPECIAL PARA O ESTADÃO

O ataque a uma escola estadual em São Paulo por um aluno de 13 anos, em que uma professora foi morta, expõe o avanço dos grupos extremistas nas redes sociais. Antes concentrados em ambientes mais escondidos, como chans (fóruns anônimos) e outros espaços na deep web (face oculta da internet), eles agora se espalham por redes com milhões de acessos, como Twitter e TikTok. Um dos principais alvos são adolescentes, em geral meninos, em busca de aceitação e atraídos por replicar ideias radicais. Na véspera do atentado desta semana, o agressor fez postagens no Twitter, indicando a intenção violenta.

O Ministério da Justiça e Segurança Pública começou, há dois anos, um novo trabalho de prevenção no Ciberlab, laboratório de operações cibernéticas que passou a ficar mais focado em auxiliar as polícias a desarticular possíveis atentados em escolas. Com ajuda da Homeland Security Investigations (HSI), agência americana que atua no Brasil por meio da Embaixada dos Estados Unidos, o setor enviou 80 alertas desse tipo aos Estados só no último ano – 134 desde 2021.

Ataque à escola estadual Thomázia Montoro terminou com a morte de uma professora de 71 anos e deixou outras quatro pessoas feridas.  Foto: Werther Santana/Estadão

Nas redes virtuais, os grupos se organizam normalmente em braços de subculturas como a True Crime Community – focados em ideários misóginos (ódio à mulher) e neonazistas – e costumam homenagear autores de outros massacres, tanto no exterior, como o de Columbine (EUA, 1999), quanto do Brasil, como os de Suzano (São Paulo, 2019) e Realengo (Rio, 2011). Entre os adolescentes mais suscetíveis às investidas dos extremistas estão os da comunidade gamer e aqueles que se veem cativados por promessas de que a violência apagará frustrações cotidianas.

“Eles formam um sistema de crenças no qual têm uma imagem autopercebida distorcida, de que o atentado vai transformá-los em heróis, em mártires, e de que haverá uma purificação”, diz Michele Prado, que estuda a extrema direita e integra o Monitor do Debate Político no Meio Digital da USP. As postagens, afirma, apresentam falsamente os crimes de ódio como reação a uma sensação de exclusão.

Nas redes, não é difícil achar “edits”, vídeos que romantizam os autores de atentados mais antigos com músicas dramáticas. Antes do caso dessa semana, o adolescente disse que esperava justamente a difusão de conteúdos o exaltando após o ato. No ataque, usou uma máscara de caveira, já conhecida de outros atentados.

A cooptação de adolescentes normalmente começa em redes mais abertas, como Twitter e TikTok, e as interações se radicalizam ainda mais ao chegar em ambientes privados, como Discord (popular entre gamers) e Telegram. Quem se envereda por esses grupos nem sempre tem perfil extremista no começo, mas se empolga com a possibilidade de pertencer a uma comunidade e se torna cada vez mais radical. A pouca idade dificulta a avaliação sobre o risco dos conteúdos apresentados.

“Com o avanço principalmente de aplicativos de mensagem, como Telegram, que são criptografados, ficou mais difícil o monitoramento e mais fácil para todos os extremistas conseguirem amplificar seus conceitos, para cooptar, radicalizar e recrutar inclusive para o extremismo violento”, diz Michele. A pesquisadora reforça que a migração dos grupos extremistas para a “superfície” da internet se intensificou há cerca de quatro anos. “Hoje não precisa mais buscar por conteúdo extremista; chega na palma da mão”, alerta.

Para especialistas, faltam políticas públicas focadas em crimes de ódio, como interface mais direta entre escolas e polícia, e especialização dos investigadores – conhecer massacres emblemáticos ajuda a identificar simbologias comuns e buscar palavras-chave na rede. Eles cobram ainda atuação mais proativa das plataformas.

Iniciativas

No Espírito Santo, onde um ataque em Aracruz teve quatro mortos em novembro, foi criado este ano um comitê de segurança escolar, de atuação interdisciplinar, que envolve trabalho de inteligência policial, ações educativas nos colégios e incentivo para que a população acione canais de denúncia ao notar conteúdos suspeitos, como mensagens em cadernos, postagens ou pichações. “Realizamos, desde janeiro, duas intervenções que evitaram casos similares ao de Aracruz”, afirma Alexandre Ofranti Ramalho, secretário da Segurança capixaba.

Em 2022, um ataque a uma escola em Aracruz, em Espirito Santo, vitimou quatro pessoas.  Foto: KADIJA FERNANDES / AFP

Já o Ministério da Justiça, de janeiro a março, emitiu 21 alertas aos Estados. “Esse conteúdo é repassado às polícias estaduais, que instauram seus procedimentos investigativos e, a depender da quantidade de elementos, solicitam eventualmente busca e apreensão”, diz o delegado Alessandro Barreto, coordenador do Ciberlab. “Não dá para dizer quantos iriam causar vítimas, mas vidas foram salvas e tragédias, evitadas. Infelizmente não conseguimos pegar todos os dados, como desse caso em São Paulo.”

Um obstáculo, apontam especialistas, é justamente ter integração maior e mais ágil entre os órgãos de segurança. Como as redes online têm membros de vários lugares, é frequente que uma denúncia feita em um Estado leve a um autor da postagem ou plano de ataque em um local diferente.

Hoje não precisa mais buscar por conteúdo extremista; chega na palma da mão

Michele Prado, do Monitor do Debate Político no Meio Digital da USP

O apoio de agências e entidades especializadas, além de grupos de pesquisa, é outro caminho. A Safernet, organização não governamental, auxilia a divisão de São Paulo do Ministério Público Federal (MPF) nas investigações no ambiente virtual. No ano passado, o total de queixas recebidas pela Safernet cresceu 67% – chegou a 74 mil. Já as denúncias de apologia a crimes contra a vida, onde se enquadram ameaças de ataques a escolas, subiram 40% – foram 10,4 mil. As plataformas com mais registros foram Twitter, TikTok, Instagram, Facebook e Telegram.

Segundo Thiago Tavares, presidente da Safernet, os atentados a escolas não seguem a lógica de células terroristas na Europa e no Oriente Médio. “Aqui tem sido mais a ação de ‘lobos solitários’”, diz. “Geralmente jovens com problemas mentais, com ideação suicida, estimulados a praticar atos de violência e que passaram por processo de radicalização. Eles enxergam o diferente como alguém a ser eliminado. Não aceitam conviver com diferenças de gênero, orientação sexual, raça, etnia”, continua.

Homenagens em frente à Escola Estadual Prof. Raul Brasil, em Suzano (SP), que em 2019 foi palco de uma chacina praticada por dois jovens e que resultou na morte de nove pessoas. Foto: Guiherme Rodrigues/Estadão

Ele destaca a necessidade de atuação mais ampla da educação e da saúde, para acompanhamento psicológico. E reforça aos pais ter atenção em interações dos filhos com desconhecidos. “Os fóruns em ambientes de games têm alta incidência de conteúdos misóginos, um prato cheio para incels (celibatários involuntários, que em muitos casos estimulam violências), que acabam se conhecendo, se aproximando nesses fóruns e, dali, migram para outros espaços.”

Iniciativas como a Christchurch Call, comunidade de mais de 120 governos (entre eles Argentina e Chile), provedores de serviços online e organizações da sociedade civil buscam monitorar e denunciar ameaças mundo afora – o Brasil, porém, não integra a rede. “Estamos pelo menos uns dez anos atrasados em relação a outros países”, afirma Michele.

Plataformas

O TikTok diz, em nota, atuar “continuamente para remover qualquer conteúdo e indivíduos que prejudiquem a experiência criativa e alegre que as pessoas esperam em nossa plataforma”. Procurado, o Twitter, que desmembrou a assessoria após Elon Musk assumir a empresa, respondeu apenas com a mensagem automática de um emoji.

O Discord afirma, em nota, ter “política de tolerância zero contra ódio ou extremismo violento”. Sobre Facebook e Instagram, a Meta afirma colaborar com as autoridades locais, respondendo a solicitações governamentais, e diz não permitir que organizações ou indivíduos que anunciem missão violenta ou envolvidos com violência estejam nas plataformas. O Telegram não respondeu. /COLABOROU RODOLPHO PAIXÃO, ESPECIAL PARA O ESTADÃO

Atualizamos nossa política de cookies

Ao utilizar nossos serviços, você aceita a política de monitoramento de cookies.