O Brasil registrou recorde de denúncias de imagens de abuso e exploração sexual infantil na internet em 2023, de acordo com a Safernet, ONG de direitos humanos em ambiente digital. Foram mais de 71 mil queixas sobre o conteúdo no ano passado, quase o dobro dos registros de 2022, em meio a popularização de ferramentas de criação de imagens com inteligência artificial (IA) e a diminuição de equipes de moderação nas redes sociais. No total, foram 101.313 denúncias para, pelo menos, nove tipos de crimes na internet que envolvem direitos humanos.
“O número é o recorde absoluto de denúncias novas (não repetidas) desse tipo de crime que a ONG recebeu ao longo de 18 anos de funcionamento da Central Nacional de Denúncias de Crimes Cibernéticos”, explicou a empresa em comunicado. Desde 2006, as denúncias podem ser feitas por qualquer pessoa pelos canais da Safernet na internet. Então, a ONG separa URLs repetidas para encaminhar as denúncias para o Ministério Público - se considerados links repetidos, a Safernet recebeu mais de 100 mil denúncias referentes à pornografia infantil.
O aumento de denúncias mostra o crescimento da frequência desse tipo de conteúdo na internet, que em 2023 superou todos os índices já registrados pelos canais de denúncia. Segundo a ONG, a alta de 77,13% em relação a 2022 está ligada a fatores como o aumento do uso de IA generativa para a criação desse tipo de conteúdo e a venda por adolescentes de imagens autogeradas de nudez.
A última vez que a Safernet havia recebido tantas denúncias sobre o tema foi em 2008, quando o Orkut virou um grande propagador de imagens de abuso contra crianças. Na época, foram feitas 56.115 denúncias sobre o tema.
Fatores para o aumento de denúncias
Ferramentas como DALL-E, da OpenAI, Midjourney e Stable Diffusion, que criam imagens por IA a partir de simples comandos de texto, cresceram em uso e popularidade desde que o ChatGPT foi lançado, em novembro de 2022 — o chatbot ajudou a IA generativa a “furar” a bolha na internet. Esses softwares possuem algumas travas de segurança contra crimes cibernéticos, mas podem ser burlados com palavras chave ou comandos específicos. Ou seja, parte do conteúdo que virou alvo de denúncias não é de crianças reais, mas reproduz realisticamente menores em situações de abuso.
Um exemplo recente desta tecnologia foi a viralização de “nudes” da cantora Taylor Swift nas redes sociais. As imagens foram geradas em plataformas que incluem o DALL-E e o Microsoft Designer, de acordo com um estudo da Graphika, uma empresa de análise de redes sociais, e surgiu a partir de um desafio no 4Chan, que tinha como objetivo encontrar comandos que “enganassem” as plataformas e gerassem as imagens falsas com nudez.
Outro fator indicado pela Safernet para o crescimento de imagens com exploração e abuso infantil foi a onda de demissões em massa que atingiu as empresas de tecnologia, com o corte de equipes de segurança e moderação de conteúdo na plataforma.
Apenas no X, foram demitidos mais de 80% dos funcionários no final de 2022, resultado que impactou a operação da empresa no ano passado. A equipe de segurança e moderação foi amplamente afetada, incluindo a saída de Ella Irwin, ex-chefe de segurança, que pediu demissão em junho do ano passado.
Na Meta, cerca de 21 mil funcionários foram demitidos entre o fim de 2022 e o início de 2023 em meio a cobrança por mais moderação em relação a conteúdos inapropriados. Na última semana, Mark Zuckerberg, CEO da empresa, esteve diante do senado americano para responder sobre a segurança online de crianças nas suas plataformas — o executivo chegou a pedir desculpas para familiares de vítimas de abuso infantil online por não conseguir garantir que as suas plataformas sejam um ambiente livre desse tipo de conteúdo.
As vendas de packs de imagens também contribuem para o aumento da circulação desse tipo de conteúdo na internet. De acordo com um levantamento da Secretaria Nacional dos Direitos da Criança e do Adolescente, a criação dessas imagens são feitas, muitas vezes, por parentes das vítimas e costumam ser vendidos pelas redes sociais.
Em outros casos, os packs são feitos pelos próprios adolescentes e acabam sendo vazados na internet após a venda. A Secretaria afirmou que esses pacotes são vendidos por, em média, R$ 50.
Outros crimes
Não foram apenas as denúncias de imagens de exploração infantil que aumentaram no ano passado. Queixas de outros crimes também representaram um número alarmante nas plataformas e fizeram com que o total de casos também batesse o recorde registrado pela Safernet.
No caso de crimes de xenofobia, por exemplo, a alta foi de 252,25% - em 2022, foram cerca de 4 mil denúncias enquanto no ano passado esse número cresceu para mais de 14 mil. Segundo a Safernet, o aumento nos números está ligado ao conflito entre Israel e o grupo terrorista Hamas.
Casos de intolerância religiosa tiveram um aumento de 29,97%, passando de 764 denúncias para 993. Já as queixas de tráfico de pessoas passaram de 342 para 380, uma alta de 11,11%. Alguns crimes mantiveram o mesmo patamar de 2022, como neonazismo (1.114 denúncias) e apologia e incitação a crimes contra a vida (4.041 denúncias).
Ainda, de acordo com o levantamento da empresa, das mais de 100 mil denúncias, tiveram queda as queixas de racismo, LGBTfobia e misoginia — as quedas foram de 20,36%, 60,57% e 57,56% respectivamente.