O Brasil registrou um número recorde de denúncias de abuso e exploração sexual infantil, segundo dados da SaferNet, organização não governamental que trabalha contra crimes e violações aos direitos humanos na internet. Foram mais de 71 mil queixas em 2023, quase 80% a mais do que no ano anterior e o mais elevado patamar desde que a ONG abriu um canal de denúncias de crimes cibernéticos, 18 anos atrás – demonstração inequívoca de que há algo muito perturbador no ambiente digital do País. Ainda que tenham crescido de maneira significativa os crimes de ódio online (entre os quais xenofobia e intolerância religiosa), os dados emitem o alerta definitivo de que estamos falhando especialmente na proteção de crianças e adolescentes e no enfrentamento à violência sexual na internet.
O canal recebeu mais de 100 mil denúncias para pelo menos nove tipos de crimes na internet que envolvem direitos humanos, incluindo também xenofobia, apologia e incitação a crimes contra a vida, LGBTfobia e misoginia. Algo gravíssimo para um país que é um dos líderes globais em consumo de internet e presença digital, sendo o 5.º lugar em número de usuários de internet e o 2.º maior em tempo gasto online.
Segundo especialistas, o crescimento das denúncias de imagens de abuso e exploração sexual infantil online se deveu, sobretudo, a três fatores: demissões em massa anunciadas pelas chamadas Big Techs, que atingiram as equipes de segurança, integridade e moderação de conteúdo em algumas plataformas; a proliferação da venda de pacotes com imagens de nudez e sexo autogeradas por adolescentes; e a introdução da inteligência artificial (IA) generativa para a criação desse tipo de conteúdo, com o avanço de ferramentas que criam imagens por IA a partir de comandos de texto. Neste último caso, parte do conteúdo alvo de denúncias não é de crianças reais, mas reproduz menores de idade em situações de abuso.
Nem por isso menos grave. Infelizmente têm sido cada vez mais comuns episódios envolvendo crianças e adolescentes expostas, vítimas de colegas que usaram a IA para modificar as fotos das meninas. São situações que reafirmam a fragilidade dos mecanismos de segurança, integridade e moderação das plataformas digitais. Não à toa os CEOs das Big Techs foram chamados há algumas semanas para se explicar diante de congressistas norte-americanos e parentes de vítimas de abuso infantil cometido no ambiente digital. Documentos internos da Meta, empresa proprietária do Instagram, Facebook e WhatsApp, mostraram que o CEO, Mark Zuckerberg, rejeitou pedidos para aumentar recursos que assegurariam maior segurança infantil online.
Números, denúncias e relatos no Brasil, nos Estados Unidos ou na Europa demonstram a necessidade urgente de serem criados mecanismos mais claros de fiscalização e responsabilização das empresas pelo conteúdo publicado em suas plataformas. Se já era um problema grave antes, a revolução da IA requer pressa e atenção ainda maiores – com uma legislação que ao mesmo tempo permita o desenvolvimento dessa tecnologia em larga escala e proteja a sociedade. Apesar de ser uma tecnologia nova e o debate, incipiente, há iniciativas regulatórias propostas por organizações como a Unesco e a Organização para Cooperação e Desenvolvimento Econômico (OCDE) visando a desenvolver e regular o uso da tecnologia, com respeito à privacidade e proteção dos dados pessoais, com a adoção de um regime de responsabilidade e requisitos de segurança e transparência.
Não é uma tarefa trivial e para ela estão convocados também pais e responsáveis por crianças e adolescentes. Como afirmou o presidente da SaferNet no Brasil, Thiago Tavares, “é quase como um abandono digital o ato de entregar um celular ou um tablet para uma criança sem supervisão”. Não se trata de criminalizar as redes sociais, muito menos de abolir ou reduzir seu uso, mas de regular e aperfeiçoar os mecanismos de controle e responsabilização contra crimes já previstos na legislação brasileira, dentro ou fora do ambiente digital. O que não pode é o mundo passar a enxergar nas redes sociais uma espécie de território sem lei ou propício a crimes de difícil punição.