Publicada ao longo das últimas duas semanas, uma série de reportagens do jornal americano The Wall Street Journal mostrou sérios problemas do Facebook na moderação de conteúdo, indicando que a empresa de Mark Zuckerberg, dona também do WhatsApp e do Instagram, foi omissa na maneira em como trata aquilo que circula pelas plataformas. Segundo o dossiê, o Facebook tem sido negligente em assuntos como tráfico de drogas, além de permitir que celebridades, como o ex-presidente americano Donald Trump, violassem as regras de uso.
“Nós não estamos fazendo o que dizemos publicamente que fazemos”, diz um dos depoimentos no documento obtido pelo jornal. O material mostra que mesmo sob as regras das plataformas, de proibição de conteúdos com discurso de ódio ou de ataques, algumas pessoas nunca passam pelo crivo dos moderadores — propositalmente.
Chamado XCheck, o programa foi criado como uma forma de melhorar a moderação de alguns tipos de conteúdos, mas celebridades, políticos e jornalistas aparecem com um certo passe livre quando são emissores de mensagens contra as regras da empresa.
Um caso citado pelo jornal, que teve acesso aos documentos internos do Facebook, é o do jogador Neymar, quando em 2019 foi acusado de estupro por Najila Trindade. O atleta postou uma foto expondo nudez que alcançou milhões de usuários antes de ser removida. Outras personalidades como a democrata Hillary Clinton e o ex-presidente Donald Trump também estavam no que a empresa chamava de “lista branca”.
Segundo a fala de um funcionário do Facebook no documento, essas ações são "uma quebra de confiança" e adicionou que "ao contrário do resto da nossa comunidade, essas pessoas podem violar nossos padrões sem quaisquer consequências”.
Ainda, a “lista VIP” incluía alguns cuidados extras, como a possibilidade de receber um aviso particular do Facebook para deletar algum conteúdo antes que a plataforma pudesse fazê-lo. Para atuar em um aviso prévio, funcionários precisavam, porém, da aprovação de diretores executivos ou mesmo de Zuckerberg ou de Sheryl Sandberg, chefe de operações da empresa.
Comitê quer respostas
Em resposta ao jornal americano sobre o caso XCheck, o Comitê de Supervisão do Facebook, órgão independente da empresa que toma decisões sobre o que deve sair da plataforma, afirmou nesta terça, 21, que vai investigar se esse tipo de excessão em publicações realmente está presente na empresa, e que espera ter respostas para esclarecer o assunto em breve.
“À luz dos desenvolvimentos recentes, estamos avaliando até que ponto o Facebook tem sido totalmente aberto em suas respostas em relação ao XCheck, incluindo a prática de "lista branca", disse o comitê em um comunicado. “Esperamos receber explicações do Facebook nos próximos dias e relataremos o que ouvimos sobre isso como parte de nosso primeiro lançamento de relatórios de transparência trimestrais, que publicaremos em outubro”.
De acordo com o site TechCrunch, o Facebook se recusou a comentar sobre o assunto depois da publicação do comunicado nesta quarta-feira, 22.
Tráfico de drogas e de pessoas
A partir dos documentos obtidos pelo The Wall Street Journal, foi possível descobrir que não só o Facebook estava ciente de atividades ilícitas na plataforma, como acompanhava os casos, muitas vezes sem derrubar páginas ou bloquear usuários. Essa posição da empresa permitiu que um cartel mexicano de drogas recrutasse membros para uma facção criminosa e que mulheres do leste europeu fossem submetidas a regimes análogos à escravidão, em trabalhos de prostituição, por exemplo.
O ex-funcionário da empresa Brian Boland, afirmou, segundo o The Wall Street Journal, que o Facebook fazia vista grossa sobre a existências desses chamados, que frequentemente envolvia algum tipo de tráfico, e considerava esses movimentos como “o preço a se pagar por fazer negócios”.
Boland também disse que, deliberadamente, o Facebook não deletava muitos desses grupos e que, quando o fazia, aplicava um esforço mínimo para consertar ferramentas da plataforma que pudessem impedir esse tipo de conteúdo — usuários que estavam por trás dessas publicações podiam voltar a fazê-las sem dificuldade.
Outro problema apontado pelo documento é que o Facebook não tinha representantes em alguns países, dificultando a moderação manual de certos idiomas. Em países em desenvolvimento, o filtro de moderação é ainda menor, o que levou o mesmo cartel encontrado pelo Facebook a publicar vídeos de pessoas sendo mortas a tiros. Esses vídeos circularam por cerca de cinco meses antes de serem removidos.
As atividades de recrutamento, afirma o dossiê, eram publicadas abertamente e coagia jovens, com ameaças de morte, a se juntarem aos grupos — tanto de tráfico de drogas quanto de pessoas.
Em um comunicado, o Facebook afirmou que reforçou a capacidade de gerenciar conteúdos em um maior número de idiomas, baseado em um caso ocorrido na Etiópia, onde grupos armados estavam utilizando a rede social para incitar o terror na região.
Facebook foi negligente adolescentes
Em uma das pesquisas, a empresa descobriu, em março de 2020, que 32% das meninas que se sentiam mal com o próprio corpo ficavam ainda pior ao acessar o Instagram. O resultado foi publicado em um painel interno, na época. De acordo com o The Wall Street Journal, 40% dos usuários do app são menores de 22 anos.
“Tornamos os problemas de imagem corporal piores para uma em cada três meninas adolescentes”, dizia um slide de 2019, resumindo pesquisas sobre meninas adolescentes que vivenciam esses problemas. “Os adolescentes culpam o Instagram pelo aumento da taxa de ansiedade e depressão”, podia ser visto em outro slide. “Essa reação foi espontânea e consistente em todos os grupos”.
Isso porque a cultura de comparação de estilos de vida e corpos está presente entre as usuárias, que frequentemente têm acesso a conteúdos de promoção de corpos considerados "esteticamente padrões”: magros, malhados e super produzidos. Além disso, os documentos também ressaltaram a falta de ação do Facebook sobre manifestações de ódio na plataforma.
Em declarações públicas, Zuckerberg chegou a explicar, durante um congresso realizado em março deste ano, que a rede era benéfica para a saúde mental e Adam Mosseri, presidente do Instagram, afirmou, posteriormente, que os danos no bem-estar desses adolescentes era “muito pequeno”.
O que se passa dentro da empresa, porém, não condiz com as afirmações. Os documentos mostram que o esforço para melhorar o app para essa parcela dos usuários é mínima e que parte do sucesso da rede vem da “competição” entre usuários — um dos sinais mais nocivos de transtornos para meninas.
Em outros comentários em um painel interno da empresa, um funcionário questionou uma possível mudança na forma como os conteúdos aparecem na plataforma. “O Instagram não é sobre isso, principalmente? Olhar para a vida (muito fotogênica) dos 0,1% do topo? Não é essa a razão pela qual os adolescentes estão na plataforma?”. Em outra publicação, um ex-executivo da empresa também recusou uma “reforma” na política do app. “As pessoas usam o Instagram porque é uma competição. Essa é a parte divertida”.
A pesquisa, feita em 2019 e 2020, reuniu diversos grupos de foco para entender o comportamento desses adolescentes e concluiu que alguns dos efeitos do Instagram, como a comparação entre fotos de usuários, é um dano exclusivo da rede social. Procurado pela reportagem do The Wall Street Journal, o Facebook não quis comentar sobre o caso nem sobre os documentos ao jornal.
Em comunicado divulgado em 18 de setembro, a empresa, porém, publicou um artigo afirmando que o argumento base para as acusações do The Wall Street Journal — incluindo todas as reportagens — é falsa e que a empresa não ignora resultados de pesquisas que realiza internamente.
"O fato de que nem toda ideia que um pesquisador levanta é posta em prática não significa que as equipes do Facebook não estão continuamente considerando uma série de melhorias diferentes. Ao mesmo tempo, nenhum desses problemas pode ser resolvido apenas pelas empresas de tecnologia, e é por isso que trabalhamos em estreita parceria com pesquisadores, reguladores, legisladores e outros", afirmou o Facebook em um post no blog da empresa.
*é estagiária sob supervisão do editor do Bruno Romani
Os comentários são exclusivos para assinantes do Estadão.
