Há algum tempo se sabe que o Facebook tem problemas – nos últimos anos, além de protagonizar o escândalo de violação de dados Cambridge Analytica, a rede social tem sido acusada de impulsionar conteúdos nocivos como discurso de ódio e desinformação. Nestas últimas semanas, porém, as falhas da empresa ficaram concretas e ganharam nova dimensão: Frances Haugen, ex-funcionária da companhia, detalhou publicamente como o Facebook repetidamente escolheu lucrar e não proteger a segurança de seus usuários. As regulações sobre gigantes de tecnologia, que já vinham sendo ensaiadas, ganharam ares de urgência.
Frances tornou públicas pesquisas internas do Facebook que mostram negligência da empresa com a moderação de conteúdo em suas plataformas. As revelações, feitas inicialmente pelo jornal americano Wall Street Journal, indicam que o Facebook aumenta o alcance de publicações de ódio, permite a circulação de conteúdos sobre tráfico humano e de drogas, trata celebridades e políticos com regras diferenciadas e não mantém o mesmo nível de moderação em países fora dos Estados Unidos. Há também detalhes sobre o impacto do Instagram na saúde mental de crianças e adolescentes: os estudos mostram que 1 em cada 3 meninas que se sentiam mal com o próprio corpo ficavam ainda pior ao acessar o Instagram.
Muitos desses problemas já eram apontados há anos por especialistas, mas as denúncias são impactantes: agora, há informações tangíveis, levantadas pela própria empresa, que corroboram as pesquisas. Ao mostrar os efeitos tóxicos dos algoritmos, a denúncia coloca em xeque o coração do modelo de negócios do Facebook — e, de certa forma, de toda a indústria da tecnologia do mundo atual.
“Finalmente estamos chegando em um momento histórico em que as gigantes de tecnologia estão na fronteira de serem questionadas em seus poderes econômicos. Isso demorou muito para acontecer desde a última grande onda de pressão, marcada pelo caso antitruste da Microsoft nos anos 1990”, afirma Paulo Rená, professor de Direito no Centro Universitário de Brasília (UniCEUB). “Nesse cenário, esse tipo de denúncia ganha força”.
No caso do Facebook, a ficha caiu para muita gente na última segunda-feira, quando todos os apps da companhia, incluindo WhatsApp e Instagram, sofreram um apagão por sete horas. Além de atrapalhar a comunicação entre usuários no mundo todo, a pane impactou empresas que dependem dos serviços para atender seus clientes – segundo o Facebook, 3,5 bilhões de pessoas usam os seus produtos no mundo.
Desgaste
A crise ainda se agrava pela quebra de confiança: a rede social manteve as pesquisas em sigilo e não tomou medidas suficientes para conter os problemas. “Iniciativas do Facebook como o Oversight Board [Comitê de Supervisão] sinalizam uma discussão, mas a empresa ainda tem feito muito pouco justamente porque é um modelo rentável”, diz Bruna Santos, integrante da coalizão Direitos na Rede, citando o órgão independente criado pelo Facebook em 2020 para moderação de conteúdo.
Parece uma reprise: a falta de transparência também marcou o escândalo Cambridge Analytica, em 2018, em que foram usados indevidamente dados de 87 milhões de usuários da rede social para influenciar as eleições americanas – a empresa foi avisada do problema em 2015. Desde então, Mark Zuckerberg e sua empresa nunca conseguiram recuperar a imagem plenamente, e a nova crise deve sepultar de vez as chances disso acontecer.
O Facebook tem rebatido as acusações, argumentando que as pesquisas estão sendo mal interpretadas. Em texto publicado na quarta-feira, 6, Mark Zuckerberg afirmou que os documentos internos que vieram à público precisam ser visualizados "como um todo", e que foram retirados de contexto ao serem lidos individualmente. Sobre os estudos envolvendo adolescentes, a empresa exaltou pontos positivos da pesquisa e relativizou a importância de algumas descobertas que mostram danos causados pela plataforma – em alguns momentos, o Facebook questiona inclusive o trabalho de seus próprios pesquisadores.
Partir para o ataque tem sido a nova estratégia adotada pela empresa. Recentemente, o jornal americano The New York Times revelou que Zuckerberg anunciou em agosto uma nova iniciativa chamada Project Amplify, que tinha como objetivo usar o feed de notícias do Facebook para mostrar às pessoas histórias positivas sobre a rede social. A ideia era promover publicações pró-Facebook – algumas delas escritas pela própria companhia. A rede social não esperava, porém, que a acusação mais forte contra a empresa nos últimos anos partiria de alguém que não apenas trabalhava lá, como também lidava diariamente com questões relacionadas à democracia e desinformação.
“O Facebook precisa vir a público dizer que errou e tomou decisões das quais se arrepende. É a única forma de seguir em frente e consertar a empresa. O primeiro passo é a honestidade”, afirmou Frances em seu depoimento.
E agora?
Até hoje, o Facebook não sofreu nenhum grande impacto de regulação em seus negócios. Mesmo com a sequência de crises, a empresa mantém um ciclo de crescimento constante (ver gráfico acima). Seguindo essa trajetória, a companhia atingiu em junho US$ 1 trilhão em valor de mercado, tornando-se a companhia mais jovem nos Estados Unidos a chegar à marca.
Durante audiência no Senado americano, a delatora do Facebook mostrou caminhos de como regular a empresa, com questionamentos que podem ser a chave para impulsionar regras mais duras para as empresas de tecnologia. Em vários momentos do depoimento, que durou quase quatro horas, Frances defendeu que o Facebook tem “salvação”, “mas não vai consertar seus próprios problemas”.
Para ela, a transformação não acontecerá pela via mais discutida no último ano: o desmembramento do Facebook, que incorporou na última década o Instagram e o WhatsApp. “Os problemas envolvem desenhos de algoritmos e de inteligência artificial”, disse. Segundo Frances, os executivos poderiam seguir tomando decisões erradas mesmo se os apps fossem empresas separadas.
A ex-funcionária propõe que a regulação seja focada na transparência de algoritmos. As gigantes quase nunca revelam como eles funcionam: eles são hoje a “fórmula secreta” para o sucesso no mundo tecnológico.
Para especialistas, a discussão aprofundada sobre algoritmos vista na audiência, com congressistas procurando entender o funcionamento da tecnologia, são de grande valor para o debate regulatório do setor. No entanto, eles ressaltam a importância da discussão extrapolar o Facebook daqui para frente.
“O Facebook tem o agravante de reunir vários apps. Mas outros serviços tecnológicos também funcionam com base em algoritmos e no tempo que os usuários passam na plataforma, como Twitter, YouTube, TikTok e Amazon”, afirma Rená. “Além disso, as regulações americanas devem ir além dos EUA e dialogar com interesses globais”.
O caminho das pedras para a construção dessas novas regras está na informação. “Essa crise mostra o quanto precisamos de mais informações sobre as plataformas. Ela é um começo e não um lugar de chegada para entendermos o que acontece em uma rede social gigante”, diz Artur Pericles Monteiro, coordenador de pesquisa de liberdade de expressão do InternetLab.