Em abril de 2019, David Ginsberg, um executivo da Meta, enviou um e-mail ao seu chefe, Mark Zuckerberg, com uma proposta para pesquisar e reduzir a solidão e o uso compulsivo no Instagram e no Facebook.
No e-mail, Ginsberg observou que a empresa enfrentava criticas pelos impactos de seus produtos “especialmente em áreas de uso problemático/vício e adolescentes”. Ele pediu a Zuckerberg 24 engenheiros, pesquisadores e outros funcionários, dizendo que o Instagram tinha um “déficit” nessas questões.
Uma semana depois, Susan Li, agora diretora financeira da empresa, informou a Ginsberg que o projeto “não foi financiado” devido a restrições de pessoal. Adam Mosseri, diretor do Instagram, também se recusou a financiar o projeto.
Infelizmente, não vejo a possibilidade de financiarmos esse projeto do Instagram tão cedo
E-mail de Mosseri
As trocas de e-mails são apenas uma das evidências citadas em ações judiciais movidas desde o ano passado pelos procuradores gerais de 45 estados e do Distrito de Columbia. Os Estados acusam a Meta de confundir adolescentes e crianças no Instagram e no Facebook e de enganar o público sobre os perigos das plataformas. Usando uma abordagem jurídica coordenada que lembra a perseguição do governo à indústria do tabaco na década de 1990, os procuradores gerais buscam obrigar a Meta a reforçar as proteções para menores.
Uma análise do The New York Times dos processos judiciais dos estados - incluindo cerca de 1,4 mil páginas de documentos da empresa e correspondências apresentadas como prova pelo Estado do Tennessee - mostra como Zuckerberg e outros líderes da Meta promoveram repetidamente a segurança das plataformas da empresa, minimizando os riscos para os jovens, mesmo quando rejeitaram os pedidos dos funcionários para reforçar as proteções aos jovens e contratar mais funcionários.
Em entrevistas, os procuradores-gerais de vários estados que processam a Meta disseram que Zuckerberg levou sua empresa a promover o envolvimento dos usuários em detrimento do bem-estar das crianças.
“Muitas dessas decisões acabaram chegando à mesa de Zuckerberg”, disse Raúl Torrez, procurador-geral do Novo México. “Ele precisa ser questionado explicitamente e responsabilizado explicitamente pelas decisões que tomou.”
As ações judiciais do Estado contra a Meta refletem as preocupações crescentes de que adolescentes e crianças nas mídias sociais podem ser assediados, intimidados, envergonhados e induzidos por algoritmos ao uso compulsivo online. Vivek H. Murthy, autoridade máxima da saúde pública dos EUA, solicitou a colocação de rótulos de advertência nas redes sociais, afirmando que as plataformas representam um risco à saúde pública dos jovens.
Sua advertência pode aumentar o ímpeto do Congresso para aprovar o Kids Online Safety Act, um projeto de lei que exigiria que as empresas de mídia social desativassem recursos para menores de idade, como bombardeá-los com notificações telefônicas, que poderiam levar a comportamentos “semelhantes ao vício”. Os críticos dizem que o projeto de lei poderia impedir o acesso de menores a informações importantes. A News/Media Alliance ajudou a obter uma isenção no projeto de lei para sites de notícias e aplicativos que produzem vídeos de notícias.
Leia também
Em maio, o Novo México prendeu três homens que foram acusados visar sexualmente crianças depois que se fizeram passar por crianças no Instagram e no Facebook. Torrez, ex-promotor de crimes sexuais contra crianças, disse que os algoritmos da Meta permitiram que predadores adultos identificassem crianças que não teriam encontrado por conta própria.
A Meta contestou as acusações dos estados e apresentou moções para rejeitar os processos.
Em uma declaração, Liza Crenshaw, porta-voz da Meta, disse que a empresa estava comprometida com o bem-estar dos jovens e tinha muitas equipes e especialistas dedicados às experiências dos jovens. Ela acrescentou que a Meta havia desenvolvido mais de 50 ferramentas e recursos de segurança para jovens, incluindo a limitação de conteúdo impróprio para a idade e a restrição do recebimento de mensagens diretas de pessoas que não são seguidas por adolescentes menores de 16 anos.
“Queremos garantir a todos os pais que temos seus interesses em mente no trabalho que estamos fazendo para ajudar a proporcionar aos adolescentes experiências seguras online”, disse Crenshaw. As reclamações legais dos estados, acrescentou ela, “descaracterizam nosso trabalho usando citações seletivas e documentos escolhidos a dedo”.
Mas os pais que dizem que seus filhos morreram em decorrência de danos online contestaram as garantias de segurança da Meta.
“Eles pregam que têm proteções de segurança, mas não as corretas”, disse Mary Rodee, professora do ensino fundamental cujo filho de 15 anos, Riley Basford, foi extorquido sexualmente no Facebook em 2021 por um estranho que se passava por uma adolescente. Riley morreu por suicídio horas depois.
Rodee, que processou a empresa em março, disse que Meta nunca respondeu aos relatórios que ela enviou por meio de canais automatizados no site sobre a morte de seu filho.
“Isso é bastante incompreensível”, disse ela.
Esforço para conquistar adolescentes
A Meta há muito tempo luta para atrair e reter os adolescentes, que são uma parte essencial da estratégia de crescimento da empresa, segundo documentos internos da empresa.
Os adolescentes se tornaram um foco importante para Zuckerberg já em 2016, de acordo com a denúncia do Tennessee, quando a empresa ainda era conhecida como Facebook e possuía aplicativos como Instagram e WhatsApp. Naquele ano, uma pesquisa anual com jovens realizada pelo banco de investimentos Piper Jaffray informou que o Snapchat, um aplicativo de mensagens que desaparecem, havia ultrapassado o Instagram em popularidade.
Mais tarde naquele ano, o Instagram lançou um recurso semelhante de compartilhamento de fotos e vídeos que desaparecem, o Instagram Stories. Zuckerberg orientou os executivos a se concentrarem em fazer com que os adolescentes passassem mais tempo nas plataformas da empresa, de acordo com a denúncia do Tennessee.
A “meta geral da empresa é o tempo total gasto pelos adolescentes”, escreveu um funcionário, cujo nome foi suprimido, em um e-mail para executivos em novembro de 2016, de acordo com a correspondência interna entre as provas no caso do Tennessee. As equipes participantes deveriam aumentar o número de funcionários dedicados a projetos para adolescentes em pelo menos 50%, acrescentou o e-mail, observando que a Meta já tinha mais de uma dúzia de pesquisadores analisando o mercado jovem.
Mark decidiu que a principal prioridade da empresa em 2017 são os adolescentes.
E-mail sobre as metas de Zuckerberg
Em abril de 2017, Kevin Systrom, executivo-chefe do Instagram, enviou um e-mail a Zuckerberg pedindo mais funcionários para trabalhar na mitigação dos danos aos usuários, de acordo com a denúncia do Novo México.
Zuckerberg respondeu que incluiria o Instagram em um plano para contratar mais funcionários, mas disse que o Facebook enfrentava “problemas mais extremos”. Na época, os legisladores estavam criticando a empresa por não ter conseguido impedir a desinformação durante a campanha presidencial dos EUA de 2016.
Systrom pediu aos colegas exemplos para mostrar a necessidade urgente de mais proteções. Ele logo enviou outro e-mail a Zuckerberg, dizendo que os usuários do Instagram estavam postando vídeos envolvendo “perigo iminente”, incluindo um menino que se matou no Instagram Live, segundo a denúncia.
Dois meses depois, a empresa anunciou que o recurso Instagram Stories havia atingido 250 milhões de usuários diários, superando o Snapchat. Systrom, que deixou a empresa em 2018, não respondeu a um pedido de comentário.
Meta disse que uma equipe do Instagram desenvolveu e introduziu medidas de segurança e experiências para jovens usuários. A empresa não respondeu a uma pergunta sobre se Zuckerberg havia fornecido a equipe adicional.
’Milhões’ de usuários menores de idade
Em janeiro de 2018, Zuckerberg recebeu um relatório estimando que quatro milhões de crianças com menos de 13 anos estavam no Instagram, de acordo com uma ação movida em um tribunal federal por 33 estados.
Os termos de uso do Facebook e do Instagram proíbem usuários menores de 13 anos. Mas o processo de registro da empresa para novas contas permitia que as crianças mentissem facilmente sobre sua idade, de acordo com a denúncia. As práticas da Meta violaram uma lei federal de privacidade on-line de crianças que exige que determinados serviços on-line obtenham o consentimento dos pais antes de coletar dados pessoais, como informações de contato, de crianças menores de 13 anos, alegam os estados.
Em março de 2018, o The Times informou que a Cambridge Analytica havia coletado secretamente os dados pessoais de milhões de usuários do Facebook. Isso deu início a um maior escrutínio das práticas de privacidade da empresa, incluindo aquelas envolvendo menores de idade.
No mês seguinte, Zuckerberg testemunhou em uma audiência no Senado: “Não permitimos que pessoas com menos de 13 anos usem o Facebook”.
Os procuradores gerais de dezenas de estados discordam.
Dentro da empresa, o conhecimento real da Meta de que milhões de usuários do Instagram têm menos de 13 anos de idade é um segredo aberto que é rotineiramente documentado, rigorosamente analisado e confirmado, e zelosamente protegido da divulgação ao público.
Reclamação dos procuradores gerais dos estados
No final de 2021, Frances Haugen, ex-funcionária do Facebook, divulgou milhares de páginas de documentos internos que, segundo ela, mostravam que a empresa valorizava “o lucro acima da segurança”. Os legisladores realizaram uma audiência, questionando-a sobre o motivo de tantas crianças terem contas.
Enquanto isso, os executivos da empresa sabiam que o uso do Instagram por crianças menores de 13 anos era “o status quo”, de acordo com a denúncia federal conjunta apresentada pelos estados. Em um bate-papo interno em novembro de 2021, Mosseri reconheceu esses usuários menores de idade e disse que o plano da empresa de “atender à experiência para a idade deles” estava em espera, segundo a denúncia.
Os pré-adolescentes querem ter acesso ao Instagram e mentem sobre sua idade para obtê-lo agora.
Mensagem de Mosseri
Em sua declaração, a Meta disse que o Instagram tinha medidas em vigor para remover contas de menores de idade quando a empresa as identificava. A Meta disse que remove regularmente centenas de milhares de contas que não conseguem provar que atendem aos requisitos de idade da empresa.
Brigas sobre filtros de beleza
Um debate na empresa sobre filtros de beleza no Instagram encapsulou as tensões internas sobre a saúde mental dos adolescentes - e, por fim, prevaleceu o desejo de envolver mais jovens.
Tudo começou em 2017, depois que o Instagram introduziu efeitos de câmera que permitiam que os usuários alterassem suas características faciais para que parecessem engraçados ou “fofos/bonitos”, de acordo com e-mails internos e documentos apresentados como prova no caso do Tennessee. A mudança foi feita para aumentar o engajamento entre os jovens. O Snapchat já tinha filtros de rosto populares, segundo os e-mails.
Mas houve uma reação negativa no outono de 2019, depois que o Instagram introduziu um filtro de alteração de aparência, o Fix Me, que imitava as linhas de corte e depilação que os cirurgiões plásticos desenham nos rostos dos pacientes. Alguns especialistas em saúde mental alertaram que os efeitos de câmera semelhantes aos da cirurgia poderiam normalizar padrões de beleza irreais para mulheres jovens, exacerbando os distúrbios de imagem corporal.
Como resultado, em outubro de 2019, o Instagram desautorizou temporariamente os efeitos de câmera que faziam alterações faciais dramáticas e de aparência cirúrgica, enquanto ainda permitia filtros obviamente fantásticos, como rostos de animais patetas. No mês seguinte, executivos preocupados propuseram uma proibição permanente, de acordo com os registros do tribunal do Tennessee.
Outros executivos argumentaram que a proibição prejudicaria a capacidade da empresa de competir. Um executivo sênior enviou um e-mail dizendo que Zuckerberg estava preocupado se os dados demonstravam danos reais.
No início de 2020, antes de uma reunião em abril com Zuckerberg para discutir a questão, os funcionários prepararam um documento informativo sobre a proibição, de acordo com os autos do tribunal do Tennessee. Um e-mail interno observou que os funcionários haviam conversado com 18 especialistas em saúde mental, cada um dos quais levantou preocupações de que os filtros de cirurgia cosmética poderiam “causar danos duradouros, especialmente para os jovens”.
Mas a reunião com Zuckerberg foi cancelada. Em vez disso, o executivo-chefe disse aos líderes da empresa que era a favor de suspender a proibição dos filtros de beleza, de acordo com um e-mail que ele enviou e que foi incluído nos processos judiciais.
Sempre me pareceu paternalista o fato de limitarmos a capacidade das pessoas de se apresentarem dessa forma, especialmente quando não há dados que sugiram que fazer isso seja útil ou que não fazer isso seja prejudicial.
E-mail de Zuckerberg para executivos
Várias semanas depois, Margaret Gould Stewart, na época vice-presidente de design de produtos e inovação responsável do Facebook, entrou em contato com Zuckerberg, de acordo com um e-mail incluído entre as exposições. No e-mail, ela observou que, como mãe de filhas adolescentes, sabia que a mídia social exercia uma pressão “intensa” sobre as meninas “com relação à imagem corporal”.
Eu esperava que pudéssemos manter uma postura moderadamente protetora aqui, dado o risco para menores de idade. (...) Espero que daqui a alguns anos olhemos para trás e nos sintamos bem com a decisão que tomamos aqui.
E-mail de Stewart para Zuckerberg
Margaret Stewart, que posteriormente deixou a Meta, não respondeu a um e-mail solicitando comentários.
No final, a Meta disse que barrou os filtros “que promovem diretamente a cirurgia cosmética, mudanças na cor da pele ou perda extrema de peso” e indicou claramente quando um deles estava sendo usado.
Prioridades e segurança dos jovens
Em 2021, a Meta começou a planejar um novo aplicativo social. Ele seria voltado especificamente para crianças e se chamaria Instagram Kids. Em resposta, 44 procuradores-gerais escreveram uma carta em maio pedindo a Zuckerberg que “abandonasse esses planos”.
“O Facebook tem falhado historicamente em proteger o bem-estar das crianças em suas plataformas”, dizia a carta.
Posteriormente, a Meta suspendeu os planos para um aplicativo Instagram Kids.
Em agosto, os esforços da empresa para proteger o bem-estar dos usuários se tornaram “cada vez mais urgentes” para a Meta, de acordo com outro e-mail para Zuckerberg apresentado como prova no caso do Tennessee. Nick Clegg, agora diretor de assuntos globais da Meta, alertou seu chefe sobre as crescentes preocupações dos órgãos reguladores em relação ao impacto da empresa na saúde mental dos adolescentes, incluindo “possíveis ações legais de órgãos estaduais”.
Descrevendo os esforços da Meta para o bem-estar dos jovens como “carentes de pessoal e fragmentados”, Clegg solicitou financiamento para 45 funcionários, incluindo 20 engenheiros.
Precisamos fazer mais e estamos sendo impedidos pela falta de investimento no lado do produto, o que significa que não somos capazes de fazer mudanças e inovações no ritmo necessário para responder às preocupações dos legisladores.
E-mail de Clegg para Zuckerberg
Em setembro de 2021, o The Wall Street Journal publicou um artigo dizendo que o Instagram sabia que era “tóxico para meninas adolescentes”, aumentando as preocupações do público.
No mesmo mês, um artigo do The Times mencionou um vídeo que Zuckerberg havia postado de si mesmo atravessando um lago em uma “prancha de surfe elétrica”. Internamente, Zuckerberg contestou essa descrição, dizendo que, na verdade, estava andando em um hidrofólio que bombeava com as pernas e queria publicar uma correção no Facebook, de acordo com mensagens de funcionários arquivadas no tribunal.
Clegg considerou a ideia de uma postagem sobre o hidrofólio “bastante surda, dada a gravidade” das recentes acusações de que os produtos da Meta causavam danos à saúde mental de adolescentes, disse ele em uma mensagem de texto com executivos de comunicação incluída nos processos judiciais.
Se eu fosse ele, não gostaria que me perguntassem “enquanto sua empresa estava sendo acusada de ajudar e incentivar o suicídio de adolescentes, por que seu único pronunciamento público foi um post sobre surfe?”
Mensagem de texto de Clegg para a equipe de comunicações sobre Zuckerberg
Zuckerberg prosseguiu com a correção.
Em novembro de 2021, Clegg, que não havia recebido resposta de Zuckerberg sobre sua solicitação de mais funcionários, enviou um e-mail de acompanhamento com uma proposta reduzida, de acordo com os registros do tribunal do Tennessee. Ele pediu 32 funcionários, nenhum deles engenheiro.
Esse investimento é importante para garantir que tenhamos os roteiros de produtos necessários para sustentar nossa narrativa externa de bem-estar em nossos aplicativos.
E-mail de Clegg para Zuckerberg
A executiva de finanças Li respondeu alguns dias depois, dizendo que se submeteria a Zuckerberg e sugeriu que o financiamento era improvável, de acordo com um e-mail interno arquivado no caso do Tennessee. A Meta não respondeu a uma pergunta sobre se a solicitação havia sido atendida.
Alguns meses depois, a Meta disse que, embora sua receita para 2021 tenha aumentado 37%, para quase US$ 118 bilhões, em relação ao ano anterior, o lucro do quarto trimestre despencou devido a um investimento de US$ 10 bilhões no desenvolvimento de produtos de realidade virtual para reinos imersivos, conhecidos como metaverso.
Vídeos explícitos envolvendo crianças
No último outono, o Match Group, proprietário de aplicativos de namoro como o Tinder e o OKCupid, descobriu que os anúncios que a empresa havia colocado nas plataformas da Meta estavam sendo veiculados ao lado de conteúdo violento e sexualizado “altamente perturbador”, alguns deles envolvendo crianças, de acordo com a denúncia do Novo México. A Meta removeu algumas das postagens sinalizadas pela Match, dizendo ao gigante do namoro que “o conteúdo violador pode não ser detectado em uma pequena porcentagem das vezes”, diz a queixa.
Insatisfeito com a resposta da Meta, Bernard Kim, executivo-chefe do Match Group, entrou em contato com Zuckerberg por e-mail com um aviso, dizendo que sua empresa não poderia “fechar os olhos”, segundo a denúncia.
A Meta está colocando anúncios adjacentes a conteúdo ofensivo, obsceno e potencialmente ilegal, incluindo sexualização de menores e violência de gênero.
E-mail de Kim para Zuckerberg
Zuckerberg não respondeu a Kim, de acordo com a denúncia.
A Meta disse que a empresa havia passado anos desenvolvendo tecnologia para combater a exploração infantil.
No mês passado, um juiz negou a moção da Meta para rejeitar o processo do Novo México. Mas o tribunal concedeu um pedido referente a Zuckerberg, que havia sido nomeado como réu, para retirá-lo do caso.
Este conteúdo foi traduzido com o auxílio de ferramentas de Inteligência Artificial e revisado por nossa equipe editorial. Saiba mais em nossa Política de IA.
Os comentários são exclusivos para assinantes do Estadão.
