Crianças já estão no metaverso e especialistas se preocupam com predadores sexuais

Elas não têm permissão para usar o aplicativo de realidade virtual Horizon Worlds, mas isso não as impede de socializar com adultos estranhos

PUBLICIDADE

Por Will Oremus
Atualização:
Realidade virtual;especialistas dizem que a presença de crianças no incipiente metaverso levanta preocupações mais sérias Foto: Wolfgang Rattay/Reuters

Estava sozinho no mundo virtual, ziguezagueando pelo corredor lateral de um palácio simplista renderizado, quando um estranho entrou.

“Olá?”, disse uma vozinha vindo da praça central do palácio. “Onde você está?”

Hesitei. A voz parecia ser de uma criança.

PUBLICIDADE

“Não consigo encontrar você”, disse a criança em tom de queixa. “Você pode me dar uma dica?”

Em teoria, crianças não são permitidas no jogo. O novo aplicativo de realidade virtual Horizon Worlds, a primeira aventura no badalado “metaverso” da empresa controladora do Facebook, a Meta, é destinado a adultos com 18 anos ou mais.

Na prática, no entanto, crianças muito pequenas parecem estar entre seus primeiros usuários. A pessoa que conheci naquele dia, que me disse ter 9 anos e estar usando o dispositivo de realidade virtual Oculus dos pais, era uma das aparentes várias crianças que encontrei em diferentes semanas no aplicativo. E resenhas do Horizon Worlds incluem dezenas de reclamações de pessoas mais jovens, algumas delas com linguajar não apropriado e rude, arruinando alegremente a experiência dos mais velhos.

Mas os especialistas dizem que a presença de crianças no incipiente metaverso levanta preocupações mais sérias: ao misturar crianças com adultos estranhos em um mundo virtual em grande parte sem moderação, a empresa está sem querer criando um terreno de caça para predadores sexuais.

Quando surgem novos fóruns online que atraem crianças, os predadores sexuais “costumam estar entre os primeiros a chegar”, disse Sarah Gardner, vice-presidente de assuntos internacionais da Thorn, uma organização sem fins lucrativos de tecnologia que foca na proteção de crianças contra abuso sexual online. “Eles veem um ambiente que não está bem protegido e não tem sistemas claros de denúncia. Eles chegam primeiro para aproveitar o fato de que aquele é um terreno seguro para eles abusarem ou aliciarem crianças.”

Publicidade

Assim que um predador identifica um alvo, ele tenta isolar a criança, ganhar sua confiança e convencê-la ou suborná-la a enviar imagens ou vídeos dela nua ou até mesmo a encontrá-lo pessoalmente. É um problema que foi registrado em aplicativos de redes sociais como Instagram e Discord, assim como em jogos como “Fortnite” e “Minecraft”, muitos dos quais tomaram medidas para resolver isso.

A Meta parece ter feito pouco para dar atenção especificamente à possibilidade do aliciamento de crianças, apesar de investir enormes quantidades de recursos no desenvolvimento do metaverso, até mesmo mudando o nome corporativo do Facebook em outubro para refletir uma nova ênfase na realidade virtual.

Questionada se a Meta vê crianças pequenas no Horizon Worlds e no Horizon Venues, aplicativo da empresa focado em eventos ao vivo usando realidade virtual, como um problema, a porta-voz Kristina Milian enfatizou que a realidade virtual social é um meio emergente e em rápida evolução e que a empresa está resolvendo as coisas à medida que elas surgem.

"Continuaremos a analisar como as pessoas usam os dispositivos Quest e como o produto evolui ao tomar decisões sobre nossas políticas de produtos”, disse Kristina. “Nosso objetivo é tornar o Horizon Worlds e o Horizon Venues seguros e estamos empenhados em fazer isso.”

Publicidade

PUBLICIDADE

A Meta não respondeu se a empresa havia recebido alguma denúncia de exploração de menores ou aliciamento no Horizon Worlds. E também se recusou a dizer se tomou alguma medida com o intuito de proteger as crianças dessas ameaças.

É impossível saber com certeza se um avatar é uma criança, mas a julgar por suas vozes e ações, é difícil não perceber quando esse é o caso. Para uma empresa que está construindo o que ela espera ser o futuro da interação online, a falha em impor uma idade mínima para acessar o Horizon Worlds – uma de suas regras mais básicas – parece ser um mau presságio.

A aparente criança de 9 anos que conheci naquele palácio desenhado toscamente, parte de um minigame do Horizon Worlds chamado “Magic Mania”, que inclui varinhas e feitiços, não hesitou em me dizer sua idade ou que estava usando a conta do Facebook de um dos pais. Não fiz mais perguntas. Falei para ela tomar cuidado e saí dali. Não consegui deixar de imaginar como a interação poderia ter sido se o adulto estranho no jogo com ela fosse um predador em vez de um jornalista.

Para a Meta, muita coisa está em jogo com o Horizon Worlds.

Publicidade

O presidente Mark Zuckerberg e a empresa construíram um império de mídias sociais nos últimos 18 anos, mas seu principal aplicativo, o Facebook, estagnou e a reputação dele tem sido prejudicada pelas incessantes ondas de escândalo em relação a maneira como lida com os dados de seus usuários, sua moderação do conteúdo postado e influência na opinião pública e no debate. Em outubro, sob pressão renovada de reguladores em vários países após a divulgação de documentos que davam a impressão de que a empresa colocava o sucesso nos negócios acima da ética e do bem-estar dos usuários, Zuckerberg anunciou a mudança do nome da empresa, de Facebook para Meta.

Segundo Zuckerberg, no futuro, as pessoas não irão se encontrar em redes sociais baseadas em texto, mas em espaços físicos virtuais, onde seus avatares vão se movimentar, interagir, jogar, fazer compras e realizar reuniões de trabalho. Embora o Facebook não tenha sido propriamente a primeira empresa a adotar o metaverso – que Zuckerberg descreveu como uma “internet personificada” – sua mudança radical de estratégia iniciou um frenesi de interesse no conceito, à medida que as gigantes da tecnologia rivais, startups e capitalistas de risco corriam para capitalizar.

O Horizon Worlds, uma versão beta que apareceu com destaque no anúncio de Zuckerberg, foi lançado em 9 de dezembro nos Estados Unidos e no Canadá na plataforma de realidade virtual da empresa, a Oculus, e representa sua primeira grande tentativa para fazer sua ideia virar realidade.

Os usuários representados por avatares que lembram desenhos animados e não têm pernas se deslocam em um cenário tridimensional, interagindo em tempo real com quem quer que esteja na mesma área simplesmente ao falar em seus microfones. Dentro do Horizon Worlds há uma grande variedade de minigames e experiências, alguns incorporados no aplicativo pela Meta, mas a maioria – inclusive o “Magic Mania” – foi criada por outros usuários com a ajuda das ferramentas de desenvolvimento do aplicativo.

Publicidade

Imagine os jogos infantis muito populares “Minecraft” e “Roblox”, mas em realidade virtual – e, até agora, com muito menos usuários, já que os programas estão disponíveis apenas por meio dos caros dispositivos Quest e Rift da Meta. Esse público em potencial, no entanto, está crescendo rapidamente: o aplicativo complementar do Oculus foi, de acordo com algumas métricas, o aplicativo mais baixado nos EUA durante a semana do feriado de Natal, sugerindo que o item foi um presente cobiçado.

Uma diferença fundamental é que o Horizon Worlds é supostamente apenas para adultos, pelo menos por enquanto. Por conta disso, ele não tem os controles parentais e proteções de acesso para usuários mais jovens, como desabilitar as funções de bate-papo, que “Minecraft” e “Roblox” implementaram. Em vez disso, ele se concentra em delegar poderes aos usuários para controlar sua própria experiência silenciando, bloqueando ou denunciando pessoas indesejadas.

Kristina disse que a Meta desenvolveu o aplicativo com a segurança em mente, chamando a atenção para uma postagem no blog de novembro do diretor de tecnologia Andrew Bosworth sobre manter as pessoas seguras ao usar a realidade virtual e outras coisas. “A tecnologia que revela novas possibilidades também pode ser usada para causar danos, e devemos ficar atentos a isso ao criar, repetir e trazer produtos ao mercado”, escreveu Bosworth.

Os usuários que estão sendo assediados, sentindo-se desconfortáveis ou apenas precisando de uma pausa podem levantar o pulso – um movimento repetido por seu avatar virtual – e tocar em um botão com a outra mão para ativar um recurso chamado de “zona de segurança”, que os retira do ambiente e abre um menu de opções de moderação. O recurso é explicado em um tutorial quando você baixa o Horizon Worlds pela primeira vez, e painéis no aplicativo servem como lembretes. Na sexta-feira, a Meta anunciou um novo recurso chamado “limite pessoal” que mantém os avatares dos usuários a cerca de um metro de distância como padrão, com o objetivo de “tornar mais fácil evitar interações indesejadas”.

Publicidade

O aplicativo registra continuamente a experiência de cada usuário, armazenando os últimos minutos de forma rotativa para os moderadores revisarem, caso seja necessário. Há também alguns “guias da comunidade” humanos no aplicativo – representados por avatares identificados de modo especial – que podem responder perguntas e ajudar se forem solicitados. Mas esses moderadores são escassos, exceto nos poucos espaços mais movimentados do aplicativo, e alguns usuários dizem que raramente eles intervêm de forma proativa ou impõem as restrições de idade do aplicativo.

“A verificação de idade não faz com que as crianças que usam essas tecnologias desapareçam”, disse Eliza McCoy, diretora executiva de divulgação, treinamento e prevenção da organização sem fins lucrativos Centro Nacional para Crianças Desaparecidas e Explorada (NCMEC, na sigla em inglês), apoiada pelo governo americano e que lida com denúncias de exploração de menores por servidores de serviços de Internet. “Sabemos que duas populações contornam essas [restrições].” Uma delas é “crianças que estão tentando entrar lá mesmo sabendo que não são permitidas, porque é interessante, envolvente e divertido”. A outra: “adultos que procuram cometer crimes contra crianças”, às vezes fingindo ser crianças.

Eliza disse que o NCMEC recebeu um recorde de 37.872 denúncias de “aliciamento online” – tentativas de adultos de se comunicar com crianças para abusá-las sexualmente ou sequestrá-las – em todas as plataformas em 2020.

Esse número aumentou 97% em relação a 2019, um aumento que Eliza disse ter sido impulsionado em parte pela pandemia de covid-19, levando mais pessoas a interagir online.

Publicidade

As crianças não são as únicas em risco se a Meta não oferecer a moderação correta. A jornalista Parmy Olson, da Bloomberg News, escreveu em dezembro ter constatado que o Horizon Worlds estava dominado por homens, repleto de trolls (inclusive crianças) e era “profundamente desconfortável às vezes” para uma mulher por causa de avanços indesejados que beiravam o assédio. Em novembro, um testador beta relatou ter sido praticamente apalpado no aplicativo, informou a revista MIT Technology Review; um inquérito interno da Meta descobriu que o usuário não recorreu ao recurso “zona de segurança”.

As primeiras resenhas do Horizon Worlds na loja do Oculus parecem uma ladainha de reclamações sobre o comportamento grosseiro de jovens indesejados. O jogo tinha uma classificação de pouco mais de três das cinco estrelas em 4 de fevereiro, com muitos usuários lamentando que seu potencial tenha sido prejudicado pela moderação ineficaz. Reclamações semelhantes aparecem em outros fóruns online que discutem o aplicativo, e os usuários que falaram com o jornal americano Washington Post – inclusive alguns com quem conversei dentro do aplicativo – concordaram unanimemente que as crianças são um problema.

David Corbett, um usuário do Horizon Worlds, 56 anos, que vive em Des Moines, mergulhou no aplicativo de realidade virtual social no mês passado depois de ganhar um Oculus no Natal. Corbett, especialista em produtos que trabalha com dispositivos médicos, disse que vê um grande potencial na plataforma, mas que a presença de pessoas com menos de 18 anos no aplicativo é um aborrecimento diário e uma séria preocupação de segurança.

“Em todas as sessões tenho visto crianças que parecem ser muito novas”, disse ele.“Muitas delas estão sendo rudes, acenam batendo as mãos no rosto das pessoas e ficam andando de um lado para o outro.”

Publicidade

Corbett passou a bloquear as crianças quando as encontra, o que significa que ele não as ouve ou as vê mais no aplicativo, embora outros usuários ainda consigam fazer isso. Mas ele disse que conversas com outros usuários adultos o convenceram a também tentar denunciar as crianças menores de idade à Meta, devido à preocupação com a segurança delas.

“Uma criança correndo para cima e para baixo sem supervisão, acho que é um grande sinal de alerta ou um alvo para alguém que talvez seja um predador”, disse Corbett. “Seria fácil para alguém dizer a uma criança: ‘Ei, venha para este lado da sala onde ninguém mais pode ouvir.’ E isso me preocupa.”

Jeff Haynes, editor sênior de videogames da organização sem fins lucrativos Common Sense Media, que analisa conteúdos de entretenimento para determinar qual idade é apropriada como público-alvo, disse que achou a onipresença de crianças no Horizon Worlds “alarmante”, e encontrou crianças de 10 anos ou menos toda vez que usou o aplicativo.

“Como não há proteções por lá, você tem crianças que estão voluntariamente oferecendo uma tonelada de informações”, disse ele. “Talvez parte disso seja porque as imagens quase pareçam semelhantes a outras experiências infantis, como um ‘Roblox’ ou um ‘Minecraft’, mas elas não estão tomando nenhuma precaução para se proteger em uma experiência de mundo virtual que é aberta para praticamente qualquer pessoa. E isso é perigoso. Se elas estão dispostas a dizer a idade, ou que não estão na escola, ou o estado em que vivem, quem garante que não vão dizer voluntariamente onde moram ou mais detalhes sobre si mesmas?”

Publicidade

Assim como Sarah, ele também teme que o aplicativo possa em breve começar a atrair predadores sexuais, se é que isso já não está acontecendo.

As políticas de idade da Meta, disse Haynes, “parecem poderosas de fora, mas, por dentro, são ineficazes”. Embora existam algumas barreiras de idade para configurar o fone de ouvido, depois de ele estar vinculado à conta do Facebook de um adulto, qualquer um que o coloque pode acessar todos os aplicativos e experiências, independentemente da classificação etária. O Horizon Worlds é gratuito para download e não requer uma verificação de idade adicional.

O Congresso vem investigando maneiras de proteger melhor crianças e adolescentes na Internet, em parte em resposta às preocupações a respeito do uso do Instagram, também de propriedade da Meta, por adolescentes. Uma lei de 1998, criada para proteger a privacidade online das crianças, limita os dados que as empresas podem coletar de menores de 13 anos, o que ajuda a explicar por que muitas plataformas online exigem que os usuários tenham 13 anos ou mais.

“Não tem nada a ver com adequação à idade ou desenvolvimento infantil”, disse Eliza, do NCMEC, em relação à limitação para menores de 13 anos.

“É só que eles não podem coletar dados desses usuários, então por que se incomodar?”

Em um mundo ideal, os pais ficariam de olho no que as crianças fazem enquanto estão jogando, observou Haynes. Mas muitos ainda não estão familiarizados com o Horizon Worlds ou outros aplicativos de realidade virtual social. Ao contrário dos celulares, computadores ou consoles de jogos, os fones de ouvido para realidade virtual não têm uma tela externa que possa ser observada pelos pais enquanto os filhos estão jogando, e não há registro quanto às interações de seus filhos neles.

Haynes recebeu algumas perguntas de pais que disseram ter ouvido o filho conversando com alguém e queriam saber se deveriam se preocupar. A criança costuma garantir ao responsável que está conversando com “um amigo” – no entanto, para crianças crescendo em uma era digital e no meio de uma pandemia, ele disse, isso pode significar alguém que acabaram de conhecer online.

Sarah, da Thorn, disse que o Facebook tem sido um líder do setor na identificação e denúncia de material de abuso sexual infantil em suas plataformas de mídias sociais, e espera que ele leve a segurança infantil a sério conforme constrói sua próxima geração de plataformas. Mas disse temer que a empresa se depare com incentivos para esconder o problema debaixo do tapete ou ignorá-lo até que um dano sério seja causado.

“Nós estamos brincando de pega-pega com a Web 2 há 10 anos, dando um jeito no fato de não termos pensado na segurança infantil” quando ela foi construída, disse Sarah, referindo-se à geração de plataformas de Internet que inclui redes como Facebook e Instagram. “Isso acontecerá novamente com a Web 3, a menos que forcemos os criadores desses ambientes a criá-los de forma diferente.”

Haynes disse estar esperançoso de que a Meta repense seu modo de agir, priorizando manter as crianças fora do aplicativo ou seguras dentro dele e investir de forma mais pesada na moderação. Mas ele disse que isso precisa acontecer logo, dadas as grandes ambições da empresa para o metaverso. Até lá, disse Haynes, “é realmente um período sem restrições para qualquer um que tenha esses dispositivos”./TRADUÇÃO DE ROMINA CÁCIA

Comentários

Os comentários são exclusivos para assinantes do Estadão.