Ergon Cugler, Mestrando em Administração Pública e Governo da FGV, MBA em Data Science & Analytics (USP) e Bacharel em Gestão de Políticas Públicas (USP). É Pesquisador CNPq, membro do Núcleo de Estudos da Burocracia (NEB), Centro de Estudos da Mídia Alternativa Barão de Itararé e Coalizão Direitos na Rede (CDR)
Em 'Matrix Resurrections', Neo se encontra submerso em uma realidade que ele acredita ser única, até que vislumbres de sua vida anterior o fazem questionar tudo ao seu redor. O filme, uma continuação da trilogia 'Matrix', explora a complexidade da existência digital e a manipulação da realidade por meio de algoritmos ao posicionar a figura do 'Arquiteto', o qual representa a força por trás da criação e o controle da realidade virtual.
Fora das telas do cinema, nos vemos mergulhados em um ambiente digital cada vez mais personalizado, com feeds infinitos feitos só para nós, no qual algoritmos cumprem um papel de direcionar os conteúdos que possam fazer com que fiquemos mais tempo conectados e entretidos. Claro, não estamos imersos fisicamente tal como na Matrix, mas somos constantemente alimentados com informações que se alinham com nossos gostos e crenças, com experiências únicas para cada um de nós. E tão real quanto para Neo.
Apesar de ficarmos empolgados quando um streaming de música nos recomenda o melhor conteúdo ou uma descoberta da semana, essa personalização traz consequências preocupantes, mais ainda quando descobrimos o poder de concentração de dados que tem se transformado em monopólio mercado, quase que como o 'Arquiteto' em Matrix. Porém, quem está no controle de tal realidade cada vez mais simulada?
Monopólio de Mercado
No início de setembro, deu-se início ao julgamento em que o Departamento de Justiça dos EUA acusou o Google de cometer práticas ilegais para manter seu monopólio no mercado de buscas dos EUA, o qual detém cerca de 90% de participação. As acusações incluem abusos de poder econômico para bloquear sistemas de busca concorrentes, acordos financeiros com empresas como Apple e Samsung para pré-instalar o Google em dispositivos, e manipulação no mercado de anúncios de concorrentes para reter usuários.
Na prática, ao comprar um celular, o consumidor recebe o aplicativo pré-instalado e moldado para que ele faça as buscas com o Google e, ao procurar alternativas, encontra dificuldades, uma vez que o próprio Google é acusado de manipular o leilão de anúncios para que seus concorrentes não sejam mostrados como alternativa.
A defesa do Google alega que a sua posição monopolista no mercado norte-americano foi 'merecida', uma vez que 'as pessoas não usam o Google porque não têm outra opção, mas porque querem'. No entanto, o sucesso de um mecanismo de buscas depende exatamente do seu número de usuários e volume de atividade. Logo, quanto mais buscas são realizadas no Google, mais dados são gerados para otimizar os algoritmos, absorvendo tais dados que são transformados em informações e utilizados para personalizar a experiência de usuário e estratégia de anúncios.
De tal forma, é exatamente a posição monopolista do Google que faz com que ele tenha acumulação de informações o suficiente para otimizar seus algoritmos e reter mais usuários, gerando um ciclo de otimização que retroalimenta sua posição de monopólio de mercado e inviabiliza qualquer disputa concorrencial relevante.
Além das implicações de mercado - ao dominar 90% do mercado de buscas -, o Google adquire uma vantagem no posicionamento das pautas de seu interesse no debate público. Uma evidência disso, foi a censura realizada pelo Google contra conteúdos favoráveis ao PL 2630/2020, o qual busca a regulação das 'Big Techs'. Em outras palavras, trata-se de uma vantagem de definir o que será destacado e o que será ocultado, diante das buscas a serem realizadas em seu mecanismo. A pergunta que fica é, desde quando permitimos uma única companhia decidir o que podemos e o que não podemos ver?
Monopólio da Verdade
Há décadas está superada uma crença de que tecnologias seriam neutras. Tanto pelo seu uso enquanto ferramenta quanto pelo seu próprio desenho tecnológico, uma vez que algoritmos são moldados com prioridades, privilegiando uma decisão em detrimento de outra. Logo tecnologias não apenas como ferramentas usadas por interesses políticos e econômicos, mas também essencialmente programadas e desenhadas com vieses.
Não ficam de fora os mecanismos de buscas e quaisquer tecnologias que utilizem algoritmos, sendo revestidas de interesses econômicos e políticos específicos. De tal forma, ao concentrar 90% do mercado, o Google pode escolher livremente qual informação ou posição econômica e política terá maior alcance e qual será empurrada para as últimas páginas de resultados. Sem pluralidade, a concentração e o monopólio de uma única empresa em relação ao acesso à informações significam que essa empresa tem basicamente o monopólio da verdade.
E assim como Neo em Matrix, o qual só começa a questionar sua realidade quando vislumbra brevemente sua vida anterior, muitos de nós só começamos a perceber o impacto dos algoritmos quando somos confrontados com visões alternativas da realidade que escapam de nossas bolhas de conteúdo. Teorias da conspiração, lives de humilhação de NPC ('non-playable character') e outras dinâmicas que surgem periodicamente, todos esses episódios revelam questões que parecem muito distantes de nós, mas que significam o único universo visível para quem está em determinada bolha. A opacidade dessas operações algorítmicas é uma questão de relevância pública, uma vez que afeta nossa compreensão da realidade e a saúde de nossa democracia.
Mais grave que a Matrix, porém, aqui temos uma Matrix exclusiva para cada um de nós, com personalização de conteúdo que pode nos convencer que aquilo que estamos vendo é a única realidade existente. Não à toa, pois ao acumular tamanho volume de dados individuais, a companhia consegue direcionar conteúdo personalizado de forma que seja possível modelar nossa percepção.
Enquanto não há transparência algorítmica, desconhecemos os parâmetros exatos utilizados pelos algoritmos para nos categorizar, bem como a mecânica de como moldam nossa percepção da realidade. À medida que avançamos em direção a um futuro cada vez mais digital, devemos exigir maior transparência e responsabilidade das empresas de tecnologia que controlam esses algoritmos. Além disso, é necessário promover um debate público informado sobre a regulamentação e supervisão dessas tecnologias.
Assim como Neo questionou sua realidade, também devemos questionar a qual nos cerca. Pois estaremos prontos para enfrentar e debater publicamente sobre os algoritmos que moldam nossa percepção da realidade? Ou cederemos ao 'Arquiteto' e sua empreitada pelo monopólio da verdade?
Os comentários são exclusivos para assinantes do Estadão.
