No fim de semana tivemos mais uma notícia sobre o uso sombrio de tecnologias luminosas. Desta vez, uma quadrilha usou ferramentas de deep fake para dar um golpe milionário, que foi muito bem-sucedido. Deep fake, você bem sabe, é o nome que se dá a esses vídeos adulterados que parecem tão genuínos como a fala metálica dos âncoras do Jornal Nacional. São vídeos fraudados, mas tão primorosamente fraudados, tão cristalinos, que tornam verossímeis, fidedignas, perfeitas e irrefutáveis imagens de fatos que jamais aconteceram. Estão em toda parte. Na telinha do celular, celebridades dizem frases que não pronunciaram no mundo real, isso sem falar em figuras públicas estrelando meneios orgiásticos que – feliz ou infelizmente – nunca existiram de verdade. Pois o que sucedeu agora é que os mesmos recursos de ilusionismo convenceram um funcionário do setor financeiro de uma multinacional em Hong Kong de que o chefe dele, por teleconferência, ordenava a transferência imediata de US$ 25,6 milhões para uma conta desconhecida. O sujeito obedeceu, a fortuna se escafedeu e a polícia local corre atrás do prejuízo e dos larápios. Consta que já foram feitas algumas prisões.
Você talvez ache que isso é pouco. Talvez diga que não há nada de surpreendente num crime high tech e que desde que o mundo é imundo o malfeito requisita os préstimos de inovações, seja um caco de pedra lascada, seja o curare, seja a máquina de escrever ou, mais presentemente, o smartphone. Mesmo assim, seria prudente examinarmos outro episódio, este um pouco mais intrigante.
Em dezembro, um robô agrediu um engenheiro na linha de montagem de uma das instalações da Tesla, nos Estados Unidos. A máquina chegou a cravar as garras de aço no braço do incauto ser humano. As explicações vieram de viés, de má vontade e, até agora, pairam dúvidas sobre o que se passou e como. O que houve ali? Foi uma falha de programação? Se a hipótese for verdadeira, o monstrengo lubrificado não estava a serviço de um criminoso sem escrúpulos, mas teria agido por sua conta, como se tivesse livre arbítrio, ou, no mínimo, uma arbitrariedade insana. Isso, de fato, é mais intrigante.
Imagine agora uma combinação, ou uma sobreposição, entre a primeira e a segunda notícias. Imagine um robô virtual (um bot, como dizem) que comande a confecção de imagens artificiais que satisfaçam a curiosidades sequiosas da plateia. Às vezes, esse ente imaterial trabalharia sob os comandos de seres supostamente humanos. Outras vezes, porém, graças aos feitos admiráveis da automatização, o nosso ente cibernético seria capaz de, com autonomia, urdir proezas arrebatadoras, mais ou menos como o algoritmo do Spotify, com seus automatismos bem treinados, consegue escolher a música que você vai ouvir na sequência, e acerta. Imagine, então, um bot que manipule a deep fake para agradar as retinas perversas das multidões mais raivosas, que se deliciam com o padecimento daqueles a quem dedicam o seu ódio mais peçonhento e que, em nome de seu ódio incondicional, tomam por verdade definitiva todo ultraje que confirme seus preconceitos e suas taras.
Imaginou? Agora vá mais longe. É preciso. O Fórum Econômico Mundial (WEF, na sigla em inglês) foi mais longe. Em janeiro, o WEF apontou a desinformação e as ferramentas para disseminá-la como o maior risco que a humanidade enfrentará nos próximos dois anos. Esse risco é real, insidioso e ruge logo aí, na esquina da sua casa. Em 2024, mais de 2 bilhões de eleitores serão chamados a decidir os destinos de 58 países, entre eles Rússia, México, Índia e Estados Unidos. Metade do planeta irá às urnas somente em 2024, o maior ano eleitoral de todos os tempos, segundo as estatísticas. Se a mentira industrializada continuar a fazer os estragos que já faz, sobrevirão desastres cumulativos.
Não há mais como não ver. Se os processos decisórios das sociedades democráticas forem abduzidos pela ignorância fabricada por inteligência artificial, a humanidade estará, sim, seriamente ameaçada. O Fórum Mundial tem razão, não dá para negar. Por enquanto, é verdade, estamos falando apenas de um risco, mas esse risco não tem nada de uma “gripezinha”. É pra valer. Se a desinformação triunfar, a democracia vai gerar o seu oposto e será tragada por ele. E não nos faltam ensaios práticos que comprovam a iminência do pior cenário. Nos nossos dias, tenho insistido nisto, desinformação é poder.
Circuitos eletrônicos e mídias digitais podem servir para o bem? Sim, é óbvio que podem. Estão aí a contabilidade das Campanhas da Fraternidade, as consultas virtuais da telemedicina, os modelos ultracomplexos de previsão do tempo. Toda técnica pode servir a boas causas. Mas, desgovernada ou entregue aos caprichos do capital, a técnica sem lei vai nos levar à pior das ribanceiras. Pensadores como Günther Anders, que entenderam as inversões do Iluminismo, pressentiram o semblante do apocalipse produzido pela técnica. Mas o que vem vindo aí, se não fizermos nada, é ainda mais assombroso.
*
JORNALISTA, É PROFESSOR DA ECA-USP