PUSHKAR, ÍNDIA — Para conseguir vislumbrar os rumos da inteligência artificial nas campanhas eleitorais do futuro, olhem para a Índia, a maior democracia do planeta, conforme o país inicia suas as eleições nesta sexta-feira.
Uma versão gerada por inteligência artificial do primeiro-ministro Narendra Modi que tem sido compartilhada por meio do WhatsApp mostra as possibilidade de um alcance hiperpersonalizado em um país com quase 1 bilhão de eleitores. No vídeo — um clipe cuja fonte é incerta — o avatar de Modi conversa com inúmeros eleitores chamando-os diretamente pelo nome.
Mas o avatar não é perfeito. Modi parece usar dois óculos diferentes, e partes do vídeo ficam pixelizadas.
Mais abaixo na hierarquia, porém, funcionários do partido de Modi estão enviando vídeos pelo WhatsApp nos quais seus próprios avatares dotados de inteligência artificial transmitem mensagens pessoais para eleitores específicos sobre benefícios do governo que eles receberam — e pedem seu voto.
Essas mensagens em vídeo podem ser geradas automaticamente em qualquer uma das dúzias de línguas faladas na Índia. Assim como as mensagens telefônicas geradas por chatbots dotados de inteligência, que ligam para os eleitores e falam em sua língua com a mesma voz dos líderes políticos pedindo apoio.
Esse alcance imenso exige uma fração do tempo e do dinheiro gastos em campanhas tradicionais e tem potencial para se tornar um instrumento essencial em eleições. Mas conforme a tecnologia acelera na cena política, poucas salvaguardas evitam seu uso indevido.
Chatbots e vídeos personalizados podem parecer mais ou menos inofensivos. Mas especialistas se preocupam com a possibilidade dos eleitores terem cada vez mais dificuldade para distinguir entre mensagens reais e sintéticas à medida que a tecnologia avançar e se disseminar.
Leia mais
“Um espaço não regulado de inteligência artificial este ano será um faroeste”, afirmou Prateek Waghre, diretor-executivo da Internet Freedom Foundation, um grupo de direitos digitais sediado em Nova Délhi. A tecnologia, acrescentou ele, está entrando em um ambiente midiático já poluído por desinformação.
Em todo o planeta eleições têm se tornado campos de teste para a explosão da inteligência artificial. Ferramentas de IA foram usadas para transformar um candidato argentino à presidência em Indiana Jones e num caça-fantasma. Durante a primária em New Hampshire eleitores receberam telefonemas robóticos pedindo que não fossem votar, com uma voz que era muito provavelmente gerada artificialmente para soar como a do presidente Joe Biden.
E na Índia, o Partido Bharatiya Janata, ou BJP, de Modi, e o partido Congresso Nacional Indiano acusam um ao outro de espalhar online conteúdos deepfake de cunho eleitoral.
Uma posição avançada nessa nova fronteira indiana é o desértico Estado do Rajastão, no oeste do país. No andar térreo de um prédio residencial em uma rua poeirenta, Divyendra Singh Jadoun, de 31 anos, que largou a faculdade, opera a startup de inteligência artificial The Indian Deepfaker.
Sua equipe de nove pessoas tem produzido comerciais com avatares gerados por inteligência artificial de atores e atrizes de Bollywood. Este ano, porém, partidos e políticos começaram a pedir para Jadoun que lhes fizesse o que ele tinha feito pelas celebridades. De 200 pedidos, Jadoun disse que aceitou 14.
Entre os políticos atendidos por inteligência artificial está Shakti Singh Rathore, de 33 anos, membro do BJP. Sua missão nesta campanha é falar para o máximo de pessoas possível a respeito dos programas e das políticas de Modi. Então ele decidiu criar uma réplica de si mesmo.
“A inteligência artificial é maravilhosa, é um caminho adiante”, afirmou Rathore conforme se posicionava diante de uma câmera de vídeo na sede da Indian Deepfaker preparando-se para encarnar digitalmente. “De que outra maneira eu conseguiria alcançar os beneficiários dos programas de Modi em números tão grandes e em tão pouco tempo?”
Conforme Rathore ajeitava um lenço amarelo-açafrão com o logo do partido em volta do pescoço, Jadoun o instruiu: “Apenas olhe para a câmera e fale como se a pessoa estivesse sentada bem na sua frente”.
Com cerca de cinco minutos de material, incluindo uma gravação de áudio e fotos de perfil, Jadoun começou a trabalhar. Ele disse que usa sistemas de inteligência artificial de código aberto e depois avança com sua própria programação.
Primeiro, o rosto de Rathore foi isolado de cada frame da gravação. Então foram coletados os dados de suas feições, incluindo o tamanho de seu rosto e seus lábios, assim como seu olhar.
Jadoun afirmou que posteriormente o conjunto de dados seriam inseridos em modelos de inteligência artificial que aprendem a prever padrões faciais.
“É preciso ficar rodando o programa e fazendo a sintonia fina do rosto até conseguir o melhor rosto possível”, afirmou ele.
Um “algoritmo de clonagem” também analisa a gravação de áudio, aprendendo a cadência e as entonações de sua voz. Jadoun disse que com frequência leva de seis a oito horas para afinar o rosto e fazer os lábios se sincronizarem com as palavras. O resto é majoritariamente automatizado.
Em uma demonstração, a ferramenta levou aproximadamente quatro minutos para criar cerca de 20 vídeos personalizados de saudação.
Jadoun afirmou que sua equipe consegue produzir até 10 mil vídeos por dia. Para trabalhos maiores, com prazo rígido de entrega, sua empresa aluga unidades de processamento gráfico.
A inteligência artificial generativa também é capaz de remover barreiras de linguagem, o que é especialmente útil em um país com diversas línguas. O avatar de Rathore poder ser programado para falar dialetos regionais para alcançar os rincões mais remotos da Índia.
Os partidos políticos não estão apenas enviando mensagens de vídeo para os eleitores, estão também usando vozes clonadas para telefonar diretamente para as pessoas por meio de chatbots como o ChatGPT.
No passado, quando um representante de um partido telefonava para os eleitores, a maioria desligava, afirmou Rathore. “Mas hoje, quando um líder local chama o eleitor pelo nome, o telefonema prende sua atenção imediatamente.”
Durante a conversa, o chatbot pergunta a opinião dos eleitores a respeito de programas de governos locais que oferecem eletricidade gratuitamente ou financiamentos para startups. Jadoun disse que as chamadas são gravadas e transcritas para controle de qualidade e aprendizado de máquina.
Rathore disse que gastou cerca de US$ 24 mil de seu próprio bolso para alcançar cerca de 1,2 milhão de pessoas por meio de suas mensagens de vídeo e telefonemas — e também para receber a informação sobre quem não respondeu. Ele classificou o gasto como um investimento em seu futuro no BJP.
Nikhil Pahwa, editor do website de notícias MediaNama, que cobre mídias digitais na Índia, afirmou que as mensagens personalizadas poderiam ser particularmente poderosas entre os indianos.
“A Índia é um país em que as pessoas amam tirar fotos com imitadores de celebridades”, afirmou Pahwa. “Então, se as pessoas recebem um telefonema, digamos, do primeiro-ministro, e ele conversa com elas como se as conhecesse, sobre os problemas da região onde vivem, elas ficam realmente contentes com isso.”
Waghre, da Internet Freedom Foundation, duvida da capacidade do conteúdo de inteligência artificial ser persuasivo o suficiente para influenciar a eleição deste ano, mas afirmou que os efeitos a longo prazo podem ser problemáticos. “Uma vez que você normaliza isso na dieta de informações consumidas pelas pessoas, o que acontecerá seis meses depois quando vídeos falaciosos aparecerem?”, afirmou ele.
O próprio Modi discutiu a possibilidade de acrescentar avisos em conteúdos gerados por inteligência artificial para informar os espectadores sobre sua procedência, para que as pessoas não sejam “enganadas”. Jadoun e representantes de outras duas startups de IA na Índia criaram um “manifesto de coalizão da inteligência artificial”, prometendo proteger a privacidade dos dados e defender a integridade das eleições. Por exemplo, os vídeos da Indian Deepfaker recebem uma tarja informando que são gerados por inteligência artificial e seus chatbots anunciam que são vozes geradas por IA, afirmou Jadoun.
Dono de resorts do Rajastão, Narendra Singh Bhati, de 28 anos, recebeu um telefonema gerado por inteligência artificial de Rathore nesta semana. Bhati disse que ficou impressionado com sua personalização e que não percebeu que a voz era gerada por inteligência artificial, apesar do roteiro deixar isso claro. “Eu até disse tchau para Rathore” no fim da conversa, contou Bhati. /TRADUÇÃO DE GUILHERME RUSSO