Às vésperas do segundo turno das eleições, surge um áudio nas redes sociais em que um dos candidatos defende a brutalidade policial. Após impactar milhares de eleitores, o conteúdo é removido por ser identificado como uma gravação falsa gerada por inteligência artificial (IA). O caso deste ano marcou a disputa pelo comando de Chicago, a terceira cidade mais populosa dos Estados Unidos, mas poderia ser em qualquer outro país democrático. Especialistas e marqueteiros admitem que as eleições municipais no Brasil ano que vem vão usar e, principalmente, abusar da tecnologia.
Embora a IA possa gerar desinformação, ela também tem usos positivos. De acordo com publicitários que atuam nas campanhas eleitorais, essa tecnologia tende a tornar a comunicação mais ágil e eficiente, estreitando os canais entre políticos e eleitores. Ciente de que nem sempre é o lado bom da tecnologia que será aplicado, a Justiça Eleitoral trabalha para regulamentar a aplicação no pleito municipal do ano que vem, conforme apurou o Estadão.
O ministro Floriano Azevedo Marques Neto, do Tribunal Superior Eleitoral (TSE), adverte que uma das principais preocupações da Corte em relação ao uso de inteligência artificial é a criação de imagens e áudios falsos, prática conhecida como deepfake. Essa tecnologia permite a produção de vídeos fraudulentos, nos quais pessoas são retratadas realizando ações que nunca ocorreram. Além disso, é possível criar fotos de situações fictícias e até mesmo replicar a voz de alguém para proferir palavras que nunca foram ditas.
A eleição recente na Argentina é considerada a primeira da era da IA. Durante o pleito, a tecnologia foi utilizada tanto para gerar conteúdo favorável aos candidatos como para atacá-los. Apoiadores do presidente eleito Javier Milei, por exemplo, criaram um vídeo falso em que o candidato derrotado Sergio Massa aparece cheirando cocaína. A gravação, que viralizou nas redes sociais faltando poucos dias para o pleito, foi editada para inserir o rosto de Massa em uma filmagem antiga que mostra um homem não identificado consumindo a substância. Milei também foi alvo de ataques do gênero.
IA inaugura era das fakes news 2.0
Segundo o ministro Floriano de Azevedo Marques, a utilização de deepfakes para disseminar informações falsas pode ser considerada como uma espécie de “fake news 2.0″. “Essa é uma preocupação grande que, na perspectiva da propaganda eleitoral, receberá uma atenção bastante especial”, disse ao Estadão. Ele esclareceu ainda que a IA, como toda tecnologia inovadora, gera um desafio macro para a Justiça Eleitoral: antecipar eventuais problemas que o uso indiscriminado dessa nova ferramenta pode trazer para as eleições.
Floriano de Azevedo Marques relatou ainda que, sob a orientação do presidente do TSE, o ministro Alexandre de Moraes, a Escola Judiciária Eleitoral da Corte realiza pesquisas sobre a regulamentação das deepfakes. “Provavelmente, desse mundo resultará contribuições que podem - não estou falando que vão - ser traduzidas na resolução a ser editada ao longo do primeiro semestre do ano que vem”, afirmou.
De acordo com o professor Diogo Rais, de Direito Eleitoral e Direito Digital na Universidade Presbiteriana Mackenzie, a utilização de deepfakes na criação de conteúdo enganoso marca uma evolução no fenômeno das fake news. Isso se deve não apenas à capacidade de produzir informações falsas com maior rapidez, mas também à significativa melhoria na qualidade dessas produções, a ponto de ser praticamente impossível para o olho humano detectar a manipulação realizada por um sistema computacional.
Diretor-geral do Instituto Liberdade Digital, Rais conta que, no contexto brasileiro, sua maior preocupação em relação ao uso impróprio de IA nas eleições não é a produção de vídeos enganosos, e sim a disseminação de áudios falsos. Ele explica que a criação de áudios falsos é mais simples em comparação aos vídeos. Além disso, destaca o hábito dos brasileiros de usar aplicativos de mensagem, como WhatsApp. “É até fácil de imaginar os áudios falsos circulando às vésperas das eleições, com candidatos pedindo propina ou até mesmo renunciando à candidatura”.
Apesar desses desafios, o professor do Mackenzie afirma que a Justiça Eleitoral tem avançado no combate à desinformação. Ele ressalta que, mesmo sem uma legislação específica para o uso de IA, o código eleitoral brasileiro já veda a manipulação de conteúdo com o intuito de enganar o eleitor.
A diretora de projetos do Instituto de Tecnologia e Sociedade (ITS), Celina Bottino, concorda com a avaliação de que o uso de deepfakes eleva a preocupação com a manipulação de informações. Porém, ela ressalta que essa tecnologia também pode ser aplicada de maneira benéfica.
“É possível usar deepfakes para clonar a voz de pessoas que falavam, mas perderam essa capacidade por algum motivo. Além disso, é possível recriar figuras históricas, como Napoleão, para que os estudantes possam aprender história interagindo com elas”, exemplifica Celina. A diretora esclarece que proibir ou demonizar a tecnologia não constitui uma solução eficaz para o problema.
Candidatos à Prefeitura de SP em 2024 já aderem à IA
Os principais candidatos à Prefeitura de São Paulo sinalizam que o uso de IA será uma componente importante em suas respectivas estratégias de comunicação, embora não revelem os planos de como vão utilizá-la. O Estadão procurou as pré-campanhas de Guilherme Boulos (PSOL), Ricardo Nunes (MDB), Tabata Amaral (PSB), Kim Kataguiri (União Brasil) e Marina Helena (Novo) a fim de levantar como cada candidato pretende utilizar a tecnologia nas eleições de 2024.
Líder nas pesquisas de intenção de voto, o deputado federal Guilherme Boulos disse, por meio de sua assessoria, que a IA é mais uma tecnologia que pode ser utilizada para diferentes finalidades, incluindo a comunicação. “No entanto, como todas as ferramentas de comunicação, ela precisa ser utilizada de maneira crítica e criteriosa, considerando as especificidades da tecnologia e seus riscos embutidos, bem como a legislação eleitoral e nossos compromissos éticos”, informou.
Já o deputado federal Kim Kataguiri demonstrou entusiasmo com as possibilidades de aplicação da tecnologia, inclusive utilizando inteligência artificial para responder ao Estadão. Em texto gerado pelo ChatGPT, uma das mais famosas ferramentas de IA, ele afirmou que “tem avaliado positivamente o papel transformador da inteligência artificial no contexto eleitoral”. Como exemplos de aplicação, ele citou que a ferramenta será usada para melhorar a logística e a segmentação da campanha, além da distribuição de recursos. (Leia mais na imagem abaixo).
A pré-candidata do Novo, Marina Helena, afirmou que também utilizará a tecnologia no próximo ano. Segundo ela, por meio de IA é possível mapear com maior precisão “as dores dos eleitores e, com isso, trazer soluções”. Marina destaca, porém, que a tecnologia não substitui o elemento humano das campanhas eleitorais. “As pessoas também querem entender como os candidatos pensam. Por isso, acho que a autenticidade é muito importante”.
Procurada, a pré-campanha do prefeito e candidato à reeleição, Ricardo Nunes, não respondeu aos contatos até a publicação desta reportagem. Porém, o Estadão apurou, com interlocutores do prefeito, que a equipe de comunicação de sua pré-campanha já utiliza IA.
A pré-campanha da deputada Tabata Amaral, por seu lado, informou que não responderá aos questionamentos sobre o uso de inteligência artificial.
Uso de IA em contexto eleitoral
Sócio da agência PLTK, o consultor de comunicação política Pablo Nobel atuou na campanha vitoriosa de Javier Milei. Para ele, a eleição argentina inaugurou uma nova era, na qual as campanhas serão influenciadas pela IA. Nobel conta ainda que, assim como qualquer ferramenta, a inteligência artificial possui lados positivos e negativos. “É preciso ter um olhar ético, entender como usá-la e quais são os limites [morais]”, disse.
É preciso ter um olhar ético, entender como usá-la e quais são os limites [morais]
Pablo Nobel, marqueteiro
Segundo o consultor, a IA usada para manipular a opinião do eleitor em relação a um candidato específico é uma arma extremamente poderosa, pois cria uma realidade paralela. “A inteligência artificial borra a fronteira entre verdade e ficção. A ideia de confiar no que vemos deixa de funcionar, porque vemos o que alguém quis nos mostrar. Esse é o lado perigoso da inteligência artificial”.
A popularização da IA é outro elemento que torna o uso da tecnologia uma ameaça à integridade do processo eleitoral. Atualmente, softwares para a criação de deepfakes são facilmente encontrados na internet, permitindo que apoiadores de candidatos gerem conteúdo falso contra outros políticos. “É uma forma muito anárquica de produzir conteúdo, não há uma inteligência de campanha centralizada”, afirmou Nobel.
Os comentários são exclusivos para assinantes do Estadão.
