O ex-presidente Donald Trump sendo perseguido e recebendo spray de pimenta nos olhos por policiais da cidade de Nova York. O presidente russo Vladimir Putin atrás das grades, com uniforme de presidiário, em uma célula de concreto pouco iluminada.
As imagens, altamente detalhadas, têm inundado o Twitter e outras plataformas nos últimos dias, em meio a notícias de que Trump enfrenta possíveis acusações criminais e o Tribunal Penal Internacional emitiu um mandado de prisão para Putin.
Mas nenhuma delas é remotamente real. As imagens - e dezenas de variações espalhadas pela mídia social - foram produzidas usando geradores de imagens cada vez mais sofisticados e amplamente acessíveis alimentados pela inteligência artificial.
Especialistas em desinformação alertam que as imagens são precursoras de uma nova realidade: fotos falsas e vídeos inundando as mídias sociais deixando fatos e ficção cada vez mais confusos em tempos cruciais para a sociedade.
“Isso acrescenta ruído durante as crises. Também aumenta o nível de cinismo”, disse Jevin West, professor da Universidade de Washington, em Seattle, que se concentra na pesquisa e disseminação de desinformação. “Você começa a perder a confiança no sistema e nas informações que está recebendo.”
Embora a capacidade de manipular fotos e criar imagens falsas não seja nova, é mais fácil usar as ferramentas agora, com gerador de imagens que usa Inteligência Artificial, como o Midjourney, Dall-e e outras, cada vez mais fáceis de usar. Eles podem gerar rapidamente imagens realistas - completas, com fundos detalhados - em uma escala de massa, usando pouco mais do que um simples texto dos usuários.
Algumas das imagens recentes foram impulsionadas pelo lançamento deste mês de uma nova versão do modelo de síntese de texto para imagem do Midjourney, que pode, entre outras coisas, produzir imagens convincentes imitando o estilo das fotos da agência de notícias.
Em um post no Twitter que viralizou, Eliot Higgins, fundador da Bellingcat, um coletivo de jornalismo investigativo, usou a versão mais recente da ferramenta para criar dezenas de imagens dramáticas da prisão fictícia de Trump.
As imagens, que foram amplamente compartilhadas e ganharam o like de milhões de usuários, mostraram uma multidão de policiais uniformizados agarrando o bilionário republicano e violentamente o puxando para a calçada.
Higgins, que também estava por trás de um conjunto de imagens de Putin sendo algemado, julgado e depois preso, diz que postou as imagens sem más intenções. Ele até afirmou claramente em seu tópico no Twitter que as imagens foram geradas pela IA.
Ainda assim, as imagens foram suficientes o servidor Midjourney expulsá-lo, de acordo com Higgins. O laboratório de pesquisa independente de São Francisco não respondeu a e-mails em busca de comentários.
“A imagem da prisão de Trump estava realmente apenas mostrando casualmente o quão bom e ruim o Midjourney é em renderizar cenas reais”, escreveu Higgins em um email. “As imagens começaram a formar uma espécie de narrativa enquanto eu fazia pedidos ao Midjourney, então eu as amarrei em uma narrativa e decidi terminar a história.”
Ele apontou que as imagens estão longe de ser perfeitas: em algumas, Trump é visto, estranhamente, usando um cinto de utilidade policial. Em outros, rostos e mãos são claramente distorcidos.
Mas não basta que usuários como Higgins declarem em suas postagens que as imagens são geradas por IA e apenas para entretenimento, diz Shirin Anlen, tecnólogo de mídia da Witness, uma organização de direitos humanos com sede em Nova York que se concentra em notícias falsas e evidências visuais criadas.
Muitas vezes, as imagens são rapidamente compartilhadas por outras pessoas sem esse contexto crucial, disse ela. De fato, uma postagem no Instagram compartilhando algumas das imagens de Trump de Higgins como se fossem genuínas recebeu mais de 79.000 curtidas. “Você está apenas vendo uma imagem e, uma vez que vê algo, compartilha sem se importar em checar”, disse Anlen.
Em outro exemplo recente, usuários de mídia social compartilharam uma imagem falsa supostamente mostrando Putin ajoelhado e beijando a mão do líder chinês Xi Jinping. A imagem, que circulou quando o presidente russo recebeu o líder chinês no Kremlin nesta semana, rapidamente se tornou um meme.
Não está claro quem criou a imagem ou qual ferramenta usaram, mas algumas pistas revelaram a falsificação. As cabeças e os sapatos dos dois líderes estavam ligeiramente distorcidos, por exemplo, e o interior da sala não correspondia à sala onde ocorreu a reunião real.
Com as imagens falsas geradas por IA se tornando cada vez mais difíceis de distinguir das reais, a melhor maneira de combater a desinformação visual é uma melhor conscientização e educação do público, dizem os especialistas.
“Está se tornando tão fácil e tão barato fazer essas imagens que devemos fazer o possível para conscientizar o público sobre o quão boa essa tecnologia se tornou”, disse West.
Higgins sugere que as empresas de mídia social possam se concentrar no desenvolvimento de tecnologia para detectar imagens geradas por IA e integrá-las em suas plataformas.
O Twitter tem uma política que proíbe “mídia sintética, manipulada ou fora de contexto” com potencial para enganar ou prejudicar. Anotações do Community Notes, o projeto de verificação de fatos de crowdsourcing do Twitter, foram anexadas a alguns tweets para incluir o contexto de que as imagens de Trump foram geradas por IA.
Quando procurada para comentar na quinta-feira, a empresa respondeu por e-mail apenas com uma resposta automática.
A Meta, controladora do Facebook e do Instagram, se recusou a comentar. Algumas das imagens fabricadas de Trump foram rotuladas como “falsas” ou com “falta de contexto” por meio de seu programa de verificação de fatos terceirizado, do qual a AP é participante.
Arthur Holland Michel, membro do Carnegie Council for Ethics in International Affairs em Nova York, que se concentra em tecnologias emergentes, disse que teme que o mundo não esteja pronto para o dilúvio iminente.
Ele se pergunta como os deepfakes envolvendo pessoas comuns – fotos falsas prejudiciais de um ex-parceiro ou colega, por exemplo – serão regulamentados.
“Do ponto de vista político, não tenho certeza se estamos preparados para lidar com essa escala de desinformação em todos os níveis da sociedade”, disse Michel à AP. “Minha sensação é que será necessário um avanço técnico ainda não imaginado para acabar definitivamente com isso.” /AP e W.POST