No último final de semana, viralizou nas redes sociais uma foto do Papa Francisco usando um sobretudo branco inspirado na moda hip-hop, gerando vários elogios sobre a “nova moda” do pontífice. Porém, o que mais chocou a internet foi descobrir que, na realidade, a imagem era falsa e que havia sido criada por uma inteligência artificial (IA).
Após o fenômeno tomar a internet no final de semana, o Papa Francisco se manifestou sobre as imagens criadas por IA durante a audiência anual Minerva Dialogues, que aconteceu na última segunda-feira, 27. Em discurso, a Sua Santidade parabenizou os avanços em IA no mundo, que podem apresentar benefícios para o Planeta. “Estou certo, entretanto, de que este potencial só será realizado se houver uma vontade coerente por parte daqueles que desenvolvem as tecnologias para agir de forma ética e responsável”, declarou.
A ilustração do Papa começou a circular na internet na sexta-feira 24 a partir do fórum Reddit, mas só viralizou nas redes sociais no dia seguinte, quando um usuário do Twitter republicou a “fotografia”. Depois, descobriu-se o autor da criação: Pablo Xavier, 31, que trabalha com construção civil em Chicago, nos EUA.
Leia também
Em entrevista ao BuzzFeed News, no último dia 27, Xavier explicou como foi o processo criativo: “Estava tentando descobrir maneiras de tornar algo engraçado, porque é o que geralmente tento fazer. Tento fazer coisas engraçadas ou artes alucinantes. Pensei: eu deveria fazer o Papa. Então, veio como uma luva: ‘O Papa no casacão Balenciaga, Moncler, andando pelas ruas de Roma, Paris’”.
O programa utilizado para criar a arte foi o Midjourney, que usa IA para criar imagens a partir de comandos de texto enviados pelo usuário. Essa plataforma é similar ao DALL-E 2 — a diferença é que o Midjourney produz imagens em diferentes estilos de arte, enquanto o DALL-E 2 é mais fiel aos comandos enviados.
“Sistemas desse tipo analisam bilhões de parâmetros para combinar as imagens do Papa com a de roupas de luxo”, explica Reinaldo Bianchi, professor do Centro Universitário da FEI.
A imagem ficou tão realista que enganou celebridades, como a modelo Chrissy Teigen, que fez uma publicação em perfil no Twitter: “Achei que a jaqueta do Papa fosse real e não pensei duas vezes. De jeito nenhum vou sobreviver ao futuro da tecnologia”.
A imagem do Papa Francisco no casacão viralizou, principalmente, pela sua aparência realista. Somente após a revelação de que a “foto” foi, na verdade, produzida por uma IA que os internautas passaram a analisar seus detalhes para identificar aspectos que explicitam o seu caráter falso.
Mesmo após a revelação, o sucesso da imagem fez outros perfis nas redes sociais gerarem suas próprias imagens falsas do pontífice com vestuário de apelo fashion. Comandos sobre como gerar as imagens do “Papa fashionista” passaram a ser compartilhados - na sequência, imagens de Francisco em situações inusitadas, como atacando de DJ na balada, também passaram a ser geradas.
Identificação difícil
O caso também pode ser visto como a primeira vez em que imagens falsas de uma personalidade pública geradas por IA romperam pequenos nichos na internet e se massificaram, acendendo a luz amarela para os perigos da tecnologia.
Identificar uma imagem criada por IA não é tão fácil quanto parece, mas ainda não é impossível. Muitas vezes, basta prestar atenção aos detalhes (como sombras nas bordas dos rostos presentes na imagem, que revelariam uma possível colagem, e até mesmo distorções em partes da suposta fotografia). Um dos detalhes que denunciam a artificialidade está nas mãos dos personagens. Foi dessa maneira que a foto falsa do Papa foi desmascarada.
“Daqui algum tempo, será impossível saber se uma imagem é original ou não. Isso é problemático”, diz Bianchi, da FEI.
A onda das IAs gerativas começou em abril do ano passado, quando a empresa OpenAI lançou o DALL-E 2, e ganhou impulso em novembro com o ChatGPT. Esse tipo de tecnologia é capaz de criar conteúdos originais com base em comandos enviados pelos usuários.
O sucesso do ChatGPT foi suficiente para que outras grandes companhias de tecnologia passassem a investir em IA e a produzir seus próprios modelos, como o Google, que criou o Bard.
*Alice Labate é estagiária sob supervisão do editor Bruno Romani
Os comentários são exclusivos para assinantes do Estadão.
