THE NEW YORK TIMES - Em março, enquanto planejava uma próxima viagem para a França, Amy Kolsky, uma viajante internacional experiente que mora no Condado de Bucks, Pensilvânia, visitou o site da Amazon e digitou alguns termos de pesquisa: viagem, guia, França. Títulos de algumas marcas confiáveis apareceram no topo da página: Rick Steves, Fodor’s, Lonely Planet. Também entre os principais resultados da pesquisa estava o altamente avaliado “Guia de Viagem da França”, de Mike Steves, que, segundo a página do autor, é um renomado escritor de viagens.
“Fui imediatamente atraída pelas incríveis avaliações,” disse Amy, 53, referindo-se ao que ela viu naquele momento: elogios universais e mais de 100 avaliações de cinco estrelas. O guia prometia itinerários e recomendações de locais. Seu preço (US$ 16,99, comparado com US$ 25,49 pelo livro de Rick Steves sobre a França) também chamou a atenção de Amy. Ela rapidamente encomendou uma cópia em brochura, impressa pelo serviço sob demanda da Amazon.
Quando chegou, Amy ficou decepcionada com as descrições vagas, texto repetitivo e falta de itinerários. “Parecia que o cara simplesmente foi na internet, copiou um monte de informações da Wikipédia e colou,” ela disse. Ela devolveu e deixou uma avaliação negativa de uma estrela.
Embora ela não soubesse na época, Amy tinha sido vítima de uma nova forma de golpe de viagem: guias de baixa qualidade que parecem ser compilados com a ajuda de inteligência artificial generativa, autopublicados e reforçados por avaliações falsas, que têm se proliferado nos últimos meses na Amazon.
Os livros são o resultado de uma mistura de ferramentas modernas: aplicativos de IA que podem produzir texto e retratos falsos; sites com uma vasta gama de fotos e gráficos; plataformas de autopublicação, como o Kindle Direct Publishing, da Amazon, com poucas barreiras contra o uso de IA; e a capacidade de solicitar, comprar e postar avaliações online falsas, o que é contrário às políticas da Amazon e pode em breve enfrentar maior regulamentação da Federal Trade Commission (FTC), autoridade regulatória americana.
O uso dessas ferramentas em conjunto permitiu que os livros chegassem ao topo dos resultados de pesquisa da Amazon e, às vezes, recebessem endossos da Amazon, como “#1 Guia de Viagem sobre o Alasca.”
Uma recente pesquisa na Amazon pela frase “Guia de Viagem Paris 2023″, por exemplo, resultou em dezenas de guias com esse título exato. Um, cujo autor é listado como Stuart Hartley, afirma, de forma incorreta gramaticalmente, que é “tudo o que você precisa saber antes de planejar uma viagem para Paris.” O livro em si não tem mais informações sobre o autor ou editora. Também não tem fotografias ou mapas, embora muitos de seus concorrentes tenham arte e fotografia facilmente rastreáveis em sites de fotos. Mais de dez outros guias atribuídos a Stuart Hartley apareceram na Amazon nos últimos meses que dependem do mesmo design padronizado e usam linguagem promocional similar.
O Times também encontrou livros similares em uma variedade muito maior de tópicos, incluindo culinária, programação, jardinagem, negócios, artesanato, medicina, religião e matemática, bem como livros de autoajuda e romances, entre muitas outras categorias.
A Amazon se recusou a responder uma série de perguntas detalhadas sobre os livros. Em uma declaração fornecida por e-mail, Lindsay Hamilton, porta-voz da empresa, disse que a Amazon está constantemente avaliando tecnologias emergentes. “Todos os editores na loja devem aderir às nossas diretrizes de conteúdo,” ela escreveu. “Investimos tempo e recursos significativos para garantir que nossas diretrizes sejam seguidas e removemos livros que não aderem a essas diretrizes.”
Conteúdo gerado por inteligência artificial
O Times passou 35 trechos do livro de Mike Steves por um detector de inteligência artificial da Originality.ai. O detector funciona analisando milhões de registros conhecidos por serem criados por IA e milhões criados por humanos, aprendendo a reconhecer as diferenças entre os dois, explicou Jonathan Gillham, fundador da empresa.
O detector atribui uma pontuação entre 0 e 100, com base na chance porcentual de seu modelo de aprendizado de máquina acreditar que o conteúdo foi gerado por IA. Todos os 35 trechos pontuaram 100, o que significa que quase certamente foram produzidos por IA.
A empresa afirma que a versão de seu detector usada pelo Times detecta mais de 99% dos trechos de IA e confunde texto humano com IA em pouco menos de 1,6% dos testes.
O Times identificou e testou 64 outros guias formatados de forma semelhante, a maioria com pelo menos 50 avaliações na Amazon, e os resultados foram muito parecidos. Dos 190 parágrafos testados com Originality.ai, 166 pontuaram 100, e apenas 12 pontuaram menos de 75. Em comparação, as pontuações dos trechos de marcas de viagens conhecidas como Rick Steves, Fodor’s, Frommer’s e Lonely Planet foram quase todas abaixo de 10, significando que havia quase nenhuma chance de terem sido escritos por geradores de IA.
Amazon, IA e marcas de viagens confiáveis
Embora o aumento do crowdsourcing em sites como Tripadvisor e Yelp, sem mencionar sites de viagens online gratuitos e blogs e dicas de influenciadores do TikTok e Instagram, tenha reduzido a demanda por guias impressos e suas versões em e-book, eles ainda são grandes vendedores. Em um dia recente de julho, nove dos 50 principais livros de viagens da Amazon — uma categoria que inclui ficção, não ficção, memórias e mapas — eram guias europeus de Rick Steves.
Steves, contatado em Estocolmo por volta da meia-noite depois de um dia pesquisando para a série de guias da Escandinávia, disse que não tinha ouvido falar do livro de Mike Steves e não parecia preocupado que a IA generativa representasse uma ameaça.
“Eu simplesmente não consigo imaginar não fazer isso desgastando sapatos”, disse o Steves, que acabara de visitar um restaurante temático viking e um concorrente temático medieval, e determinou que o viking era muito superior. “Você tem que estar aqui conversando com as pessoas e caminhando.”
Steves passa cerca de 50 dias por ano na estrada na Europa, disse ele, e membros de sua equipe passam outros 300 para atualizar seus cerca de 20 guias, bem como spin-offs menores.
Mas Pauline Frommer, diretora editorial da série de guias Frommer’s e autora de um popular guia de Nova York, está preocupada que “pequenas mordidas” dos falsos guias estejam afetando suas vendas. Ms. Frommer disse que passa três meses por ano testando restaurantes e trabalhando em outras atualizações anuais para o livro — e ganhando peso que atualmente está tentando perder.
“E pensar que alguma entidade acha que pode simplesmente varrer a internet e colocar lixo aleatório é incrivelmente desanimador”, disse ela.
A Amazon não tem regras proibindo conteúdo gerado principalmente por inteligência artificial, mas o site oferece diretrizes para o conteúdo do livro, incluindo títulos, capas e descrições: “Os livros à venda na Amazon devem proporcionar uma experiência positiva ao cliente. Não permitimos conteúdo descritivo destinado a enganar clientes ou que não represente com precisão o conteúdo do livro. Também não permitimos conteúdo que normalmente decepciona os clientes.”
Em um mundo de conteúdo gerado por IA, a rastreabilidade de autor para trabalho será uma necessidade crescente
Jonathan Gillham, fundador da Originality.AI
Gillham, fundador da Originality.ai, com sede em Ontário, no Canadá, disse que seus clientes são principalmente produtores de conteúdo que buscam descobrir contribuições escritas por inteligência artificial. “Em um mundo de conteúdo gerado por IA”, disse ele, “a rastreabilidade de autor para trabalho será uma necessidade crescente.”
É IA ou não?
Encontrar os verdadeiros autores desses guias pode ser impossível. Não há vestígio do “renomado escritor de viagens” Mike Steves, por exemplo, tendo publicado “artigos em várias revistas e sites de viagens”, conforme a biografia na Amazon afirma. De fato, o Times não encontrou registro da existência de tal escritor, apesar de ter realizado uma extensa pesquisa de registros públicos. (Tanto a foto do autor quanto a biografia de Mike Steves foram muito provavelmente geradas por IA, descobriu o Times.)
Gillham enfatizou a importância da responsabilidade. Comprar um guia decepcionante é um desperdício de dinheiro, disse ele. Mas comprar um guia que encoraja os leitores a viajar para lugares inseguros — “isso é perigoso e problemático”, disse ele.
O Times encontrou várias situações em que omissões preocupantes e informações desatualizadas podem confundir os viajantes. Um guia de Moscou publicado em julho sob o nome de Rebecca R. Lim - uma “figura respeitada na indústria de viagens” - cuja foto de autor também aparece em um site chamado “Todo Sobre el Ácido Hialurónico” ao lado do nome Ana Burguillos - não menciona a guerra contínua entre a Rússia e a Ucrânia e não inclui informações de segurança atualizadas. (O Departamento de Estado dos EUA aconselha os americanos a não viajarem para a Rússia.) E um guia de Lviv, na Ucrânia, publicado em maio, também deixa de mencionar a guerra e incentiva os leitores a “arrumar as malas e se preparar para uma aventura inesquecível em um dos destinos mais cativantes do leste europeu.”
A Amazon tem uma política contra manipulação de avaliações de clientes, embora uma cuidadosa investigação do Times tenha descoberto que muitas das avaliações de cinco estrelas deixadas nos guias de baixa qualidade eram extremamente vagas ou sem sentido. A extensão do navegador Fakespot, que detecta o que considera avaliações “enganosas” e atribui uma nota de A a F a cada produto, deu a muitos dos guias uma pontuação de D ou F — as notas mais baixas.
Algumas avaliações são curiosamente imprecisas. Um usuário chamado Muñeca escreveu sobre o guia da França de Mike Steves: “Este guia tem sido espetacular. Ser capaz de escolher a estação para saber qual clima gostamos mais, sabendo que o idioma deles é o inglês.” (O guia mal menciona o clima e afirma claramente que o idioma da França é o francês.)
A maioria das avaliações entusiasmadas e questionáveis para os guias desatualizados são de “compras verificadas”, embora a definição de “compra verificada” da Amazon possa incluir leitores que baixaram o livro gratuitamente.
Essas avaliações estão enganando as pessoas
Pauline Frommer, editora da série Frommer's
“Essas avaliações estão enganando as pessoas”, disse Pauline. “É o que faz as pessoas desperdiçarem seu dinheiro e as afasta de guias de viagem reais.”
A porta-voz da Amazon escreveu que a empresa não tolera avaliações falsas. “Temos políticas claras que proíbem o abuso de avaliações. Suspenderemos, baniremos e tomaremos medidas legais contra aqueles que violarem essas políticas e removeremos avaliações inautênticas.” A Amazon não informou se alguma ação específica foi tomada contra os produtores do livro de Mike Steves e outros livros semelhantes. Durante a elaboração deste artigo, algumas das avaliações suspeitas foram removidas de muitos dos livros examinados pelo “The Times” e alguns livros foram retirados. A Amazon afirmou que bloqueou mais de 200 milhões de avaliações falsas suspeitas em 2022.
No entanto, mesmo quando a Amazon remove avaliações, as classificações de cinco estrelas podem permanecer sem texto. Em 3 de agosto, o “Guia de Viagem para a Espanha de 2023″, de Adam Neal, teve 217 avaliações removidas pela Amazon, segundo uma análise do Fakespot, mas ainda possui uma classificação de 4,4 estrelas, em grande parte porque 24 de 27 avaliadores que omitiram um comentário concederam ao livro cinco estrelas. “Sinto que o meu guia não pode ser o mesmo que todos estão classificando tão bem”, escreveu um revisor chamado Sarie, que deu uma estrela ao livro.
Muitos dos livros também incluem “avaliações editoriais”, aparentemente sem supervisão da Amazon. Algumas são particularmente audaciosas, como o “Guia de Viagem para Paris de 2023″, da Dreamscape Voyages, que inclui avaliações falsas de grandes publicações como a revista Afar (”Prepare-se para ficar maravilhado”) e a Condé Nast Traveler (“Seu companheiro definitivo para desvendar a verdadeira essência da Cidade das Luzes”). Ambas as publicações negaram terem avaliado o livro.
Possibilidades de uso da IA
Especialistas em inteligência artificial concordam geralmente que a IA generativa pode ser útil para os autores se usada para melhorar seu próprio conhecimento. Darby Rollins, fundador da A.I. Author, uma empresa que ajuda pessoas e empresas a aproveitarem a IA generativa para melhorar seu fluxo de trabalho e expandir seus negócios, achou os guias “muito básicos”.
Mas ele poderia imaginar bons guias produzidos com a ajuda da inteligência artificial. “A IA vai complementar, aprimorar e estender o que você já é bom em fazer”, disse ele. “Se você já é um bom escritor e um especialista em viagens na Europa, então você está trazendo experiências, perspectivas e insights para a mesa. Você poderá usar a IA para ajudar a organizar seus pensamentos e criar coisas mais rapidamente.”
O verdadeiro Steves não estava tão certo sobre os méritos do uso da IA. “Eu não sei para onde a IA está indo, só sei o que faz um bom guia de viagem”, disse ele. “E acho que você tem que estar lá no campo para escrever um.”
Amy, que foi enganada pelo livro de Mike Steves, concordou. Após devolver sua compra inicial, ela optou por uma marca confiável. “Acabei comprando o guia de Rick Steves”, disse ela. / TRADUÇÃO POR GUILHERME GUERRA
Os comentários são exclusivos para assinantes do Estadão.
