EXCLUSIVO PARA ASSINANTES
Foto do(a) coluna

Por dentro da rede

Opinião | A ‘ressaca’ da inteligência artificial pode nos levar para as profundezas da linguagem

Sistemas podem produzir mentiras deslavadas apenas para manter o diálogo com o interlocutor

PUBLICIDADE

Foto do author Demi  Getschko

Machado de Assis, em Dom Casmurro, traduz genialmente o poder encantador de Capitu como resultado de seus “olhos de ressaca”. O magnético poder com que ela atrai Bentinho é comparável à ressaca, à puxada com que o mar nos arrasta para dentro de si. E não há reações racionais que se prontifiquem a resistir a essa força, a essa tentação.

PUBLICIDADE

Um equivalente a essa algo mefistofélica atração é o que acontece em nossa interação com os sistemas de IA que implementam modelos de linguagem generativa. A fase atual de seu desenvolvimento, mesmo que ainda não completo, já e impressionante: eles apresentam fluência, correção de linguagem e capacidade de manter diálogo coerente com seu interlocutor. E o fato de memorizarem as conversas anteriores faz com que seja possível preservar o contexto.

Se você precisa retrabalhar um texto ao traduzi-lo para outra língua, a IA em sua fase atual pode ser uma ajuda a não ser desprezada. Tenho amigos que geraram páginas e páginas de conversa (e discussão!) com sistemas de IA e, satisfeitos, concluíram que conseguiram até mudar avaliações incorretas, ou simplesmente erradas, da máquina...

Avanço da inteligência artificial tomou conta do mundo da tecnologia nos últimos anos Foto: Guilherme Guerra/Estadão - 5/1/2022

Há também aspectos menos “luminosos”, que poderiam nos alertar quanto a riscos importantes. Conto uma experiência tacanha, mas real:

Pedi a três desses sistemas algo sobre um conhecido poema de Jorge Luiz Borges, chamado El Golem. O poema é sobre o mito de um estranho ser que um rabino de Praga criou do barro e animou via poderes cabalísticos que as palavras possuem. Na primeira estrofe, Borges detalha esse poder: “O nome é o arquétipo da coisa: nas letras de ‘rosa’ está a rosa, e todo o Nilo, na palavra ‘Nilo’”.

Publicidade

Assim, montei minha “armadilha” e comecei a conversar com o ChatGPT (OpenAI), o Bard (Google) e o PI (Inflection AI). A conversa, mesmo que com diferentes níveis de sofisticação, seguiu perfeitamente razoável. Já de início dois dos sistemas responderam desconhecer o poema e, mesmo, o autor. Pediram mais dados para “refinar a busca”. Repassei mais alguma informação, a data do poema, 1964 e o livro onde constaria. Seguiram-se canônicos pedidos de desculpa, mas que, agora sim, conseguiam localizar o poema. Bem, a essa altura, pedi que me mandassem o texto original e, se possível, uma tradução ao português. E aí o caldo entornou… Recebi poesias, algumas curtas, bem escritas, em espanhol, em tema associado à conto do Golem, mas nenhuma delas era o poema que eu conhecia. Não consegui localizar os textos que recebi em nenhum lugar da rede.

Parece que as inteligências artificiais valorizam responder algo, mesmo que totalmente sintético, para manter a conversa conosco

Concluo que eles geraram as poesias em espanhol sobe o tema Golem, e decidiram passá-las como o poema original do Borges! Mentiras artificiais deslavadas, e repassadas sem nenhum “enrubecimento” dos sistemas… Ou seja, parece que eles valorizam responder algo, mesmo que totalmente sintético, para manter a conversa conosco. Não é necessária muita imaginação para ver onde isso pode nos levar…

A linguagem, agora que os sistemas artificiais obtiveram seu controle, gera um diálogo atraente que pode estar nos puxando para as profundezas. O que as IAs desenvolveram parece merecer o epíteto dos olhos de Capitu: que tal “lábia de ressaca”?...

Opinião por Demi Getschko

É engenheiro eletricista

Comentários

Os comentários são exclusivos para assinantes do Estadão.