A inteligência artificial (IA) é frequentemente criticada porque inventa informações que parecem ser factuais, conhecidas como alucinações. Os erros têm perturbado não apenas as sessões de chatbot, mas também processos judiciais e registros médicos. No ano passado, por algum tempo, uma afirmação claramente falsa de um novo chatbot do Google ajudou a reduzir o valor de mercado da empresa em cerca de US$ 100 bilhões.
No universo da ciência, entretanto, pesquisadores estão descobrindo que as alucinações podem ser extremamente úteis. As máquinas inteligentes, ao que parece, estão sonhando com uma série de irrealidades que ajudam os cientistas a rastrear o câncer, projetar medicamentos, inventar dispositivos médicos, descobrir fenômenos climáticos e até mesmo ganhar o Prêmio Nobel.
“O público acha que tudo isso é ruim”, diz Amy McGovern, cientista da computação que dirige um instituto federal de IA. “Mas, na verdade, ela está dando novas ideias aos cientistas. Está dando a eles a chance de explorar ideias que, de outra forma, talvez não tivessem pensado.”
A imagem pública da ciência é friamente analítica. De forma menos visível, os estágios iniciais da descoberta podem estar repletos de palpites e suposições. “Vale tudo” é como Paul Feyerabend, um filósofo da ciência, certa vez caracterizou o processo.
Agora, as alucinações da IA estão revigorando o lado criativo da ciência. Elas aceleram o processo pelo qual cientistas e inventores sonham com novas ideias e as testam para ver se a realidade concorda com elas. É o método científico - só que superalimentado. O que antes levava anos agora pode ser feito em dias, horas e minutos. Em alguns casos, os ciclos acelerados de pesquisa ajudam os cientistas a abrir novas fronteiras.
“Estamos explorando”, disse James J. Collins, professor do MIT que recentemente elogiou as alucinações por acelerarem sua pesquisa sobre novos antibióticos. “Estamos pedindo aos modelos que criem moléculas completamente novas.”
As alucinações da IA surgem quando os cientistas ensinam modelos de computador generativos sobre um determinado assunto e, em seguida, deixam as máquinas retrabalharem essas informações. Os resultados podem variar de sutis e equivocados a surreais. Às vezes, eles levam a grandes descobertas.
Em outubro, David Baker, da Universidade de Washington, recebeu o Prêmio Nobel de Química por sua pesquisa pioneira sobre proteínas - as moléculas complicadas que fortalecem a vida. O comitê do Nobel o elogiou por ter descoberto como construir rapidamente tipos completamente novos de proteínas não encontradas na natureza, chamando sua façanha de “quase impossível”.
Em uma entrevista antes do anúncio do prêmio, Baker citou as explosões de imaginação da IA como fundamentais para “criar proteínas do zero”. A nova tecnologia, acrescentou ele, ajudou seu laboratório a obter cerca de 100 patentes, muitas delas para assistência médica. Uma delas é para uma nova maneira de tratar o câncer. Outra busca ajudar na guerra global contra infecções virais. Baker também fundou ou ajudou a iniciar mais de 20 empresas de biotecnologia.
“As coisas estão se movendo rapidamente”, disse ele. “Até mesmo os cientistas que trabalham com proteínas não sabem o quanto as coisas avançaram.” Quantas proteínas seu laboratório já projetou? “Dez milhões, todas novinhas em folha”, respondeu ele. “Elas não ocorrem na natureza.”
Apesar do fascínio que as alucinações da IA exercem sobre as descobertas, alguns cientistas consideram a própria palavra enganosa. Eles veem as imaginações dos modelos generativos de IA não como ilusórias, mas prospectivas - como tendo alguma chance de se tornar realidade, não muito diferente das conjecturas feitas nos estágios iniciais do método científico. Eles consideram o termo alucinação impreciso e, portanto, evitam usá-lo.
A palavra também é mal vista porque pode evocar os velhos e maus tempos das alucinações causadas pelo LSD e outras drogas psicodélicas, que assustaram cientistas de renome durante décadas. Uma última desvantagem é que as comunicações científicas e médicas geradas pela IA podem, assim como as respostas dos chatbots, ser obscurecidas por informações falsas.
Em julho, a Casa Branca divulgou um relatório sobre a promoção da confiança pública na pesquisa de IA. Sua única referência a alucinações era sobre encontrar maneiras de reduzi-las.
O comitê do Prêmio Nobel parece ter seguido esse manual. Ele não disse nada sobre alucinações em uma análise detalhada do trabalho de Baker. Em vez disso, em um comunicado à imprensa, simplesmente creditou à sua equipe a produção de “uma criação imaginativa de proteína após a outra”. Cada vez mais, partes do establishment científico parecem ver as alucinações como algo inominável.
Mesmo assim, os especialistas disseram em entrevistas que a imaginação da IA científica tem grandes vantagens em comparação com as alucinações dos chatbots e seus semelhantes. O mais importante, segundo eles, é que as explosões criativas estão enraizadas nos fatos concretos da natureza e da ciência, e não nas ambiguidades da linguagem humana ou na indefinição da internet, conhecida por seus preconceitos e falsidades.
“Estamos ensinando física para a IA”, disse Anima Anandkumar, professora de matemática e ciências da computação no Instituto de Tecnologia da Califórnia, que anteriormente dirigiu a pesquisa de inteligência artificial na Nvidia, a principal fabricante de chips de IA.
Para a ciência, acrescentou Anima, a base física em fatos confiáveis pode produzir resultados altamente precisos. Ela disse que os grandes modelos de linguagem dos chatbots não têm nenhuma maneira prática de verificar a exatidão de suas declarações e afirmações.
A verificação final, disse ela, ocorre quando os cientistas comparam os voos digitais da fantasia com os detalhes sólidos da realidade física.
“Você precisa testar”, disse Anima sobre os resultados da IA. “Algo recém-projetado por alucinações de IA precisa ser testado.”
Recentemente, Anima e seus colegas usaram alucinações de IA para ajudar a projetar um novo tipo de cateter que reduz muito a contaminação bacteriana - uma praga global que anualmente causa milhões de infecções do trato urinário. Ela disse que o modelo de IA da equipe imaginou milhares de geometrias de cateteres e, em seguida, escolheu a mais eficaz.
As paredes internas do novo cateter são revestidas com pontas semelhantes a dentes de serra que impedem que as bactérias ganhem tração e nadem rio acima para infectar a bexiga dos pacientes. Anima disse que a equipe está discutindo a comercialização do dispositivo.
Leia também
Assim como outros cientistas, Anima disse que não gosta do termo alucinação. O artigo de sua equipe sobre o novo cateter evita a palavra.
Por outro lado, Harini Veeraraghavan, chefe de um laboratório do Memorial Sloan Kettering Cancer Center, em Manhattan, citou o termo em um artigo sobre o uso de IA para aprimorar imagens médicas borradas. Seu título, em parte, dizia: “Hallucinated MRI”, abreviação de imagem por ressonância magnética.
Os pesquisadores da Universidade do Texas, em Austin, também adotaram o termo. “Aprendendo com a alucinação”, diz o título de seu artigo sobre o aprimoramento da navegação de robôs.
E o chefe da divisão de ciências da DeepMind, uma empresa do Google em Londres que desenvolve aplicativos de IA, elogiou as alucinações como promotoras de descobertas, fazendo isso logo depois que dois de seus colegas dividiram o Prêmio Nobel de Química deste ano com Baker.
“Temos essa ferramenta incrível que pode demonstrar criatividade”, disse o funcionário da DeepMind, Pushmeet Kohli, em uma entrevista.
Um exemplo, disse ele, foi como um computador da DeepMind em 2016 venceu o campeão mundial de Go, um complexo jogo de tabuleiro. O ponto de virada do jogo foi a jogada 37, bem no início da disputa. “Achamos que era um erro”, disse Kohli. “E as pessoas perceberam, com o decorrer do jogo, que foi um golpe de gênio. Portanto, esses modelos são capazes de produzir essas percepções muito, muito novas.”
Amy, diretora do instituto de IA, também é professora de meteorologia e ciência da computação na Universidade de Oklahoma. Ela disse que as alucinações da IA podem ser descritas de forma menos colorida como “distribuições de probabilidade” - um termo muito antigo no mundo da ciência.
Os detetives do clima, acrescentou Amy, agora usam a IA rotineiramente para criar milhares de variações sutis de previsão ou faixas de probabilidade. Ela disse que a imaginação rica permite que eles descubram fatores inesperados que podem gerar eventos extremos, como ondas de calor mortais. “É uma ferramenta valiosa”, disse ela.
Baker, recente ganhador do Prêmio Nobel, adotou a abordagem franca. “Design de proteína de novo por alucinação de rede profunda”, diz o título de um de seus artigos de 2021, publicado na Nature, uma importante revista científica.
A frase de novo - que significa “desde o início” em latim - faz um forte contraste com a forma como os cientistas no início da década de 1980 começaram a ajustar as estruturas de proteínas conhecidas que ocorrem na natureza.
Em 2003, Baker e seus colegas atingiram uma meta muito mais ambiciosa: criar a primeira proteína totalmente nova do mundo a partir do zero. Eles a chamaram de Top7. Sua realização foi vista como um grande avanço porque as proteínas são superestrelas da complexidade. Os especialistas comparam a estrutura do DNA a um colar de pérolas e a das proteínas grandes a bolas de pelo. Suas estruturas são tão complicadas que até mesmo as representações gráficas detalhadas são aproximações grosseiras.
À medida que a IA se tornava uma nova e poderosa tecnologia, Baker se perguntava se ela poderia acelerar o design de novo. Seu artigo de 2021 na Nature citou a inspiração do Google DeepDream - um modelo que transforma imagens existentes em psicodelia. Quando as pessoas olham para a lua cheia e veem o rosto de um homem, isso é chamado de pareidolia, uma peculiaridade perceptiva que transforma padrões ambíguos em imagens significativas. Uma versão dessa tendência é o que a DeepDream usa para criar suas fantasias surreais.
O plano de Baker era verificar se a IA poderia impor o efeito de pareidolia em conjuntos ambíguos de aminoácidos, os blocos de construção das proteínas. Sua equipe inseriu sequências aleatórias de aminoácidos em um modelo treinado para reconhecer as características estruturais de proteínas reais. Funcionou - em grande escala.
O artigo afirma que a execução do teste criou milhares de proteínas virtuais. Ele as comparou à explosão de imagens de gatos de IA na internet. “Assim como as imagens simuladas de gatos geradas pela alucinação de redes profundas são claramente reconhecíveis como gatos”, disse o artigo, as estruturas artificiais de proteínas também ‘se assemelham, mas não são idênticas’ às estruturas naturais.
Em seguida, a equipe de Baker procurou transformar as proteínas imaginadas em algo real - uma etapa não muito diferente de dar vida a gatos digitais. Primeiro, a equipe pegou as informações sobre as moléculas alucinadas e as usou como um modelo para produzir as fitas de DNA que formam os genes. Em seguida, conforme relatado no artigo de 2021, o momento eureca ocorreu quando os genes foram inseridos em micróbios e os minúsculos organismos produziram 129 novos tipos de proteínas desconhecidas pela ciência e pela natureza.
Posteriormente, no início de 2022, Baker descreveu esse momento como “a primeira demonstração” de como a IA pode acelerar o design de novas proteínas. Seus artigos de acompanhamento de 2022 e 2023 mais uma vez usaram a palavra alucinação em seus títulos.
Em uma entrevista, Baker disse que seu laboratório havia dado um novo passo à frente na imaginação criativa com um método de IA conhecido como difusão. É isso que dá poder ao DALL-E, à Sora e a outros geradores populares de imagens.
Baker elogiou o fato da difusão ser melhor do que a alucinação na criação de novos designs de proteínas. “É muito mais rápida e a taxa de sucesso é maior”, disse ele.
Nos últimos anos, alguns analistas têm se preocupado com o fato de a ciência estar em declínio. Eles apontam para uma queda nas últimas décadas no número de avanços e descobertas importantes.
Os defensores da IA argumentam que suas explosões de criatividade estão chegando para o resgate. No horizonte do design, Baker e seus colegas veem ondas de catalisadores de proteínas que colherão a energia da luz do sol, transformarão fábricas antigas em elegantes economizadores de energia e ajudarão a criar um novo mundo sustentável.
“A aceleração continua acontecendo”, disse Ian C. Haydon, membro da equipe de. Baker. “É incrível.”
Outros concordam. “É incrível o que será lançado nos próximos anos”, disse Kohli. Ele vê a IA como a revelação dos segredos mais profundos da vida e o estabelecimento de uma nova e poderosa base para curar doenças, melhorar a saúde e prolongar a vida.
“Quando decifrarmos e compreendermos de fato a linguagem da vida”, disse ele, ‘será mágico’.
Este conteúdo foi traduzido com o auxílio de ferramentas de Inteligência Artificial e revisado por nossa equipe editorial. Saiba mais em nossa Política de IA.
Os comentários são exclusivos para assinantes do Estadão.
