THE NEW YORK TIMES - Há décadas, o Vale do Silício espera pelo momento em que uma nova tecnologia surgiria e mudaria tudo. Ela uniria humano e máquina, provavelmente para o bem, mas talvez para o mal, e dividiria a história em um antes e um depois.
O nome desse marco: singularidade tecnológica.
Poderia acontecer de inúmeras maneiras. Uma possibilidade é que as pessoas adicionariam o poder computacional de um computador à sua inteligência inata, transformando-se em versões turbinadas de si mesmas. Ou talvez os computadores evoluiriam de forma tão complexa que poderiam pensar de verdade, criando um cérebro global.
Em ambos os casos, as mudanças decorrentes seriam drásticas, gigantescas e irreversíveis. Um super-humano máquina autoconsciente poderia criar suas próprias melhorias mais depressa do que qualquer grupo de cientistas, desencadeando uma explosão na inteligência. Séculos de progresso poderiam acontecer em anos ou até mesmo em meses. A singularidade tecnológica é uma catapulta para o futuro.
A inteligência artificial (IA) está gerando preocupações na tecnologia, nos negócios e na política como nada na memória recente. Há afirmações extravagantes e declarações descabidas vindas do Vale do Silício, e parece que o paraíso virtual há muito prometido está finalmente próximo.
Sundar Pichai, o CEO do Google que costuma ser discreto, considera a IA como “mais significativa do que o fogo, ou a eletricidade, ou qualquer coisa que tenhamos feito no passado”. Reid Hoffman, investidor bilionário, disse: “O poder para realizar mudanças positivas no mundo está prestes a ganhar o maior dos impulsos já vistos”. E o cofundador da Microsoft, Bill Gates, afirmou que a IA “mudará a forma como as pessoas trabalham, aprendem, viajam, recebem cuidados de saúde e se comunicam umas com as outras”.
A IA é o lançamento definitivo de um novo produto pelo Vale do Silício: a transcendência sob demanda.
Mas há um lado sombrio. É como se as empresas de tecnologia anunciassem carros autônomos com a ressalva de que eles poderiam explodir antes de você chegar ao seu destino.
“O surgimento da inteligência artificial geral (AGI) é chamado de singularidade tecnológica porque é muito difícil prever o que acontecerá depois disso”, disse Elon Musk, dono do Twitter e da Tesla, em entrevista para a CNBC. Ele disse acreditar que isso teria como consequência “uma era de abundância”, porém havia “alguma chance” de que “destruísse a humanidade”.
O maior apoiador da IA na comunidade da tecnologia é Sam Altman, CEO da OpenAI, a startup que provocou o frenesi atual com o ChatGPT. Segundo ele, a IA será “a maior força para o empoderamento econômico e o enriquecimento de muitas pessoas como jamais vimos”.
No entanto, ele também diz que Musk pode estar certo.
Altman assinou uma carta aberta divulgada pelo Center for AI Safety, uma organização sem fins lucrativos, dizendo que “mitigar o risco de extinção pela IA deve ser uma prioridade global” assim como evitar “pandemias e uma guerra nuclear”. Entre aqueles que assinaram o documento estão colegas de Altman da OpenAI e cientistas da computação da Microsoft e do Google.
Sam Altman, CEO da OpenAI
O apocalipse é um tema familiar e até mesmo benquisto pelo Vale do Silício. Há alguns anos, parecia que todos os executivos da tecnologia tinham um bunker completamente abastecido para o apocalipse em algum lugar remoto, mas acessível. Em 2016, Altman disse que estava juntando “armas, ouro, iodeto de potássio, antibióticos, baterias, água, máscaras de gás das Forças de Defesa de Israel e um grande terreno na região de Big Sur para onde posso ir voando”. A pandemia de coronavírus fez com que aqueles do setor de tecnologia que se preparavam para uma catástrofe tivessem a sensação de que estavam certos, por um tempo.
Agora, eles estão se preparando para a singularidade tecnológica.
“Eles gostam de pensar que são pessoas sensatas fazendo comentários sábios, mas soam mais como os monges do ano 1000 falando do Arrebatamento”, disse Baldur Bjarnason, autor de “The Intelligence Illusion” (A Ilusão da Inteligência, em tradução livre), uma análise crítica da IA. “É um pouco assustador”, disse ele.
As raízes da transcendência
As raízes intelectuais da singularidade tecnológica remontam a John von Neumann, cientista da computação pioneiro que, na década de 1950, falava de como “o progresso cada vez mais acelerado da tecnologia” renderia “alguma singularidade essencial na história humana”.
Irving John Good, matemático britânico que ajudou a decodificar o dispositivo conhecido como Enigma alemão em Bletchley Park durante a Segunda Guerra Mundial, também foi um defensor influente da ideia. “A sobrevivência do homem depende da construção o quanto antes de uma máquina ultrainteligente”, escreveu em 1964. O diretor Stanley Kubrick consultou Good para criar o HAL 9000, o computador inofensivo que se torna malévolo em “2001: Uma Odisseia no Espaço” – um dos primeiros exemplos das fronteiras permeáveis entre a ciência da computação e a ficção científica.
Hans Moravec, professor do Instituto de Robótica da Universidade Carnegie Mellon, pensava que a IA seria um trunfo não apenas para os vivos: os mortos também seriam trazidos de volta com a singularidade tecnológica. “Teríamos a oportunidade de recriar o passado e interagir com ele de uma forma real e direta”, escreveu ele no livro “Homens e Robôs: O Futuro da Inteligência Humana e Robótica”.
Nos últimos anos, o empresário e inventor Ray Kurzweil tem sido o maior defensor da singularidade tecnológica. Kurzweil escreveu “The Age of Intelligent Machines” (A Era das Máquinas Inteligentes, em tradução livre) em 1990 e “A Singularidade está Próxima: Quando os Humanos Transcendem a Biologia”, em 2005, e agora está escrevendo “The Singularity Is Nearer” (A Singularidade está Mais Próxima, em tradução livre).
Ele espera que até o fim da década, os computadores passem no Teste de Turing e sejam indistinguíveis dos humanos. Segundo os cálculos dele, 15 anos depois disso, acontecerá a verdadeira transcendência: o momento no qual “a computação será parte de nós mesmos e aumentaremos nossa inteligência em um milhão de vezes”.
Religião sem Deus
Para alguns críticos da singularidade tecnológica, ela é uma tentativa intelectualmente duvidosa de replicar o sistema de crenças da religião organizada no reino do software.
“Todos eles querem a vida eterna sem o inconveniente de ter que acreditar em Deus”, disse Rodney Brook, ex-diretor do Laboratório de Ciência da Computação e Inteligência Artificial do Instituto de Tecnologia de Massachusetts.
A inovação que alimenta o debate hoje sobre a singularidade tecnológica é o modelo amplo de linguagem (LLM), o tipo de sistema de IA por trás dos chatbots. Comece uma conversa com um desses LLMs e ele responderá de forma rápida e coerente e muitas vezes com um bom grau de esclarecimento.
“Quando você faz uma pergunta, esses modelos interpretam o que ela significa, determinam o que a resposta deles deve significar e, em seguida, traduzem tudo isso em palavras – se isso não é uma definição de inteligência geral, o que é?”, questionou Jerry Kaplan, empresário de IA de longa data e autor de “Artificial Intelligence: What Everyone Needs to Know” (Inteligência Artificial: O que Todos Precisam Saber, em tradução livre).
Kaplan disse ser cético em relação às maravilhas anunciadas como carros autônomos e criptomoedas. Ele encarou o recente boom da IA com as mesmas dúvidas, mas disse ter sido convencido.
“Se isso não é ‘a singularidade tecnológica’, sem dúvidas é algo singular: um passo tecnológico transformador que vai acelerar amplamente um monte de arte, ciência e conhecimento humano – e criar alguns problemas”, disse ele.
Os críticos contestam que mesmo os resultados impressionantes dos LLMs estão muito distantes da enorme inteligência global prometida há muito tempo pela singularidade tecnológica. Parte do problema em separar com precisão o hype da realidade é que os mecanismos por trás dessa tecnologia estão se tornando ocultos. A OpenAI, que começou como uma organização sem fins lucrativos usando código aberto, agora é um negócio com fins lucrativos que os críticos dizem ser, na prática, uma caixa-preta. O Google e a Microsoft também oferecem visibilidade limitada.
Grande parte da pesquisa sobre IA está sendo feita pelas empresas com muito a ganhar com os resultados. Os pesquisadores da Microsoft, que investiu US$ 13 bilhões na OpenAI, publicaram um artigo em abril concluindo que uma versão preliminar do modelo mais recente da OpenAI “exibe muitos traços de inteligência”, incluindo “abstração, compreensão, visão, codificação” e “compreensão dos motivos e emoções humanas”.
Rylan Schaeffer, doutorando em ciência da computação em Stanford, disse que alguns pesquisadores de IA criaram uma imagem imprecisa de como esses modelos de linguagem ampla demonstram “habilidades emergentes” – capacidades inexplicáveis que não eram evidentes em versões menores.
Ao lado de dois colegas de Stanford, Brando Miranda e Sanmi Koyejo, Schaeffer analisou a questão em um artigo de pesquisa publicado em maio e concluiu que as características emergentes eram “uma miragem” provocada por erros de leitura. Na prática, os pesquisadores estão vendo o que querem ver.
Vida eterna, lucros eternos
Em Washington, Londres e Bruxelas, os legisladores estão inquietos com as oportunidades e os problemas da IA e começando a falar em regulamentação. Altman está viajando pelo mundo na tentativa de se desviar das críticas iniciais e promover a OpenAI como o pastor da singularidade tecnológica.
Isso inclui uma abertura à regulamentação, mas exatamente o que isso seria é incerto. O Vale do Silício normalmente defende que o governo é lento demais e irritante para supervisionar descobertas tecnológicas repentinas e sucessivas.
“Não há ninguém no governo que possa fazer isso da forma certa”, disse Eric Schmidt, ex-CEO do Google, em entrevista ao programa de TV “Meet the Press” em maio, apoiando a autorregulação da IA. “Mas a indústria pode fazer isso mais ou menos direito.”
A IA, assim como a singularidade tecnológica, já está sendo descrita como irreversível. “Detê-la exigiria algo como um regime de vigilância global, e mesmo isso não é garantia de que vá funcionar”, escreveram Altman e alguns de seus colegas em maio. Se o Vale do Silício não fizer isso, acrescentaram eles, outros farão.
Um tema menos discutido são os enormes lucros obtidos com fazer o upload do mundo. Apesar de toda a conversa da IA ser uma máquina geradora de riqueza ilimitada, as pessoas enriquecendo são praticamente as mesmas que já são ricas.
A Microsoft viu sua capitalização de mercado subir meio trilhão de dólares este ano. A Nvidia, fabricante dos chips que fazem rodar os sistemas de IA, recentemente se tornou uma das empresas de capital aberto mais valiosas dos EUA quando disse que a demanda por esses chips tinha disparado.
“A IA é a tecnologia que o mundo sempre quis”, tuitou Altman.
Ela é sem dúvidas a tecnologia que o mundo da tecnologia sempre quis, chegando no melhor momento possível. No ano passado, o Vale do Silício estava se recuperando das demissões e do aumento das taxas de juros. As criptomoedas, o último boom do setor, estavam envolvidas em fraudes e decepções.
Siga o dinheiro, disse Charles Stross, um dos autores do livro “The Rapture of the Nerds” (O Arrebatamento dos Nerds, em tradução livre), uma visão cômica da singularidade tecnológica, e autor de “Accelerando”, uma tentativa mais séria de descrever como a vida poderia ser em breve.
“A verdadeira promessa aqui é que as corporações serão capazes de substituir muitas de suas subunidades humanas de processamento de informações defeituosas, caras e lentas por bits de software, acelerando desse modo as coisas e reduzindo as despesas gerais”, disse ele.
A singularidade tecnológica é imaginada há muito tempo como um evento cósmico, literalmente alucinante. E ainda pode ser.
Mas talvez se torne evidente antes de tudo – graças, em parte, à atual obsessão por resultados financeiros do Vale do Silício – como uma ferramenta para reduzir o número de funcionários das empresas americanas. Quando você está correndo para adicionar trilhões ao seu valor de mercado, o paraíso pode esperar. / TRADUÇÃO ROMINA CÁCIA