THE NEW YORK TIMES - Elon Musk comemorou seu 44º aniversário em julho de 2015 em uma festa de três dias organizada por sua esposa em um resort na região vinícola da Califórnia, repleto de cabanas. A festa foi apenas para a família e amigos, com crianças correndo pela propriedade de luxo em Napa Valley.
Larry Page, um dos convidados da festa, ainda era o executivo-chefe do Google. E a inteligência artificial (IA) havia penetrado na consciência pública apenas alguns anos antes, quando foi usada para identificar gatos no YouTube, com 16% de precisão.
A IA foi o grande tema da conversa quando Musk e Page se sentaram perto de uma fogueira ao lado de uma piscina após o jantar da primeira noite. Os dois debateram se a inteligência artificial acabaria por elevar a humanidade ou destruí-la. Page, prejudicado por mais de uma década por uma doença incomum em suas cordas vocais, descreveu sua visão de uma utopia digital em um sussurro. Os seres humanos acabariam se fundindo com máquinas artificialmente inteligentes, disse ele. Um dia, haveria muitos tipos de inteligência competindo por recursos e o melhor venceria.
Se isso acontecer, disse Musk, estaremos condenados. As máquinas destruirão a humanidade.
Esse debate colocou alguns dos homens mais ricos do mundo uns contra os outros: Musk, Page, Mark Zuckerberg, da Meta, o investidor em tecnologia Peter Thiel, Satya Nadella, da Microsoft e Sam Altman, da OpenAI. Todos lutaram por uma parte do negócio - que um dia poderá valer trilhões de dólares - e pelo poder de moldá-lo.
No centro dessa competição, há um paradoxo: as pessoas que se dizem mais preocupadas com a IA estão entre as mais determinadas a criá-la e a desfrutar de suas riquezas. Elas justificaram sua ambição com a forte crença de que somente elas podem impedir que a IA coloque a Terra em perigo.
Musk e Page pararam de se falar logo após a festa. Algumas semanas depois, Musk jantou com Altman, o que levou à criação de uma startup chamada OpenAI. Com o apoio de centenas de milhões de dólares de Musk e de outros financiadores, o laboratório prometeu proteger o mundo da visão de Page.
No mês passado, essa briga interna chegou à sala da diretoria da OpenAI. Membros rebeldes da diretoria tentaram forçar a saída de Altman porque, segundo eles, não podiam mais confiar nele para criar uma IA que beneficiasse a humanidade. Durante cinco dias caóticos, a OpenAI parecia que ia desmoronar, até que a diretoria - pressionada por investidores gigantes e funcionários que ameaçavam seguir Altman - recuou.
O drama dentro da OpenAI deu ao mundo seu primeiro vislumbre das amargas disputas entre aqueles que determinarão o futuro da IA. Mas anos antes do quase colapso da OpenAI, houve uma competição pouco divulgada, mas feroz, no Vale do Silício pelo controle da tecnologia que agora está remodelando rapidamente o mundo, desde a forma como as crianças são ensinadas até como as guerras são travadas.
O nascimento da DeepMind
Em 2010, Demis Hassabis, um neurocientista de 34 anos, e dois colegas, que moravam na Grã-Bretanha, estavam procurando dinheiro para começar a construir uma “inteligência geral artificial” (ou AGI, na sigla em inglês), uma máquina capaz de fazer tudo o que o cérebro faz. Naquela época, poucas pessoas estavam interessadas em IA.
Muitos, como os três jovens britânicos, tinham uma conexão com Eliezer Yudkowsky, filósofo da internet e pesquisador autodidata de IA. Yudkowsky era líder em uma comunidade de pessoas que se autodenominavam racionalistas ou, em anos posteriores, altruístas eficazes.
Eles acreditavam que a IA poderia encontrar a cura para o câncer ou solucionar a mudança climática, mas se preocupavam com a possibilidade de os robôs de IA fazerem coisas que seus criadores não pretendiam. Se as máquinas se tornassem mais inteligentes que os humanos, argumentavam os racionalistas, elas poderiam se voltar contra seus criadores.
Há enormes benefícios advindos dessas tecnologias. O objetivo não é eliminá-las ou interromper seu desenvolvimento. O objetivo é atenuar as desvantagens
Mustafa Suleyman, um dos três fundadores da DeepMind
Yudkowsky apresentou Hassabis ao investidor Peter Thiel, que concordou aportar 1,4 milhão de libras esterlinas (cerca de US$ 2,25 milhões) na nova startup de Hassabis. Eles batizaram a empresa de DeepMind, uma referência à “aprendizagem profunda”, uma forma de os sistemas de inteligência artificial aprenderem habilidades analisando grandes quantidades de dados. No segundo semestre de 2010, eles estavam construindo a máquina dos seus sonhos. Eles acreditavam sinceramente que, por entenderem os riscos, estavam em uma posição única para proteger o mundo.
“Não vejo isso como uma posição contraditória”, diz Mustafa Suleyman, um dos três fundadores da DeepMind. “Há enormes benefícios advindos dessas tecnologias. O objetivo não é eliminá-las ou interromper seu desenvolvimento. O objetivo é atenuar as desvantagens.”
Tendo conquistado Thiel, Hassabis entrou na órbita de Musk. Cerca de dois anos depois, eles se encontraram em uma conferência organizada pelo fundo de investimentos de Thiel, que também havia investido dinheiro na empresa SpaceX de Musk. O Hassabis conseguiu um tour pela sede da SpaceX e almoçou com Musk.
O fundador explicou que seu plano era colonizar Marte para escapar da superpopulação e de outros perigos na Terra. Hassabis respondeu que o plano funcionaria - desde que máquinas superinteligentes não o seguissem e destruíssem a humanidade em Marte também.
Musk ficou sem palavras. Ele não havia pensado nesse perigo específico. Assim, ele logo investiu na DeepMind junto com Thiel para que pudesse estar mais próximo da criação dessa tecnologia.
Cheia de dinheiro, a DeepMind contratou pesquisadores especializados em redes neurais, algoritmos complexos criados à imagem do cérebro humano. Uma rede neural é essencialmente um sistema matemático gigante que passa dias, semanas ou até meses identificando padrões em grandes quantidades de dados digitais. Desenvolvidos pela primeira vez na década de 1950, esses sistemas podiam aprender a lidar com tarefas por conta própria. Depois de analisar nomes e endereços rabiscados em centenas de envelopes, por exemplo, eles podiam ler textos escritos à mão.
A DeepMind levou o conceito adiante. Ela criou um sistema capaz de aprender a jogar jogos clássicos do Atari, como Space Invaders, Pong e Breakout, para ilustrar o que era possível.
Isso chamou a atenção de outra potência do Vale do Silício, o Google, especificamente de Larry Page. Ele viu uma demonstração da máquina da DeepMind jogando jogos de Atari. Ele queria participar.
O leilão de talentos
No outono de 2012, Geoffrey Hinton, um professor de 64 anos da Universidade de Toronto, e dois alunos de pós-graduação publicaram um trabalho de pesquisa que mostrou ao mundo o que a IA podia fazer. Eles treinaram uma rede neural para reconhecer objetos comuns, como flores, cachorros e carros.
Os cientistas ficaram surpresos com a precisão da tecnologia - tanto que a Baidu ofereceu Hinton e a seus alunos US$ 12 milhões para que se juntassem à empresa em Pequim. O cientista recusou o convite, mas o dinheiro chamou sua atenção.
“Não sabíamos o quanto valíamos”, diz Hinton. Ele consultou advogados e especialistas em aquisições e elaborou um plano: “Organizaríamos um leilão e nos venderíamos”. O leilão seria realizado durante uma conferência anual de IA em Lake Tahoe, Califórnia.
Enquanto isso, Google, Microsoft, Baidu e outras empresas estavam começando a acreditar que as redes neurais eram um caminho para máquinas que podiam não apenas ver, mas também ouvir, escrever, falar e, eventualmente, pensar.
Page havia visto uma tecnologia semelhante no Google Brain, o laboratório de IA de sua empresa, e passou a acreditar que a pesquisa de Hinton poderia elevar o trabalho de seus cientistas. Ele deu a Alan Eustace, vice-presidente sênior de engenharia do Google, o que equivalia a um cheque em branco para contratar qualquer especialista em IA que ele precisasse.
O Google fez uma oferta por Hinton. A Microsoft também. A DeepMind rapidamente se retirou quando o preço subiu. Os gigantes do setor aumentaram os lances para US$ 20 milhões e depois para US$ 25 milhões, de acordo com documentos que detalhavam o leilão. Quando o preço passou de US$ 30 milhões, a Microsoft desistiu, mas voltou a fazer lances de US$ 37 milhões.
“Sentimo-nos como se estivéssemos em um filme”, diz Hinton.
Em seguida, a Microsoft desistiu pela segunda vez. Só restaram o Baidu e o Google, que aumentaram a oferta para US$ 42 milhões, US$ 43 milhões. Finalmente, com US$ 44 milhões, Hinton e seus alunos interromperam o leilão. Os lances ainda estavam subindo, mas eles queriam trabalhar para o Google.
Foi um sinal inconfundível de que as empresas com grandes recursos estavam determinadas a comprar os pesquisadores de IA mais talentosos, o que não passou despercebido por Hassabis na DeepMind. Ele sempre disse a seus funcionários que a DeepMind continuaria sendo uma empresa independente. Ele acreditava que essa era a melhor maneira de garantir que sua tecnologia não se transformasse em algo perigoso.
Mas quando as gigantes entraram na corrida dos talentos, ele decidiu que não tinha escolha: era hora de vender. No final de 2012, o Google e o Facebook estavam tentando adquirir a DeepMind. Hassabis e seus cofundadores insistiram em duas condições: Nenhuma tecnologia da DeepMind poderia ser usada para fins militares, e sua tecnologia AGI deveria ser supervisionada por um conselho independente de tecnólogos e especialistas em ética.
O Google ofereceu US$ 650 milhões. Mark Zuckerberg, do Facebook, ofereceu um pagamento maior aos fundadores da DeepMind, mas não concordou com as condições. A DeepMind foi vendida para o Google.
Já Zuckerberg contratou Yann LeCun, um cientista da computação francês que também havia feito pesquisas pioneiras em IA. Antes, a IA era ridicularizada. Agora, os homens mais ricos do Vale do Silício estavam desembolsando bilhões para não serem deixados para trás.
O conselho de ética perdido
Quando Musk investiu na DeepMind, ele quebrou sua própria regra informal - de não investir em nenhuma empresa que não fosse dirigida por ele mesmo. As desvantagens de sua decisão já eram evidentes quando, apenas um mês ou mais depois de sua briga de aniversário com Page, ele se viu novamente frente a frente com seu antigo amigo e colega bilionário.
A ocasião foi a primeira reunião do conselho de ética da DeepMind, em 14 de agosto de 2015. O conselho foi criado por insistência dos fundadores da startup para garantir que sua tecnologia não causasse danos após a venda. Os membros se reuniram em uma sala de conferências do lado de fora do escritório de Musk na SpaceX, com uma janela que dava para a fábrica de foguetes.
Mas isso foi o máximo de controle que Musk teve. Quando o Google comprou a DeepMind, ele comprou tudo. Musk estava fora. Financeiramente, ele havia saído ganhando, mas estava insatisfeito.
Três executivos do Google, agora firmemente no controle da DeepMind, estavam lá: Page; Sergey Brin, cofundador do Google e investidor da Tesla; e Eric Schmidt, presidente do Google. Entre os outros participantes estavam Reid Hoffman, outro fundador do PayPal, e Toby Ord, um filósofo australiano que estuda o “risco existencial”.
Os fundadores da DeepMind informaram que estavam avançando com seu trabalho, mas que estavam cientes de que a tecnologia trazia sérios riscos.
Suleyman, cofundador da DeepMind, fez uma apresentação chamada “The Pitchforkers Are Coming”. A IA pode levar a uma explosão de desinformação, disse ele à diretoria. Ele temia que, à medida que a tecnologia substituísse inúmeros empregos nos próximos anos, o público acusaria o Google de roubar seus meios de subsistência. O Google precisaria compartilhar sua riqueza com os milhões de pessoas que não conseguiriam mais encontrar trabalho e oferecer uma “renda básica universal”, argumentou.
Musk concordou. Mas ficou bastante claro que seus convidados do Google não estavam preparados para embarcar em uma redistribuição de riqueza. Schmidt disse que achava que as preocupações eram completamente exageradas.
Oito meses depois, a DeepMind fez uma descoberta que surpreendeu a comunidade de IA e o mundo. Uma máquina da DeepMind chamada AlphaGo venceu um dos melhores jogadores do mundo no antigo jogo de Go. O jogo, transmitido pela internet, foi assistido por 200 milhões de pessoas em todo o mundo. A maioria dos pesquisadores supunha que a IA precisaria de mais 10 anos para reunir a engenhosidade necessária para fazer isso.
A IA está progredindo mais rapidamente do que muitos especialistas previram
Victoria Krakovna, pesquisadora de segurança de IA na DeepMind
Racionalistas, altruístas eficazes e outros que se preocupavam com os riscos da IA afirmaram que a vitória do computador validou seus temores.
“Essa é outra indicação de que a IA está progredindo mais rapidamente do que muitos especialistas previram”, escreveu Victoria Krakovna, que logo se juntaria à DeepMind como pesquisadora de “segurança de IA”.
Os fundadores da DeepMind estavam cada vez mais preocupados com o que o Google faria com suas invenções. Em 2017, eles tentaram se separar da empresa. O Google respondeu aumentando os salários e os pacotes de prêmios em ações dos fundadores da DeepMind e de sua equipe. Eles permaneceram na empresa.
O conselho de ética nunca teve uma segunda reunião.
O rompimento
Convencido de que a visão otimista de Page sobre a IA estava completamente errada e irritado com a perda da DeepMind, Musk criou seu próprio laboratório.
A OpenAI foi fundada no final de 2015, apenas alguns meses depois que ele se encontrou com Sam Altman no hotel Rosewood, no Vale do Silício. Musk injetou dinheiro no laboratório, e seus ex-colegas do PayPal, Hoffman e Thiel, vieram junto. Os três homens e outros se comprometeram a investir US$ 1 bilhão no projeto.
Inicialmente, Musk queria operar a OpenAI como uma organização sem fins lucrativos, livre dos incentivos econômicos que impulsionavam o Google e outras corporações. Mas quando o Google impressionou a comunidade tecnológica com sua proeza do Go, Musk mudou de ideia sobre como a empresa deveria ser administrada. Ele queria desesperadamente que a OpenAI inventasse algo que capturasse a imaginação do mundo e diminuísse a distância em relação ao Google, mas ela não estava conseguindo fazer o trabalho como uma organização sem fins lucrativos.
No final de 2017, ele elaborou um plano para tirar o controle do laboratório de Altman e dos outros fundadores e transformá-lo em uma operação comercial. Quando Altman e outros se opuseram, Musk pediu demissão e disse que se concentraria em seu próprio trabalho de IA na Tesla. Em fevereiro de 2018, ele anunciou sua saída para a equipe da OpenAI.
De repente, a startup precisava de novos financiamentos com pressa. Altman viajou para Sun Valley para uma conferência e encontrou Satya Nadella, executivo-chefe da Microsoft. Uma parceria parecia natural. Altman conhecia o diretor de tecnologia da Microsoft, Kevin Scott. A Microsoft havia comprado o LinkedIn de Hoffman, um membro da diretoria da OpenAI. O negócio foi fechado em 2019.
Altman e a OpenAI haviam formado uma empresa com fins lucrativos sob a organização sem fins lucrativos original, tinham US$ 1 bilhão em capital novo e a Microsoft tinha uma nova maneira de incorporar a inteligência artificial em seu vasto serviço de computação em nuvem.
Porém, nem todo mundo dentro da OpenAI estava feliz.
Dario Amodei, pesquisador ligado à comunidade de altruístas eficazes, estava presente quando a OpenAI nasceu. Ele estava liderando os esforços do laboratório para criar uma rede neural chamada modelo amplo de linguagem (ou LLM) que pudesse aprender com enormes quantidades de texto digital. Ao analisar inúmeros artigos da Wikipédia, livros digitais e quadros de mensagens, ela podia gerar texto por conta própria. Ela também tinha o infeliz hábito de inventar coisas. Ele se chamava GPT-3 e foi lançado no verão de 2020.
Os pesquisadores da OpenAI, do Google e de outras empresas acreditavam que essa tecnologia de rápido aprimoramento poderia ser um caminho para a AGI.
Mas Amodei estava insatisfeito com o acordo com a Microsoft porque achava que ele estava levando a OpenAI para uma direção realmente comercial. Ele e outros pesquisadores foram à diretoria para tentar expulsar Altman. Depois de fracassarem, eles saíram. Como os fundadores da DeepMind antes deles, eles temiam que seus novos senhores corporativos favorecessem os interesses comerciais em detrimento da segurança.
Em 2021, o grupo de cerca de 15 engenheiros e cientistas criou um novo laboratório chamado Anthropic. O plano era criar a IA da maneira que os altruístas eficazes achavam que deveria ser feita - com controles muito rígidos.
“Não houve nenhuma tentativa de remover Sam Altman da OpenAI por parte dos cofundadores do Anthropic”, disse uma porta-voz do Anthropic, Sally Aldous. “Os próprios cofundadores chegaram à conclusão de que desejavam deixar a OpenAI para abrir sua própria empresa, informaram isso à liderança da OpenAI e, durante várias semanas, negociaram uma saída em termos mutuamente aceitáveis.”
A Anthropic aceitou um investimento de US$ 4 bilhões da Amazon e outros US$ 2 bilhões do Google dois anos depois.
A revelação
Depois que a OpenAI recebeu mais US$ 2 bilhões da Microsoft, Altman e outro executivo sênior, Greg Brockman, visitaram Bill Gates em sua ampla mansão às margens do Lago Washington, em Seattle. O fundador da Microsoft não estava mais envolvido no dia a dia da empresa, mas mantinha contato regular com seus executivos.
Durante o jantar, Gates disse a eles que duvidava que os LLMs pudessem funcionar. Ele disse que permaneceria cético até que a tecnologia realizasse uma tarefa que exigisse pensamento crítico.
Cinco meses depois, em 24 de agosto de 2022, Altman e Brockman voltaram e trouxeram consigo uma pesquisadora da OpenAI chamada Chelsea Voss. Voss havia sido medalhista em uma Olimpíada Internacional de Biologia quando estava no ensino médio.
Em uma enorme tela digital, a equipe da OpenAI apresentou uma tecnologia chamada GPT-4. Brockman deu ao sistema um teste de biologia avançada de múltipla escolha, e Voss classificou as respostas. Havia 60 perguntas. O GPT-4 errou apenas uma resposta.
Gates se sentou em sua cadeira, com os olhos arregalados. Em 1980, ele teve uma reação semelhante quando os pesquisadores lhe mostraram a interface gráfica do usuário que se tornou a base do computador pessoal moderno. Ele achava que o GPT era revolucionário da mesma forma.
Em outubro, a Microsoft estava adicionando a tecnologia em seus serviços online, incluindo o mecanismo de busca Bing. E dois meses depois, a OpenAI lançou seu chatbot ChatGPT, que agora é usado por 100 milhões de pessoas todas as semanas.
A OpenAI havia vencido os altruístas eficazes da Anthropic. A turma de otimistas de Page no Google se apressou em lançar seu próprio chatbot, o Bard, mas havia a percepção de que a gigante havia perdido a corrida para a OpenAI. Três meses após o lançamento do ChatGPT, as ações do Google caíram 11%. Musk não estava em lugar nenhum.
Este conteúdo foi traduzido com o auxílio de ferramentas de Inteligência Artificial e revisado por nossa equipe editorial. Saiba mais em nossa Política de IA.
