O subsecretário de Estado americano para Armas, Deterrência e Estabilidade, Paul Dean, apelou para China e Rússia renunciarem à inteligência artificial (IA) no emprego de armas nucleares, como fizeram Estados Unidos, França e Reino Unido. Diante da competição acirrada e das vantagens que a IA proporciona na guerra, um compromisso nesse sentido é um dos grandes desafios da humanidade.
A cooperação nesse campo entre EUA e Rússia chegou ao nível mais baixo antes mesmo da invasão em grande escala da Ucrânia. Vladimir Putin e o ex-presidente Donald Trump deixaram que os acordos de redução de ogivas nucleares expirassem, enquanto novos protocolos, como a IA, e novas tecnologias, como os mísseis hipersônicos, eram experimentados.
Em 2017, Putin declarou a estudantes russos, referindo-se à IA: “Quem se tornar líder nessa esfera vai dominar o mundo”. Na mesma época, o governo chinês definiu como meta tornar-se líder mundial em pesquisa sobre IA até 2030. Os dois regimes encaram a IA como oportunidade histórica para reverter a superioridade tecnológica americana e europeia.
EUA e China retomaram em janeiro discussões sobre acordos de controle de ogivas nucleares. O secretário de Estado Antony Blinken, que esteve recentemente em Pequim, voltará, nas próximas semanas, para tratar de IA.
É uma cooperação tão crucial quanto difícil, porque depende de construção de confiança, um valor escasso. Em agosto de 2022, o presidente Joe Biden assinou a lei que impede o acesso da China aos semicondutores mais avançados, e à tecnologia de montagem de máquinas para sua fabricação.
Xi Jinping se queixa de que esse banimento se destina a tolher o desenvolvimento tecnológico da China. Dificulta a criação de um ambiente de cooperação e incentiva a anexação de Taiwan, que fabrica 90% desses chips.
Entregar o emprego de armas nucleares à inteligência artificial é potencialmente um suicídio da espécie humana; não fazer isso, enquanto o inimigo faz, equivale a rendição.
As máquinas aprendem com cálculos probabilísticos e analisam variáveis numa velocidade que a mente humana não concebe. Num cenário hipotético futuro, é plausível temer que, se a máquina estiver programada para atingir a vitória, custe o que custar, não terá por que recuar diante do risco de aniquilação da espécie humana.
Há três níveis de interface com as armas. “In the loop” significa que o operador humano pode interferir em qualquer fase da operação, incluindo abortar um ataque, mudar o alvo ou a trajetória, em se tratando de míssil teleguiado. “On the loop” é uma capacidade de intervenção limitada, mas ainda permite abortar o ataque. “Off the loop” implica que o ser humano só dispara a arma, que a partir daí responde apenas aos comandos da IA.
As potências ocidentais propõem a primeira opção, que preserva a capacidade humana de “observar, orientar, decidir e agir” — OODA, no jargão militar.
Leia também
Individualmente, ninguém vê sentido em colocar a humanidade e o planeta em risco para vencer uma guerra, que por definição não teria vencedores, ou porque o mundo seria destruído ou porque as máquinas estariam no seu comando.
Mas o coletivo, a competição e o poder têm dinâmicas internas próprias, que levam a decisões irracionais. Como o apostador que, contra toda lógica estatística, acredita que vai se dar bem.
Como conter essa dinâmica? Em 1985, Ronald Reagan e Mikhail Gorbachev se reuniram em Genebra para negociar acordos de redução de armas nucleares. A reunião ampla com assessores não estava sendo produtiva.
Os dois saíram para caminhar à beira do Lago de Genebra e terminaram em uma reunião privativa, só com seus intérpretes, à beira de uma lareira. Reagan perguntou: “Se os EUA fossem invadidos por alienígenas, a URSS viria nos defender?” Gorbachev respondeu: “Com certeza”. Reagan arrematou: “Sinto a mesma coisa em relação vocês”.
A atmosfera mudou. Os acordos destravaram a partir daí.
A conjuntura mundial é diferente. Naquele momento, a União Soviética vivia o declínio e, mais importante, Gorbachev entendia isso. Essa percepção levou ao fim da guerra fria.
Xi sente que a China pode desafiar a liderança ocidental e reconquistar o lugar que lhe é destinado. A aliança com a Rússia, parceiro dependente, fornecedor de energia e alimentos, reforça a determinação de Xi em contestar a ordem internacional. O revanchismo de Putin, de sua parte, é alimentado pelo que considera a “rendição” de Gorbachev e a “humilhação” da Rússia.
Se em 1985 o declínio da Rússia contribuiu para a paz, hoje é uma ameaça.