É colunista do 'Estadão' e analista de assuntos internacionais. Escreve uma vez por semana.

Opinião|Limitar uso da Inteligência Artificial em armas nucleares é tão crucial quanto difícil


EUA fazem apelo a China e Rússia, mas conjuntura e desconfianças complicam cooperação em um dos grandes desafios da humanidade

Por Lourival Sant'Anna
Atualização:

O subsecretário de Estado americano para Armas, Deterrência e Estabilidade, Paul Dean, apelou para China e Rússia renunciarem à inteligência artificial (IA) no emprego de armas nucleares, como fizeram Estados Unidos, França e Reino Unido. Diante da competição acirrada e das vantagens que a IA proporciona na guerra, um compromisso nesse sentido é um dos grandes desafios da humanidade.

A cooperação nesse campo entre EUA e Rússia chegou ao nível mais baixo antes mesmo da invasão em grande escala da Ucrânia. Vladimir Putin e o ex-presidente Donald Trump deixaram que os acordos de redução de ogivas nucleares expirassem, enquanto novos protocolos, como a IA, e novas tecnologias, como os mísseis hipersônicos, eram experimentados.

Em 2017, Putin declarou a estudantes russos, referindo-se à IA: “Quem se tornar líder nessa esfera vai dominar o mundo”. Na mesma época, o governo chinês definiu como meta tornar-se líder mundial em pesquisa sobre IA até 2030. Os dois regimes encaram a IA como oportunidade histórica para reverter a superioridade tecnológica americana e europeia.

continua após a publicidade

EUA e China retomaram em janeiro discussões sobre acordos de controle de ogivas nucleares. O secretário de Estado Antony Blinken, que esteve recentemente em Pequim, voltará, nas próximas semanas, para tratar de IA.

Em meio à tensões na Ásia, exercício na Califórnia prepara soldados para novo tipo de guerra com drones guiados por Inteligência Artificial.  Foto: Defense Visual Information Distribution Service/AP

É uma cooperação tão crucial quanto difícil, porque depende de construção de confiança, um valor escasso. Em agosto de 2022, o presidente Joe Biden assinou a lei que impede o acesso da China aos semicondutores mais avançados, e à tecnologia de montagem de máquinas para sua fabricação.

continua após a publicidade

Xi Jinping se queixa de que esse banimento se destina a tolher o desenvolvimento tecnológico da China. Dificulta a criação de um ambiente de cooperação e incentiva a anexação de Taiwan, que fabrica 90% desses chips.

Entregar o emprego de armas nucleares à inteligência artificial é potencialmente um suicídio da espécie humana; não fazer isso, enquanto o inimigo faz, equivale a rendição.

As máquinas aprendem com cálculos probabilísticos e analisam variáveis numa velocidade que a mente humana não concebe. Num cenário hipotético futuro, é plausível temer que, se a máquina estiver programada para atingir a vitória, custe o que custar, não terá por que recuar diante do risco de aniquilação da espécie humana.

continua após a publicidade

Há três níveis de interface com as armas. “In the loop” significa que o operador humano pode interferir em qualquer fase da operação, incluindo abortar um ataque, mudar o alvo ou a trajetória, em se tratando de míssil teleguiado. “On the loop” é uma capacidade de intervenção limitada, mas ainda permite abortar o ataque. “Off the loop” implica que o ser humano só dispara a arma, que a partir daí responde apenas aos comandos da IA.

As potências ocidentais propõem a primeira opção, que preserva a capacidade humana de “observar, orientar, decidir e agir” — OODA, no jargão militar.

continua após a publicidade

Individualmente, ninguém vê sentido em colocar a humanidade e o planeta em risco para vencer uma guerra, que por definição não teria vencedores, ou porque o mundo seria destruído ou porque as máquinas estariam no seu comando.

Mas o coletivo, a competição e o poder têm dinâmicas internas próprias, que levam a decisões irracionais. Como o apostador que, contra toda lógica estatística, acredita que vai se dar bem.

Como conter essa dinâmica? Em 1985, Ronald Reagan e Mikhail Gorbachev se reuniram em Genebra para negociar acordos de redução de armas nucleares. A reunião ampla com assessores não estava sendo produtiva.

continua após a publicidade

Os dois saíram para caminhar à beira do Lago de Genebra e terminaram em uma reunião privativa, só com seus intérpretes, à beira de uma lareira. Reagan perguntou: “Se os EUA fossem invadidos por alienígenas, a URSS viria nos defender?” Gorbachev respondeu: “Com certeza”. Reagan arrematou: “Sinto a mesma coisa em relação vocês”.

A atmosfera mudou. Os acordos destravaram a partir daí.

A conjuntura mundial é diferente. Naquele momento, a União Soviética vivia o declínio e, mais importante, Gorbachev entendia isso. Essa percepção levou ao fim da guerra fria.

continua após a publicidade

Xi sente que a China pode desafiar a liderança ocidental e reconquistar o lugar que lhe é destinado. A aliança com a Rússia, parceiro dependente, fornecedor de energia e alimentos, reforça a determinação de Xi em contestar a ordem internacional. O revanchismo de Putin, de sua parte, é alimentado pelo que considera a “rendição” de Gorbachev e a “humilhação” da Rússia.

Se em 1985 o declínio da Rússia contribuiu para a paz, hoje é uma ameaça.

O subsecretário de Estado americano para Armas, Deterrência e Estabilidade, Paul Dean, apelou para China e Rússia renunciarem à inteligência artificial (IA) no emprego de armas nucleares, como fizeram Estados Unidos, França e Reino Unido. Diante da competição acirrada e das vantagens que a IA proporciona na guerra, um compromisso nesse sentido é um dos grandes desafios da humanidade.

A cooperação nesse campo entre EUA e Rússia chegou ao nível mais baixo antes mesmo da invasão em grande escala da Ucrânia. Vladimir Putin e o ex-presidente Donald Trump deixaram que os acordos de redução de ogivas nucleares expirassem, enquanto novos protocolos, como a IA, e novas tecnologias, como os mísseis hipersônicos, eram experimentados.

Em 2017, Putin declarou a estudantes russos, referindo-se à IA: “Quem se tornar líder nessa esfera vai dominar o mundo”. Na mesma época, o governo chinês definiu como meta tornar-se líder mundial em pesquisa sobre IA até 2030. Os dois regimes encaram a IA como oportunidade histórica para reverter a superioridade tecnológica americana e europeia.

EUA e China retomaram em janeiro discussões sobre acordos de controle de ogivas nucleares. O secretário de Estado Antony Blinken, que esteve recentemente em Pequim, voltará, nas próximas semanas, para tratar de IA.

Em meio à tensões na Ásia, exercício na Califórnia prepara soldados para novo tipo de guerra com drones guiados por Inteligência Artificial.  Foto: Defense Visual Information Distribution Service/AP

É uma cooperação tão crucial quanto difícil, porque depende de construção de confiança, um valor escasso. Em agosto de 2022, o presidente Joe Biden assinou a lei que impede o acesso da China aos semicondutores mais avançados, e à tecnologia de montagem de máquinas para sua fabricação.

Xi Jinping se queixa de que esse banimento se destina a tolher o desenvolvimento tecnológico da China. Dificulta a criação de um ambiente de cooperação e incentiva a anexação de Taiwan, que fabrica 90% desses chips.

Entregar o emprego de armas nucleares à inteligência artificial é potencialmente um suicídio da espécie humana; não fazer isso, enquanto o inimigo faz, equivale a rendição.

As máquinas aprendem com cálculos probabilísticos e analisam variáveis numa velocidade que a mente humana não concebe. Num cenário hipotético futuro, é plausível temer que, se a máquina estiver programada para atingir a vitória, custe o que custar, não terá por que recuar diante do risco de aniquilação da espécie humana.

Há três níveis de interface com as armas. “In the loop” significa que o operador humano pode interferir em qualquer fase da operação, incluindo abortar um ataque, mudar o alvo ou a trajetória, em se tratando de míssil teleguiado. “On the loop” é uma capacidade de intervenção limitada, mas ainda permite abortar o ataque. “Off the loop” implica que o ser humano só dispara a arma, que a partir daí responde apenas aos comandos da IA.

As potências ocidentais propõem a primeira opção, que preserva a capacidade humana de “observar, orientar, decidir e agir” — OODA, no jargão militar.

Individualmente, ninguém vê sentido em colocar a humanidade e o planeta em risco para vencer uma guerra, que por definição não teria vencedores, ou porque o mundo seria destruído ou porque as máquinas estariam no seu comando.

Mas o coletivo, a competição e o poder têm dinâmicas internas próprias, que levam a decisões irracionais. Como o apostador que, contra toda lógica estatística, acredita que vai se dar bem.

Como conter essa dinâmica? Em 1985, Ronald Reagan e Mikhail Gorbachev se reuniram em Genebra para negociar acordos de redução de armas nucleares. A reunião ampla com assessores não estava sendo produtiva.

Os dois saíram para caminhar à beira do Lago de Genebra e terminaram em uma reunião privativa, só com seus intérpretes, à beira de uma lareira. Reagan perguntou: “Se os EUA fossem invadidos por alienígenas, a URSS viria nos defender?” Gorbachev respondeu: “Com certeza”. Reagan arrematou: “Sinto a mesma coisa em relação vocês”.

A atmosfera mudou. Os acordos destravaram a partir daí.

A conjuntura mundial é diferente. Naquele momento, a União Soviética vivia o declínio e, mais importante, Gorbachev entendia isso. Essa percepção levou ao fim da guerra fria.

Xi sente que a China pode desafiar a liderança ocidental e reconquistar o lugar que lhe é destinado. A aliança com a Rússia, parceiro dependente, fornecedor de energia e alimentos, reforça a determinação de Xi em contestar a ordem internacional. O revanchismo de Putin, de sua parte, é alimentado pelo que considera a “rendição” de Gorbachev e a “humilhação” da Rússia.

Se em 1985 o declínio da Rússia contribuiu para a paz, hoje é uma ameaça.

O subsecretário de Estado americano para Armas, Deterrência e Estabilidade, Paul Dean, apelou para China e Rússia renunciarem à inteligência artificial (IA) no emprego de armas nucleares, como fizeram Estados Unidos, França e Reino Unido. Diante da competição acirrada e das vantagens que a IA proporciona na guerra, um compromisso nesse sentido é um dos grandes desafios da humanidade.

A cooperação nesse campo entre EUA e Rússia chegou ao nível mais baixo antes mesmo da invasão em grande escala da Ucrânia. Vladimir Putin e o ex-presidente Donald Trump deixaram que os acordos de redução de ogivas nucleares expirassem, enquanto novos protocolos, como a IA, e novas tecnologias, como os mísseis hipersônicos, eram experimentados.

Em 2017, Putin declarou a estudantes russos, referindo-se à IA: “Quem se tornar líder nessa esfera vai dominar o mundo”. Na mesma época, o governo chinês definiu como meta tornar-se líder mundial em pesquisa sobre IA até 2030. Os dois regimes encaram a IA como oportunidade histórica para reverter a superioridade tecnológica americana e europeia.

EUA e China retomaram em janeiro discussões sobre acordos de controle de ogivas nucleares. O secretário de Estado Antony Blinken, que esteve recentemente em Pequim, voltará, nas próximas semanas, para tratar de IA.

Em meio à tensões na Ásia, exercício na Califórnia prepara soldados para novo tipo de guerra com drones guiados por Inteligência Artificial.  Foto: Defense Visual Information Distribution Service/AP

É uma cooperação tão crucial quanto difícil, porque depende de construção de confiança, um valor escasso. Em agosto de 2022, o presidente Joe Biden assinou a lei que impede o acesso da China aos semicondutores mais avançados, e à tecnologia de montagem de máquinas para sua fabricação.

Xi Jinping se queixa de que esse banimento se destina a tolher o desenvolvimento tecnológico da China. Dificulta a criação de um ambiente de cooperação e incentiva a anexação de Taiwan, que fabrica 90% desses chips.

Entregar o emprego de armas nucleares à inteligência artificial é potencialmente um suicídio da espécie humana; não fazer isso, enquanto o inimigo faz, equivale a rendição.

As máquinas aprendem com cálculos probabilísticos e analisam variáveis numa velocidade que a mente humana não concebe. Num cenário hipotético futuro, é plausível temer que, se a máquina estiver programada para atingir a vitória, custe o que custar, não terá por que recuar diante do risco de aniquilação da espécie humana.

Há três níveis de interface com as armas. “In the loop” significa que o operador humano pode interferir em qualquer fase da operação, incluindo abortar um ataque, mudar o alvo ou a trajetória, em se tratando de míssil teleguiado. “On the loop” é uma capacidade de intervenção limitada, mas ainda permite abortar o ataque. “Off the loop” implica que o ser humano só dispara a arma, que a partir daí responde apenas aos comandos da IA.

As potências ocidentais propõem a primeira opção, que preserva a capacidade humana de “observar, orientar, decidir e agir” — OODA, no jargão militar.

Individualmente, ninguém vê sentido em colocar a humanidade e o planeta em risco para vencer uma guerra, que por definição não teria vencedores, ou porque o mundo seria destruído ou porque as máquinas estariam no seu comando.

Mas o coletivo, a competição e o poder têm dinâmicas internas próprias, que levam a decisões irracionais. Como o apostador que, contra toda lógica estatística, acredita que vai se dar bem.

Como conter essa dinâmica? Em 1985, Ronald Reagan e Mikhail Gorbachev se reuniram em Genebra para negociar acordos de redução de armas nucleares. A reunião ampla com assessores não estava sendo produtiva.

Os dois saíram para caminhar à beira do Lago de Genebra e terminaram em uma reunião privativa, só com seus intérpretes, à beira de uma lareira. Reagan perguntou: “Se os EUA fossem invadidos por alienígenas, a URSS viria nos defender?” Gorbachev respondeu: “Com certeza”. Reagan arrematou: “Sinto a mesma coisa em relação vocês”.

A atmosfera mudou. Os acordos destravaram a partir daí.

A conjuntura mundial é diferente. Naquele momento, a União Soviética vivia o declínio e, mais importante, Gorbachev entendia isso. Essa percepção levou ao fim da guerra fria.

Xi sente que a China pode desafiar a liderança ocidental e reconquistar o lugar que lhe é destinado. A aliança com a Rússia, parceiro dependente, fornecedor de energia e alimentos, reforça a determinação de Xi em contestar a ordem internacional. O revanchismo de Putin, de sua parte, é alimentado pelo que considera a “rendição” de Gorbachev e a “humilhação” da Rússia.

Se em 1985 o declínio da Rússia contribuiu para a paz, hoje é uma ameaça.

O subsecretário de Estado americano para Armas, Deterrência e Estabilidade, Paul Dean, apelou para China e Rússia renunciarem à inteligência artificial (IA) no emprego de armas nucleares, como fizeram Estados Unidos, França e Reino Unido. Diante da competição acirrada e das vantagens que a IA proporciona na guerra, um compromisso nesse sentido é um dos grandes desafios da humanidade.

A cooperação nesse campo entre EUA e Rússia chegou ao nível mais baixo antes mesmo da invasão em grande escala da Ucrânia. Vladimir Putin e o ex-presidente Donald Trump deixaram que os acordos de redução de ogivas nucleares expirassem, enquanto novos protocolos, como a IA, e novas tecnologias, como os mísseis hipersônicos, eram experimentados.

Em 2017, Putin declarou a estudantes russos, referindo-se à IA: “Quem se tornar líder nessa esfera vai dominar o mundo”. Na mesma época, o governo chinês definiu como meta tornar-se líder mundial em pesquisa sobre IA até 2030. Os dois regimes encaram a IA como oportunidade histórica para reverter a superioridade tecnológica americana e europeia.

EUA e China retomaram em janeiro discussões sobre acordos de controle de ogivas nucleares. O secretário de Estado Antony Blinken, que esteve recentemente em Pequim, voltará, nas próximas semanas, para tratar de IA.

Em meio à tensões na Ásia, exercício na Califórnia prepara soldados para novo tipo de guerra com drones guiados por Inteligência Artificial.  Foto: Defense Visual Information Distribution Service/AP

É uma cooperação tão crucial quanto difícil, porque depende de construção de confiança, um valor escasso. Em agosto de 2022, o presidente Joe Biden assinou a lei que impede o acesso da China aos semicondutores mais avançados, e à tecnologia de montagem de máquinas para sua fabricação.

Xi Jinping se queixa de que esse banimento se destina a tolher o desenvolvimento tecnológico da China. Dificulta a criação de um ambiente de cooperação e incentiva a anexação de Taiwan, que fabrica 90% desses chips.

Entregar o emprego de armas nucleares à inteligência artificial é potencialmente um suicídio da espécie humana; não fazer isso, enquanto o inimigo faz, equivale a rendição.

As máquinas aprendem com cálculos probabilísticos e analisam variáveis numa velocidade que a mente humana não concebe. Num cenário hipotético futuro, é plausível temer que, se a máquina estiver programada para atingir a vitória, custe o que custar, não terá por que recuar diante do risco de aniquilação da espécie humana.

Há três níveis de interface com as armas. “In the loop” significa que o operador humano pode interferir em qualquer fase da operação, incluindo abortar um ataque, mudar o alvo ou a trajetória, em se tratando de míssil teleguiado. “On the loop” é uma capacidade de intervenção limitada, mas ainda permite abortar o ataque. “Off the loop” implica que o ser humano só dispara a arma, que a partir daí responde apenas aos comandos da IA.

As potências ocidentais propõem a primeira opção, que preserva a capacidade humana de “observar, orientar, decidir e agir” — OODA, no jargão militar.

Individualmente, ninguém vê sentido em colocar a humanidade e o planeta em risco para vencer uma guerra, que por definição não teria vencedores, ou porque o mundo seria destruído ou porque as máquinas estariam no seu comando.

Mas o coletivo, a competição e o poder têm dinâmicas internas próprias, que levam a decisões irracionais. Como o apostador que, contra toda lógica estatística, acredita que vai se dar bem.

Como conter essa dinâmica? Em 1985, Ronald Reagan e Mikhail Gorbachev se reuniram em Genebra para negociar acordos de redução de armas nucleares. A reunião ampla com assessores não estava sendo produtiva.

Os dois saíram para caminhar à beira do Lago de Genebra e terminaram em uma reunião privativa, só com seus intérpretes, à beira de uma lareira. Reagan perguntou: “Se os EUA fossem invadidos por alienígenas, a URSS viria nos defender?” Gorbachev respondeu: “Com certeza”. Reagan arrematou: “Sinto a mesma coisa em relação vocês”.

A atmosfera mudou. Os acordos destravaram a partir daí.

A conjuntura mundial é diferente. Naquele momento, a União Soviética vivia o declínio e, mais importante, Gorbachev entendia isso. Essa percepção levou ao fim da guerra fria.

Xi sente que a China pode desafiar a liderança ocidental e reconquistar o lugar que lhe é destinado. A aliança com a Rússia, parceiro dependente, fornecedor de energia e alimentos, reforça a determinação de Xi em contestar a ordem internacional. O revanchismo de Putin, de sua parte, é alimentado pelo que considera a “rendição” de Gorbachev e a “humilhação” da Rússia.

Se em 1985 o declínio da Rússia contribuiu para a paz, hoje é uma ameaça.

Opinião por Lourival Sant'Anna

É colunista do 'Estadão' e analista de assuntos internacionais

Atualizamos nossa política de cookies

Ao utilizar nossos serviços, você aceita a política de monitoramento de cookies.