KIEV - Em um campo nos arredores de Kiev, os fundadores da Viri, uma empresa ucraniana de drones, estavam trabalhando recentemente em uma arma do futuro. Para demonstrá-la, Oleksii Babenko, 25 anos, executivo-chefe da Viri, subiu em sua motocicleta e seguiu por um caminho de terra. Atrás dele, um drone o seguia, enquanto um colega acompanhava os movimentos em um computador do tamanho de uma maleta.
Até recentemente, um ser humano teria pilotado o quadricóptero. Agora não mais. Ele voou sozinho e fixou seu alvo - Babenko -, guiado por um software que usou a câmera da máquina para rastreá-lo.
O motor da motocicleta não foi páreo para o drone silencioso enquanto ele perseguia Babenko. “Acelera, cara”, gritaram seus colegas por meio de um walkie-talkie enquanto o drone se aproximava dele. “Você está ferrado, ferrado!”
Se o drone estivesse armado com explosivos e se seus colegas não tivessem desativado o rastreamento autônomo, Babenko teria morrido.
A primeira guerra com Inteligência Artificial
A Viri é apenas uma das muitas empresas ucranianas que estão trabalhando em armas guiadas por inteligência artificial, impulsionadas pela guerra com a Rússia. A pressão para superar o inimigo, juntamente com enormes fluxos de investimento, doações e contratos governamentais, transformou a Ucrânia em um Vale do Silício para drones autônomos e outros armamentos. Esse avanço é turbinado pela ampla disponibilidade de dispositivos prontos para uso, softwares fácil de projetar, algoritmos de automação poderosos e microchips especializados em inteligência artificial.
O que as empresas estão criando é uma tecnologia que cada vez precisa menos do julgamento humano sobre alvos e disparos, e o que está em curso é uma corrida mortal de inovação, com destino a uma nova era de robôs assassinos, cujas consequências são desconhecidas.
As versões mais avançadas da tecnologia que permite que drones e outras máquinas atuem de forma autônoma foram possibilitadas por aprendizagem profunda, que usa grandes quantidades de dados para identificar padrões e tomar decisões. Essa tecnologia ajudou a gerar modelos de linguagem grandes e populares, como o GPT-4, da OpenAI, mas também ajuda a fazer com que os modelos interpretem e respondam em tempo real a vídeos e filmagens de câmeras. Isso significa que o software que antes ajudava um drone a seguir um snowboarder em uma montanha agora pode se tornar uma ferramenta mortal.
Em mais de uma dúzia de entrevistas com empresários, engenheiros e unidades militares ucranianos, surgiu uma imagem de um futuro próximo em que enxames de drones autoguiados podem coordenar ataques e metralhadoras com visão computadorizada podem abater soldados automaticamente. Criações mais bizarras, como um helicóptero não tripulado que paira e empunha metralhadoras, também estão sendo desenvolvidas.
Mais de guerra na Ucrânia
Armas baratas e perigosas
Embora as armas usadas na Ucrânia não sejam tão avançadas quanto os caros sistemas de nível militar fabricados pelos Estados Unidos, China e Rússia, o que torna os desenvolvimentos significativos é seu baixo custo - apenas milhares de dólares ou menos - e sua pronta disponibilidade.
Com exceção das munições, muitas dessas armas são construídas com códigos encontrados on-line e componentes como computadores para amadores. Algumas autoridades dos EUA disseram estar preocupadas com o fato de que as habilidades poderiam ser usadas em breve para realizar ataques terroristas.
Para a Ucrânia, as tecnologias poderiam oferecer uma vantagem contra a Rússia, que também está desenvolvendo dispositivos autônomos assassinos. “Precisamos de automação máxima”, disse Mikhailo Fedorov, ministro da transformação digital da Ucrânia, que liderou os esforços do país para usar start-ups de tecnologia para expandir as capacidades avançadas de combate. “Essas tecnologias são fundamentais para nossa vitória.”
Drones autônomos como o Viri já foram usados em combate para atingir alvos russos, de acordo com autoridades ucranianas e vídeos verificados pelo The New York Times. Fedorov disse que o governo estava trabalhando para financiar empresas de drones para ajudá-las a aumentar rapidamente sua produção.
Há grandes dúvidas sobre qual nível de automação é aceitável. Por enquanto, os drones exigem que um piloto fixe o alvo, mantendo um “humano no circuito” - uma frase frequentemente invocada por especialistas em ética de I.A.
“A Ucrânia deixou brutalmente clara a lógica de por que as armas autônomas são vantajosas”, disse Stuart Russell, cientista de IA e professor da Universidade da Califórnia, em Berkeley, que alertou sobre os perigos da IA como arma. “Haverá armas de destruição em massa baratas, escalonáveis e facilmente disponíveis nos mercados de armas em todo o mundo.”
Drones autônomos
Em uma oficina precária em um prédio de apartamentos no leste da Ucrânia, Dev, um soldado de 28 anos da 92ª Brigada de Assalto, ajudou a promover inovações que transformaram drones baratos em armas. Primeiro, ele prendeu bombas aos drones de corrida, depois acrescentou baterias maiores para ajudá-los a voar mais longe e, recentemente, incorporou a visão noturna para que as máquinas possam caçar no escuro.
Em maio, ele foi um dos primeiros a usar drones autônomos, incluindo os da Viri. Embora alguns precisassem de melhorias, Dev disse que acreditava que eles seriam o próximo grande salto tecnológico a chegar às linhas de frente.
“Os drones autônomos já estão em alta demanda”, disse ele. As máquinas têm sido especialmente úteis contra interferências que podem interromper os links de comunicação entre o drone e o piloto. Com o drone voando sozinho, o piloto pode simplesmente fixar um alvo e deixar o dispositivo fazer o resto.
Fábricas e laboratórios improvisados surgiram em toda a Ucrânia para construir máquinas controladas remotamente de todos os tamanhos, desde aeronaves de longo alcance e barcos de ataque até drones kamikaze baratos, que são guiados por um piloto que usa óculos de realidade virtual. Muitos são precursores de máquinas que acabarão agindo por conta própria.
Os esforços para automatizar os voos desses drones começaram no ano passado, mas foram retardados por contratempos na criação do software de controle de voo, de acordo com Fedorov, que disse que esses problemas foram resolvidos. A próxima etapa seria ampliar a tecnologia com mais gastos do governo, disse ele, acrescentando que cerca de 10 empresas já estavam fabricando drones autônomos.
“Já temos sistemas que podem ser produzidos em massa e agora estão sendo amplamente testados nas linhas de frente, o que significa que já estão sendo usados ativamente”, disse Fedorov.
Algumas empresas, como a Viri, usam algoritmos básicos de visão computacional, que analisam e interpretam imagens e ajudam o computador a tomar decisões. Outras empresas são mais sofisticadas, usando o aprendizado profundo para criar software que possa identificar e atacar alvos. Muitas das empresas disseram que obtiveram dados e vídeos de simuladores de voo e voos de drones na linha de frente.
Os robôs assassinos
Em uma tarde quente no mês passado, na região do leste ucraniano conhecida como Donbas, Iuri Klontsak, um reservista de 23 anos, treinou quatro soldados para usar a mais recente arma futurista: uma torre de tiro com mira autônoma que funciona com um controle de PlayStation e um tablet.
Falando sobre os estrondos de bombardeios próximos, Klontsak explicou como a arma, chamada Wolly por sua semelhança com o robô WALL-E da Pixar, pode se fixar automaticamente em um alvo a até 1.000 metros de distância e saltar entre posições pré-programadas para cobrir rapidamente uma área ampla. A empresa fabricante da arma, DevDroid, também estava desenvolvendo uma mira automática para rastrear e atingir alvos em movimento.
“Quando vi a arma pela primeira vez, fiquei fascinado”, disse o Klontsak. “Entendi que essa era a única maneira, se não de vencer a guerra, de pelo menos manter nossas posições.”
A arma é uma das várias que surgiram nas linhas de frente usando software treinado por IA para rastrear e atirar automaticamente nos alvos. Semelhante à identificação de objetos apresentada nas câmeras de vigilância, o software em uma tela envolve os seres humanos e outros possíveis alvos com uma caixa digital. Tudo o que resta ao atirador fazer é puxar o gatilho remotamente com um controle de videogame.
Por enquanto, os fabricantes de armas dizem que não permitem que a metralhadora dispare sem que uma pessoa pressione um botão. Mas eles também disseram que seria fácil criar uma que pudesse.
Riscos para o futuro
Em 2017, Russell, o pesquisador de I.A. de Berkeley, lançou um filme on-line, “Slaughterbots”, alertando sobre os perigos das armas autônomas. No filme, grupos itinerantes de drones de I.A. armados e de baixo custo usam tecnologia de reconhecimento facial para caçar e matar alvos.
O que está acontecendo na Ucrânia nos leva em direção a esse futuro distópico, disse Russell. Ele disse que já se sente assombrado pelos vídeos ucranianos de soldados que estão sendo perseguidos por drones armados pilotados por humanos. Em geral, há um momento em que os soldados param de tentar escapar ou se esconder porque percebem que não podem fugir do drone.
“Não há para onde ir, então eles ficam esperando para morrer”, disse Russell.
Ele não é o único a temer que a Ucrânia seja um ponto de inflexão. Em Viena, membros de um painel de especialistas da ONU também disseram estar preocupados com as ramificações das novas técnicas que estão sendo desenvolvidas na Ucrânia.
As autoridades passaram mais de uma década debatendo regras sobre o uso de armas autônomas, mas poucos esperam que qualquer acordo internacional estabeleça novas regulamentações, especialmente porque os Estados Unidos, a China, Israel, a Rússia e outros correm para desenvolver armas ainda mais avançadas. Em um programa dos EUA anunciado em agosto, conhecido como iniciativa Replicator, o Pentágono disse que planejava produzir em massa milhares de drones autônomos.
“A geopolítica torna isso impossível”, disse Alexander Kmentt, o principal negociador da Áustria sobre armas autônomas na ONU. “Essas armas serão usadas e farão parte do arsenal militar de praticamente todo mundo.”