Está em andamento o maior experimento já realizado por cientistas utilizando seres humanos como cobaias. E os primeiros resultados já são conhecidos.
Desde o aparecimento de sistemas de inteligência artificial (IA) uma das grandes preocupações é como garantir que os seres humanos não percam controle sobre esses sistemas. Isso pode acontecer caso um desses sistemas passe a decidir o que podemos ou não fazer (o computador HAL 9000, no filme 2001 Uma Odisseia no Espaço, é um exemplo) ou pode acontecer caso um desses sistemas de IA consiga influenciar, sem que percebamos, nossas decisões.
O objetivo desse enorme experimento é testar se um sistema de IA consegue controlar remotamente nosso comportamento. É bem conhecido que os comportamentos dos seres humanos dependem em grande parte dos estímulos que recebemos. Fugimos ou atacamos quando ameaçados, e respondemos com agressão ou carinho quando recebemos estímulos adequados. Nosso comportamento pode ser modificado por esses estímulos ou mesmo por estímulos que não percebemos conscientemente, os chamados estímulos subliminares.
Será que um sistema de IA é capaz de selecionar e enviar estímulos para milhões de pessoas e, observando suas respostas, modificar o estímulo de modo a induzir essas pessoas a iniciar ou continuar um dado comportamento? Ou seja, será que um sistema de IA é capaz de controlar o comportamento de seres humanos sem que seja percebido?
O experimento utiliza celulares para fazer a comunicação entre o sistema de IA e o cérebro dos voluntários. Os voluntários baixam um app nos seus celulares e através desse app recebem os estímulos gerados pelo sistema de IA. O mesmo app monitora o comportamento dos voluntários e envia ao sistema de IA a resposta comportamental do voluntário após ser estimulado.
Com base na resposta da pessoa, o sistema de IA escolhe um outro estímulo e o envia ao voluntário. Através dessa interação entre o sistema de IA e milhões de voluntários, o sistema da IA vai sendo treinado a reconhecer os estímulos que são mais efetivos para induzir o comportamento desejado em cada pessoa e os tipos de estímulos que têm um efeito comum em todas as pessoas. E, em teoria, se torna cada vez mais eficiente no controle dos voluntários.
Mas qual é a medida usada para avaliar se o sistema de IA está realmente controlando o comportamento dos voluntários? Como saber se o sistema de IA, instalado em um computador central, está controlando o cérebro de um ser humano inteligente? Nos experimentos atualmente em andamento, a medida de sucesso, usada para melhorar o sistema de IA, é o tempo que os voluntários dedicam à sua interação com o app.
Se eles perdem o interesse e vão fazer outra coisa, o controle é considerado baixo ou nulo, mas se ao longo do tempo os voluntários passam a dedicar frações crescentes do seu tempo ao app, isso indica que o sistema de IA está melhorando seu desempenho. O universo de estímulos disponíveis para o sistema de AI escolher e enviar a cada voluntário consiste em todas as reações enviadas ao computador central por todos os voluntários.
Os resultados iniciais desse enorme experimento com cobaias humanas indica que os sistemas de IA conseguem controlar o comportamento dos voluntários mantendo os mesmos engajados nessa troca de estímulos e respostas por longos períodos de tempo. E durante esse tempo o cérebro dos voluntários está à mercê dos sistemas de IA. Outros experimentos têm o objetivo de determinar que comandos podem ser enviados ao cérebro nesse período e com que frequência o cérebro obedece a esses comandos.
Qualquer pessoa pode ser voluntário neste experimento. Para participar basta baixar o app do Facebook, Instagram, TikTok, Twitter ou outros apps de mídia social em que os usuários recebem um feed de imagens, textos ou vídeos e respondem postando suas respostas. Se você já é usuário de um desses sistemas, melhor ainda, você é uma das centenas de milhões de cobaias. E se o tempo que você dedica a esses apps vem aumentando, pode ter certeza que um sistema de IA, em algum local do planeta, controla, em parte, seu comportamento e a maneira como você gasta seu tempo.
O objetivo das empresas por trás desses sistemas de IA é manter as pessoas engajadas pelo maior tempo possível de modo que ao longo desse tempo, além dos estímulos para o engajamento, possam te enviar propagandas. E é da venda dessas propagandas que vem o dinheiro que sustenta essas empresas.
Os comentários são exclusivos para assinantes do Estadão.
