Em novembro de 2019, pouco antes da Covid-19 surgir, fui convidado pela Avanade e pela Adobe para conhecer a "jornada do consumidor de um mundo desintermediado". Faz só cinco anos, ninguém falava ainda de inteligência artificial generativa, apesar de conceitualmente ela já estar lá! Porém o que mais me marcou ali foi descobrir como passaríamos a acreditar muito na tecnologia, às vezes de forma inconsequente. E estamos cada vez mais entregues a isso!
Não é de hoje que obedecemos sem questionar a máquinas. Pedimos ao Waze para nos indicar o caminho que fazemos todos os dias, pois supostamente entregará a rota mais rápida, mesmo que saibamos que nem sempre acerta. Mas quem ousa questionar o cérebro digital?
Desde o lançamento do ChatGPT, há exatos dois anos, acreditamos cada vez mais nas máquinas, mesmo que ainda errem muito! É como se tivéssemos dado à IA o papel de conselheira, terapeuta e vidente. Ao invés de perguntar à vovó qual o melhor chá para dor de barriga, agora perguntamos ao chatbot.
De onde vem tanta confiança?
As máquinas não se cansam, não se distraem, e são incrivelmente rápidas. Além disso, suas respostas se tornam cada vez mais personalizadas aos gostos de cada um de nós. E elas têm acesso a muito do conhecimento da humanidade.
Se já não fosse suficiente, elas não nos julgam, não se entediam e estão sempre dispostas para ajudar. A experiência é tão fluida e convincente, que nem questionamos se o que nos dizem é realmente bom ou só parece ser.
- Assine gratuitamente minha newsletter sobre IA, experiência do cliente, mídia e transformação digital
- Inscreva-se no meu podcast (escolha a plataforma): Spotify, Deezer, Apple Podcasts ou Soundcloud
Talvez seja bom demais para ser verdade! Esses robôs são ferramentas absurdamente poderosas, mas não podemos esquecer que são criados por nós, humanos, programados com nossos valores e preconceitos. E podem ser usados para o bem ou para o mal.
Esse papel de dar respostas transcendentais e nos ajudar a lidar com incertezas da vida tradicionalmente pertence à religião. Mas a sedução da IA cresce tanto, que a tecnologia parece avançar até no terreno do sagrado. Por exemplo, na foto acima, o robô budista Mindar prega sermões com inteligência artificial no templo Kodaiji, em Kyoto (Japão).
Não podemos esquecer que muita gente já toma decisões importantes depois de consultar o ChatGPT, se apaixona por ele e o usa como psicólogo. E precisamos considerar também que, cada vez mais, buscamos soluções fáceis, rápidas e baratas, mesmo para problemas complexos. A IA parece personificar esses desejos, mas, apesar de tantos predicados, devemos avaliar se tanta confiança é saudável.
Em que momento a tecnologia deixa de ser uma ferramenta e passa a ser uma autoridade? Quando a Netflix diz que "esse é o filme perfeito para você", devemos aceitar sem questionamento?
Estamos terceirizando até dilemas morais para a IA. Se chegarmos à Inteligência artificial geral, aquela que funcionará de maneira autônoma, atuando em todas as áreas, como o cérebro humano, será que ela continuará nos servindo, "essa turma insegura e lenta"?
De volta àquele evento em 2019, foram apresentadas simulações de agentes de IA incrivelmente eficientes e autônomos, até mesmo tomando decisões comerciais em nome do usuário. Fiquei maravilhado com suas possibilidades, mas questionei ao porta-voz: que garantia teria de que aquelas decisões seriam sempre boas para o indivíduo, e não privilegiariam interesses dos criadores da IA e de seus parceiros?
A resposta foi filosoficamente interessante: esse tipo de produto só funciona se confiarmos nele. Se repetidamente falhar nas suas escolhas, nós o abandonaremos. É um bom ponto!
Perguntei então quando aquilo estaria pronto. A resposta: em uns cinco anos.
Ou seja: agora!
Como em qualquer relacionamento, confiança é necessária, mas em excesso pode ser prejudicial. Agora estamos confiando de coração em algo a que atribuímos características humanas, mas não é gente!
Não faz sentido ignorar todo esse poder tecnológico. Sim, precisaremos aprender a dosar nossa confiança nele. Não é nada trivial, mas temos que superar esse desafio para que esse relacionamento com as máquinas seja positivo e seguro.
Só não podemos esquecer quem é que manda.
Vídeo relacionado:
Os comentários são exclusivos para assinantes do Estadão.
