Atire a primeira pedra quem nunca usou um aplicativo como o Waze para traçar a rota para um destino cujo caminho se conhecia como a palma da sua mão. Pode parecer que isso não faça sentido, mas é perfeitamente plausível. Afinal, não usamos esses sistemas apenas pelo trajeto, mas pelo obtermos o melhor deles, definido pela sua inteligência artificial.
O problema é que nem sempre ela acerta. E assim mesmo, obedecemos cegamente a suas instruções.
Com a ascensão meteórica da inteligência artificial generativa, o problema se agrava. Muito mais que nos dizer por onde dirigir, essas plataformas, reconhecidamente imperfeitas em muitas de suas respostas, podem provocar prejuízos consideráveis no cotidiano dos usuários mais descuidados ou inocentemente confiantes.
Em 2017, uma falha no Waze teria sido responsável por um dos maiores congestionamentos da história de São Paulo. Na tarde de 23 de outubro, a plataforma mandou todos os motoristas com origem ou destino na Zona Sul de São Paulo passarem pela avenida 23 de Maio, uma das principais da cidade.
Com isso, houve relatos de que dirigir da avenida Paulista para o aeroporto de Congonhas, que nesse horário normalmente demoraria 20 minutos, teria levado 3 horas! E mesmo com o congestionamento-monstro visível à distância, as pessoas obedeceram candidamente às instruções do aplicativo.
Por que confiamos tanto nas máquinas? E por que elas cometem esses erros?
- Assine gratuitamente minha newsletter sobre experiência do cliente, mídia cultura e transformação digital
- Inscreva-se no meu podcast (escolha a plataforma): Spotify, Deezer, Apple Podcasts, Google Podcasts ou Soundcloud
A sociedade ocidental se desenvolveu nas últimas décadas com uma crença de que a tecnologia digital é poderosa, precisa e imparcial, por mais que isso esteja longe de ser uma verdade absoluta. Há também outro conceito questionável de que esses sistemas são menos propensos a falhas que atividades semelhantes feitas por humanos.
A inteligência artificial generativa herdou essa coroa, para o bem e para o mal. As inegáveis facilidades oferecidas por essas plataformas podem agilizar imensamente nossas tarefas. Por isso, mesmo que elas errem às vezes, acreditamos no que nos dizem cada vez mais.
Além disso, a sua capacidade de conversar conosco como se fosse outra pessoa, sobre qualquer assunto, e a completa incompreensão sobre seu funcionamento por quase todo mundo reforçam esse misticismo em torno de suas capacidades e uma consequente confiança exacerbada.
Obviamente podemos e devemos aproveitar todo esse poder em nosso benefício. Mas não podemos terceirizar para as máquinas o nosso raciocínio, criatividade e decisões, pois elas erram! E por mais que seja só de vez em quando, um erro pode custar muito caro, como a perda do emprego, algo que tenho visto acontecer com frequência preocupante.
Quando a IA toma uma decisão de negócios, cria uma imagem ou escreve um texto, ela não tem consciência do que está fazendo. Trata-se apenas de conclusões estatísticas, o que, por mais eficiente que sejam, já deveriam bastar para não confiarmos cegamente à máquina decisões críticas de nossa vida.
Outros aspectos podem levar uma IA ao erro, como dados de baixa qualidade em seu treinamento. E esse é um processo extremamente complexo, demorado e caro.
Uma das primeiras etapas do treinamento é o que se chama de enriquecimento dos dados, por um processo de "rotulação", que ensina conceitos básicos sobre o que é o que para a IA. Esse é um trabalho feito por pessoas, e as big techs costumam terceirizá-lo para empresas que contratam trabalhadores pouco especializados em países pobres, oferecendo baixos salários e condições estressantes.
Ainda que existam técnicas cada vez mais eficientes para mitigar esses problemas, eles persistem, e podem comprometer as entregas das plataformas de IA.
Dessa forma, por mais que a tentação para acreditar cegamente no Waze seja imensa, não se sinta mal por desconfiar de alguma sugestão demasiadamente estranha que ele lhe faça. Pode ser que ele tenha proposto aquilo por saber de uma aberração no trânsito que você não saiba, mas pode ser apenas um erro de julgamento do seu algoritmo.
A inteligência artificial pode ser uma parceira fabulosa em nosso cotidiano, mas ela não pode se tornar uma "chefa" tirânica por lhe concedermos uma autoridade que devemos manter sempre conosco.
Vídeo relacionado:
