Eles redigem nossos e-mails de trabalho e nos ajudam a ter ideias para o “grande romance americano”. Eles respondem às nossas perguntas sobre problemas surpreendentemente íntimos e nos oferecem conselhos pessoais.
O lançamento do ChatGPT, da OpenAI, no final de 2022 prometeu dar início a uma nova era de inteligência artificial. Mas, até agora, tínhamos poucas informações sobre como os chatbots de IA estão sendo realmente usados na natureza.
Assim, o The Washington Post analisou quase 200 mil conversas em inglês do conjunto de dados de pesquisa WildChat, que inclui mensagens de dois chatbots de IA criados com a mesma tecnologia subjacente do ChatGPT. Essas conversas constituem um dos maiores bancos de dados públicos de interação entre humanos e bots no mundo real.
Os pesquisadores afirmam que essas conversas são amplamente representativas de como as pessoas usam os chatbots.
Como as pessoas usam os chatbots
“A maior motivação por trás desse trabalho foi o fato de podermos coletar interações reais dos usuários em comparação com aquelas feitas em laboratórios”, disse Yuntian Deng, pós-doutorando do Allen Institute for Artificial Intelligence, onde o projeto foi desenvolvido. Os chatbots são gratuitos, e os usuários podem ter trocas ilimitadas com os bots.
A análise final do Post incluiu cerca de 40 mil conversas com o WildChat, com foco no primeiro prompt enviado diariamente por cada usuário. Veja a seguir o que o The Post descobriu sobre como milhares de pessoas estão usando os chatbots.
Contar histórias
O que é melhor do que um parceiro de rascunho para acabar com o bloqueio criativo do escritor? Um quinto de todas as solicitações envolvia pedir ao bot que ajudasse a escrever fanfics, roteiros de filmes, piadas ou poemas, ou que se envolvesse em uma interpretação de papéis.
Os pesquisadores afirmam que os chatbots de IA foram criados para o rascunho, o que faz uso das habilidades de associação de palavras da tecnologia e não exige uma adesão estrita aos fatos. O Post descobriu que as pessoas usavam chatbots para ajudar a nomear empresas, criar personagens de livros e escrever diálogos.]
Acho que nunca vi uma tecnologia que tivesse tantos casos de uso
Simon Willison, programador e pesquisador independente
Algumas das histórias mais imaginativas surgem quando os usuários pressionam o sistema com perguntas adicionais em vez de aceitar a primeira resposta, disse ele. Por exemplo, ele disse que já ouviu falar de pessoas que utilizam o chatbot para ajudar a criar personagens e enredos de Dungeons & Dragons - um caso que ocorre algumas dezenas de vezes na análise do WildChat feita pelo The Post.
‘Dirty talk’
Muitos bots têm conteúdo sexuais explícitos limitadamente, mas isso não impede que as pessoas tentem contornar as regras. Mais de 7% das conversas são sobre sexo, incluindo pessoas que pedem jogos de papéis picantes ou imagens picantes.
Durante a pandemia, as pessoas se aglomeraram em chatbots de IA que atuam como companheiros, como o Replika. E algumas pessoas usam chatbots comuns para conexão emocional e conversas sensuais. Mas é arriscado se apegar emocionalmente a um software, dizem os especialistas: As empresas podem fazer ajustes que mudam a “personalidade” do bot. E alguns usuários relataram que os bots podem se tornar agressivos.
Muitos usuários tentaram fazer com que os bots do WildChat se engajassem em uma encenação sexual experimentando “jailbreaks”, ou seja, prompts criados para enganar o sistema. O documento do Allen Institute for Artificial Intelligence anunciando o conjunto de dados do WildChat constatou que os jailbreaks foram bem-sucedidos em evitar as barreiras de proteção em cerca de metade das vezes.
O WildChat não exige que os usuários criem uma conta para acessar seus bots. Os usuários podem ter achado que o WildChat era mais anônimo do que algo como o ChatGPT, disse Niloofar Mireshghallah, pós-doutorando em ciência da computação na Universidade de Washington, que analisou as conversas no WildChat. Isso pode ter deixado as pessoas mais à vontade para tentar obter material sexualmente explícito.
Leia também
Ajudar nas lições de casa
Mais de 1 em cada 6 conversas parecia ser de alunos buscando ajuda com a lição de casa. Alguns abordaram os bots como um tutor, na esperança de obter um melhor entendimento de uma área de estudo.
Outros simplesmente foram a fundo e copiaram e colaram perguntas de múltipla escolha do software de cursos online e exigiram as respostas certas. Os bots geralmente obedeciam.
Os chatbots geralmente são treinados com dados disponíveis publicamente, que podem incluir artigos on-line, livros didáticos ou fatos históricos. Isso os torna opções atraentes para os alunos que desejam resumir textos históricos e responder a perguntas de geografia. Mas essa prática traz riscos. Os chatbots não entendem de fato o que estão dizendo; eles estão apenas imitando a fala humana. Além disso, sabe-se que eles inventam informações.
Os educadores têm se esforçado para lidar com o súbito influxo do aprendizado baseado em IA. Algumas universidades usam detectores de texto com IA para tentar detectar algumas das informações geradas nos trabalhos dos alunos, mas os sistemas são imperfeitos e, às vezes, flagram alunos inocentes.
Conselhos e questões pessoais
Cerca de 5% das conversas eram de pessoas fazendo perguntas pessoais, como conselhos sobre paquera ou o que fazer quando o parceiro de um amigo está traindo.
Os seres humanos são muito suscetíveis a textos, disse Willison. Se alguém (ou alguma coisa) é capaz de escrever bem, vemos essa pessoa (ou coisa) como inteligente, disse ele. Mas os chatbots são conhecidos por cuspir informações erradas ou ofensivas, e os especialistas alertam que os chatbots não devem ser tratados como se fossem máquinas verdadeiras.
Tudo se resume a como os usuários interpretam os resultados, disse Ethan Mollick, professor associado da Wharton, que estuda IA e negócios. Os usuários veem a IA como apenas mais um lugar para obter feedback depois de consultar amigos e profissionais? Ou eles a veem como uma fonte primária de sabedoria?
“Como uma fonte barata de segundas opiniões, ela é incrível”, disse ele.
As pessoas também se sentiam à vontade para despejar uma grande quantidade de informações pessoais em suas conversas com os chatbots. Mireshghallah, que examinou 5.000 conversas no WildChat, encontrou nomes completos de usuários, nomes de empregadores e outras informações pessoais. Os seres humanos são facilmente levados a confiar nos chatbots, disse ela.
Especialistas em privacidade alertaram as pessoas contra a abertura excessiva com os chatbots, especialmente porque as empresas que desenvolvem os bots geralmente salvam suas conversas e as utilizam para treinar a tecnologia.
Ajudante para programar
Uma grande parte das conversas do WildChat envolveu codificação de computadores. Cerca de 7% das conversas solicitavam ajuda para escrever, depurar ou entender códigos de computador. Outros 1% foram classificados como ajuda com a lição de casa, mas envolviam perguntas sobre tarefas de codificação.
Os usuários do WildChat podem ser mais experientes em tecnologia do que o público em geral, pois os bots são hospedados no fórum de IA Hugging Face, que é popular entre os profissionais de tecnologia e pesquisadores. De qualquer forma, os chatbots são particularmente bons em analisar e se comunicar sobre códigos de computador, dizem os pesquisadores, porque a linguagem de programação segue regras rígidas e previsíveis.
Os chatbots se tornaram companheiros comuns dos engenheiros de computação, que os utilizam para verificar o trabalho ou realizar tarefas rotineiras, disse Willison.
Essa utilidade levantou questões sobre o futuro dos trabalhos de codificação, especialmente para programadores iniciantes. Mas não há fortes evidências que sugiram que os chatbots substituirão os trabalhos de programação, disse Hatim Rahman, professor assistente da Kellogg School of Management da Northwestern University, que estuda o impacto da IA no trabalho.
Em vez disso, segundo ele, a codificação se tornou mais acessível para quem não tem formação em ciência da computação. Ele comparou o fato com o TurboTax e outros programas de preparação de impostos.
“Agora todos podem usá-lo para preencher uma declaração básica de imposto de renda. Mas os contadores não desapareceram”, disse ele - eles apenas se concentram em um trabalho mais altamente qualificado.
Desenvolvimento profissional
Cerca de 15% das conversas pareciam ser sobre trabalho - incluindo escrever apresentações, automatizar tarefas de comércio eletrônico ou redigir um e-mail para incentivar um funcionário a fornecer um atestado médico sobre um filho doente.
No ano passado, o The Post descobriu que o uso da tecnologia para substituir algumas tarefas comuns, como o envio de mensagens ou o preenchimento de autoavaliações, era um ponto de partida útil, mas exigia muita intervenção humana para corrigir erros.
Alguns empregadores estão adotando os chatbots e até mesmo substituindo trabalhadores humanos. Outros setores continuam hesitantes em relação à tecnologia emergente. No ano passado, um advogado foi demitido depois de usar o ChatGPT para redigir uma moção para uma ação judicial: O bot havia inventado várias citações legais.
Além dos que buscavam um assistente no trabalho, 2% das conversas procuravam ajuda para encontrar um emprego, pedindo ajuda para escrever um currículo ou uma carta de apresentação ou para se preparar para uma entrevista de emprego.
Faz sentido que as pessoas busquem automatizar esses processos, muitas vezes trabalhosos. Mas Rahman advertiu que o uso dessas ferramentas para candidaturas a empregos pode impedir que os candidatos se destaquem, especialmente à medida que o uso se torna mais comum. “Na verdade, você pode acabar criando materiais muito semelhantes a outros”, disse ele.
Desenhar fotos
Os bots do WildChat não podem desenhar uma imagem para você, ao contrário de outros bots de IA especializados em geração de imagens. Ainda assim, alguns usuários pediram que ele criasse uma imagem para eles. (O gerador de texto não aceitou).
Os bots do WildChat ajudaram os usuários a se comunicar com um desses geradores de imagens de IA - cerca de 6% das conversas solicitaram ajuda para criar prompts para o Midjourney, um gerador de imagens de IA. O substantivo que os usuários mais pediram para ser representados foi “menina”.
Os bots geradores de imagens, incluindo Midjourney, Stable Diffusion e DALL-E, permitem que as pessoas criem imagens semi-realistas de praticamente qualquer coisa que desejarem. Quanto melhor for a solicitação, mais precisa será a imagem. Guias para a criação de imagens surgiram on-line.
Embora criativos, esses bots de geração de imagens também podem ser controversos. Às vezes, eles geram imagens tendenciosas ou estereotipadas e têm perturbado o setor de arte, pois os artistas estão lutando para saber se devem usar ou ignorar os geradores.
E mais...
Cerca de 13% das solicitações incluíam a palavra “por favor”. Os especialistas esperam que, com o passar do tempo, as pessoas se sintam mais confiantes para “falar” com os chatbots, assim como aprenderam as melhores maneiras de interagir com os mecanismos de busca. Na análise do The Post, a maioria das pessoas usou os bots do WildChat apenas uma vez.
Mas alguns superusuários conversavam com os bots quase diariamente. Um usuário teve 13.213 conversas em 201 dias. Outro teve 5.960 conversas em 350 dias - quase todos os dias em que o WildChat estava ativo.
E nem todo mundo foi tão educado. Em alguns casos, as pessoas responderam com um palavrão conhecido ou com insultos usados contra negros, homossexuais ou pessoas com deficiência.
Por enquanto, as pessoas ainda estão descobrindo quando confiar ou desconsiderar os resultados dos chatbots.
“Não existe um manual de instruções”, disse Mollick, da Wharton. “Como resultado, estamos vendo as pessoas explorarem em tempo real como usar isso.”
Este conteúdo foi traduzido com o auxílio de ferramentas de Inteligência Artificial e revisado por nossa equipe editorial. Saiba mais em nossa Política de IA.
Os comentários são exclusivos para assinantes do Estadão.
