Se você fizer perguntas pessoais ao ChatGPT da OpenAI sobre sua vida sexual, a empresa poderá usar suas respostas para “treinar” a inteligência artificial (IA). Seus dados são o combustível para muitos chatbots de IA, mas algumas empresas, inclusive a OpenAI e o Google, permitem que você opte por não ter seus bate-papos individuais usados para aprimorar a IA.
Reuni instruções no final deste artigo sobre como impedir que suas conversas com o chatbot sejam usadas para treinar seis chatbots importantes - quando isso for uma opção. Mas há uma questão maior: Você deveria se preocupar com isso?
Nós já treinamos IAs. Sem sua permissão explícita, os principais sistemas de IA podem ter coletado suas publicações públicas no Facebook, seus comentários no Reddit ou seus testes práticos de admissão em faculdades de direito para imitar os padrões da linguagem humana.
As opções de desativação permitem, na maioria das vezes, que você interrompa a coleta de dados no futuro, e não o que aconteceu no passado. E as empresas por trás dos chatbots de IA não divulgam detalhes específicos sobre o que significa “treinar” ou “aprimorar” a IA deles a partir de suas interações. Não está totalmente claro do que você está optando por não participar, se o fizer.
Os especialistas em IA ainda dizem que provavelmente é uma boa ideia dizer não se você tiver a opção de impedir que os chatbots treinem a IA em seus dados. Mas eu me preocupo com o fato de que as configurações de exclusão dão a você uma ilusão de controle.
É ruim que os chatbots possam usar suas conversas para ‘treinar’ a IA?
Já nos familiarizamos com tecnologias que melhoram com o rastreamento do que fazemos.
A Netflix pode sugerir filmes com base no que você ou milhões de outras pessoas assistiram. Os recursos de correção automática em suas mensagens de texto ou e-mail funcionam aprendendo com a digitação incorreta das pessoas.
Em geral, isso é útil. Mas Miranda Bogen, diretora do Laboratório de Governança de IA do Center for Democracy and Technology, disse que podemos ter uma opinião diferente sobre os chatbots que aprendem com nossa atividade.
Os chatbots podem parecer mais como mensagens privadas, então Bogen disse que pode parecer nojento que eles possam usar esses chats para aprender. Talvez você não se importe com isso, talvez se importe.
Niloofar Mireshghallah, especialista em IA da Universidade de Washington, disse que as opções de exclusão, quando disponíveis, podem oferecer uma medida de autoproteção contra as coisas imprudentes que digitamos nos chatbots.
Ela já ouviu falar de amigos que copiaram mensagens de bate-papo em grupo em um chatbot para resumir o que perderam durante as férias. Mireshghallah fez parte de uma equipe que analisou as conversas do ChatGPT disponíveis publicamente e descobriu que uma porcentagem significativa das conversas era sobre sexo.
Normalmente, não está claro como ou se os chatbots salvam o que você digita neles, dizem os especialistas em IA. Mas se as empresas mantiverem registros de suas conversas, mesmo que temporariamente, uma violação de dados poderia vazar detalhes pessoais reveladores, disse Mireshghallah.
Provavelmente isso não acontecerá, mas pode acontecer (para ser justo, há um risco potencial semelhante de violações de dados que vazam suas mensagens de e-mail ou mensagens diretas no X).
Leia também
O que realmente acontece se você optar por não participar?
Pesquisei seis chatbots importantes e sua capacidade de optar por não ter seus dados usados para treinar a IA deles: ChatGPT, Copilot da Microsoft, Gemini do Google, Meta AI, Claude e Perplexity (eu me limitei aos detalhes das versões gratuitas desses chatbots, não daqueles para pessoas ou empresas que pagam).
Nas versões gratuitas do Meta AI e do Copilot da Microsoft, não há uma opção de desativação para impedir que suas conversas sejam usadas para treinamento de IA.
Leia mais instruções e detalhes abaixo sobre essas e outras opções de desativação de treinamento de chatbot.
Várias das empresas que têm opções de exclusão geralmente dizem que seus bate-papos individuais não serão usados para treinar futuras versões da IA delas. No entanto, a opção de exclusão não é retroativa.
Algumas das empresas disseram que removem informações pessoais antes que as conversas de bate-papo sejam usadas para treinar seus sistemas de IA.
As empresas de chatbot não costumam detalhar muito sobre seus processos de treinamento e refinamento de IA, inclusive em que circunstâncias os humanos podem revisar suas conversas com o chatbot. Isso torna mais difícil fazer uma escolha informada sobre a desativação.
“Não temos ideia de para que eles usam os dados”, disse Stefan Baack, pesquisador da Fundação Mozilla que recentemente analisou um repositório de dados usado pelo ChatGPT.
Os especialistas em IA disseram que não custa nada escolher uma opção de exclusão de dados de treinamento quando ela estiver disponível, mas sua escolha pode não ser tão significativa. “Não é uma proteção contra sistemas de IA que usam dados”, disse Bogen.
Instruções para desativar a IA de treinamento de seus bate-papos
Essas instruções são para pessoas que usam as versões gratuitas de seis chatbots para usuários individuais (não para empresas). Em geral, é necessário estar conectado a uma conta de chatbot para acessar as configurações de desativação.
A Wired, que escreveu sobre esse tópico no mês passado, tinha instruções de desativação para mais serviços de IA.
ChatGPT: No site, faça login em uma conta e clique no ícone circular no canto superior direito → Configurações → Controles de dados → desative Melhorar o modelo para todos.
Se você escolher essa opção, “novas conversas com o ChatGPT não serão usadas para treinar nossos modelos”, disse a empresa.
Leia mais opções de configurações, explicações e instruções da OpenAI aqui.
Copilot da Microsoft: A empresa disse que não há opção de exclusão como usuário individual.
Gemini do Google: por padrão, se você tiver mais de 18 anos, o Google diz que armazena sua atividade de chatbot por até 18 meses. No site dessa conta, selecione Turn Off (Desativar) em Your Gemini Apps Activity (Atividade de seus aplicativos Gemini).
Se você desativar essa configuração, o Google disse que suas “conversas futuras não serão enviadas para análise humana ou usadas para melhorar nossos modelos de aprendizado de máquina generativos por padrão”.
Leia mais sobre o Google aqui, incluindo opções para excluir automaticamente suas conversas de bate-papo com o Gemini.
Meta AI: suas conversas com o novo chatbot Meta AI no Facebook, Instagram e WhatsApp podem ser usadas para treinar a IA, segundo a empresa. Não há como optar por não participar. A Meta também diz que pode usar o conteúdo de fotos e vídeos compartilhados como “públicos” em suas redes sociais para treinar seus produtos de IA.
Você pode excluir suas interações de bate-papo da Meta AI. Siga estas instruções. A empresa afirma que suas interações com a Meta AI não serão usadas no futuro para treinar a IA.
Se você viu postagens em mídias sociais ou artigos de notícias sobre um formulário online que pretende ser uma opção de exclusão do Meta AI, não é bem isso.
De acordo com as leis de privacidade em algumas partes do mundo, incluindo a União Europeia, a Meta deve oferecer opções de “objeção” para o uso de dados pessoais pela empresa. Os formulários de objeção não são uma opção para as pessoas nos EUA.
Leia mais sobre como a Meta obtém dados de treinamento de IA.
Claude, da Anthropic: A empresa afirma que, por padrão, não usa o que você pergunta no chatbot Claude para treinar sua IA.
Se você clicar na opção “polegar para cima” ou “polegar para baixo” para avaliar uma resposta do chatbot, a Anthropic disse que pode usar suas respostas para treinar a IA do Claude.
A Anthropic também disse que seus sistemas automatizados podem sinalizar alguns bate-papos e usá-los para “melhorar nossos sistemas de detecção de abuso”.
Perplexity: No site, faça login em uma conta. Clique no ícone de engrenagem no canto inferior esquerdo da tela, próximo ao seu nome de usuário → desative o botão AI Data Retention (retenção de dados de IA).
A Perplexity disse que, se você escolher essa opção, ela “exclui os dados da análise humana e do treinamento da IA”.
Este conteúdo foi traduzido com o auxílio de ferramentas de Inteligência Artificial e revisado por nossa equipe editorial. Saiba mais em nossa Política de IA.
Os comentários são exclusivos para assinantes do Estadão.
