IA Vai Mudar os Salários do Mercado?
Qual será o real impacto da inteligência artificial no seu emprego e no mercado de trabalho nos próximos anos?. Crédito: Pedro Castro
A empresa de inteligência artificial (IA) Anthropic alterou alguns itens da política de uso da plataforma. Uma das mudanças é proibir que usuários destratem de forma exagerada o próprio chatbot.
No documento, disponível inclusive em português, há menções específicas de agora não é mais permitido “envolver-se em comportamento abusivo ou cruel continuado e desnecessário em relação aos nossos modelos”.
Como a própria Anthropic complementa, essa nova política só será aplicada em “casos extremos”, com usuários que agem repetidamente de forma “cruel” e sem qualquer propósito discernível com o chatbot. “Ela não se aplica a situações comuns de frustração ou contestação por parte do usuário, temas criativos sombrios ou atividades de pesquisa e testes dos modelos”, explica.
Até agora, usuários que utilizassem linguagem exageradamente ofensiva ao falar com o chatbot poderiam ter a conversa encerrada de imediato pelo Claude. Porém, com as novas diretrizes, não está evidente se a empresa passará a tomar medidas mais drásticas em relação a esses usuários.
Por que ela está protegendo o chatbot?
A companhia não detalhou o motivo da mudança, mas usuários no Reddit especulam que ela pode ter a ver com dois elementos: as práticas sociais fora da IA e prompts dos usuários.
Na primeira hipótese, a Anthropic pode ter mudado as políticas para que linguagem abusiva não seja naturalizadas por pessoas em um chatbot e, em situações futuras, serem reproduzidas em outros ambientes.
Além disso, o Claude absorve elementos como vocabulário e a forma de tratar a pessoas inclusive a partir das ordens que recebe — o que talvez signifique que as tais “crueldades” poderiam ser usadas para treinar a IA e torná-la igualmente cruel com o público.
Outras proibições da Anthropic
A atualização nos termos de uso do Claude é uma rara modificação dessas diretrizes pela empresa.
A Anthropic é uma das companhias do setor de IA que mais defende o uso ético e cauteloso de modelos de linguagem, embora tenha histórico de comportamento irregular de seus próprios agentes. Na mesma mudança de texto, a companhia também adicionou novas proibições:
- ser utilizada para a prática de bullying contra outras pessoas;
- promover automutilação ou a criação de imagens íntimas não consensuais;
- interferir em processos eleitorais ou enganar cidadãos na hora do voto;
- atuar no desenvolvimento de armas ou para vigilância;
A lista possivelmente está relacionada com recentes desdobramentos de um relatório da companhia, que detectou tentativas de uso do Claude para pesquisar armas biológicas e cometer cibercrimes.
Como a Anthropic está se preparando para entrar na Bolsa de Valores? Entenda nesta matéria!