A OpenAI, dona do ChatGPT, deu fim ao AI Classifier, ferramenta criada pela própria empresa para detectar se um texto foi escrito por uma inteligência artificial (IA). O encerramento do projeto foi anunciado pela firma de maneira discreta por meio de uma atualização em seu site na última quinta-feira, dia 20.
A companhia explica que a decisão se deu a uma “baixa precisão” da ferramenta nas respostas. “Estamos pesquisando técnicas de proveniência mais eficazes para textos, e assumimos o compromisso de desenvolver e implantar mecanismos que permitam aos usuários entender se o conteúdo de áudio ou visual é gerado por IA”, explica a OpenAI.
O serviço havia sido lançado em janeiro deste ano, com a expectativa de diferenciar textos escritos por humanos e máquinas. Desde o lançamento, no entanto, a própria OpenAI afirmava que o software poderia apresentar falhas, com acerto de 26% de acertos positivos e de 9% de falsos positivos (quando um texto criado por uma pessoa era tomado como se fosse de IA).
A retirada da ferramenta acontece na mesma semana em que a OpenAI, junto com Google, Microsoft e Meta, entrando em um acordo de “comprometimento voluntário” com a Casa Branca para o desenvolvimento seguro da inteligência artificial. Entre uns dos tópicos do acordo, está a criação de uma marca d´água de todo conteúdo gerado por uma IA.
Os comentários são exclusivos para assinantes do Estadão.
