A inteligência artificial (IA) tem alcançado marcos impressionantes em modelos de linguagem, como o ChatGPT, da OpenAI, permitindo uma comunicação mais natural e sofisticada entre humanos e máquinas, bem como elevando o nível de apoio e automação que os computadores podem oferecer aos humanos. Mas prepare-se, pois uma nova abordagem desenvolvida por pesquisadores da Microsoft em conjunto com pesquisadores da Xi'an Jiaotong University, da China, poderá fazer o ChatGPT parecer um brinquedo de criança. Trata-se da LongNet, um novo modelo de linguagem capaz de processar sequências de texto muito maiores, ampliando significativamente a compreensão de perguntas, solicitações e a qualidade e profundidade das respostas.
Para compreender o potencial disruptivo do LongNet, é importante entender os conceitos de "sequências" e "tokens".
No campo da IA conhecido como processamento da linguagem natural, uma sequência refere-se a um conjunto de palavras, frases ou até mesmo parágrafos organizados em uma ordem específica. Por exemplo, a frase "O sol está laranja" é uma sequência composta por quatro palavras. Por sua vez, os "tokens" são as unidades semânticas úteis para processamento, nas quais o computador quebra um texto para poder processá-lo. Assim, um token pode ser um caractere ou uma combinação deles, como uma palavra. Por exemplo, a frase "LongNet é incrível!" pode ser dividida em quatro tokens: "Longnet", "é", "incrível", "!".
Assim, uma questão crítica para o poder, ou "inteligência" de certa forma, de um modelo de linguagem como o ChatGPT é a limitação do tamanho máximo da sequência e de tokens que ele pode processar simultaneamente. Essa limitação pode levar a informações relevantes sendo truncadas ou ignoradas, prejudicando a qualidade das respostas geradas. Isso pode ocorrer, por exemplo, se o usuário fizer uma pergunta complexa ao ChatGPT que requer um contexto extenso para ser respondida adequadamente. Se a pergunta exceder o limite de tokens do modelo, ele precisará dividir a pergunta em partes menores ou cortar informações importantes, o que pode resultar em respostas incompletas ou imprecisas.
Atualmente, o ChatGPT 3.5, que é o mais utilizado por ser gratuito, vem configurado para processar até 2.048 tokens simultaneos, podendo chegar ao máximo de 4.096 tokens processados ao mesmo tempo. Já o ChatGPT 4.0 pode processar simultaneamente 8.192 tokens, que podem ser expandidos até 32.768 tokens, atingindo, portanto, uma capacidade máxima 16 vezes maior que a versão gratuita.
É exatamente essa barreira limitante que o novo modelo de IA apelidado de LongNet está rompendo. A nova IA criada pelos pesquisadores da Microsoft consegue escalar a sequência de tokens para mais de 1 bilhão, sem prejudicar o desempenho em sequências mais curtas. Isso equivale a uma capacidade 480 mil vezes superior ao ChatGPT 3.5, que muitos de nós usamos. O resultado disso é um potencial maior para compreender perguntas em contextos mais complexos e consequentemente devolver respostas com qualidade superior, ou seja, uma maior inteligência.
Para ilustrar melhor o potencial da nova IA, imagine que o ChatGPT pode processar simultaneamente no máximo 10 páginas de um livro, o que restringe a quantidade total de informações disponíveis para ele compreender simultaneamente. Já o LongNet consegue processar e compreender simultaneamente em torno de 10 mil livros. Ou seja, é como se ele conseguisse ler simultaneamente uma biblioteca inteira. Isso representa um salto gigantesco em termos de compreensão do contexto e da capacidade de resposta do modelo.
Portanto, ao aumentar o número de tokens processados, o LongNet pode considerar contextos mais amplos e complexos, o que resulta em uma compreensão mais profunda das perguntas e solicitações dos usuários. Como resultado, suas respostas tendem a ser mais precisas, contextuais e completas, melhorando significativamente a qualidade das interações com os usuários.
Se o ChatGPT já causou muita surpresa e abriu muitas possibilidades, uma solução similar baseada no LongNet representará um avanço disruptivo em modelos de linguagem, pois sua capacidade expande significativamente as possibilidades de compreensão de texto, permitindo análises e inferências em uma escala nunca antes imaginada, e que podem inclusive superar a capacidade humana em vários contextos.
Assim, o LongNet traz consigo a promessa de elevar a IA a um novo patamar, proporcionando interações mais ricas, informativas e produtivas entre humanos e máquinas. Mas, como consequência, teremos um profundo impacto na natureza do trabalho em muitas profissões. Isso poderá criar um grande desafio social que precisará ser resolvido num curto intervalo de tempo, pois mudará o tipo de formação que as pessoas necessitarão, bem como poderá elevar os requisitos de preparo dos trabalhadores. Por outro lado, talvez tenhamos um aliado extremamente inteligente para nos ajudar a resolver esse grande desafio: a LongNet!