Supostamente uma inteligência artificial “poderosa” e que “ameaça a humanidade” está em desenvolvimento na OpenAI, a startup americana que criou o ChatGPT, segundo carta escrita por pesquisadores da empresa e vista pela agência de notícia Reuters nesta semana. Para especialistas consultados pelo Estadão, no entanto, essa não é uma ameaça iminente, pois ainda há um longo caminho para que a tecnologia atinja um estágio que represente ameaça - pelo menos com as informações disponíveis no momento.
O desenvolvimento desse sistema teria sido um dos motivos, diz a Reuters, que podem ter levado à expulsão do fundador e presidente executivo da OpenAI, Sam Altman. Cinco dias depois, após negociações e a pressão da Microsoft, o CEO foi readmitido ao cargo, com um novo conselho de diretores no comando da companhia.
Chamado de Q* (Q-Star, em inglês, ou Q-Estrela, em tradução livre), esse sistema superinteligente seria considerado um marco interno dentro da startup americana. Há anos, a OpenAI afirma abertamente que busca desenvolver a chamada “inteligência artificial geral” (AGI, na sigla em inglês), que seria capaz de realizar as mesmas tarefas que um cérebro humano.
O marco acontece porque o Q* seria capaz de solucionar equações matemáticas de nível escolar, usando a tecnologia de modelos amplos de linguagem (LLM, na sigla em inglês) — mesma utilizada no ChatGPT e que permite fluidez na escrita. Até aqui, esses sistemas não são capazes de resolver problemas de lógica, pois não foram desenvolvidos para isso.
Fabio Cozman, professor da Poli-USP
Sam Altman sempre falou sobre o desejo de desenvolver uma AGI responsável e ética, afirmando diversas vezes em entrevistas e conferências que esse é o objetivo final da OpenAI. Bastidores revelados pela imprensa americana apontaram que, entre as divergências entre o conselho e o CEO da OpenAI, estariam o medo de um avanço irresponsável da IA.
Q* pode ser um passo na direção de uma AGI
Apesar do esforço da OpenAI, a ideia de uma AGI que pode representar ameaça à vida humana com sua superinteligência ainda é papo de ficção-científica, disseram à reportagem três especialistas do campo da inteligência artificial no Brasil.
“Esse é um passo na direção de uma IA mais próxima das capacidades humanas, mas ainda está longe do sonho de uma AGI. Estamos longe”, diz o pesquisador Fabio Cozman, professor na Escola Politécnica de São Paulo (Poli-USP) e diretor do Centro de Inteligência Artificial pela universidade paulista.
Para ele, o potencial revolucionário do Q* está em unificar o poder de resolução matemática já visto em outros sistemas de IA (como modelos probabilísticos), mas aplicado à tecnologia de fluidez de texto dos LLMs, que incluem o ChatGPT, o Bard (do Google) e o Claude (da startup Anthropic).
“Esses modelos de linguagem, em particular o GPT, não conseguem garantir que tudo o que falam é logicamente correto”, explica, citando que o material coletado desses chatbots vem de textos tirados da internet. A partir daí, o conteúdo é gerado por probabilidade, com o sistema “adivinhando” qual deve ser a palavra a ser escrita. “Se essa união for atingida, é uma vitória muito grande para a tecnologia.”
Para o engenheiro André Filipe Batista, pesquisador na Universidade de São Paulo (USP) e professor do Insper, o Q* pode ser um passo rumo à AGI. Segundo ele, essa IA deve nascer cumprindo pequenas tarefas que vão ampliando sua capacidade cognitiva até chegar a um propósito geral, de superinteligência equivalente ou superior à humana. “É uma escada de evolução para uma AGI. E eu enxergo como natural esse caminho para empresas como OpenAI”, diz.
Fernando Osório, professor da USP
O problema dos avanços rumo à AGI está nas discussões éticas incipientes sobre o tema, critica Batista, para quem há poucas informações sobre os sistemas de IA desenvolvidos pelas empresas. O engenheiro recomenda que essas companhias desenvolvam uma “bula”, similar à indústria farmacêutica, para apresentar riscos e eficácias de cada um dos modelos de IA à disposição.
“Qual é a precisão da inteligência artificial desenvolvida? Como se comporta diante de grupos vulneráveis? A quem serve? Foi testada em que cenário? Quem deveria ser o usuário-alvo? Qual situação deveria ser evitada?”, questiona Batista. “Quando tivermos a capacidade de escrevermos a capacidade de uma IA como se fosse a bula de remédio, a ponto de que a sociedade entenda o que e para que serve a ferramenta, aí vou conseguir dizer que caminhamos para uma discussão ética da IA.”
AGI é ‘ficção-científica’
Para o professor Fernando Osório, pesquisador na Universidde de São Paulo (USP) em São Carlos, a busca por uma AGI é um conceito teórico, ainda sem aplicação prática. “Ou seja, é ficção-científica no momento”, diz ele. “Essa tecnologia não deve ser possível de ser alcançada nos próximos anos, não importa a tecnologia A, B, C ou Q* que venham dizer que é mágica”.
Ainda assim, o Q* pode representar um avanço no campo das “inteligências artificiais limitadas”, isto é, que têm propósito estabelecido e não cumprem outras funções além daquelas já programadas na ferramenta — como o ChatGPT, geradores de imagens e outros. “Esses desenvolvimentos são interessantes e trazem novas possibilidades, mas não estão nem perto do que é definido como AGI e superinteligência”, aponta.