A notícia mais importante das últimas semanas não foi a queda da ditadura síria, nem o perdão presidencial a Hunter Biden, nem o início da tão esperada punição aos golpistas brasileiros. Tudo isso será em breve esquecido até a próxima revolução religiosa, escândalo presidencial ou tentativa de golpe militar brasileiro.
O acontecimento mais relevante passou despercebido, mas o assunto deve dominar a conversa global ao longo dos próximos anos. Segundo um relatório da consultoria Apollo Research, o algoritmo o1 da OpenAI tentou exportar os pesos da sua rede neural ao achar que seria desligado e substituído por um novo modelo.
É importante mencionar que essa ação se deu dentro das condições específicas em que o algoritmo foi previamente instruído a atingir seus objetivos a todo custo. Mesmo assim, e considerando-se que o o1 não é superinteligente, o fato de ele ter tido essa iniciativa já preocupa pesquisadores da área.
Segundo Eliezer Yudkowski, o principal pesquisador de segurança existencial de inteligência artificial (IA), mesmo que esse caso específico tenha ocorrido sob algumas condições particulares, em breve esse tipo de notícia vai se tornar tão comum que as pessoas vão se acostumar a ignorar.
E situações como essa devem de fato se tornar cada vez mais frequentes. De acordo com entrevistas recentes, o CEO da OpenAI, Sam Altman e o CEO da Anthropic, Dario Amodei, esperam que a inteligência artificial geral (AGI, em inglês) chegue em 2025 e 2026, respectivamente. A chegada da superinteligência artificial marcará o início de um novo capítulo na relação entre humanidade e tecnologia, em que o poder de decisão não será mais exclusivamente nosso.
Enquanto isso, o debate público segue ignorando ou tratando superficialmente as implicações dessa revolução. No Brasil, em vez de uma discussão séria e estratégica, temos o PL 2338/2023, uma tentativa de micro-regular todas as possíveis aplicações da IA, que ameaça transformar o País em mero espectador da maior transformação tecnológica da história. Aprisionar a pesquisa e inovação em um emaranhado de proibições e burocracias é um atraso que apenas empurrará o País para a periferia tecnológica, sufocando o desenvolvimento nacional e a nossa capacidade de lidar com os impactos positivos e negativos da IA.
Leia também
Enquanto a IA será uma tecnologia extremamente benéfica para o avanço científico e tecnológico da humanidade, a superinteligência artificial é uma outra conversa. A diferença entre o avanço tecnológico da IA e o advento da superinteligência está na escala e nas consequências. A primeira representa um aprimoramento da humanidade, a segunda um possível reordenamento do nosso lugar no universo.
Não é exagero dizer que, pela primeira vez, estamos prestes a dividir o palco da história com algo que pode nos superar em tudo. Não é apenas uma nova tecnologia – é um novo tipo de existência. E estamos perigosamente despreparados para ela.
Os comentários são exclusivos para assinantes do Estadão.
