Quando foi lançada em 2015, a OpenAI era uma organização sem fins lucrativos com o objetivo de “garantir que a inteligência geral artificial (AGI) beneficie toda a humanidade”. Apesar de a missão ter se mantido oficialmente a mesma, a OpenAI passou a ser uma empresa com fins lucrativos em 2019, atraindo bilhões de dólares de investimento de big techs como a Microsoft.
O CEO da empresa, Sam Altman, tem declarado que a transição foi necessária para atingir os objetivos originais da empresa, mas muitos pesquisadores têm manifestado a sua desconfiança sobre os reais objetivos da OpenAI.
A comparação alegórica óbvia é com Sméagol, um hobbit pacífico que se tornou obcecado pelo poder imensurável do Anel, isolando-se da sociedade e perdendo o seu direcionamento moral, até se tornar Gollum, uma criatura deformada e maliciosa.
Sam Altman ainda não trocou de nome, e pelas suas aparições recentes na mídia, parece ainda usar roupas e não ter se mudado para as cavernas da Montanha Sombria. Porém se tem algo que a história nos ensina é que o poder absoluto corrompe absolutamente, então é sempre bom ficar atento.
A futura chegada da AGI será um grande marco da humanidade, com o potencial de mudar todos os empregos e a própria sociedade. Não existe consenso sobre quando isso irá acontecer, mas é unanimidade entre pesquisadores de IA de que se trata de algo tecnicamente possível, e hoje a OpenAI é a empresa melhor posicionada para atingir esse objetivo.
Com tanta responsabilidade nas mãos, seria desejável que a OpenAI multiplicasse seus esforços para manter a transparência e o compromisso com as consequências da chegada de um algoritmo superinteligente. Porém a empresa tem seguido no caminho oposto.
Leia também
Na semana passada, as duas vozes mais atuantes da área de segurança existencial pediram demissão da OpenAI. Os pesquisadores Ilya Sutskever, um dos pioneiros e ícone da atual revolução de IA, e Jan Leike eram os coordenadores da equipe de “superalinhamento” da OpenAI. Só que na quarta-feira, 15, ambos anunciaram seu desligamento da empresa em posts no X.
Os relatos de bastidores indicam que o motivo foi a diminuição consistente da preocupação da empresa com as suas responsabilidades, à medida que a OpenAI tem chegado mais perto da AGI. A realidade é que não será possível confiar nas empresas, que possuem seus próprios interesses, para seguirem o que é melhor para todos.
Assim como nas grandes revoluções tecnológicas anteriores, como a chegada do homem à Lua e a invenção da internet, será necessária a atuação do governo para orientar e direcionar a inovação tecnológica em benefício da sociedade.
O Brasil, entretanto, está empenhado em seguir o caminho contrário. O Senado tem empurrado de forma precipitada a aprovação de um projeto de lei que visa restringir a participação do País em inteligência artificial. E o atual governo de São Paulo está tentando cortar 30% do seu já baixíssimo investimento em ciência e tecnologia. Essas iniciativas deixarão o Brasil cada vez mais distante do centro do poder mundial ao longo da próxima década.
À medida que vamos nos aproximando da superinteligência artificial, precisamos cada vez mais estudar e tentar antecipar as suas consequências e os seus impactos futuros. Ela poderá se tornar a lente que intensifica nossas melhores qualidades, ou o espelho que revela nossas falhas mais profundas.