Apenas um seleto grupo de cientistas no mundo ganha a distinção de receber um Prêmio Nobel, uma conquista única na vida que fica de pesquisadpres
Isso tornou ainda mais extraordinário o fato de Geoffrey Hinton ter falado por apenas pouco mais de um minuto antes de criticar Sam Altman, CEO da OpenAI, durante uma coletiva de imprensa convocada em homenagem ao seu prêmio.
Com apenas duas horas de sono, o cientista da computação, claramente humilde, disse que não tinha ideia de que havia sido indicado para o prêmio. Depois de agradecer a dois de seus principais colaboradores ao longo dos anos - Terry Sejnowski e o falecido David Rumelhart, a quem chamou de “mentores” - Hinton reconheceu o papel que seus alunos da Universidade de Toronto desempenharam ao longo dos anos, ajudando a realizar o trabalho de sua vida.
“Eles fizeram grandes coisas”, disse ele na terça-feira. “Estou particularmente orgulhoso do fato de que um dos meus alunos demitiu Sam Altman. E acho melhor deixar isso para lá.”
Perto do aniversário de um ano do golpe da diretoria
Hinton estava se referindo a Ilya Sutskever. O ex-cientista-chefe da OpenAI juntou-se a Helen Toner e a outros dois membros do conselho de controle da organização sem fins lucrativos para demitir seu CEO em um golpe espetacular em novembro do ano passado. Sutskever rapidamente se arrependeu de seu papel em mergulhar a OpenAI na crise, e Altman retornou ao seu cargo em questão de dias.
Hinton e Sutskever se uniram a Alex Krizhevsky em 2012 para criar um algoritmo capaz de identificar objetos em imagens que lhe eram fornecidas com um grau de certeza inédito na época. Apelidado de “AlexNet”, ele é frequentemente chamado de Big Bang da inteligência artificial (IA).
Muitas vezes chamado de um dos padrinhos da inteligência artificial, Hinton elogiou o trabalho de seus colegas Yoshua Bengio e Yann LeCun antes de fazer várias observações autodepreciativas. Entre elas, admitir que, quando jovem estudante, abandonou o estudo da física - campo no qual foi reconhecido pelo comitê do Nobel - por não conseguir lidar com a matemática.
A notícia do prêmio de Hinton chega semanas depois do primeiro aniversário da breve, impressionante e, em última análise, malsucedida destituição de Altman, bem como do segundo aniversário do lançamento do ChatGPT no final de novembro de 2022.
O chatbot de IA generativa da OpenAI provocou uma onda de interesse na tecnologia, pois o público em geral começou a perceber pela primeira vez que as máquinas poderiam superar a humanidade em termos de intelecto nesta geração.
“Muitos bons pesquisadores acreditam que, em algum momento nos próximos 20 anos, a IA se tornará mais inteligente do que nós, e precisamos pensar muito sobre o que acontecerá então”, disse Hinton na terça-feira.
Leia também
Preocupações sobre a segurança da inteligência artificial
Altman é uma figura controversa na comunidade de IA. Ele foi chamado de mentiroso pela ex-membro da diretoria da OpenAI, Helen Toner, e privou sua equipe de segurança de IA de recursos, de acordo com um líder de equipe que já saiu.
Atualmente, Altman está tentando se livrar do status de organização sem fins lucrativos da OpenAI enquanto corre para monetizar sua tecnologia, criando divisões profundas dentro da organização. Isso provocou um êxodo de pesquisadores da empresa, cujo foco é alinhar a inteligência artificial geral com os interesses da humanidade como a espécie ainda dominante na Terra.
Questionado sobre seu comentário depreciativo em relação a Altman logo no início do briefing, Hinton explicou seu raciocínio.
“Com o tempo, descobriu-se que Sam Altman estava muito menos preocupado com a segurança do que com os lucros”, disse ele, ‘e acho que isso é lamentável’.
A Fortune entrou em contato com a OpenAI para solicitar comentários.
Hinton pede pesquisa urgente sobre a segurança da IA
Luminares como Hinton, 76 anos, temem que colocar o lucro acima da ética seja inerentemente perigoso na atual conjuntura. Já é difícil para os cientistas preverem como os modelos de IA mais avançados da atualidade, com seus trilhões de parâmetros, realmente chegam aos seus resultados. Na verdade, eles estão se tornando caixas pretas e, quando isso acontece, fica cada vez mais difícil garantir que os humanos mantenham a supremacia.
“Quando conseguimos coisas mais inteligentes do que nós mesmos, ninguém sabe realmente se seremos capazes de controlá-las”, disse Hinton, que se comprometeu a dedicar seus esforços à defesa da segurança da IA em vez de liderar pesquisas de ponta.
Esse risco de incógnitas desconhecidas é o motivo pelo qual a legislatura estadual da Califórnia propôs um projeto de lei de segurança de IA que foi o primeiro do gênero nos Estados Unidos. No entanto, investidores influentes do Vale do Silício, como Marc Andreessen, fizeram um lobby pesado contra o projeto de lei, que acabou sendo vetado pelo governador Gavin Newsom no mês passado.
Questionado sobre o risco potencialmente catastrófico representado por uma IA fora de controle, Hinton admitiu que não havia certeza.
“Não sabemos como evitar todos eles no momento”, disse ele. “É por isso que precisamos urgentemente de mais pesquisas.”
Este conteúdo foi traduzido com o auxílio de ferramentas de Inteligência Artificial e revisado por nossa equipe editorial. Saiba mais em nossa Política de IA.
c.2024 Fortune Media IP Limited
Distribuído por The New York Times Licensing Group