Professor Livre Docente de inteligência artificial na Faculdade de Saúde Pública da USP

Opinião|A superinteligência artificial nas mãos de extremistas e autocratas é uma distopia assustadora


O retorno da autocracia e do ódio não poderia acontecer em um pior momento

Por Alexandre Chiavegatto Filho

Thomas Hobbes, o filósofo inglês do século 17 conhecido pelo livro Leviatã, defendia que a condição natural da humanidade é estar em guerra constante, e que a ascensão inevitável do autoritarismo seria uma resposta ao aumento do caos e da desordem.

Entretanto, a humanidade nunca viveu em tempos tão democráticos e pacíficos quanto os atuais. No livro Os Anjos Bons da Nossa Natureza, Steven Pinker fez um balanço histórico e concluiu que a violência tem diminuído consistentemente nos últimos séculos, sugerindo que a humanidade pode alcançar a paz sem recorrer ao autoritarismo.

Garantir a democracia para chegada da AGI é um desafio global  Foto: Andy Wong/AP
continua após a publicidade

Essa perspectiva desafia de certo modo a visão hobbesiana, indicando que as instituições democráticas e o progresso social poderiam ser suficientes para manter a ordem e a segurança das pessoas.

Nos últimos anos, eleitores ao redor do mundo têm discordado dessa teoria, optando por eleger autocratas que têm promovido constantes ataques à democracia em nome de uma suposta ordem, inclusive com tentativas de golpes de Estado em países como EUA e Brasil.

continua após a publicidade

A vitória da extrema-direita na França no domingo, 30, é mais um passo nessa direção. Na ausência de um líder cuja incompetência seja amplamente reconhecida, como nos dois países pioneiros desse movimento, a tendência é que as elites globais naturalizem o acúmulo de poder dos extremistas de direita, assim como fizeram na primeira metade do século passado.

A volta desse movimento guiado pelo autoritarismo e pelo ódio não poderia ter chegado em um pior momento histórico. Nos próximos anos, a inteligência artificial geral (AGI, em inglês) deve se tornar uma realidade e as suas consequências são atualmente imprevisíveis.

Ao mesmo tempo que essa tecnologia irá possibilitar profundos avanços positivos na humanidade, como a cura de doenças e novas descobertas científicas, ela também pode ter um direcionamento assustador nas mãos das pessoas erradas.

continua após a publicidade

Autocratas poderão utilizar IA para controlar a população e perseguir seus adversários, e assim atingirem seus objetivos de perpetuação no poder. Isso sem contar o impacto que pode ter em otimizar possíveis massacres e exclusões de minorias.

Não é o momento para deixar o ódio a grupos vulneráveis nos levar a um futuro distópico, em que ficaremos reféns das vicissitudes de megalomaníacos com complexo de inferioridade. Precisamos fortalecer a democracia, garantindo o equilíbrio de poder e criando barreiras sólidas contra novas tentativas de golpes de estado.

Quando a AGI chegar, vamos querer os países colaborando e não em uma corrida às armas pela dominação de adversários. Garantir a democracia global é o maior desafio que temos hoje.

Thomas Hobbes, o filósofo inglês do século 17 conhecido pelo livro Leviatã, defendia que a condição natural da humanidade é estar em guerra constante, e que a ascensão inevitável do autoritarismo seria uma resposta ao aumento do caos e da desordem.

Entretanto, a humanidade nunca viveu em tempos tão democráticos e pacíficos quanto os atuais. No livro Os Anjos Bons da Nossa Natureza, Steven Pinker fez um balanço histórico e concluiu que a violência tem diminuído consistentemente nos últimos séculos, sugerindo que a humanidade pode alcançar a paz sem recorrer ao autoritarismo.

Garantir a democracia para chegada da AGI é um desafio global  Foto: Andy Wong/AP

Essa perspectiva desafia de certo modo a visão hobbesiana, indicando que as instituições democráticas e o progresso social poderiam ser suficientes para manter a ordem e a segurança das pessoas.

Nos últimos anos, eleitores ao redor do mundo têm discordado dessa teoria, optando por eleger autocratas que têm promovido constantes ataques à democracia em nome de uma suposta ordem, inclusive com tentativas de golpes de Estado em países como EUA e Brasil.

A vitória da extrema-direita na França no domingo, 30, é mais um passo nessa direção. Na ausência de um líder cuja incompetência seja amplamente reconhecida, como nos dois países pioneiros desse movimento, a tendência é que as elites globais naturalizem o acúmulo de poder dos extremistas de direita, assim como fizeram na primeira metade do século passado.

A volta desse movimento guiado pelo autoritarismo e pelo ódio não poderia ter chegado em um pior momento histórico. Nos próximos anos, a inteligência artificial geral (AGI, em inglês) deve se tornar uma realidade e as suas consequências são atualmente imprevisíveis.

Ao mesmo tempo que essa tecnologia irá possibilitar profundos avanços positivos na humanidade, como a cura de doenças e novas descobertas científicas, ela também pode ter um direcionamento assustador nas mãos das pessoas erradas.

Autocratas poderão utilizar IA para controlar a população e perseguir seus adversários, e assim atingirem seus objetivos de perpetuação no poder. Isso sem contar o impacto que pode ter em otimizar possíveis massacres e exclusões de minorias.

Não é o momento para deixar o ódio a grupos vulneráveis nos levar a um futuro distópico, em que ficaremos reféns das vicissitudes de megalomaníacos com complexo de inferioridade. Precisamos fortalecer a democracia, garantindo o equilíbrio de poder e criando barreiras sólidas contra novas tentativas de golpes de estado.

Quando a AGI chegar, vamos querer os países colaborando e não em uma corrida às armas pela dominação de adversários. Garantir a democracia global é o maior desafio que temos hoje.

Thomas Hobbes, o filósofo inglês do século 17 conhecido pelo livro Leviatã, defendia que a condição natural da humanidade é estar em guerra constante, e que a ascensão inevitável do autoritarismo seria uma resposta ao aumento do caos e da desordem.

Entretanto, a humanidade nunca viveu em tempos tão democráticos e pacíficos quanto os atuais. No livro Os Anjos Bons da Nossa Natureza, Steven Pinker fez um balanço histórico e concluiu que a violência tem diminuído consistentemente nos últimos séculos, sugerindo que a humanidade pode alcançar a paz sem recorrer ao autoritarismo.

Garantir a democracia para chegada da AGI é um desafio global  Foto: Andy Wong/AP

Essa perspectiva desafia de certo modo a visão hobbesiana, indicando que as instituições democráticas e o progresso social poderiam ser suficientes para manter a ordem e a segurança das pessoas.

Nos últimos anos, eleitores ao redor do mundo têm discordado dessa teoria, optando por eleger autocratas que têm promovido constantes ataques à democracia em nome de uma suposta ordem, inclusive com tentativas de golpes de Estado em países como EUA e Brasil.

A vitória da extrema-direita na França no domingo, 30, é mais um passo nessa direção. Na ausência de um líder cuja incompetência seja amplamente reconhecida, como nos dois países pioneiros desse movimento, a tendência é que as elites globais naturalizem o acúmulo de poder dos extremistas de direita, assim como fizeram na primeira metade do século passado.

A volta desse movimento guiado pelo autoritarismo e pelo ódio não poderia ter chegado em um pior momento histórico. Nos próximos anos, a inteligência artificial geral (AGI, em inglês) deve se tornar uma realidade e as suas consequências são atualmente imprevisíveis.

Ao mesmo tempo que essa tecnologia irá possibilitar profundos avanços positivos na humanidade, como a cura de doenças e novas descobertas científicas, ela também pode ter um direcionamento assustador nas mãos das pessoas erradas.

Autocratas poderão utilizar IA para controlar a população e perseguir seus adversários, e assim atingirem seus objetivos de perpetuação no poder. Isso sem contar o impacto que pode ter em otimizar possíveis massacres e exclusões de minorias.

Não é o momento para deixar o ódio a grupos vulneráveis nos levar a um futuro distópico, em que ficaremos reféns das vicissitudes de megalomaníacos com complexo de inferioridade. Precisamos fortalecer a democracia, garantindo o equilíbrio de poder e criando barreiras sólidas contra novas tentativas de golpes de estado.

Quando a AGI chegar, vamos querer os países colaborando e não em uma corrida às armas pela dominação de adversários. Garantir a democracia global é o maior desafio que temos hoje.

Opinião por Alexandre Chiavegatto Filho

Professor Livre Docente de inteligência artificial na Faculdade de Saúde Pública da USP

Atualizamos nossa política de cookies

Ao utilizar nossos serviços, você aceita a política de monitoramento de cookies.