Bastidores da política que movimentam a economia

Análise|TSE e Congresso vão conseguir regular IA a tempo de coibir o mau uso nas eleições deste ano?


Campanha municipal pode servir para disseminar notícias falsas com uso de inteligência artificial como ocorreu nos EUA e Argetina

Por Lorenna Rodrigues
Atualização:

No fim de janeiro, eleitores do Estado de New Hampshire, nos Estados Unidos, receberam uma ligação que parecia ser do presidente norte-americano Joe Biden. A mensagem automática pedia para que eles não votassem nas primárias estaduais e que “guardassem” seu voto para a eleição presidencial de novembro. Apesar de muito parecida - e de ter confundido alguns ouvintes - a voz não era de Biden. Foi gerada por inteligência artificial e seu compartilhamento está sendo investigado pela procuradoria-geral do Estado.

Uma inteligência artificial treinada com informações ruins não deve ser usada para confundir eleitores - Ilustração: Paulo Silvestre  Foto: Ilustração: Paulo Silvestre

As eleições presidenciais norte-americanas e as municipais no Brasil no segundo semestre deste ano são as primeiras na era da inteligência artificial generativa, que já foi utilizada em grande escala no pleito argentino em 2023. Se já era difícil para alguns identificar notícias falsas naquelas correntes de WhatsApp que muitos acham risíveis, o desafio agora é ainda maior. São tecnologias capazes de reproduzir vozes, criar vídeos, deepfakes em que os personagens são quase idênticos a candidatos e pessoas públicas.

continua após a publicidade

Um perigo na mão de pessoas com interesse em espalhar desinformação e uma ameaça a eleições limpas e justas, ainda mais num ambiente em que parece haver coordenação internacional para espalhar uma mesma mensagem falsa em diferentes países. Lembra da “fake news” de que quem tomasse a vacina contra Covid teria um chip implantado no corpo? Circulou também nos Estados Unidos.

O repasse de desinformação não obedece fronteiras. Pesquisadores da Universidade do Sul da Flórida mapearam mensagens no X (antigo Twitter) associadas à organização e execução dos atos golpistas de 8 de janeiro. Foram analisadas mensagens usando frases ou hashtags utilizadas por apoiadores para se referir às invasões dos três poderes, como “Festa da Selma” ou “Brazilian Spring”, no período de 1 a 9 de janeiro de 2023.

continua após a publicidade

A pesquisa identificou que os perfis mais influentes que tuitaram sobre os atos golpistas estavam listados não só no Brasil, mas nos Estados Unidos e na Rússia. “As cidades que apresentaram as contas mais ativas incluíram Miami, Orlando, Washington (D.C.), Nova York, Boston e Los Angeles, nos Estados Unidos”, afirma o documento.

O professor e jornalista Rosental Alves, diretor do Knight Center for Journalism in the Americas, avalia que os “maus indivíduos” aprenderam primeiro a usar as redes sociais. “Espero que não aconteça de novo com a onda de inteligência artificial que está marcando o início de outra fase ainda mais importante da revolução digital”, disse Alves, à Coluna.

O presidente do Tribunal Superior Eleitoral (TSE), ministro Alexandre de Moraes, tem manifestado preocupação com uso de inteligência artificial nas campanhas eleitorais Foto: Wilton Junior/Estadão
continua após a publicidade

No caso das redes sociais, deu no que vimos. Forças antidemocráticas aproveitaram a oportunidade e usaram esses aplicativos para espalhar milhares de mensagens falsas que contribuíram para polarizar o País e coordenar movimentos para golpear a democracia.

No Brasil e no mundo, já há algumas tentativas de minimizar os danos da inteligência artificial. O Tribunal Superior Eleitoral (TSE) divulgou algumas diretrizes, entre elas a proibição de uso de conteúdo “fabricado ou manipulado de fatos sabidamente inverídicos ou gravemente descontextualizados” nas eleições.

Também a regulamentação da IA está entre as prioridades do Congresso Nacional para este ano. Em discurso na abertura do ano legislativo nesta semana, o presidente do Senado, Rodrigo Pacheco, disse que quer votar o projeto até abril.

continua após a publicidade

A dúvida é se tais medidas virão com força suficiente para coibir o mau uso das tecnologias. E a tempo das eleições.

No fim de janeiro, eleitores do Estado de New Hampshire, nos Estados Unidos, receberam uma ligação que parecia ser do presidente norte-americano Joe Biden. A mensagem automática pedia para que eles não votassem nas primárias estaduais e que “guardassem” seu voto para a eleição presidencial de novembro. Apesar de muito parecida - e de ter confundido alguns ouvintes - a voz não era de Biden. Foi gerada por inteligência artificial e seu compartilhamento está sendo investigado pela procuradoria-geral do Estado.

Uma inteligência artificial treinada com informações ruins não deve ser usada para confundir eleitores - Ilustração: Paulo Silvestre  Foto: Ilustração: Paulo Silvestre

As eleições presidenciais norte-americanas e as municipais no Brasil no segundo semestre deste ano são as primeiras na era da inteligência artificial generativa, que já foi utilizada em grande escala no pleito argentino em 2023. Se já era difícil para alguns identificar notícias falsas naquelas correntes de WhatsApp que muitos acham risíveis, o desafio agora é ainda maior. São tecnologias capazes de reproduzir vozes, criar vídeos, deepfakes em que os personagens são quase idênticos a candidatos e pessoas públicas.

Um perigo na mão de pessoas com interesse em espalhar desinformação e uma ameaça a eleições limpas e justas, ainda mais num ambiente em que parece haver coordenação internacional para espalhar uma mesma mensagem falsa em diferentes países. Lembra da “fake news” de que quem tomasse a vacina contra Covid teria um chip implantado no corpo? Circulou também nos Estados Unidos.

O repasse de desinformação não obedece fronteiras. Pesquisadores da Universidade do Sul da Flórida mapearam mensagens no X (antigo Twitter) associadas à organização e execução dos atos golpistas de 8 de janeiro. Foram analisadas mensagens usando frases ou hashtags utilizadas por apoiadores para se referir às invasões dos três poderes, como “Festa da Selma” ou “Brazilian Spring”, no período de 1 a 9 de janeiro de 2023.

A pesquisa identificou que os perfis mais influentes que tuitaram sobre os atos golpistas estavam listados não só no Brasil, mas nos Estados Unidos e na Rússia. “As cidades que apresentaram as contas mais ativas incluíram Miami, Orlando, Washington (D.C.), Nova York, Boston e Los Angeles, nos Estados Unidos”, afirma o documento.

O professor e jornalista Rosental Alves, diretor do Knight Center for Journalism in the Americas, avalia que os “maus indivíduos” aprenderam primeiro a usar as redes sociais. “Espero que não aconteça de novo com a onda de inteligência artificial que está marcando o início de outra fase ainda mais importante da revolução digital”, disse Alves, à Coluna.

O presidente do Tribunal Superior Eleitoral (TSE), ministro Alexandre de Moraes, tem manifestado preocupação com uso de inteligência artificial nas campanhas eleitorais Foto: Wilton Junior/Estadão

No caso das redes sociais, deu no que vimos. Forças antidemocráticas aproveitaram a oportunidade e usaram esses aplicativos para espalhar milhares de mensagens falsas que contribuíram para polarizar o País e coordenar movimentos para golpear a democracia.

No Brasil e no mundo, já há algumas tentativas de minimizar os danos da inteligência artificial. O Tribunal Superior Eleitoral (TSE) divulgou algumas diretrizes, entre elas a proibição de uso de conteúdo “fabricado ou manipulado de fatos sabidamente inverídicos ou gravemente descontextualizados” nas eleições.

Também a regulamentação da IA está entre as prioridades do Congresso Nacional para este ano. Em discurso na abertura do ano legislativo nesta semana, o presidente do Senado, Rodrigo Pacheco, disse que quer votar o projeto até abril.

A dúvida é se tais medidas virão com força suficiente para coibir o mau uso das tecnologias. E a tempo das eleições.

No fim de janeiro, eleitores do Estado de New Hampshire, nos Estados Unidos, receberam uma ligação que parecia ser do presidente norte-americano Joe Biden. A mensagem automática pedia para que eles não votassem nas primárias estaduais e que “guardassem” seu voto para a eleição presidencial de novembro. Apesar de muito parecida - e de ter confundido alguns ouvintes - a voz não era de Biden. Foi gerada por inteligência artificial e seu compartilhamento está sendo investigado pela procuradoria-geral do Estado.

Uma inteligência artificial treinada com informações ruins não deve ser usada para confundir eleitores - Ilustração: Paulo Silvestre  Foto: Ilustração: Paulo Silvestre

As eleições presidenciais norte-americanas e as municipais no Brasil no segundo semestre deste ano são as primeiras na era da inteligência artificial generativa, que já foi utilizada em grande escala no pleito argentino em 2023. Se já era difícil para alguns identificar notícias falsas naquelas correntes de WhatsApp que muitos acham risíveis, o desafio agora é ainda maior. São tecnologias capazes de reproduzir vozes, criar vídeos, deepfakes em que os personagens são quase idênticos a candidatos e pessoas públicas.

Um perigo na mão de pessoas com interesse em espalhar desinformação e uma ameaça a eleições limpas e justas, ainda mais num ambiente em que parece haver coordenação internacional para espalhar uma mesma mensagem falsa em diferentes países. Lembra da “fake news” de que quem tomasse a vacina contra Covid teria um chip implantado no corpo? Circulou também nos Estados Unidos.

O repasse de desinformação não obedece fronteiras. Pesquisadores da Universidade do Sul da Flórida mapearam mensagens no X (antigo Twitter) associadas à organização e execução dos atos golpistas de 8 de janeiro. Foram analisadas mensagens usando frases ou hashtags utilizadas por apoiadores para se referir às invasões dos três poderes, como “Festa da Selma” ou “Brazilian Spring”, no período de 1 a 9 de janeiro de 2023.

A pesquisa identificou que os perfis mais influentes que tuitaram sobre os atos golpistas estavam listados não só no Brasil, mas nos Estados Unidos e na Rússia. “As cidades que apresentaram as contas mais ativas incluíram Miami, Orlando, Washington (D.C.), Nova York, Boston e Los Angeles, nos Estados Unidos”, afirma o documento.

O professor e jornalista Rosental Alves, diretor do Knight Center for Journalism in the Americas, avalia que os “maus indivíduos” aprenderam primeiro a usar as redes sociais. “Espero que não aconteça de novo com a onda de inteligência artificial que está marcando o início de outra fase ainda mais importante da revolução digital”, disse Alves, à Coluna.

O presidente do Tribunal Superior Eleitoral (TSE), ministro Alexandre de Moraes, tem manifestado preocupação com uso de inteligência artificial nas campanhas eleitorais Foto: Wilton Junior/Estadão

No caso das redes sociais, deu no que vimos. Forças antidemocráticas aproveitaram a oportunidade e usaram esses aplicativos para espalhar milhares de mensagens falsas que contribuíram para polarizar o País e coordenar movimentos para golpear a democracia.

No Brasil e no mundo, já há algumas tentativas de minimizar os danos da inteligência artificial. O Tribunal Superior Eleitoral (TSE) divulgou algumas diretrizes, entre elas a proibição de uso de conteúdo “fabricado ou manipulado de fatos sabidamente inverídicos ou gravemente descontextualizados” nas eleições.

Também a regulamentação da IA está entre as prioridades do Congresso Nacional para este ano. Em discurso na abertura do ano legislativo nesta semana, o presidente do Senado, Rodrigo Pacheco, disse que quer votar o projeto até abril.

A dúvida é se tais medidas virão com força suficiente para coibir o mau uso das tecnologias. E a tempo das eleições.

No fim de janeiro, eleitores do Estado de New Hampshire, nos Estados Unidos, receberam uma ligação que parecia ser do presidente norte-americano Joe Biden. A mensagem automática pedia para que eles não votassem nas primárias estaduais e que “guardassem” seu voto para a eleição presidencial de novembro. Apesar de muito parecida - e de ter confundido alguns ouvintes - a voz não era de Biden. Foi gerada por inteligência artificial e seu compartilhamento está sendo investigado pela procuradoria-geral do Estado.

Uma inteligência artificial treinada com informações ruins não deve ser usada para confundir eleitores - Ilustração: Paulo Silvestre  Foto: Ilustração: Paulo Silvestre

As eleições presidenciais norte-americanas e as municipais no Brasil no segundo semestre deste ano são as primeiras na era da inteligência artificial generativa, que já foi utilizada em grande escala no pleito argentino em 2023. Se já era difícil para alguns identificar notícias falsas naquelas correntes de WhatsApp que muitos acham risíveis, o desafio agora é ainda maior. São tecnologias capazes de reproduzir vozes, criar vídeos, deepfakes em que os personagens são quase idênticos a candidatos e pessoas públicas.

Um perigo na mão de pessoas com interesse em espalhar desinformação e uma ameaça a eleições limpas e justas, ainda mais num ambiente em que parece haver coordenação internacional para espalhar uma mesma mensagem falsa em diferentes países. Lembra da “fake news” de que quem tomasse a vacina contra Covid teria um chip implantado no corpo? Circulou também nos Estados Unidos.

O repasse de desinformação não obedece fronteiras. Pesquisadores da Universidade do Sul da Flórida mapearam mensagens no X (antigo Twitter) associadas à organização e execução dos atos golpistas de 8 de janeiro. Foram analisadas mensagens usando frases ou hashtags utilizadas por apoiadores para se referir às invasões dos três poderes, como “Festa da Selma” ou “Brazilian Spring”, no período de 1 a 9 de janeiro de 2023.

A pesquisa identificou que os perfis mais influentes que tuitaram sobre os atos golpistas estavam listados não só no Brasil, mas nos Estados Unidos e na Rússia. “As cidades que apresentaram as contas mais ativas incluíram Miami, Orlando, Washington (D.C.), Nova York, Boston e Los Angeles, nos Estados Unidos”, afirma o documento.

O professor e jornalista Rosental Alves, diretor do Knight Center for Journalism in the Americas, avalia que os “maus indivíduos” aprenderam primeiro a usar as redes sociais. “Espero que não aconteça de novo com a onda de inteligência artificial que está marcando o início de outra fase ainda mais importante da revolução digital”, disse Alves, à Coluna.

O presidente do Tribunal Superior Eleitoral (TSE), ministro Alexandre de Moraes, tem manifestado preocupação com uso de inteligência artificial nas campanhas eleitorais Foto: Wilton Junior/Estadão

No caso das redes sociais, deu no que vimos. Forças antidemocráticas aproveitaram a oportunidade e usaram esses aplicativos para espalhar milhares de mensagens falsas que contribuíram para polarizar o País e coordenar movimentos para golpear a democracia.

No Brasil e no mundo, já há algumas tentativas de minimizar os danos da inteligência artificial. O Tribunal Superior Eleitoral (TSE) divulgou algumas diretrizes, entre elas a proibição de uso de conteúdo “fabricado ou manipulado de fatos sabidamente inverídicos ou gravemente descontextualizados” nas eleições.

Também a regulamentação da IA está entre as prioridades do Congresso Nacional para este ano. Em discurso na abertura do ano legislativo nesta semana, o presidente do Senado, Rodrigo Pacheco, disse que quer votar o projeto até abril.

A dúvida é se tais medidas virão com força suficiente para coibir o mau uso das tecnologias. E a tempo das eleições.

Análise por Lorenna Rodrigues

Editora do Broadcast, serviço de notícias em tempo real do Grupo Estado, em Brasília, e colunista do Broadcast e Estadão. Jornalista desde 2006, especialista em Orçamento e Gestão Pública e em Desenvolvimento Econômico. Responsável por coberturas como das emendas Pix e de investigações de fraudes no cartão de vacina do ex-presidente Jair Bolsonaro.

Atualizamos nossa política de cookies

Ao utilizar nossos serviços, você aceita a política de monitoramento de cookies.