Inteligência artificial traz riscos para o debate público


Sistemas automatizados podem enterrar opiniões técnicas para dar lugar ao senso comum

Por Demi Getschko

No complicado entrelaçamento em que vivemos hoje há agentes dos mais diversos: da comunicação ampliada que a expansão do acesso à internet permitiu à tecnologia com a evolução vertiginosa da inteligência artificial (IA). Além disso, há impactos sociais importantes que esta mescla de tecnologias e ideias traz, tanto a direitos ameaçados como o da privacidade, quanto ao modo de convívio. Torna-se importante olhar este cenário para que se possam identificar reais ou potenciais riscos.

Num cenário muito real, a quantidade imensa de dados e opiniões pessoais que existe na internet alimentará gigantescas bases de dados. Desde a famosa e ácida tirada de Umberto Eco – que em nada embaça a importância de expandir a internet – estabeleceu-se como fato consumado que a inclusão de todos às plataformas de interação traria uma inevitável cacofonia e, pior, traria novas formas de controle sobre o pensamento. A questão aqui é que, com a existente sinergia com outras ferramentas tecnológicas, esse efeito colateral pode ser potencializado, gerando danos reais.

Temos um risco inerente ao lutarmos pela democratização da informação: a promoção de uma falsa “democracia de especialidades” Foto: Valentyn Ogirenko/Reuters
continua após a publicidade

As tais imensas bases de dados apenas são tratáveis via computação específica, que pode ser ligada à IA. E, se como já ocorre hoje com os interlocutores virtuais, eles passarem a ser também nossos parceiros nas discussões sobre qualquer tema, uma pergunta ingênua de alguém poderá receber uma resposta automática que reflita o que foi levantado na média de opiniões. Ora, muitos avanços importantes sempre trouxeram contestações à visão média da época. O peso de uma opinião técnica, sólida e fundamentada cientificamente não pode se perder numa sopa de outras, em maior número mas pessoais, ou mimetizando “influenciadores”.

Não se trata de negar a valiosa sabedoria popular, mas evitar que a “verdade” seja algo majoritariamente definido: certamente Galileu não contava com a maioria das opiniões populares ao seu lado quando anunciou que a Terra se movia ao redor do Sol. Teremos, portanto, um risco inerente se, ao lutarmos pela democratização da informação para todos, acabarmos por promover uma falsa “democracia de especialidades”.

Como contraponto, sempre haverá situações em que a sabedoria popular segue rainha. Por exemplo, quanto ao que seja “belo”, há um epigrama famoso de John Keats, que é o fecho de ouro de seu poema Ode a uma Urna Grega, 1819. Decrevendo a beleza estética da tal urna, que sobreviverá aos homens e às épocas, encerra com: “Verdade é beleza, beleza é verdade. Isso é tudo o que sabemos no mundo, e tudo o que precisamos saber”.

continua após a publicidade

No complicado entrelaçamento em que vivemos hoje há agentes dos mais diversos: da comunicação ampliada que a expansão do acesso à internet permitiu à tecnologia com a evolução vertiginosa da inteligência artificial (IA). Além disso, há impactos sociais importantes que esta mescla de tecnologias e ideias traz, tanto a direitos ameaçados como o da privacidade, quanto ao modo de convívio. Torna-se importante olhar este cenário para que se possam identificar reais ou potenciais riscos.

Num cenário muito real, a quantidade imensa de dados e opiniões pessoais que existe na internet alimentará gigantescas bases de dados. Desde a famosa e ácida tirada de Umberto Eco – que em nada embaça a importância de expandir a internet – estabeleceu-se como fato consumado que a inclusão de todos às plataformas de interação traria uma inevitável cacofonia e, pior, traria novas formas de controle sobre o pensamento. A questão aqui é que, com a existente sinergia com outras ferramentas tecnológicas, esse efeito colateral pode ser potencializado, gerando danos reais.

Temos um risco inerente ao lutarmos pela democratização da informação: a promoção de uma falsa “democracia de especialidades” Foto: Valentyn Ogirenko/Reuters

As tais imensas bases de dados apenas são tratáveis via computação específica, que pode ser ligada à IA. E, se como já ocorre hoje com os interlocutores virtuais, eles passarem a ser também nossos parceiros nas discussões sobre qualquer tema, uma pergunta ingênua de alguém poderá receber uma resposta automática que reflita o que foi levantado na média de opiniões. Ora, muitos avanços importantes sempre trouxeram contestações à visão média da época. O peso de uma opinião técnica, sólida e fundamentada cientificamente não pode se perder numa sopa de outras, em maior número mas pessoais, ou mimetizando “influenciadores”.

Não se trata de negar a valiosa sabedoria popular, mas evitar que a “verdade” seja algo majoritariamente definido: certamente Galileu não contava com a maioria das opiniões populares ao seu lado quando anunciou que a Terra se movia ao redor do Sol. Teremos, portanto, um risco inerente se, ao lutarmos pela democratização da informação para todos, acabarmos por promover uma falsa “democracia de especialidades”.

Como contraponto, sempre haverá situações em que a sabedoria popular segue rainha. Por exemplo, quanto ao que seja “belo”, há um epigrama famoso de John Keats, que é o fecho de ouro de seu poema Ode a uma Urna Grega, 1819. Decrevendo a beleza estética da tal urna, que sobreviverá aos homens e às épocas, encerra com: “Verdade é beleza, beleza é verdade. Isso é tudo o que sabemos no mundo, e tudo o que precisamos saber”.

No complicado entrelaçamento em que vivemos hoje há agentes dos mais diversos: da comunicação ampliada que a expansão do acesso à internet permitiu à tecnologia com a evolução vertiginosa da inteligência artificial (IA). Além disso, há impactos sociais importantes que esta mescla de tecnologias e ideias traz, tanto a direitos ameaçados como o da privacidade, quanto ao modo de convívio. Torna-se importante olhar este cenário para que se possam identificar reais ou potenciais riscos.

Num cenário muito real, a quantidade imensa de dados e opiniões pessoais que existe na internet alimentará gigantescas bases de dados. Desde a famosa e ácida tirada de Umberto Eco – que em nada embaça a importância de expandir a internet – estabeleceu-se como fato consumado que a inclusão de todos às plataformas de interação traria uma inevitável cacofonia e, pior, traria novas formas de controle sobre o pensamento. A questão aqui é que, com a existente sinergia com outras ferramentas tecnológicas, esse efeito colateral pode ser potencializado, gerando danos reais.

Temos um risco inerente ao lutarmos pela democratização da informação: a promoção de uma falsa “democracia de especialidades” Foto: Valentyn Ogirenko/Reuters

As tais imensas bases de dados apenas são tratáveis via computação específica, que pode ser ligada à IA. E, se como já ocorre hoje com os interlocutores virtuais, eles passarem a ser também nossos parceiros nas discussões sobre qualquer tema, uma pergunta ingênua de alguém poderá receber uma resposta automática que reflita o que foi levantado na média de opiniões. Ora, muitos avanços importantes sempre trouxeram contestações à visão média da época. O peso de uma opinião técnica, sólida e fundamentada cientificamente não pode se perder numa sopa de outras, em maior número mas pessoais, ou mimetizando “influenciadores”.

Não se trata de negar a valiosa sabedoria popular, mas evitar que a “verdade” seja algo majoritariamente definido: certamente Galileu não contava com a maioria das opiniões populares ao seu lado quando anunciou que a Terra se movia ao redor do Sol. Teremos, portanto, um risco inerente se, ao lutarmos pela democratização da informação para todos, acabarmos por promover uma falsa “democracia de especialidades”.

Como contraponto, sempre haverá situações em que a sabedoria popular segue rainha. Por exemplo, quanto ao que seja “belo”, há um epigrama famoso de John Keats, que é o fecho de ouro de seu poema Ode a uma Urna Grega, 1819. Decrevendo a beleza estética da tal urna, que sobreviverá aos homens e às épocas, encerra com: “Verdade é beleza, beleza é verdade. Isso é tudo o que sabemos no mundo, e tudo o que precisamos saber”.

Atualizamos nossa política de cookies

Ao utilizar nossos serviços, você aceita a política de monitoramento de cookies.