O Vaticano pediu nesta terça-feira, 28, uma supervisão constante da inteligência artificial, alertando sobre o potencial para “a sombra do mal” na tecnologia, que, segundo ele, oferece “uma fonte de oportunidades tremendas, mas também riscos profundos.”
Em novo documento destinado a aconselhar os fiéis católicos, a igreja advertiu que a tecnologia deve ser usada para complementar a inteligência humana, “em vez de substituir sua riqueza.” O documento foi aprovado pelo Papa Francisco, que repetidamente alertou que a aplicação da inteligência artificial deve ser fundamentada em considerações éticas e morais.
“Em todas as áreas onde os humanos são chamados a tomar decisões, a sombra do mal também se faz presente aqui,” disse o Vaticano no documento. Acrescentou, “A avaliação moral desta tecnologia precisará levar em conta como ela é dirigida e usada.”
O papel “é uma síntese de muitos dos materiais existentes que foram se desenvolvendo organicamente durante o último tempo,” baseando-se nas declarações e escritos passados de Francisco para examinar o efeito da IA nas relações, educação, guerra e trabalho, disse o Rev. Paul Tighe, uma das pessoas que trabalhou nele. O documento foi escrito ao longo de seis meses por uma equipe do Vaticano em consulta com vários especialistas, incluindo aqueles em IA.
O papel tenta traçar “uma compreensão do que é ser humano que de certa forma dá forma às preocupações éticas,” disse Tighe, porta-voz do departamento de cultura e educação do Vaticano.
O documento alertou sobre o potencial da IA de destruir a confiança na qual as sociedades são construídas por causa de seu potencial para espalhar desinformação. “A mídia falsa gerada por IA pode gradualmente minar os alicerces da sociedade,” disse o documento.
“Este problema requer regulamentação cuidadosa, pois a desinformação — especialmente por meio da mídia controlada ou influenciada por IA — pode se espalhar involuntariamente, alimentando a polarização política e o descontentamento social.
“Tal engano generalizado não é trivial; ele ataca o núcleo da humanidade, desmantelando a confiança fundamental sobre a qual as sociedades são construídas.”
Ele criticou o “nocivo senso de isolamento” que a IA poderia gerar, bem como “desafios específicos” para crianças, “potencialmente incentivando-as a desenvolver padrões de interação que tratam as relações humanas de maneira transacional, como se relacionaria com um chatbot.”
O documento citou preocupações de que a IA poderia ser usada para promover o que o papa descreveu como “paradigma tecnocrático,” a crença de que os problemas do mundo poderiam ser resolvidos apenas por meios tecnológicos.
“Desenvolvimentos tecnológicos que não melhoram a vida de todos, mas em vez disso criam ou agravam desigualdades e conflitos, não podem ser chamados de verdadeiro progresso,” afirmou o documento, citando a mensagem do Dia Mundial da Paz de Francisco de 2024.
Quando se trata de trabalho, o documento disse: “o objetivo não deve ser que o progresso tecnológico substitua cada vez mais o trabalho humano, pois isso seria prejudicial à humanidade.” Também nunca deve “reduzir os trabalhadores a meros ‘engrenagens em uma máquina,’” já que “a dignidade dos trabalhadores e a importância do emprego para o bem-estar econômico de indivíduos, famílias e sociedades, para a segurança no emprego e salários justos, devem ser uma alta prioridade para a comunidade internacional” à medida que a IA se espalha.
O documento também repetiu preocupações sobre o uso da tecnologia em armas controladas remotamente que resultam em “uma percepção diminuída da devastação” de seu uso e “uma abordagem ainda mais fria e distante da imensa tragédia da guerra.”
O documento alertou sobre “a concentração do poder sobre as aplicações principais de IA nas mãos de algumas poderosas empresas.” Essas companhias poderiam exercer “formas de controle tão sutis quanto invasivas, criando mecanismos para a manipulação das consciências e do processo democrático,” afirmou o documento, citando um documento de 2019 de Francisco.
O pontífice tem expressado cada vez mais preocupações sobre a IA. Em discurso aos líderes políticos, econômicos e empresariais no Fórum Econômico Mundial em Davos, Suíça, na semana passada, Francisco escreveu que a IA levantava “grandes preocupações sobre seu impacto no papel da humanidade.”
E em uma reunião do Grupo dos 7 na Itália no ano passado, Francisco disse aos líderes mundiais que a IA “representa uma verdadeira revolução cognitivo-industrial, que contribuirá para a criação de um novo sistema social caracterizado por complexas transformações epocais.”
Este mês, o Vaticano lançou um documento com diretrizes para o uso da IA dentro de seus próprios muros, regulando sua aplicação. / THE NEW YORK TIMES
“Este conteúdo foi traduzido com o auxílio de ferramentas de Inteligência Artificial e revisado por nossa equipe editorial. Saiba mais em nossa Política de IA.”