BARI, Itália - O Papa Francisco é um octogenário que diz não consegue usar computador, mas em uma tarde de fevereiro de 2019, um importante diplomata de uma Big Tech americana entrou na residência papal buscando orientação sobre a ética de uma tecnologia em gestação: a inteligência artificial (IA).
O presidente da Microsoft, Brad Smith, e o papa discutiram o rápido desenvolvimento da tecnologia, contou Smith em uma entrevista ao jornal americano The Washington Post, e Francisco pareceu compreender seus riscos. Quando Smith foi embora, o papa fez uma advertência. “Mantenha sua humanidade”, pediu ele, enquanto segurava o pulso de Smith.
Nos cinco anos que se seguiram a essa reunião, a IA se tornou inevitável - como o próprio papa descobriu no ano passado, quando imagens virais dele em uma jaqueta Balenciaga anunciaram uma nova era de deepfakes. E à medida que a tecnologia se expandiu, o Vaticano se posicionou como a consciência de empresas como a Microsoft e emergiu como uma voz surpreendentemente influente no debate sobre a governança global da IA.
Em um discurso abrangente, o papa esboçou as ramificações de uma tecnologia “tão fascinante quanto aterrorizante” e que poderia mudar “a maneira como concebemos nossa identidade como seres humanos”. Ele criticou como a IA poderia consolidar o domínio da cultura ocidental e diminuir a dignidade humana.
Ele disse que a IA é uma ferramenta que pode democratizar o conhecimento, avançar “exponencialmente” a ciência e aliviar a condição humana à medida que as pessoas entregam “trabalhos árduos às máquinas”. Mas ele alertou que ela também tem o poder de destruir - e pediu a proibição “urgente” de armas autônomas letais. Como um fantasma do futuro, ele fez referência ao romance distópico de 1907 “O Senhor do Mundo”, no qual a tecnologia substitui a religião e a fé em Deus.
“Nenhuma máquina jamais deveria escolher tirar a vida de um ser humano”, disse o papa.
Ele já havia insistido que os riscos da IA devem ser gerenciados por meio de um tratado global para regulamentar a IA e, na sexta-feira, pediu um conjunto de “princípios” globais unificadores para orientar o desenvolvimento da IA.
Planos
Os líderes do G-7 - com o apoio do Vaticano - estavam prontos para revelar um tipo de distintivo de honra: um novo rótulo para empresas que concordam em desenvolver ferramentas de IA de forma segura e ética, de acordo com uma pessoa familiarizada com as discussões do G-7, que falou sob condição de anonimato para descrever o plano antes de seu lançamento. O rótulo será equivalente a um compromisso “voluntário”, apoiado por um sistema de monitoramento e relatório.
A questão da IA proporcionou uma abertura para que uma igreja diminuída pela forma como lidou com o abuso sexual clerical reafirmasse sua autoridade moral. A Microsoft e pelo menos algumas outras empresas de tecnologia parecem ansiosas pelo selo de aprovação da Igreja Católica, já que o setor enfrenta os desafios de relações públicas de uma tecnologia que pode automatizar empregos, ampliar a desinformação e criar novos riscos de segurança cibernética.
O Rome Call for AI Ethics (Chamado de Roma para a Ética da IA) - um documento que contou com o Vaticano, a Microsoft e a IBM entre seus signatários originais em 2020 - está emergindo como um padrão ouro de melhores práticas de IA. Representantes do judaísmo e do Islã assinaram o documento no ano passado. No próximo mês, várias religiões orientais se juntarão a eles, adicionando a uma lista que agora inclui centenas de empresas, universidades e uma agência da ONU em busca de diretrizes globais.
O Vaticano conquistou um lugar na mesa das Big Techs. Uma instituição antiga com um histórico misto em ciência - veja o julgamento de Galileu - agora está enviando representantes para os principais eventos de tecnologia.
O frade Paolo Benanti - o principal especialista em IA do Vaticano, um padre franciscano e um engenheiro treinado, a quem se atribui a criação do termo “algorética” - garantiu no ano passado um lugar no Órgão Consultivo das Nações Unidas sobre Inteligência Artificial e se tornou um ator importante na elaboração de uma política nacional de IA para a Itália, uma nação do G-7. A pedido do Vaticano, o IMB organizou uma cúpula global de universidades em Notre Dame para trazer a ética da IA para a linha de frente dos currículos.
Leia também
As opiniões do Vaticano influenciaram decisões comerciais concretas. Smith disse ao The Post: “Desenvolvemos nossa própria tecnologia que permitiria que qualquer pessoa com apenas alguns segundos da voz de alguém pudesse replicá-la. E optamos por não divulgar isso”. Ele acrescentou que o Rome Call “é definitivamente parte do que nos ajudou na Microsoft a nos esforçarmos para adotar uma abordagem de mente ampla para o desenvolvimento da IA, inclusive dentro de nossas próprias quatro paredes. Acho que ele forneceu uma ampla estrutura humanística e intelectual”.
A ênfase do compromisso com a inclusão também influenciou a decisão da empresa de lançar uma bolsa de estudos que reúne pesquisadores e líderes da sociedade civil, em grande parte do Sul Global, para avaliar o impacto da tecnologia, disse Natasha Crampton, diretora de IA responsável da Microsoft. Os bolsistas ajudaram a empresa a desenvolver avaliações multilíngues de modelos de IA e garantiram que a empresa compreendesse o contexto local e as normas culturais ao desenvolver novos produtos.
Nem todas as empresas estão de acordo com os princípios de Roma. Algumas avançaram com áudio manipulado por IA que, segundo os pesquisadores, poderia ser usado para enganar os eleitores antes das eleições.
Nem todo mundo também tem permissão para entrar no clube de Roma. “A Huawei pediu”, disse o arcebispo Vincenzo Paglia, presidente da Pontifícia Academia para a Vida. “E nós dissemos não, porque não sabemos realmente o que as pessoas [responsáveis por lá] pensam.”
Enquanto isso, o Vaticano continua preocupado com o mau uso da IA de código aberto. A tecnologia poderia produzir grandes benefícios na área de saúde e educação, disse Benanti. “Mas também pode multiplicar muitos elementos ruins na sociedade, e não podemos espalhar a IA por toda parte sem nenhuma decisão política, porque amanhã poderemos acordar com um multiplicador de desigualdade, de armas biológicas”, disse ele.
Preocupações
As autoridades do Vaticano já deram o alarme sobre o que consideram usos potencialmente antiéticos, incluindo os sistemas de reconhecimento facial implantados na repressão de 2019-2020 contra manifestantes em Hong Kong, bem como algoritmos para processamento de refugiados, como na Alemanha, onde testes linguísticos alimentados por IA foram usados para determinar se os requerentes de asilo estão mentindo sobre seus locais de origem.
A relação entre o Vaticano e os inovadores de IA teve sua gênese em um discurso de 2018 que Benanti fez sobre ética em IA. Um representante sênior da Microsoft na Itália estava na plateia, e os dois começaram a se encontrar regularmente. Eles trouxeram Paglia, que estava interessado em ampliar o alcance de sua academia para além das questões centrais, como a ética da pesquisa com células-tronco.
Antes da visita de Smith ao papa, Paglia o acompanhou até o “Juízo Final” de Michelangelo na Capela Sistina e lhe mostrou representações feitas por Galileu da Terra girando em torno do sol - a teoria que o levou à prisão domiciliar perpétua após um julgamento da igreja.
No entanto, a relação do Vaticano com a ciência nem sempre foi como a de um ludita. Na Idade Média, estudiosos católicos semearam na Europa o que viria a se tornar algumas de suas maiores universidades. E embora tenha sido alvo de alguns clérigos, a teoria da evolução de Darwin nunca foi oficialmente contestada pelo Vaticano.
A igreja declara oficialmente que “fé e razão” não estão em conflito.
“A Bíblia não nos diz como o céu funciona, mas como chegar lá”, disse Paglia, citando Galileu. O arcebispo fez viagens oficiais à sede da Microsoft perto de Seattle e aos escritórios da IBM em Nova York.
Por meio de investimentos agressivos em IA, a Microsoft se tornou a empresa mais valiosa do mundo, valendo mais de US$ 3 trilhões. Mas seu sucesso contínuo depende da redução das percepções negativas sobre a IA. A preocupação de que a tecnologia possa deslocar empregos, exacerbar desigualdades, sobrecarregar a vigilância e introduzir novos tipos de guerra está levando os governos de todo o mundo a considerar regulamentações rigorosas que poderiam enfraquecer as ambições da empresa.
A União Europeia está preparando uma lei antitruste histórica que poderia limitar modelos de IA geradores mais avançados. A Comissão Federal de Comércio está investigando um acordo que a Microsoft fez com a Inflection, uma empresa iniciante de IA, para saber se a gigante da tecnologia deliberadamente estabeleceu o investimento para evitar uma análise de fusão. E os órgãos de fiscalização dos EUA chegaram a um acordo que abrirá a empresa a um maior escrutínio de como ela exerce o poder de dominar a inteligência artificial, incluindo seus investimentos multibilionários na OpenAI, fabricante do ChatGPT. Esse relacionamento também expôs a Microsoft a novos riscos de reputação, já que o executivo-chefe da OpenAI, Sam Altman, frequentemente gera polêmica.
Sob a liderança de Smith, a Microsoft criou uma das mais sofisticadas organizações globais de lobby para neutralizar seus desafios regulatórios e tentar convencer as pessoas de que é o titã da tecnologia em quem o mundo pode confiar para criar IA. Smith se reúne regularmente com chefes de estado, inclusive aparecendo no mês passado ao lado do presidente Biden em uma inauguração de fábrica. Para ser uma empresa eficaz, a Microsoft precisa encontrar maneiras de trabalhar com governos e garantir que sua tecnologia possa transcendê-los, disse Smith.
A “organização global mais antiga do mundo” pode ser uma professora e parceira única nesse esforço, disse ele. O catolicismo e outras religiões não estão limitados por fronteiras nacionais - assim como os aplicativos que a Microsoft está vendendo globalmente.
“Em um certo nível, você pode olhar para nós dois e pensar que somos parceiros estranhos”, disse Smith. “Mas, por outro lado, é uma combinação perfeita.”
Este conteúdo foi traduzido com o auxílio de ferramentas de Inteligência Artificial e revisado por nossa equipe editorial. Saiba mais em nossa Política de IA.