No meio de outubro, o presidente da Securities and Exchange Commission (SEC) dos EUA, Gary Gensler, disse acreditar que a inteligência artificial (IA) pode causar um “colapso financeiro quase inevitável” nos próximos 10 anos.
Ele demonstrava preocupação principalmente com uso de modelos similares de algoritmos por instituições financeiras e da falta de regulação do cenário, além de chamar atenção para um possível “efeito manada”. Com pouca diversificação nos modelos de IA, o mercado financeiro poderia convergir para as mesmas decisões simultaneamente. É um cenário assustador, mas não impossível, dizem especialistas.
Como a IA causaria um colapso financeiro?
Ramicés dos Santos Silva, diretor de dados e membro do conselho internacional na EC-Council, do ramo de segurança cibernética, afirma que o alerta de Gensler faz sentido: algoritmos tomando decisões similares poderiam levar a uma situação de caos. Entretanto, além da situação destacada pelo presidente da SEC sobre o possível efeito de erros que levariam a compras ou vendas de ações em massa, Silva preocupa-se com o uso ético da tecnologia.
Para ele, um ponto de atenção é como sistemas de IA poderiam ser usados para fraudar o mercado. Em uma situação hipotética, o responsável pelos tradings direcionaria o algoritmo para gerar ganhos maiores em determinados ativos, guiado por interesses pessoais.
Para Josilmar Cordenonssi, professor de ciências econômicas da Universidade Presbiteriana Mackenzie, outra hipótese - ainda distante, é verdade - envolve o acesso a dados privados. Caso uma IA tivesse acesso a sistemas internos de bancos ou corretoras, poderia fazer apostas no mercado financeiro, influenciando a queda de uma ação, por exemplo. Entretanto, para o professor, isso é quase uma “teoria da conspiração”.
Carlos de Oliveira, professor de engenharia de dados da Universidade de Nova York (NYU), especialista em IA e diretor de pesquisa Sênior do BNY Mellon acredita que o problema estaria na substituição de decisões estratégicas de altos executivos financeiros por algoritmos de IA. Nesse caso, um cenário mais próximo da realidade seria a concretização do “efeito manada” citado por Gensler: diversas instituições financeiras tomando as mesmas decisões por utilizarem algoritmos muito semelhantes.
As transações de ativos (títulos, moedas, ações e mercadorias, por exemplo), estariam sujeitas a uma reação em cadeia de mesmo sentido. Diversas pessoas venderiam ações de uma mesma empresa em grande quantidade, por exemplo, com medo de uma previsão não confirmada.
Caso essa reação geral seja equivocada, as IAs acabariam agravando o problema ao tentar corrigi-lo. “O algoritmo poderia, em alguns casos, impedir a intervenção humana para interromper o aprofundamento da crise ao identificar essa tentativa como um ataque cibernético externo e reagir com uma auto-blindagem”, diz o professor da NYU.
Ainda que os especialistas afirmem que todos os cenários são bastante difíceis de se tornarem realidade, o uso de algoritmos no mercado financeiro já causou problemas. Segundo Cordenonssi, elas já foram responsáveis por um colapso financeiro há 36 anos.
Em 19 de outubro de 1987, o índice Dow Jones, que analisa a variação média nas negociações da NYSE, sofreu uma queda de 22,61% em um único dia. A chamada “segunda-feira sombria” resultou no mecanismo Circuit Breaker, que suspende as negociações quando o índice cai mais de 10% nesse período.
Cordenonssi explica que naquela época já havia uso de algoritmos para compra e venda de ações e derivativos e o problema foi fruto de um alinhamento equivocado de expectativas. “Você precisa de visões diferentes, o mercado precisa de equilíbrio. Se todo mundo começar a achar que o preço da ação vai cair, ele desaba, porque todo mundo aposta naquela queda”.
Ferramenta de decisão
“Seria necessário um imenso volume de grandes instituições tendo o tal do efeito de manada, e grandes instituições dificilmente vão atuar com uma IA fora de contexto do que realmente se precisa”, diz Ricardo Toledo, diretor da Associação Catarinense de Tecnologia (ACATE).
Seria necessário um imenso volume de grandes instituições tendo o tal do efeito de manada, e grandes instituições dificilmente vão atuar com uma IA fora de contexto do que realmente se precisa.
Ricardo Toledo, Diretor da Vertical Fintech da Associação Catarinense de Tecnologia (ACATE)
Toledo repete um refrão já ouvido em outras áreas sobre o uso de IA. Para ele, as IAs no mercado financeiro nada mais são do que uma ferramenta que auxilia em análises dentro do contexto de uma empresa. Ou seja, no fim, a decisão humana ainda é crucial.
Para Toledo, “o que nos diferencia de fato como seres humanos é não só nossas emoções, mas também o fato de como tomamos uma decisão e analisamos contextos e situações como uma sociedade”.
Ele também diz que a IA deve funcionar como instrumento de apoio, mas nunca ser responsável pela decisão final. “Se ela não é regulamentada ou se o processo decisório não é controlado, pode de fato ocasionar decisões totalmente equivocadas, ainda mais em contextos de grandes volumes de dados”.
Regulamentação é a saída?
Apesar de não acreditar em um cenário desastroso em um futuro próximo, Oliveira concorda com os potenciais riscos do sistema. Ele destaca que é necessário ter regulação no setor sobre o uso da tecnologia: “O atual estado da IA é muito mais uma consequência da falta de regulação do que uma causa para qualquer problema”. Mas o uso de IAs no sistema financeiro não aparece tão claro nas propostas em discussão no mundo.
Na segunda-feira, 30, o presidente dos EUA, Joe Biden, emitiu uma ordem executiva com o objetivo de gerenciar possíveis ameaças derivadas do uso de IA. O documento analisa questões como segurança, privacidade, equidade e direitos civis dos usuários — mas não se refere explicitamente ao mercado financeiro. Entretanto, a ordem encoraja a Federal Trade Commission a agir em benefício da competição justa e equilibrada, além de contar com a colaboração dos Departamentos de Comércio e de Estado.
Já a Europa vem debatendo desde 2021 o que pode se tornar a primeira regulamentação abrangente de IA no mundo, o AI Act. Entretanto, o parlamento europeu ainda analisa entraves para a aprovação completa do marco legal — como a abordagem em relação aos chamados “sistemas de IA de alto risco”. Nessa categoria, enquadram-se tecnologias de categorização biométrica e de “prevenção” a crimes baseados em perfis, localização, nível socioeconômico, reconhecimento de emoções ou antecedentes criminais.
A recomendação dos reguladores europeus é a de que os diferentes setores acompanhem as novidades referentes à sua área. O mercado financeiro não é explicitamente citado na classificação de alto risco, mas serviços de empréstimo baseados em IA (como análise de pontuação de crédito, por exemplo), enquadrariam-se na definição.
No Brasil, as expectativas se voltam para o Projeto de Lei 2.338/2023, proposto pelo senador Rodrigo Pacheco. O PL se dispõe a gerir o “desenvolvimento, implementação e uso responsável de sistemas de inteligência artificial” no País. O texto inicial ainda destaca a valorização do respeito aos direitos humanos e aos valores democráticos, da proteção ao meio ambiente e da inovação.
De forma similar à legislação europeia, o projeto brasileiro exige que todo sistema de IA passe por avaliação de risco antes de ser adotada em qualquer mercado ou serviço. Antes de mais nada, é necessário que o fornecedor informe sobre os possíveis usos daquele sistema.
O PL 2.338 ainda divide as IAs em dois grupos: risco excessivo e alto risco. Enquanto o primeiro possui usos totalmente proibidos, o segundo engloba, entre outras possibilidades, a restrição a IAs para classificação de elegibilidade de crédito financeiro.
Silva elucida que, para se tornar realmente relevante, um projeto de lei sobre o uso de IAs no mercado financeiro deve se atentar a quatro pilares: transparência, explicabilidade de resultados, responsabilidade e confiabilidade.
Em suma, é importante que os desenvolvedores consigam explicar como aquele mecanismo funciona e quais os possíveis usos. Além disso, eles devem assumir os erros cometidos pela IA (como resultados que carreguem estereótipos) e garantir o uso de forma ética. No uso de um robô trader, por exemplo, os usuários precisam poder acionar as funções sem pôr em risco seus dados financeiros.
Apesar de tudo isso, Silva acredita que a regulamentação por si só não terá efeito. O resultado efetivo também passa pela educação digital. “Nós podemos gastar todo o esforço do mundo fazendo regulação, mas se não formarmos as pessoas para esse novo mundo, trazendo essa questão ética já para o discurso desde cedo, não vamos ter o sucesso que se espera”, diz.
Importância da IA no mercado financeiro
Embora tenha um papel fundamental na popularização do debate sobre IA, o ChatGPT não é o único exemplo dessa tecnologia. E seu potencial econômico é enorme.
As IAs generativas têm o potencial de adicionar entre US$ 2,6 trilhões e US$ 4,4 trilhões ao faturamento anual de 63 tipos de uso analisado — o que elevaria seu impacto de 15% para 40% na produtividade mundial. Os dados são do relatório The economic potential of generative AI: The next productivity frontier da consultoria McKinsey.
No setor bancário, ainda segundo o documento, o impacto das IAs generativas será responsável por 2,8% a 4,7% da receita global. Na divisão de estratégia e finanças, a presença da tecnologia representa entre US$ 120 milhões e US$ 260 milhões.
Vamos aparando as arestas e observando qual é o impacto negativo que isso está causando, onde ela pode contribuir de forma positiva, e é assim que se dá a evolução.
Ramicés dos Santos Silva, diretor de dados e membro do conselho internacional na EC-Council
Atualmente, um dos principais usos de IA no mercado financeiro inclui robôs traders, responsáveis por automatizar operações de investimentos. As tomadas de decisões são feitas de forma sistemática, baseando-se nas configurações do usuário. Segundo dados da Pesquisa Nacional do Uso da Tecnologia para Investimentos, da empresa TradeMachine, 6% dos brasileiros utilizam algum tipo de estratégia automatizada em seus investimentos.
Outros usos concentram-se em gerenciamento de risco de crédito, análise preditiva de cenários, detecção e prevenção de fraudes e atendimento com chatbots. As aplicações da tecnologia ainda incluem reconhecimento automático de assinaturas e automação de processos.
A expectativa é de que, até 2032, a IA generativa seja responsável por US$ 11,2 bilhões no mercado financeiro global. Segundo o relatório Generative AI in Financial Services Market da Predence Research, publicado em junho deste ano - a projeção para 2023 é de US$ 1,1 bilhão.
Para Oliveira, responsável pelo grupo que iniciou a automação de processos no BNY Mellon, “o nível de complexidade da gestão desses recursos é muito alta, não dá mais para fazer isso manualmente, então temos a inteligência artificial”.
Silva concorda com o conjunto de benefícios que as IAs podem oferecer — constituindo uma nova revolução tecnológica. “Vamos aparando as arestas e observando qual é o impacto negativo que isso está causando, onde ela pode contribuir de forma positiva, e é assim que se dá a evolução”. O desafio, agora, é garantir que a tecnologia que tanto ajuda o sistema não o faça colapsar.
Os comentários são exclusivos para assinantes do Estadão.
