Seguimos com o desafio de abordar a inteligência artificial (IA) como tecnologia ligada aos algoritmos e possíveis vieses.
O conceito de IA também é relacionado como uma tecnologia multidisciplinar, na medida em que necessita das demais áreas do conhecimento científico para explicar seu funcionamento.
Nesse sentido: (...) IA é uma tecnologia multidisciplinar, por isso a mais aderente a todos os públicos, e tem capacidade de elevar o processo de transformação digital a outro patamar. As máquinas estão pedindo passagem para simplificar processos e otimizar mecanismos nos negócios, não para substituir o homem, pois por mais que a tecnologia evolua, ainda está longe de desenvolver a habilidade da empatia, diferencial do profissional do século XX.
Mas como funciona esta tecnologia? Pois bem. A IA é composta por modelos, criados por programadores, a partir de informações que são fornecidas aos sistemas. Os modelos são criados para prever resultados e soluções. Assim por se caracterizar como uma atividade humana, parte-se da premissa da (im)possibilidade da neutralidade de quem os produziu.
Nessa linha de ideias, como atividade cognitiva e humana, há de se refletir sobre os inputs e outputs que permeiam os sistemas. As informações derivam dos programadores, as quais vêm revestidas por crenças, personalidade, modos de vivência, experiências de quem trata todos esses dados.
De modo que, ao recebermos os outputs, derivados dos sistemas, é preciso cautela para que as informações tratadas não corroborem discriminações, comprometam os direitos fundamentais das pessoas e questões de ordem ética que integram a vida em sociedade. São os chamados vieses cognitivos.
Para entendermos o alcance da tecnologia de IA, de acordo com a Carta Europeia de 2018, os sistemas de IA podem ser em software, tais como assistentes de voz, análise de imagem software, mecanismos de pesquisa, sistemas de reconhecimento de voz e face ou incorporados em dispositivos de hardware (robôs avançados, carros autônomos, drones ou aplicativos da Internet das Coisas).
O documento também classifica IA como disciplina científica e como tecnologia, cujos estudos objetivam atingir um conhecimento comum compartilhado, a ser utilizado em discussões sobre IA diretrizes de ética e recomendações de políticas de IA.
Os estudos de sistemas de IA abrangem conceitos vários e que se entrelaçam com as demais disciplinas nos campos ético, social, psicológico e digital.
Quando se apresenta o conceito de inteligência, estão envolvidos psicólogos, biólogos e neurocientistas. Aliás, a neurociência é tendência para os anos próximos, com aplicação nos setores público e privado (marketing, redes sociais e busca do que mais atrai os consumidores).
Expostos alguns dos elementos que estruturam o conceito de inteligência, tecnologia e recebimento de informações, necessário explanar como funciona o processamento do aprendizado de máquina.
Com efeito, o processo de machine learning (aprendizado de máquina) deriva dos dados e informações que são inseridos pelos programadores (input), cuja atividade é de grande responsabilidade. Além da quantidade de informações para alimentar o sistema, há preocupação com a qualidade destas, pois são humanos que as inserem nos sistemas.
Percebe-se, portanto, que o machine learning é uma atividade complexa e exige cuidado por parte dos programadores. Hoje, já se sabe que não é a quantidade de informações enviadas para alimentar os sistemas de IA que importa, e sim a qualidade destas. Dados enviesados ensinarão a máquina a desempenhar suas funções também de forma enviesada, perpetuando, de forma automatizada, as desigualdades sociais, erros e outras mazelas de nossa sociedade.
Assim, ainda que o processo seja de automatização, realizado pelos computadores, não se pode descurar da forma como elas serão inseridas. Se de forma enviesada, as máquinas passarão a desempenhar as funções e prever resultados também de forma equivocada ou distorcida. São os chamados vieses algorítmicos.
De modo que, para se utilizar a IA, há muito a se trabalhar para que prevaleça o raciocínio de bom senso, a autoconsciência e a capacidade de que os dados sejam tratados, tudo em consonância com os direitos fundamentais estabelecidos na legislação nacional e internacional. Afinal, quando se trata de tecnologia, o tema ultrapassa as fronteiras da globalização de forma exponencial.
Os problemas de dados e seus vieses constituem fonte primária a serem enfrentados. Com as máquinas cada vez mais desempenhando o aprendizado profundo, grandes quantidades de dados sendo utilizados, se os inputs não forem equilibrados ou inclusivos o suficiente, maiores serão as chances de nos depararmos com o crescente número de vieses. Por isso, tão essencial que a sociedade conheça e discuta sobre o tema.
Sobre a necessidade de se aliar o avanço tecnológico com a capacidade constante de questionamentos é de se consignar que:
(...) "a maioria de nós, na maior parte do tempo, vive sob a crença inquestionável de que o mundo é como é porque as coisas são como são. Um pequeno passo separa essa crença da seguinte: 'Os outros veem o mundo praticamente da mesma forma que eu'. Tais crenças, chamadas de realismo ingênuo, são essenciais à percepção de realidade e que compartilhamos com outras pessoas. Raramente as questionamos" (...)
(...) "Mantemos a todo momento uma interpretação única do mundo que nos cerca e em geral investimos pouco empenho em elaborar alternativas plausíveis para ela. Uma interpretação basta, e a vivenciamos como verdadeira. Não passamos a vida imaginando modos alternativos de ver o que vemos".
Fica a reflexão a todos nós!
*Adriana Barrea, juíza de Direito do Tribunal de Justiça do Estado de São Paulo nas Varas Cíveis de Campinas. Cursando especialização em Direito Digital pela Escola Nacional de Formação e Aperfeiçoamento de Magistrados (ENFAM). Juíza Auxiliar no DIPO - Departamento de Inquéritos Policiais - SP - de julho 2020 até abril 2022. Graduada em Letras pela UNIP. Graduada em Direito pela Universidade Vale do Paraíba. Formação em Justiça Restaurativa pela Escola Paulista da Magistratura e pela ENFAM. Especialista em Serviço Social, Ética de Direitos Humanos pela Faculdade Unylea. Integrante do Convênio de Combate à Violência Doméstica contra a Mulher - UNIARAS e Secretaria de Administração Penitenciária do Estado de São Paulo - 2017-2019. Coordenadora do Grupo de Estudos de Justiça Restaurativa e Implementação do Polo Irradiador na Comarca de Leme - 2018 e 2019
*Ivan Carneiro Castanheiro, promotor de Justiça - MPSP (GAEMA PCJ-Piracicaba). Mestre em Direito pela PUC-SP. Professor de Direito Ambiental e Urbanístico na ESMP-SP. Membro da Associação "Movimento do Ministério Público Democrático" (MPD). Professor Direito Ambiental, Administrativo e Constitucional, na UNIP/Limeira. Membro do Conselho Consultivo do Projeto "Conexão Água" (MPF). Coordenador do 17º Núcleo da ESMP (Piracicaba). Diretor de Publicações da ABRAMPA - Associação Brasileira dos Membros do Ministério Público. Autor de capítulos de livros e artigos jurídicos na área ambiental e urbanística. Membro do Observatório da Governança Ambiental do Brasil (OGAM)
Este texto reflete a opinião do(a) autor(a)
Esta série é uma parceria entre o blog e o Movimento do Ministério Público Democrático (MPD). Os artigos têm publicação periódica
Os comentários são exclusivos para assinantes do Estadão.
