Matheus Puppe, Sócio da área de TMT, Privacidade & Proteção de Dados do Maneira Advogados. Membro do GT de Compliance do CNJ e do Comitê de Integridade do Poder Judiciário (CINT). Professor convidado da po?s-graduac?a?o em Novas Tecnologias, Compliance, ESG e Contratos da USP
As tecnologias disruptivas estão se expandindo e o fluxo de informações globais aumentando em velocidades exorbitantes. Devido à constante evolução das tecnologias, enfrentamos novos desafios diários inevitáveis e mudanças constantes. Entretanto, o direito como meta-tecnologia crucial para a quarta revolução industrial, ainda prospera em um mundo cada vez mais pautado em algoritmos, dados e social accountability.
O direito e, por consequência, as leis, ajustam-se às novas realidades, emoldurando os direitos e deveres da sociedade, que é remodelada pelos novos e progressivos desenvolvimentos. Como tal como espelho contraposto para com a vida, o direito agora reflete um mundo interconectado, cosmopolita e globalizado.
Como resultado, seguindo os desejos e necessidades dos mercados e sociedades per si, corporações, entidades privadas, universidades e até mesmo governos e pessoas físicas estão em um constante processo de criação de regras e leis globais. Um processo semelhante à lex mercatoria, capaz de enquadrar efetivamente os avanços acelerados. Um mecanismo autopoiético de criação de leis - agora focando em partes antes não tradicionais.
Vinculante e autorregulável, o estado de direito reformula-se para seguir as novas expectativas da sociedade, bem como protegê-la ao legislar sobre a inteligência artificial, ao mesmo tempo que observando os novos anseios e utilizando as próprias tecnologias ao seu favor, de forma a garantir nossos direitos globalmente, de uma forma eficaz, e inovadora.
Pensar em inteligência artificial certamente nos remete ao futuro, mas o problema é claro: o futuro chegou. A ficção cientifica é deixada de lado, quando observamos que o próprio processo de cancelar uma assinatura de telefone é realizado primordialmente por robôs, seguindo os passos previstos (ou não) em seus algoritmos, dialogando e, por muitas vezes, convencendo o usuário humano por trás do telefonema sobre os próximos passos e opções.
No mais, quem nunca teve de marcar "não sou um robô" para acessar um site específico? Pois bem, o receio de os robôs atuando no meio conectado e cada vez mais interativos com os seres humanos faz agora parte de nosso cotidiano.
Mas teria o Estado, não apenas o poder, mas a capacidade - técnica e jurisdicional - de regular os robôs? Creio que sim, e já avançamos nessa direção.
Projetos de leis brasileiros
No último projeto apresentado, a lei propõe medidas de proteção para grupos vulneráveis, como crianças, adolescentes e pessoas com deficiência, impedindo que empresas se aproveitem dessas condições vulneráveis, e estabelece a criação de um órgão vinculado à Presidência da República para acompanhar as atividades das empresas de IA no Brasil e fiscalizar o cumprimento.
Dentro dos aspectos mais importantes do projeto de lei, estão as medidas punitivas para as empresas que violarem as normas. As sanções incluem multas de até R$ 50 milhões para cada infração, proibição de participação em projetos experimentais de inovação (sandbox regulatório) por cinco anos, suspensão das atividades da empresa e proibição de tratamento de determinadas bases de dados.
O projeto também assegura direitos aos consumidores, como o direito de ser informado previamente de interações com sistemas de IA, ter explicações sobre decisões tomadas por IA e o direito à não-discriminação e correção de vieses discriminatórios.
Um projeto muito semelhante à iniciativa europeia, porém necessitamos de algo legitimamente brasileiro e modulado à nossa realidade.
Proposta Europeia
Para manter a Europa adequada à Década Digital, a União Europeia vem aceitando a nova realidade da inteligência artificial. Desta forma, propuseram uma nova proposta de regulamentação que se alinha aos princípios da proteção de dados (GDPR) conferindo inclusive à Autoridade Europeia para a Proteção de Dados o poder de impor multas.
Para tanto, a União Europeia vem discutindo as regras para o funcionamento da Inteligência Artificial tanto no setor público quanto privado, buscando assegurar a segurança das pessoas e dos direitos fundamentais (certamente um posicionamento principiológico). A visão da UE é em prol da segurança, mas também em prol da competitividade internacional, a fim de facilitar a inovação em toda a UE e a tornar-se um novo e forte player forte no setor da IA.
Alguns aspectos se destacam dentro deste novo tipo de regulamentação. Por exemplo, a proposta menciona que "os mesmos elementos e técnicas que potencializam os benefícios socioeconômicos da IA também podem trazer novos riscos ou consequências negativas para os indivíduos ou para a sociedade. À luz da velocidade da mudança tecnológica e dos possíveis desafios, a UE está empenhada em procurar uma abordagem equilibrada [...] As regras para a IA disponíveis no mercado da União ou que afetem as pessoas na União devem, portanto, ser centradas no ser humano, para que as pessoas possam confiança de que a tecnologia é usada de maneira segura e em conformidade com a lei, incluindo o respeito pelos direitos fundamentais.", demonstrando claramente seu viés principiológico e flexível.
Desta forma, sempre que os sistemas de IA sejam colocados no mercado ou a utilização iniciada em desconformidade com os requisitos do regulamento, os Estados-Membros terão de estabelecer sanções eficazes, proporcionais e dissuasivas, incluindo multas administrativas vultuosas, em relação às infrações e a comunicação imediata à Comissão.
O regulamento traz alguns parâmetros para multas que devem ser levados em consideração.
Logo, a fim de harmonizar as regras e práticas nacionais na fixação de multas administrativas, a Comissão, com o parecer do Conselho de Administração, elaborará orientações especificas, tal como realizado para a GDPR.
A Comissão pretende ainda abordar os riscos gerados por utilizações específicas de IA através de um conjunto de regras complementares, e flexíveis (flexíveis até mesmo para alinhar-se à proposta de competitividade no mercado global). Uma estrutura que fornece aos desenvolvedores, implementadores e usuários de IA a clareza necessária, tendo como estrutura jurídica uma abordagem clara e de fácil compreensão, com base na análise de riscos, sendo quatro níveis distintos de riscos.
No mais, o compliance passa a ser incorporado na proposta ao conceder aos fornecedores de aplicativos que não são de alto risco a possibilidade de garantir que seu sistema de IA seja confiável, desenvolvendo seus próprios códigos de conduta voluntários ou aderindo aos códigos de conduta adotados por outras associações representativas. Isso se aplicará simultaneamente com as obrigações de transparência para certos sistemas de IA. A Comissão incentivará as associações industriais e outras organizações representativas a adotarem códigos de conduta voluntários.
O avanço da inteligência artificial (IA) na sociedade contemporânea é inegável, e sua influência se estende a quase todos os aspectos de nossas vidas. Por isso, a necessidade de uma regulação robusta é urgente.
O projeto de lei proposto recentemente no Brasil, bem como as diretrizes estabelecidas pela União Europeia, são passos significativos para garantir o uso ético e responsável da IA, e tais iniciativas destacam a importância do compliance com a IA ética, considerando aspectos como transparência, privacidade, não-discriminação e a responsabilidade de quem desenvolve e implementa esses sistemas.
É fundamental que tais regulamentações estabeleçam medidas de proteção robustas para os indivíduos e a sociedade como um todo, além de promover a responsabilidade das empresas que desenvolvem e usam a IA.
Apesar disso, a regulação da IA não é um desafio apenas para o Brasil e a União Europeia, mas para o mundo inteiro, sendo crucial que os países trabalhem em conjunto para estabelecer diretrizes globais, dada a natureza transnacional da tecnologia e da economia digital.
Isso permitiria não apenas uma harmonização das práticas de IA, mas também proporcionaria um nível equitativo de proteção dos direitos dos cidadãos em todo o mundo. Certo de que esta pode ser uma grande oportunidade de o Brasil assumir o protagonismo global em uma nova regulamentação, que traria mais segurança jurídica e, com isso, novos negócios para o País.
Entretanto, regulamentar a IA é uma tarefa complexa que exige um equilíbrio delicado. Por um lado, é essencial garantir a privacidade, a segurança e a justiça, por outro, as regulamentações não podem sufocar a inovação, que é vital para o crescimento econômico e o progresso global.
Desta forma, enquanto avançamos em direção a uma era cada vez mais orientada pela IA, é crucial garantir que tanto essa, quanto outras tecnologias emergentes sejam usadas de maneira benéfica, com regulamentações cuidadosas, orientações éticas e um compromisso com o bem-estar de todos os cidadãos, para moldarmos o futuro da IA de uma forma que reflita nossos valores mais profundos, sendo imperativo uma nova regulamentação ajustada e adequada às realidades dos países, como o Brasil. E como diria o "exterminador do futuro": "Hasta la vista, baby".
Os comentários são exclusivos para assinantes do Estadão.
