A teletela recebia e transmitia simultaneamente. Todo som produzido por Winston que ultrapassasse o nível de um sussurro muito discreto seria captado por ela; mais: enquanto Winston permanecesse no campo de visão enquadrado pela placa de metal, além de ouvido também poderia ser visto. Claro, não havia como saber se você estava sendo observado num momento específico.
ORWELL, George. 1984. São Paulo: Companhia das Letras, 1. Ed. 2009.
Considerado um homem à frente de seu tempo, o escritor britânico George Orwell anteviu na sua obra "1984" os possíveis usos das ferramentas tecnológicas pelo Estado como forma de controle e vigilância da população. As "teletelas" eram os olhos e ouvidos do "Grande Irmão", acompanhando os movimentos dos indivíduos em tempo real seja aonde for que eles estivessem, sob pretexto de mantê-los em segurança.
É irônico; a vida imita a arte.
Em 2018, a Rússia[1] anunciou a implementação do sistema de vigilância "Cidade Segura" que, durante a Copa do Mundo no país, identificou 180 criminosos, detidos em razão do monitoramento.
Na China[2], a tecnologia do reconhecimento facial foi utilizada pelo governo como importante ferramenta na fiscalização da política de lockdown durante a pandemia do COVID-19.
Outro país que se destaca na utilização do reconhecimento facial como ferramenta de vigilância em massa é a Índia[3]. Até o início de 2022, o estado de Telangana contabilizava mais de 600.000 câmeras de segurança instaladas em espaços públicos.
No Brasil, acompanhamos a discussão acerca da instalação de câmeras de reconhecimento facial no metrô de São Paulo. Segundo o governo, o sistema visa garantir a segurança dos usuários e auxiliar na localização de desaparecidos. Entidades, porém, têm acionado a Justiça para impedir o uso deste sistema por suposto viés discriminatório, bem como por violação da Lei Geral de Proteção de Dados Pessoais (LGPD). Estudos apontam que tais tecnologias apresentam maiores chances de apresentarem o que se chama resultados "falsos positivos" para pessoas não-brancas (levando a erros de identificação por autoridades).
Neste artigo, vamos nos debruçar sobre o uso da tecnologia de reconhecimento facial em locais públicos, analisando casos de alguns países.
Introdução
A história do reconhecimento facial remonta aos EUA de 1967, quando o matemático e cientista da computação Woodrow W. Bledsoe[4] desenvolveu um sistema que classificava rostos em fotos de acordo com a métrica da imagem.
Em linhas gerais, podemos definir tecnologia de reconhecimento facial como método biométrico de tratamento automático de imagens digitais que contêm os rostos de indivíduos para identificação (comparação de uma imagem facial com um banco de dados com várias outras imagens para confirmar a identidade do indivíduo), autenticação/verificação (comparação de duas imagens faciais para confirmar se pertencem a um mesmo indivíduo) e para categorização (classificação/agrupamento de indivíduos com base em suas características pessoais como idade ou etnia, por exemplo).
A regulação do uso da tecnologia de reconhecimento facial ainda é bastante incipiente. Os obstáculos são vários, dos quais destacamos: (i) o desconhecimento em relação ao seu conceito e formas de utilização; (ii) falta de conscientização do próprio titular dos dados sobre a possibilidade de exercer seu direito à liberdade e privacidade; (iii) concordância do titular com o uso dos dados pessoais; e (iv) interesse estatal de realizar o controle político e social sobre a população por meio da implementação de sistemas de segurança pública que façam uso desta ferramenta.
Não obstante, vejamos a seguir com a questão é tratada na Europa, na China e nos EUA.
Europa
O primeiro instrumento jurídico vinculativo tratando sobre a proteção de dados pessoais é a Convenção 108[5] ("Convenção para a Proteção de Indivíduos em Relação ao Processamento Automático de Dados Pessoais") aplicável aos Estados-membros do Conselho Europeu. Em seu artigo 6º, o documento prevê que "(...) os dados pessoais que revelem a origem racial, as opiniões políticas ou religiosas ou outras crenças, bem como os dados pessoais relativos à saúde ou à vida sexual, não podem ser tratados automaticamente, a menos que a legislação nacional forneça salvaguardas adequadas".
Em que pese o exposto acima, o art. 9º da mesma Convenção estabelece que tal previsão pode ser excepcionalmente afastada se constituir uma medida necessária para: (a) proteger a segurança do Estado, a segurança pública, os interesses monetários do Estado ou a repressão de infrações penais; ou (b) proteger o titular dos dados ou os direitos e liberdades de terceiros.
Em outubro de 2021, o Parlamento Europeu[6] editou uma decisão não vinculativa apelando para a proibição do uso policial de tecnologia de reconhecimento facial em locais públicos e no policiamento preditivo, assim como da manutenção de um banco de dados privados com esta finalidade.
Em 12 de maio de 2022, o Conselho Europeu de Proteção de Dados editou as Diretrizes 05/2022 sobre o uso da tecnologia de reconhecimento facial.
Para o Conselho, o tratamento de dados biométricos em espaços públicos para efeitos de identificação não consegue garantir um justo equilíbrio entre os interesses privados e públicos concorrentes.
A expectativa é que esse entendimento seja consagrado no texto de uma futura Lei de Inteligência Artificial. As negociações em andamento indicam forte tendência de proibição geral do uso de reconhecimento facial. Exceções são previstas por ocorrência de incidentes graves, como terrorismo, por exemplo.
China
O país tem se destacado no cenário internacional no enfrentamento de temas relacionados à privacidade e segurança, em razão de recentes incidentes de vazamentos de dados.
Em meio à pandemia do COVID-19, a China promulgou a Lei de Proteção de Informações Pessoais (PIPL) e a Lei de Segurança de Dados (DSL). A primeira versa sobre proteção da segurança nacional e interesse público, ao passo que a segunda trata da proteção de informações pessoais e do tratamento das referidas informações por entidades públicas/privadas, ou indivíduos na China. Embora a questão do uso da tecnologia de reconhecimento facial possa encontrar respaldo legal de forma genérica, não há uma legislação específica que regule o tema.
Aos poucos, os chineses têm tomado consciência da violação de seus direitos e buscado tutela jurisdicional. O Tribunal Popular Supremo da China emitiu, em 2021, uma interpretação das diretrizes para o uso da tecnologia de reconhecimento facial e proteção da identidade e privacidade das pessoas em disputas civis.
Em linhas gerais, conforme explica Zhang, tal interpretação judicial "foi formulada com base nas leis chinesas existentes, bem como com base nas práticas judiciais dos tribunais"[7]. Na prática, a medida determina que:
- O uso de tecnologia de reconhecimento facial para verificar, identificar ou analisar rostos em qualquer local comercial ou público é uma violação dos direitos pessoais dos indivíduos;
- Imobiliárias não podem usar o reconhecimento facial como o único meio de verificação para que os proprietários ou usuários do imóvel entrem ou saiam do imóvel;
- O consentimento para o processamento de informações faciais não é considerado válido se: (a) condicionar o fornecimento de produtos ou serviços ao consentimento quando a informação facial não for necessária para fornecer os produtos ou serviços; (b) for usado um consentimento geral que é agrupado com outras autorizações de usuário; (c) for realizada outra forma de forçar, ou forçar de maneira disfarçada, a coleta do consentimento do usuário;
- São isentos de responsabilidade civil os processadores de informações faciais em resposta a uma emergência de saúde pública, e em locais públicos com a finalidade de manter a segurança pública (sistema de vigilância do governo).
Observamos que os tribunais têm limitado o uso da tecnologia de reconhecimento facial como forma de proteger as informações pessoais colhidas por método biométrico por entidades privadas; no entanto, o Estado encontra respaldo para acessar os dados pessoais do usuário, baseando-se nos interesses de saúde pública e segurança nacional.
Estados Unidos
Privacidade e segurança pública são temas muito caros aos americanos. Inicialmente, em 2019 e 2020, verificou-se a tendência de banir o uso da tecnologia em diversos estados americanos; no entanto, após 2021, alguns estados têm flexibilizado as normas para permitir a utilização desta ferramenta em certas situações para proteger a população.
Hoje não há uma lei federal que regule a matéria; porém, em 28 de setembro de 2022, foi apresentado um projeto de lei[8] ao Congresso, que reflete os apelos dos defensores do direito à privacidade e direito digital.
De modo geral, o projeto prevê as seguintes diretrizes:
- Necessidade de autorização obtida por um mandado emitido por um juiz, que demonstre que se trata de causa provável de um indivíduo que cometeu um crime violento grave;
- Proibição de uso de reconhecimento facial para: (a) criar um registro documentando ocorrência de um indivíduo que se manifesta por direitos garantidos pela Constituição; (b) fazer cumprir as leis de imigração; (c) rastrear indivíduos com imagens de vídeo ao vivo ou armazenadas;
- Vedação à utilização do reconhecimento facial de forma não direcionada, para evitar o abuso do poder de vigilância e a violação do direito à privacidade;
- Proibição de utilizar o reconhecimento facial como única base para realizar busca e prisão;
- Exigência de notificar ao réu sobre como foi aplicada a tecnologia de reconhecimento facial no seu caso, de forma detalhada;
- Exigência de que o Instituto Nacional de Padrões e Tecnologia (NIST) teste todas e quaisquer propostas de uso de reconhecimento facial de aplicação da lei antes de sua implantação.
É importante destacar que a ideia do projeto é criar proteções básicas para todos os americanos, enquanto ainda permite que as jurisdições estaduais e locais avancem com proibições e moratórias que entenderem cabíveis.
Conclusões
Reduzida muitas vezes à simplificada expressão da dicotomia "salvação"/"destruição", o progresso tecnológico deve ser entendido e utilizado de maneira ética, como um instrumento em prol da garantia da dignidade humana, a despeito de interesses estatais e/ou de grupos políticos dominantes. E, para tanto, é imprescindível que seja devidamente regulamentado o uso da tecnologia, especialmente no tocante à tutela do direito à privacidade.
Em exame à legislação ou tendências de regulação do tema na Europa, China e Estados Unidos, constatamos o grande desafio de alcançar o equilíbrio entre a garantia de direitos individuais e privacidade, e o interesse coletivo e segurança pública, mesmo em contextos tão diversos, ainda levando em consideração eventuais falhas e imprecisões do software de reconhecimento facial adotado, que já levaram muitas pessoas a perseguições e prisões injustas (e, em certos casos, discriminatórias).
O debate acerca dos limites entre o direito à privacidade individual versus segurança pública e o bem-estar coletivo está longe de um consenso; porém, é fundamental desde já cuidar para que, ao longo desse caminho, não percamos de vista o respeito à dignidade humana, ao direito de autodeterminação e ao espírito democrático.
[1] ROUSSI, Antoaneta. Resisting the rise of facial recognition. Nature, 2020. Disponível em: https://www.nature.com/articles/d41586-020-03188-2>. Acesso em: 15/12/2022.
[2] YUAN, Shawn. How China Is Using AI, Big Data To Fight COVID. The ANSEAN Post, dec. 2022. Disponível em: https://theaseanpost.com/technology/2022/mar/31/how-china-using-ai-big-data-fight-covid>. Acesso em: 15/12/2022;
[3] Facial recognition taken to court in India's surveillance hotspot. Al Jazeera, 2022. Disponível em: https://www.aljazeera.com/news/2022/1/20/india-surveillance-hotspot-telangana-facial-recognition-court-lawsuit-privacy>. Acesso em: 15/12/2022.
[4] RAVIV, Shaun. The Secret History of Facial Recognition. Wired, 2021. Disponível em: https://www.wired.com/story/secret-history-facial-recognition/>. Acesso em: 16/12/2022.
[5] Convenção para a Proteção de Indivíduos em Relação ao Processamento Automático de Dados Pessoais. Council of Europe, 1981. Disponível em: https://edps.europa.eu/data-protection/our-work/publications/legislation/council-europe-convention-no-108-data-protection_en>. Acesso em: 16/12/2022.
[6] OJAMO, Janne. Use of artificial intelligence by the police: MEPs oppose mass surveillance. European Parliament Press Release, 2022. Disponível em:
[7] Zhang, Laney. China: Supreme People's Court Issues Judicial Interpretation Against Misuse of Facial Recognition Technology. Disponível em: https://www.loc.gov/item/global-legal-monitor/2021-08-15/china-supreme-peoples-court-issues-judicial-interpretation-against-misuse-of-facial-recognition-technology/>. Acesso em: 19/12/2022.
[8]Facial Recognition Act of 2022. Disponível em: https://www.congress.gov/bill/117th-congress/house-bill/9061?s=1&r=23 >. Acesso em: 19/12/2022.
*Yuri Kuroda Nabeshima é mestre, especialista e graduada em Direito pela Universidade de São Paulo (FDUSP); head da área de inovação e trabalhista no VBD Advogados
*Juliana Soares Brandão de Athayde Regueira cursa MBA em Direito do Agronegócio, Sustentabilidade e Comércio Exterior na Escola Paulista de Direito (EPD) e é graduada em direito pela Pontifícia Universidade Católica do Rio de Janeiro (PUC-Rio); head da área de contratos e de agronegócio no VBD Advogados
Os comentários são exclusivos para assinantes do Estadão.
