A onda da semana nas redes é o desafio dos dez anos: publicar, simultaneamente, uma foto da pessoa hoje e em 2009. Houve o tempo em que nos seria permitido brincar com todos os memes e testes das redes sociais ingenuamente. Mas não depois de a Cambridge Analytica usar testes inocentes para mapear o perfil psicológico de eleitores e usar estes resultados para manipular eleições. Desde então, para cada jogo da internet é sempre obrigatório que nos perguntemos: a quem beneficiaria?
Reconhecimento facial funciona a partir de uma forma de inteligência artificial chamada aprendizado de máquina. Jogue muitos dados relacionados para um algoritmo e o software aprende. Se alguém quisesse, por exemplo, desenvolver um programa para, em recebendo retratos de uma pessoa jovem, reconhecê-la mais velha, precisaria justamente de uma grande coleção de fotos de pessoas jovens e, digamos, dez anos depois. Consultora da indústria digital, é esta a bola que Kate O’Neill levantou, terça-feira, na Wired.
O’Neill não afirma que alguém esteja fazendo esta coleção com o objetivo de sofisticar um algoritmo de envelhecimento e reconhecimento facial. Aliás, não há qualquer indício de que alguma companhia do Vale esteja trabalhando nisso. É uma questão de princípios: na internet dos dias de hoje, é bom sempre desconfiar. E calhou que foi justamente na mesma terça-feira que 90 entidades civis escreveram, nos EUA, uma carta aberta a Amazon, Google e Microsoft pedindo que não vendam ao governo tecnologias de reconhecimento facial.
Quantas câmeras existem em nossas cidades? Câmeras de acompanhamento de trânsito, câmeras de segurança em lojas e prédios residenciais, câmeras registrando em vídeo ao vivo o caminhar de milhões de pessoas diariamente. Reconhecimento facial está ficando rápido e de uma precisão incrível. Já é usada ao vivo em situações pontuais — concertos, grandes eventos esportivos. Falta muito pouco para que possa ser utilizada consistentemente, em tempo real, a toda hora.
E aí é preciso um momento de pausa.
Desaparece uma criança, joga-se o retrato no sistema da polícia e de presto todas as câmeras da cidade irão procurá-la. Alguém é suspeito de um furto, a polícia pede um mandado ao juiz e vai ao sistema buscar onde que a pessoa estava a tal hora de tal dia. Não importa o motivo: o Estado teria o poder de acompanhar cada cidadão, qualquer cidadão, a toda hora. Bastaria a assinatura de um juiz de primeira instância ou a decisão espontânea de um burocrata de terceiro escalão com acesso ao sistema.
Tem nome: é um Estado de vigilância.
O maior problema é a Amazon, capaz de reconhecimento facial tanto quanto as outras duas, mas que negocia abertamente com o governo americano. E se parece coisa de ficção científica ou distante no estrangeiro, em julho o SPC lançou um serviço que permite aos lojistas tirarem um retrato de quem pede crédito para compará-lo a um banco de dados que confirma a identidade do sujeito. O banco de dados nasceu com os rostos registrados de 30 milhões de brasileiros.
Organizar um Estado não é coisa simples. Há este eterno conflito entre os direitos do indivíduo e os da comunidade. O problema do Estado é que, ao lhe conceder imenso poder sobre o todo, é preciso também impor-lhe freios. Tecnologias de vigilância que vêm fácil demais, e que podem ser exploradas sem regras claras, serão abusadas. Porque o abuso é da natureza de quem tem poder. Bicho complicado este, a democracia.
As tecnologias avançam num ritmo muito mais rápido do que nossas discussões sobre ela. E aqui no Brasil, então, com um governo que gosta dum controle, imagina se ouvem falar.
Os comentários são exclusivos para assinantes do Estadão.
