A ferramenta de reconhecimento facial da Amazon identificou erroneamente 28 membros do Congresso dos Estados Unidos como pessoas procuradas pela polícia. O teste faz parte de uma campanha da American Civil Liberties Union (ACLU) que tenta convencer o Congresso americano de proibir o uso de tecnologia de reconhecimento facial, atualmente usada por agências de segurança em todo o país.
A ACLU defende que o software de identificação facial repete os preconceitos raciais dos desenvolvedores que criam a ferramenta. Para tentar provar a tese, a empresa mostrou que entre os 28 congressistas identificados erroneamente seis eram negros, apesar de eles serem minoria nas casas legislativas.
Jacob Snow, advogado de tecnologia da ACLU, disse ainda que os testes comprovam a ineficácia da ferramenta em condições adversas de iluminação, ângulo e idade do usuário quando a foto foi tirada. “É realmente difícil dizer se é um criminoso apenas com base na análise de fotos", disse Snow.
Preocupação. Os congressistas negros escreveram uma carta ao presidente da Amazon, Jeff Bezos, expressão as preocupações sobre como a tecnologia pode ser injusto com negros, imigrantes e manifestantes.
A reação dos moradores em locais em que a tecnologia está sendo testada pela polícia também não é muito favorável.
Em Orlando, onde o programa está passando por projeto piloto pela segunda vez, os moradores ficaram preocupados com a tecnologia impactar nos protestos pacíficos da cidade. O mau humor foi intensificado depois que os moradores descobriram que a polícia já testou a plataforma na região antes, mas sem comunicar a população disso.
Mercado. O reconhecimento facial de habitantes é amplamente usado na China para fins policiais. Desde então, companhias iniciantes - algumas avaliadas em bilhões de dólares - estão tentando dominar a tecnologia.
A Amazon diz que o seu Rekognition pode ser usado de várias formas desde a detecção online de conteúdo ofensivo até a identificação de celebridades.A empresa disse ainda que Rekognition ajuda a visão humana, mas não foi feita para tomar decisões finais.
"Continuamos empolgados com a forma como a análise de imagens e vídeos pode ser boa para o mundo", disse uma porta-voz da Amazon Web Services em um comunicado, citando sua ajuda para encontrar crianças desaparecidas e prevenir crimes.
