Por que as tecnologias de reconhecimento facial precisam ser banidas

Por Debora Pio*

Uso de reconhecimento facial na segurança pública reflete viés racista e classista, reforça desigualdade e viola direitos; entenda como pressionar e se proteger

Durante protestos em Hong Kong, manifestantes direcionavam lasers para sabotar câmeras de reconhecimento facial l Foto via Wikimedia Commons

Há três anos uma mulher negra estava trabalhando na avenida mais movimentada de Copacabana, no Rio de Janeiro, quando foi surpreendida com uma detenção. O motivo? Seu rosto havia sido identificado pelo recém-instalado sistema de reconhecimento facial na cidade. Sob a acusação de ser uma foragida da justiça, foi  levada para a delegacia e passou muitas horas tentando provar que a situação era um equívoco. A polícia só a liberou depois de constatar que a imagem na verdade era de uma pessoa que já estava presa desde 2015. Este é apenas um caso que veio à tona, entre tantos outros que não repercutem na mídia e redes sociais.  

Em seu primeiro ano de mandato, o então governador Wilson Witzel promoveu a instalação de mais de 100 câmeras de reconhecimento facial nos bairros de Copacabana e Maracanã, além do entorno do aeroporto Santos Dumont – os equipamentos custaram R$15 milhões aos cofres públicos. Na ocasião, esta iniciativa era o resultado de suas promessas de campanha: “combater a criminalidade” com tecnologia de ponta. Enquanto concorria ao pleito para o Governo do Estado, Witzel prometeu “atirar na cabecinha” de criminosos com drones que seriam adquiridos em Israel, referência na criação de aparatos de guerra. “O correto é matar o bandido que está de fuzil. A polícia vai fazer o correto: vai mirar na cabecinha e… fogo! Para não ter erro….”, afirmou ele em uma de suas primeiras entrevistas depois de eleito. 

O tema da segurança pública é uma questão inescapável para qualquer pessoa que se candidate a um cargo político no Rio de Janeiro – e Witzel aproveitou a crescente onda conservadora para prometer solucionar problemas históricos com algoritmos. Até agora não deu certo. 

Na cidade, as câmeras de reconhecimento facial foram instaladas por uma empresa de telefonia privada que já enfrentou problemas de vazamento de dados sensíveis de seus clientes. Para completar, todo o processo foi realizado com pouco planejamento e sem nenhuma transparência, tornando inviável qualquer monitoramento por parte da sociedade civil. Em 2020, por falta de investimentos em sua manutenção, os equipamentos foram desligados. Até hoje não é possível saber quais bases de dados foram utilizadas enquanto as câmeras estiveram em funcionamento, de que maneira era realizado o monitoramento ou com quem ficaram com as informações que foram coletadas. O Governo do Estado também nunca divulgou um relatório ou documento que comprove a eficácia dos aparelhos, quantos suspeitos foram identificados e presos, qual a margem de erro ou mesmo os índices de criminalidade nas localidades onde as câmeras foram instaladas.

Witzel surfou na onda conservadora e prometeu tecnologia para “combater o crime” e disse que compraria drones que iriam “mirar na cabecinha e… Fogo!” l Foto: Reprodução

Viés racista

Já há uma série de evidências que comprovam que câmeras de reconhecimento facial são ineficazes em sua proposta. Criadas nos anos 1960 para programar computadores a reconhecer rostos humanos, estas tecnologias foram sendo aprimoradas e ganhando outros usos ao longo dos anos e rapidamente caindo nas graças dos sistemas de vigilância mundo afora, tendo seus usos intensificados para controle de multidões, fronteiras e finalidades de segurança pública. Sessenta  anos depois, elas seguem errando mais do que acertando, aprofundando ainda mais as desigualdades contra minorias. 

Em seus estudos, a pesquisadora Joy Buolamwini, do MIT (Massaschussets Institute of Technology), provou que estes aparatos se mostravam muito mais eficazes em capturar e identificar rostos de pessoas brancas, principalmente homens. Porém, quando se tratava de identificar pessoas não-brancas, as câmeras apresentavam uma margem de 60% de erro – no caso de pessoas negras, alguns aparelhos sequer conseguiam fazer a captura destes rostos. Mesmo com todos estes problemas, sua aquisição tem crescido em larga escala, especialmente nos países pobres.  

A pandemia também contribuiu para a aceleração deste processo, uma vez que as urgências impostas pelo vírus da Covid-19 impulsionaram governos a tomar decisões às pressas – e neste contexto as tecnologias que capturam dados sensíveis como biometria, temperatura corporal, predição de comportamento etc. se espalharam quase que na mesma velocidade da doença. 

São Francisco representou a vanguarda do banimento do reconhecimento facial   nos Estados Unidos, sendo a primeira cidade a proibir o uso destas câmeras com finalidades de segurança pública. Após o assassinato de George Floyd e ascensão global do movimento Black Lives Matter, a discussão ganhou ainda mais fôlego, tanto que as gigantes IBM, Microsoft e Amazon se comprometeram a encerrar o desenvolvimento desta tecnologia, embora nunca tenham esclarecido se a decisão abarcaria o mundo inteiro ou só os EUA. 

Hoje, só nos Estados Unidos, as cidades de Nova York, Portland, Mineápolis, Cambridge, Oakland, Nova Orleans possuem leis que proíbem o reconhecimento facial. Na Europa, Alemanha, Bélgica e Eslováquia também lançaram iniciativas de banimento em seus territórios.    

Joy Buolamwini, do MIT mostrou que câmeras apresentavam uma margem de erro de 60% na identificação de pessoas não-brancas l Foto: Flickr/Creative Commons

Como se proteger

O reconhecimento facial é tão frágil que o simples uso de uma máscara é capaz de derrotá-lo. Durante os protestos contra as intervenções do governo chinês em Hong Kong, em 2019, ativistas utilizaram a estratégia de apontar raios-laser para as câmeras para dificultar a identificação facial. A atitude ficou conhecida como “ciberguerra” e, de fato, funcionou para dificultar a identificação dos manifestantes. 

A RightsCon lançou um manifesto mundial que pede o banimento em todas as esferas, apontando para as questões de violação à privacidade e direitos básicos de populações mais vulneráveis. O manifesto pode ser assinado por pessoas físicas e jurídicas e é uma intervenção que propõe discutir o tema globalmente. Para combater estas ferramentas em escala local, é possível solicitar através da LAI (Lei de Acesso à Informação) informações sobre o uso das câmeras na cidade ou bairro ou ainda sugerir a um parlamentar aliado que protocole um projeto de lei pelo banimento. Como estes processos são novos e ainda não se tornaram perenes, é justamente nestas brechas que se torna possível atuar pela sua não implementação. 

*Debora Pio é doutoranda em Comunicação e pesquisadora do MediaLab.UFRJ. Estuda as intersecções entre tecnologia e raça.