Documentos obtidos por meio da Lei de Acesso à Informação mostram que a tecnologia utilizada para reconhecimento facial em aplicativos do governo federal como o “gov.br” pode levar a situações de exclusão e discriminação de cidadãos. Dados revelados pelo estudo inédito da Coding Rights revelam que a tecnologia empregada em serviços do INSS, por exemplo, valida somente 64,32% das biometrias realizadas.
A ferramenta “gov.br”, que permite a criação de uma conta para solicitar serviços digitais da União, como Meu INSS, CTPS Digital, Enem, eCAC, MEI, entre outras funções, muitas vezes “automatiza e massifica preconceitos e estigmas sociais”, dizem as pesquisadoras Mariah Rafaela Silva e Joana Varon, responsáveis pelo estudo.
A tecnologia, defendem as pesquisadoras, não é neutra, mas pensada para o reconhecimento de rostos, principalmente, de homens brancos. Assim, pessoas negras, travestis e trans podem ser preteridas pela ferramenta.
“Existe um sistema estrutural de exclusão dessas pessoas que faz com que elas percam a confiança na tecnologia porque elas pensam, a priori, que se toda a estrutura social é transfóbica e racista e as exclui, a tecnologia certamente vai continuar com os mesmos princípios”, diz Mariah.
Leia também
O Serviço Federal de Processamento de Dados (Serpro), empresa pública desenvolvedora dos softwares Biovalid e Datavalid, é o principal provedor dessas tecnologias para o governo federal. Elas funcionam cruzando imagens com a base do Denatran, o Registro Nacional de Carteira de Habilitação e são geridas pelo Serpro.
A respeito da margem de erro do reconhecimento facial utilizado na CNH, o Serpro diz que “a tecnologia utilizada considera altíssima probabilidade para imagens que possuem acima de 93% de similaridade.”
Publicidade“O que acontece quando mudamos muito, por exemplo, transicionamos, e a similaridade fica abaixo
de 93%? Abre-se margem, portanto, a muitos falsos negativos, ou seja, situações em que a tecnologia não reconhece que você é você e te deixa trancada para fora do sistema”, questionam as pesquisadoras.
Segundo o Serpro, o órgão tem “tecnologia própria, que reconhece determinados ‘pontos’ da face das pessoas, calcula o distanciamento desses pontos, e utiliza inteligência artificial para que o sistema aprenda a distinguir as características específicas, que possibilitam distinguir gêmeos idênticos, por exemplo. Quando consultados por meio dos sistemas, entregamos um índice de similaridade e dizemos, por exemplo, que uma foto e informações como nome e CPF possuem ‘x’ por cento de chance de serem verídicos, sem que o consulente tenha acesso a qualquer dado da pessoa.”
“O estado da arte da tecnologia demonstra que ela ainda é falha e quando você vai para uma parcela da população que já é vulnerabilizada, a chance de os erros serem maiores aumenta”, comenta Joana.
Para mudar essa situação há dois caminhos, defende Mariah. O primeiro é ter uma base de dados cada vez mais ampla. “É preciso uma diversidade de rostos para que a gente treine os algoritmos para que eles não errem os gêneros das pessoas. Do mesmo jeito para que não opere numa perspectiva racista. O segundo ponto é retrabalhar os programadores. Termos uma formação que seja humana e que leve em conta princípios de diversidade e direitos humanos”.
Decreto 10.543
Em novembro de 2020, o presidente Jair Bolsonaro assinou o Decreto 10.543, que dispõe sobre o uso de assinaturas eletrônicas na administração pública federal. Órgãos da União têm até 2021 para se adequar ao atendimento digital de demandas dos cidadãos. Os serviços passam a ser validados por meio de reconhecimento facial e assinatura digital avançada.
Com a implantação desse sistema, aponta Joana Varon, é preciso que os órgãos federais deem mais transparência aos cidadãos, além de maior atenção à proteção de dados “para que haja o controle sobre que tipo de corpos estão sendo excluídos” do processo. “Os algoritmos podem acirrar o nível de vulnerabilidade porque eles também operam na perspectiva de uma falsa neutralidade da tecnologia”.
Outro ponto que levanta dúvidas quanto à digitalização dos sistemas é a questão da Lei Geral de Proteção de Dados (LGPD). “Há outros usos de reconhecimento facial, como em câmeras de segurança, mas o provedor desse serviço não é o Serpro. No de autenticação de documentos, o Serviço Federal desenvolveu a base da carteira de motoristas, que está sendo usada para verificar as carteiras de identidade e está provendo serviços por meio do Biovalid e Datavalid”, diz Joana.
O material, defende a pesquisadora, foi fornecido por cidadãos que deram seus dados para um fim específico, que era fazer a carteira de motorista e “virou um produto do Serpro. A gente consentiu que nossos dados fossem para a carteira de motorista e eles estão sendo usados para outros fins, tem uma lista de empresas que podem contratar o Serpro para essa validação”. De acordo com informações obtidas pela Lei de Acesso à Informação, a base de dados não é compartilhada, apenas usada internamente para validar informações que vão para fora.
Há ainda outra preocupação, aponta Joana, com a privatização do Serpro. “Se essa empresa pública, que é gestora de uma base de dados desse tamanho vai ser privatizada, a empresa que comprar vai ter acesso aos dados com biometria?”, questiona.
Por um lado, aponta, a tendência de usar a tecnologia de reconhecimento facial para identidade faz com que as bases de dados aumentem e será necessário compreender como vai se dar a compartilhamento de dados entre órgãos públicos e outras empresas. Por outro, é preciso evoluir a tecnologia e as ferramentas para que não deem falsos positivos e negativos, gerando exclusão de setores da população, que já são marginalizados.
De acordo com o Serpro, a forma que se dará a desestatização da empresa ainda está em estudo pelo BNDES e, posteriormente, será apresentada e aprovada pelo governo federal. “De acordo com a Lei e com a LGPD em especial, o Serpro é ‘operador’ dos dados dos seus clientes do governo, não é ‘controlador’, assim, por óbvio, a desestatização da empresa não resultará em qualquer impacto para os dados dos brasileiros, pois o Serpro não é proprietário das bases de dados públicas que opera”, diz.
> MP que simplifica uso da assinatura digital por órgãos públicos vai à sanção
E esse estudo é bem melodramático, parece mais um roteiro de filme B de Hollywood para tentar concorrer ao OSCAR!
kkkkkkkkkkkkkkkkkkk
O problema do reconhecimento facial por Aplicativos de celular é a PÉSSIMA QUALIDADE DA CÂMERA DE SELFIE.
Celulares de baixa custo SEMPRE possuem câmera DE BAIXA QUALIDADE, que não funcionam corretamente sob iluminação fraca, necessitam de luz forte ou solar direta!
Em casas com iluminação inadequada, geralmente casas simples fora dos padrões de construção, há a maior chance de erro!
Maquiagem, brincos, corte de cabelo ou barba também podem influenciar o resultado da identificação!