Documentos obtidos por meio da Lei de Acesso à Informação mostram que a tecnologia utilizada para reconhecimento facial em aplicativos do governo federal como o “gov.br” pode levar a situações de exclusão e discriminação de cidadãos. Dados revelados pelo estudo inédito da Coding Rights revelam que a tecnologia empregada em serviços do INSS, por exemplo, valida somente 64,32% das biometrias realizadas.
A ferramenta “gov.br”, que permite a criação de uma conta para solicitar serviços digitais da União, como Meu INSS, CTPS Digital, Enem, eCAC, MEI, entre outras funções, muitas vezes “automatiza e massifica preconceitos e estigmas sociais”, dizem as pesquisadoras Mariah Rafaela Silva e Joana Varon, responsáveis pelo estudo.
A tecnologia, defendem as pesquisadoras, não é neutra, mas pensada para o reconhecimento de rostos, principalmente, de homens brancos. Assim, pessoas negras, travestis e trans podem ser preteridas pela ferramenta.
“Existe um sistema estrutural de exclusão dessas pessoas que faz com que elas percam a confiança na tecnologia porque elas pensam, a priori, que se toda a estrutura social é transfóbica e racista e as exclui, a tecnologia certamente vai continuar com os mesmos princípios”, diz Mariah.
Leia também
O Serviço Federal de Processamento de Dados (Serpro), empresa pública desenvolvedora dos softwares Biovalid e Datavalid, é o principal provedor dessas tecnologias para o governo federal. Elas funcionam cruzando imagens com a base do Denatran, o Registro Nacional de Carteira de Habilitação e são geridas pelo Serpro.
A respeito da margem de erro do reconhecimento facial utilizado na CNH, o Serpro diz que “a tecnologia utilizada considera altíssima probabilidade para imagens que possuem acima de 93% de similaridade.”
“O que acontece quando mudamos muito, por exemplo, transicionamos, e a similaridade fica abaixo
de 93%? Abre-se margem, portanto, a muitos falsos negativos, ou seja, situações em que a tecnologia não reconhece que você é você e te deixa trancada para fora do sistema”, questionam as pesquisadoras.
Segundo o Serpro, o órgão tem “tecnologia própria, que reconhece determinados ‘pontos’ da face das pessoas, calcula o distanciamento desses pontos, e utiliza inteligência artificial para que o sistema aprenda a distinguir as características específicas, que possibilitam distinguir gêmeos idênticos, por exemplo. Quando consultados por meio dos sistemas, entregamos um índice de similaridade e dizemos, por exemplo, que uma foto e informações como nome e CPF possuem ‘x’ por cento de chance de serem verídicos, sem que o consulente tenha acesso a qualquer dado da pessoa.”
“O estado da arte da tecnologia demonstra que ela ainda é falha e quando você vai para uma parcela da população que já é vulnerabilizada, a chance de os erros serem maiores aumenta”, comenta Joana.
Para mudar essa situação há dois caminhos, defende Mariah. O primeiro é ter uma base de dados cada vez mais ampla. “É preciso uma diversidade de rostos para que a gente treine os algoritmos para que eles não errem os gêneros das pessoas. Do mesmo jeito para que não opere numa perspectiva racista. O segundo ponto é retrabalhar os programadores. Termos uma formação que seja humana e que leve em conta princípios de diversidade e direitos humanos”.
Decreto 10.543
Em novembro de 2020, o presidente Jair Bolsonaro assinou o Decreto 10.543, que dispõe sobre o uso de assinaturas eletrônicas na administração pública federal. Órgãos da União têm até 2021 para se adequar ao atendimento digital de demandas dos cidadãos. Os serviços passam a ser validados por meio de reconhecimento facial e assinatura digital avançada.
Com a implantação desse sistema, aponta Joana Varon, é preciso que os órgãos federais deem mais transparência aos cidadãos, além de maior atenção à proteção de dados “para que haja o controle sobre que tipo de corpos estão sendo excluídos” do processo. “Os algoritmos podem acirrar o nível de vulnerabilidade porque eles também operam na perspectiva de uma falsa neutralidade da tecnologia”.
Outro ponto que levanta dúvidas quanto à digitalização dos sistemas é a questão da Lei Geral de Proteção de Dados (LGPD). “Há outros usos de reconhecimento facial, como em câmeras de segurança, mas o provedor desse serviço não é o Serpro. No de autenticação de documentos, o Serviço Federal desenvolveu a base da carteira de motoristas, que está sendo usada para verificar as carteiras de identidade e está provendo serviços por meio do Biovalid e Datavalid”, diz Joana.
O material, defende a pesquisadora, foi fornecido por cidadãos que deram seus dados para um fim específico, que era fazer a carteira de motorista e “virou um produto do Serpro. A gente consentiu que nossos dados fossem para a carteira de motorista e eles estão sendo usados para outros fins, tem uma lista de empresas que podem contratar o Serpro para essa validação”. De acordo com informações obtidas pela Lei de Acesso à Informação, a base de dados não é compartilhada, apenas usada internamente para validar informações que vão para fora.
Há ainda outra preocupação, aponta Joana, com a privatização do Serpro. “Se essa empresa pública, que é gestora de uma base de dados desse tamanho vai ser privatizada, a empresa que comprar vai ter acesso aos dados com biometria?”, questiona.
Por um lado, aponta, a tendência de usar a tecnologia de reconhecimento facial para identidade faz com que as bases de dados aumentem e será necessário compreender como vai se dar a compartilhamento de dados entre órgãos públicos e outras empresas. Por outro, é preciso evoluir a tecnologia e as ferramentas para que não deem falsos positivos e negativos, gerando exclusão de setores da população, que já são marginalizados.
De acordo com o Serpro, a forma que se dará a desestatização da empresa ainda está em estudo pelo BNDES e, posteriormente, será apresentada e aprovada pelo governo federal. “De acordo com a Lei e com a LGPD em especial, o Serpro é ‘operador’ dos dados dos seus clientes do governo, não é ‘controlador’, assim, por óbvio, a desestatização da empresa não resultará em qualquer impacto para os dados dos brasileiros, pois o Serpro não é proprietário das bases de dados públicas que opera”, diz.
> MP que simplifica uso da assinatura digital por órgãos públicos vai à sanção
