Reconhecimento facial erra gênero de pessoa trans

Pessoas trans querem mostrar que existem para empresas que usam reconhecimento facial como chave de acesso. A biometria do rosto teria precisão maior do que 95%, segundo fornecedoras da solução, mas para quem é transgênero a taxa de acerto cai para menos de 60%.

A falha ocorre porque o algoritmo de identificação se baseia em medidas da face, como distância entre os olhos ou entre o nariz e o lábio superior e pode confundir o gênero da pessoa identificada.

As chances de erro ficam ainda maiores durante o tratamento hormonal para transição de gênero, principalmente masculina, em que o rosto pode ganhar pelos e a linha do cabelo pode mudar.

O estudante Ariel Viktor Freitas, 23, por exemplo, teve problemas para acessar sua conta no Nubank, após um ano e meio de tratamento hormonal. "Estou tendo problemas porque minha cara mudou", escreveu no Twitter.

Ele tentou resolver o problema três vezes no chat disponível no aplicativo e não teve sucesso. Na terceira, recomendaram ligar para o banco. A central telefônica o instruiu a enviar um email.

Depois disso, o Nubank disponibilizou uma opção e permitiu que o jovem acessasse o aplicativo ao enviar uma foto com a identidade. Freitas diz que enfrenta o mesmo problema com o Banco Pan há meses e não teve solução.

Receba no seu email o que de mais importante acontece na economia; aberta para não assinantes.

À 💥️Folha o Nubank diz que, caso haja algum desafio de identificação de legitimidade, conta com procedimentos internos "em constante aprimoramento", que mesclam tecnologia e trabalho humano com equipes treinadas, para confirmar que a solicitação é legítima e evitar contratempos para o cliente.

O banco Pan afirma que o processo de cadastro de seus clientes envolve o envio de ao menos um documento com foto.

"Clientes em transição de gênero ou alteração de nome social podem solicitar a atualização desses dados inclusive para fins de biometria", diz o banco.

O projeto "Eu Existo" busca conscientizar empresas sobre o entrave que o reconhecimento facial impõe à população transgênero no Brasil, sobre a qual não há dados oficiais levantados pelo IBGE (Instituto Brasileiro de Geografia e Estatística).

Tecnologias de análise facial erram o gênero de uma pessoa trans em até 40% das vezes, mostra estudo da Universidade do Colorado, de 2023. Os testes foram feitos com 2.450 imagens coletadas no Instagram.

Os modelos, segundo o estudo, eram completamente incapazes de reconhecer gêneros não binários.

Revisão bibliográfica deste ano da professora Katja Thieme, da Universidade de British Columbia, no Canadá, mostra que pouco mudou desde então.

Um guia do New York Times em formato de newsletter para você entender como funciona a IA

Os modelos de inteligência artificial como os usados no reconhecimento facial são meras ferramentas estatísticas. Por isso, pesquisadores ouvidos pela 💥️Folha dizem que o primeiro passo para resolver o problema é convencer as empresas que adotam a tecnologia de que elas dão espaço para um comportamento discriminatório.

"Uma vez que o processo de retificação do comportamento da IA é caro e difícil, as empresas não vão passar por isso sem serem pressionadas", afirma o designer de redes neurais argentino Marcelo Rinesi, que trabalhou em testes da criadora do ChatGPT, OpenAI.

A ONG Casarão, em parceria com a agência Publicis e a comunidade Egalitrans, lançou um app para tentar solucionar o problema, que reproduz a transfobia presente na sociedade, na avaliação de Yonara Oliveira, líder do projeto "Eu Existo".

Trata-se de uma API —uma espécie de bloco de código que pode ser acrescentado a outros programas ou sistemas— especializada em reconhecer pessoas trans. As empresas interessadas podem integrá-la às suas próprias tecnologias de reconhecimento facial.

"A gente mostra o problema, o caminho e a solução para nos tirar da invisibilidade, por meio da tecnologia", diz Oliveira.

A campanha "Eu Existo" ainda colhe imagens de pessoas transgênero, por meio deste link, para treinar o modelo de inteligência artificial e melhorar a precisão do próprio recurso de reconhecimento facial.

As fotos coletadas são usadas para treinar o modelo de inteligência artificial e depois apagadas.

"O projeto atrasou alguns meses por essa preocupação de estar tudo em conformidade com a LGPD [Lei Geral de Proteção de Dados]", diz Jairo Anderson, diretor de Criação da agência Publicis.

"Precisamos chegar a mais de 90% de precisão para conseguirmos fechar parcerias com as empresas", diz Anderson. Essa faixa de certeza é um padrão mínimo para adoção no mercado —o ideal é ficar acima dos 95%.

O que você está lendo é [Reconhecimento facial erra gênero de pessoa trans].Se você quiser saber mais detalhes, leia outros artigos deste site.