Racismo algorítmico: Tecnologias de reconhecimento facial se tornam um pesadelo para pessoas negras

Sistemas de reconhecimento facial possuem algoritmos que podem reproduzir racismo e discriminação (Imagem: Unsplash/Markus Spiske)

Às vésperas do Natal, Benjamin utilizava o aplicativo de um 💥️banco quando recebeu a solicitação para cadastrar sua biometria facial. Com o rosto sem adereços ou óculos, e com uma boa iluminação, o sistema de reconhecimento facial do aplicativo não conseguia o identificar.

Após algumas tentativas, de vários ângulos e com diferentes iluminações, o usuário resolveu testar o sistema com uma foto aleatória da internet. Quase que instantaneamente, sua câmera o reconheceu. Benjamin é negro. O homem da foto, branco.

O relato que foi feito através do TikTok por um usuário ganhou repercussão nas redes sociais após retomar as discussões sobre como algoritmos de reconhecimento facial e outras 💥️tecnologias podem ser racistas e excludentes com homens e mulheres negros.

@sociedadepretadospoetas

Nao consegui passar da foto. Muita melanina pra um banco só 😂. #c6bank #thor😂 #preto #preta #acoisatapreta

♬ som original & Benjamin

O 💥️C6 Bank – instituição financeira na qual Benjamin não conseguiu concluir a etapa de segurança – divulgou em nota oficial que “o índice de falhas em biometria facial no processo de abertura de contas é de 0,1%, sem nenhuma diferença estatística por cor, idade ou gênero”. A empresa também destacou que “trabalha continuamente para aumentar a acuracidade da ferramenta de reconhecimento facial”.

Ao ser questionada se seus sistemas também foram testados com usuários negros, a instituição não se pronunciou.

Tecnologias de 💥️inteligência artificial como a utilizada por bancos em verificações de segurança também são encontradas em aplicativos de fotos, 💥️mídias sociais e até mesmo sistemas de 💥️segurança pública. Os algoritmos utilizados nessas ferramentas, por sua vez, comprovam-se bem falhos.

Segundo 💥️pesquisa realizada pela Rede de Observatórios da Segurança, em 2023, cerca de 90,5% dos presos por monitoramento facial no Brasil foram negros. Em muitos casos, as prisões arbitrárias alcançam os alvos errados, causando constrangimento aos acusados.

E não acaba por aí.

Fotos publicadas por pessoas negras na plataforma Flickr 💥️receberam a tag “macacos” pelo algoritmo do site; já o Twitter reconheceu que sua programação faz com que 💥️conteúdos de pessoas brancas viralizem com mais frequência; o aplicativo da Uber, por sua vez, 💥️bloqueou a conta de um motorista negro após não conseguir reconhecê-lo através de seu sistema.

Benjamin foi contatado pelo 💥️Money Times para comentar sobre o assunto, mas não respondeu aos pedidos da reportagem. De qualquer forma, pelo visto, seu episódio não se parece com um caso isolado, mas com um problema longe de ser solucionado.

O que você está lendo é [Racismo algorítmico: Tecnologias de reconhecimento facial se tornam um pesadelo para pessoas negras].Se você quiser saber mais detalhes, leia outros artigos deste site.