Você já ouviu falar em Racismo Algorítmico? No mínimo deve ter escutado ou lido alguém fazendo comentando sobre os programadores serem racistas e não os algoritmos (é a discussão mais comum). Se você não viu nada sobre isso, muito provavelmente você está contribuindo e nem está percebendo. Mas te explicar.
Os algarismos das redes sociais são números que levam e trazem informações. Eles trazem pra gente aquilo que percebem que queremos ver, como propagandas de produtos para decoração quando estamos vendo com frequência perfis que compartilham esse assunto. Se você viu o filme O Dilema das Redes (disponível na plataforma streaming Netflix) você sabe mais ou menos do que estou falando: Os algoritmos nos dão essa ilusão e em troca levam todas as informações que puderem sobre nós. E claro, as intenção disso tudo existir é o lucro. Mas como isso interfere no racismo?
Há uns meses, uma denúncia de racismo algorítmico viralizou no Twitter: Quando você coloca duas fotos ao mesmo tempo num Tweet pra rede, a ferramenta de socialização escolhe automaticamente qual foto ficará maior ou menor. Após alguns testes, os rostos das pessoas negras apareciam sempre no tamanho menor em detrimento das imagens das pessoas de pele branca. O teste foi feito de outra forma: As pessoas negras tiveram suas peles embranquecidas, e somente assim essas pessoas apareciam no tamanho maior. Ou seja, nós recebemos mais conteúdos e vimos mais imagens de pessoas brancas no Twitter. O mais curioso é que a denúncia começou por um programador, o Tony Arcieri, que deu o start e outras pessoas continuaram chegando a viralizar. Alguns programadores e líderes da rede social fizeram testes não-formais e dividiram os resultados sem saber direito como explicar o que estava acontecendo. Alguns assumiram o erro, outros como a Liz Kelley da comunicação do Twitter que relatou que a companhia "não encontrou evidências de preferências raciais ou de gênero em seus testes".
É importante a gente saber que cada Rede Social funciona e reage de uma forma independente. Claro, e cada uma delas trabalha com algum foco, algumas mais voltadas para texto, outras pra imagens, o caso do Instagram (que foi onde eu me atentei pro assunto) demonstra entregar as cartas do jogo logo "na entrada". Se uma pessoa, que nunca tinha Instagram antes, faz um cadastro na rede pela primeira vez e procura por "beleza" na busca, ela vai receber a maioria dos resultados para a palavra "Beleza" Pessoas de pele branca. Se essa pessoa dá preferência para pessoas pretas (foi o teste que eu fiz) aos poucos a consulta vai mudando e mostrando pessoas pretas na consulta. Mas não é tão fácil assim mudar o algoritmo. Se quero ver perfis de profissionais da fotografia (minha área) e colocar na busca por "Fotógrafo" ele ainda vai me mostrar a avassaladora maioria pessoas brancas. Percebi que não depende só de mim para que esse algoritmo tenha a diversidade que precisa ter.
Nesse mesmo tempo que comecei essas pesquisas, outros perfis no Instagram fizeram esses e outros tipos de denúncias. Influenciadoras negras colocaram a foto de mulheres brancas num mesmo post que colocaram suas fotos por último, e essas postagens foram as que tiveram mais alcance. E as reclamações para tudo isso foram as mesmas: "Os programadores são racistas". E não é bem assim. Podemos e devemos reclamar das empresas que ainda entopem de homens brancos todas as funções de liderança e precisamos ter corpos pretos em todo tipo de liderança. Mas não podemos cobrar sem fazer a nossa parte: Seguir, curtir, acompanhar, comentar e compartilhar (de fato), os algoritmos são reagentes das nossas buscas, portanto nós também somos responsáveis para mudar isso. O Racismo Algorítmico nada mais é do que um reflexo do racismo estrutural que vivemos.
Helosa Araujo
Afro indígena descendente, Cearense, graduada em Publicidade e Propaganda e pós-graduada em Moda e Comunicação. Trabalha com fotografia, leitura de imagens e análise de mídias digitais. Ativista, atua como coordenadora do movimento Waldorf Antirracista e co-fundadora do curso de Resgate de línguas originárias Nhee-Porã. no Rio Grande do Sul.