Racismo Algorítmico¶
O que é¶
Racismo algorítmico é a manifestação racial do viés algorítmico: o modo como sistemas de inteligência artificial reproduzem, naturalizam e amplificam discriminações raciais no seu funcionamento comum, e não apenas em falhas isoladas. O termo foi consolidado no Brasil por Tarcízio Silva, que o descreve menos como um defeito técnico pontual do que como um padrão que atravessa toda a cadeia dessas tecnologias: os dados com que os sistemas são treinados, as escolhas de quem os projeta e os contextos em que são aplicados. Nomear o fenômeno como racismo, e não apenas como viés, é uma escolha conceitual: desloca o problema do plano do erro estatístico para o das estruturas sociais que a tecnologia herda e ajuda a perpetuar.
Por que isso importa?¶
Para a pesquisa e a comunicação em ciências e saúde, o racismo algorítmico afeta tanto quem pesquisa quanto quem é pesquisado. Geradores de imagem tendem a representar "cientista", "médico" ou "autoridade" como homens brancos, e exigem comandos refinados para produzir diversidade racial. Sistemas de reconhecimento facial erram mais com pessoas negras. Ferramentas de descoberta bibliográfica podem privilegiar autores do Norte global e tornar menos visível a produção negra, latino-americana e periférica. Bancos de imagens reproduzem estereótipos sobre corpos negros. Reconhecer esse padrão é condição para usar essas ferramentas sem transportar, para dentro da pesquisa, desigualdades que ela deveria examinar de forma crítica.
Exemplo¶
Ao pedir a uma ferramenta de IA generativa a imagem de um cientista da Casa de Oswaldo Cruz em seu laboratório, é provável que o sistema devolva, por padrão, a figura de um homem branco, refletindo a sobre-representação desse perfil nos dados de treinamento. Obter uma representação diversa costuma exigir instruções explícitas e repetidas, e ainda assim os resultados podem recair sobre estereótipos. O mesmo padrão aparece em bancos de imagens e em sistemas de reconhecimento facial, onde o desempenho desigual entre grupos raciais já é amplamente documentado.
Não confunda com¶
Racismo algorítmico não é sinônimo de viés algorítmico em geral: viés algorítmico é a categoria ampla das distorções sistemáticas de um sistema de IA, que inclui desequilíbrios de idioma, sotaque ou gênero; racismo algorítmico é a sua manifestação racial, a mais estudada e uma das mais graves, com literatura e vocabulário próprios. Também não se reduz ao preconceito individual de quem programa: pode operar sem qualquer intenção pessoal, porque está inscrito nos dados, no projeto e no uso dos sistemas, e é por isso que não se corrige apenas "acrescentando diversidade" à base de treinamento.
Termos relacionados¶
Referências¶
- SILVA, Tarcízio. Racismo algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo: Edições Sesc, 2022. Versão aberta: racismo-algoritmico.pubpub.org
- Algoritmos racistas: a hiper-ritualização da solidão da mulher negra em bancos de imagens digitais. Galáxia (São Paulo). scielo.br/j/gal
- Visão computacional e racismo algorítmico: branquitude e opacidade no aprendizado de máquina. Revista da ABPN. abpnrevista.org.br