TECNOLOGIA
Racismo algorítmico: IA pode reproduzir preconceitos raciais e ampliar desigualdades; entenda
Em 2024, a Justiça Federal aprovou três enunciados para orientar o combate a práticas discriminatórias em sistemas automatizados.
Publicado em 20/11/2026 às 11:54

O uso da inteligência artificial (IA) acende um alerta entre especialistas para o risco de reprodução de preconceitos raciais. O problema, conhecido como racismo algorítmico, também entrou na pauta de instituições brasileiras.
Em 2024, a 1ª Jornada da Justiça Federal pela Equidade Racial aprovou três enunciados sobre o tema. Embora não criem novas leis, as orientações podem contribuir para a atuação de instituições e profissionais do Direito. Os textos abordam três situações:
- Enunciado 36: trata do uso de algoritmos em processos seletivos e recomenda o uso de bancos de dados que representem diferentes grupos da população, critérios transparentes e testes para identificar possíveis discriminações por raça, cor da pele ou aparência física.
- Enunciado 37: aborda a possível violação dos direitos à igualdade e à dignidade humana em casos de discriminação algorítmica.
- Enunciado 42: discute a discriminação de pessoas negras em análises de crédito e na oferta de serviços financeiros.
Na Paraíba, o tema tem impacto sobre uma parcela expressiva da população. Segundo o Censo 2022 do Instituto Brasileiro de Geografia e Estatística (IBGE), pessoas pretas e pardas representam cerca de 63,5% dos habitantes do estado, o equivalente a mais de 2,5 milhões de pessoas.
Além disso, no ano de 2024, o estado registrou 263 ocorrências de racismo e injúria racial, segundo o Anuário Brasileiro de Segurança Pública 2025.
LEIA TAMBÉM:
Como o racismo algorítmico acontece
O racismo algorítmico pode se manifestar de diferentes formas. Segundo Demetrius Amaral, professor de Ciências da Computação da Faculdade Internacional da Paraíba (FPB), isso ocorre porque as ferramentas de inteligência artificial formulam respostas com base em grandes volumes de dados e referências.
“Diante desse cenário, podem reproduzir padrões discriminatórios quando as informações utilizadas não representam adequadamente a diversidade da população ou quando os critérios adotados durante o desenvolvimento da tecnologia carregam distorções”, explica.
Na prática, o problema pode aparecer em diferentes situações:
- Um sistema de recrutamento, por exemplo, pode usar critérios que desfavorecem determinados grupos raciais;
- Já uma ferramenta de reconhecimento facial pode apresentar resultados menos precisos para pessoas negras;
- O mesmo pode ocorrer em análises automáticas de crédito baseadas em desigualdades históricas.
O problema nem sempre é resultado de uma programação intencionalmente preconceituosa. Ele também pode estar relacionado à qualidade dos dados usados pelas ferramentas e às escolhas feitas durante seu desenvolvimento. Sem avaliações adequadas, os sistemas podem apresentar resultados desiguais e prejudicar determinados grupos.
“Não basta avaliar se uma inteligência artificial funciona bem do ponto de vista técnico. É preciso verificar para quem ela funciona, se trata diferentes grupos de forma justa e quais impactos suas decisões podem gerar na sociedade”, acrescentou o professor.
Como reduzir riscos
Para Demetrius, é possível reduzir os riscos de discriminação com cuidados durante o desenvolvimento e a aplicação de sistemas automatizados. Entre as medidas recomendadas pelo professor estão o uso de bancos de dados representativos, a avaliação periódica dos resultados e o acompanhamento das etapas que podem gerar desigualdades.
O professor também defende que equipes diversas participem do desenvolvimento dessas ferramentas.
“A tecnologia pode contribuir para ampliar o acesso a serviços e oportunidades, mas, para isso, precisa ser desenvolvida e utilizada com responsabilidade”, finalizou.

Comentários