Patrícia Campos Guimarães de Souza — advogada, mestre em direito (UCB), presidente da Fundação de Assistência Judiciária FAJ/OAB -DF e criadora do canal Direito sem mimimi
Durante muitos anos, acreditou-se que a tecnologia representaria neutralidade, progresso e igualdade. A inteligência artificial (IA) foi apresentada ao mundo como uma ferramenta capaz de eliminar falhas humanas, automatizar decisões e tornar a sociedade mais eficiente. No entanto, à medida que os sistemas algorítmicos passaram a ocupar espaços centrais em nossas vidas, uma realidade preocupante começou a surgir: a tecnologia também reproduz desigualdades históricas.
O racismo algorítmico é uma das expressões mais sofisticadas e silenciosas da discriminação contemporânea. Diferentemente do racismo explícito, ele opera de forma invisível, escondido atrás de códigos, bancos de dados e decisões automatizadas aparentemente imparciais. Entretanto, os algoritmos não nascem neutros. Eles aprendem com informações produzidas por uma sociedade marcada por desigualdades raciais profundas. Como consequência, acabam reproduzindo preconceitos históricos já existentes.
Hoje, sistemas de inteligência artificial influenciam processos seletivos de emprego, reconhecimento facial, concessão de crédito, monitoramento policial, distribuição de conteúdo nas redes sociais e até decisões judiciais. O problema surge quando esses mecanismos passam a tratar corpos negros como suspeitos, invisíveis ou menos dignos de oportunidades.
Diversos estudos internacionais demonstraram que sistemas de reconhecimento facial apresentam índices de erro significativamente maiores quando identificam pessoas negras, especialmente mulheres negras. Em muitos casos, indivíduos foram abordados de forma injusta, constrangidos ou até presos em razão de falhas tecnológicas. Isso revela que a IA não cria o racismo, mas potencializa estruturas discriminatórias historicamente construídas.
No Brasil, esse debate se torna ainda mais sensível diante da nossa formação social. Somos um país construído sob mais de três séculos de escravidão e marcado pela ausência de políticas efetivas de reparação racial após a abolição. O racismo estrutural permanece presente nas relações sociais, econômicas e institucionais. Naturalmente, ele também se projeta no ambiente digital.
A grande ilusão da contemporaneidade talvez seja acreditar que a inovação tecnológica, por si só, seja capaz de produzir justiça social. Nenhuma tecnologia supera automaticamente as desigualdades de uma sociedade se ela for alimentada pelos mesmos padrões excludentes que sustentam essas violências há séculos.
Existe outro fator preocupante: a invisibilidade da população negra dentro dos espaços de produção tecnológica. As grandes empresas de tecnologia ainda possuem baixa representatividade racial em cargos de liderança, pesquisa e desenvolvimento. Isso significa que, muitas vezes, os sistemas são construídos sem diversidade, sem sensibilidade social e sem percepção crítica sobre os impactos raciais das ferramentas criadas.
O debate sobre inteligência artificial não pode permanecer restrito ao campo técnico. Trata-se de uma discussão jurídica, ética, social e humanitária. Quando um algoritmo discrimina, direitos fundamentais são violados. O princípio constitucional da igualdade, a dignidade da pessoa humana e o direito à não discriminação passam a ser diretamente afetados.
O enfrentamento do racismo algorítmico exige regulamentação, fiscalização e transparência das plataformas digitais, mas também demanda consciência coletiva. Precisamos compreender que tecnologia e sociedade caminham juntas. Se o racismo estrutura relações sociais, ele inevitavelmente encontrará formas de se adaptar aos novos ambientes digitais.
Discutir racismo algorítmico é discutir o futuro da democracia, dos direitos humanos e da própria ideia de justiça social. Afinal, o maior risco da discriminação tecnológica é justamente sua capacidade de parecer neutra enquanto perpetua exclusões históricas.
A inteligência artificial pode ser uma ferramenta extraordinária para o desenvolvimento humano. Mas, sem responsabilidade ética, diversidade e compromisso com a igualdade racial, ela corre o risco de se tornar apenas o novo rosto da velha discriminação.
Saiba Mais
Opinião
Opinião
Opinião
