Por Gisele Karassawa* e Rony Vainzof**— A inteligência artificial já faz parte do nosso cotidiano — das plataformas de emprego aos aplicativos de streamingque recomendam conteúdos. Mas ela não é neutra. Em muitos casos, pode acabar reproduzindo desigualdades existentes na sociedade.
Alguns modelos de IA associam mulheres a palavras como "casa", "família" e "filhos", enquanto relacionam homens a "negócios", "executivo" e "carreira". Algoritmos de recrutamento podem favorecer candidatos homens, plataformas digitais podem direcionar oportunidades melhor remuneradas principalmente a eles.
Isso acontece porque a IA aprende com dados históricos. Se esses dados carregam desigualdades, a tecnologia pode acabar repetindo e ampliando esses padrões.
Estudos ajudam a dimensionar o problema. De acordo com um estudo da Unesco revela que de 133 sistemas de IA avaliados, 44,2% apresentam algum tipo de viés de gênero. Já pesquisadores de Stanford observaram que grandes modelos de linguagem tendem a associar homens a posições de liderança. Outro estudo do Programa das Nações Unidas para o Desenvolvimento mostrou que sistemas de tradução automática, ao converter frases de idiomas neutros em gênero, frequentemente atribuem "ele" a profissões como médico e "ela" a enfermeira.
Outro ponto importante é quem está criando essas tecnologias. De acordo com McKinsey, na Europa, apenas cerca de 19% das pessoas que trabalham em funções essenciais de tecnologia são mulheres. Quando as equipes são pouco diversas, aumenta o risco de certos vieses passarem despercebidos.
Nesse contexto, é essencial prevenir discriminações algorítmicas por meio de mecanismos de governança. Diversos frameworks internacionais apontam medidas para enfrentar esse desafio: usar bases de dados mais equilibradas, testar sistemas para identificar possíveis vieses antes de colocá-los em uso e incluir mais diversidade nas equipes que desenvolvem essas soluções.
Na semana do Dia Internacional da Mulher, vale ampliar a conversa sobre igualdade também para o universo digital. À medida que a IA passa a influenciar decisões sobre trabalho, oportunidades e acesso a serviços, é fundamental garantir que ela não reproduza antigas desigualdades em escala ainda maior.
Incorporar princípios de igualdade e não discriminação desde o design das tecnologias deixa de ser apenas uma escolha ética e passa a representar responsabilidade das organizações que desenvolvem e utilizam IA, para que a transformação digital seja também um vetor real de inclusão, diversidade e igualdade de oportunidades.
Sócia-fundadora e CEO do VLK Advogados, com duas décadas de experiência unindo direito, publicidade e inovação*
Sócio-fundador do VLK Advogados, advogado, professor e árbitro com experiência em direito digital, proteção de dados e cibersegurança**
Direito e Justiça
Direito e Justiça
Direito e Justiça
Direito e Justiça
