Como a IA perpetua preconceitos e impacta o futuro do trabalho

O viés em sistemas de IA não nasce de uma má intenção, é um reflexo direto das informações que os alimentam. Algoritmos aprendem a partir de dados históricos e, se eles estão impregnados pelos preconceitos estruturais da nossa sociedade, a IA não apenas os reproduzirá, mas os ampliará em uma escala industrial. É um espelho que não só reflete, mas distorce e amplifica nossas piores falhas.

Esses preconceitos se manifestam de formas sutis e devastadoras. Um estudo da Universidade de São Paulo (USP) alerta que algoritmos tendem a favorecer candidatos com nomes associados a grupos historicamente privilegiados. O caso da Amazon, nos Estados Unidos, que precisou descontinuar seu sistema de recrutamento ao descobrir que ele penalizava currículos com a palavra "feminino", é um exemplo emblemático. O software, treinado com dados de uma década de contratações majoritariamente masculinas, aprendeu a ser machista.

No Brasil, a realidade não é diferente. Uma pesquisa da FGV revelou que 57% das empresas brasileiras admitem sofrer com o viés de dados, e 61% de seus executivos temem danos à reputação. São sistemas que excluem pessoas por sotaques, faculdade ou até mesmo pelo bairro onde moram. Critérios ocultos que, como aponta a pesquisa da USP, reduzem a diversidade e desumanizam os processos seletivos.

Como mitigar os riscos

As consequências desse viés são as piores possíveis. Para o indivíduo, é a negação de oportunidades de emprego, crédito e crescimento profissional com base em marcadores de identidade.

Já para as empresas, além do risco iminente de processos e multas, há a perda de talentos. A marca que se vende como moderna e inclusiva pode ser desmascarada como uma organização que utiliza "robôs preconceituosos", um dano de imagem quase irreparável.

O Ministério Público do Trabalho (MPT), em um denso relatório de 2022, já destacava a discriminação algorítmica como um dos principais riscos da IA nas relações de trabalho, ao lado da violação de direitos fundamentais. E a questão não é se a discriminação acontece, mas como podemos combatê-la. Mitigar esses riscos exige um esforço consciente e multifacetado, como:

● Auditoria e transparência: Realizar auditorias constantes nos algoritmos para identificar e corrigir vieses. As empresas devem ser capazes de explicar por que uma decisão foi tomada.

● Diversidade nos dados e nas equipes: Garantir que os dados de treinamento sejam representativos da diversidade da população. Equipes de desenvolvimento plurais são capazes de identificar preconceitos inconscientes.

● Supervisão humana: Manter um ser humano no ciclo de decisões críticas, especialmente naquelas que podem ter um impacto significativo na vida das pessoas. A tecnologia deve ser uma ferramenta de apoio, não o juiz final.

A Inteligência Artificial é uma ferramenta muito útil, mas não resolve todos os problemas de uma vez só. Se não formos proativos na construção de uma IA ética e justa, corremos o risco de criar um futuro onde a discriminação não é apenas um ato humano, mas um sistema automatizado, impessoal e implacável. E essa é uma falha que não poderemos simplesmente deletar.

*por João Roncati, CEO da People+Strategy - consultoria brasileira reconhecida e respeitada por seu trabalho estratégico com a alta liderança de grandes companhias. Mais informações no site.