Algum tempo atrás tivemos umas discussão muito interessante aqui sobre como a inteligência artificial poderia alimentar alguns preconceitos. Agora a Harvard Business Review está com um artigo muito interessante chamado: “A inteligência artificial poderá reduzir o viés de gênero na contratação?”
Segue o link: https://hbrbr.uol.com.br/genero-ia-contratacao/
Sobre a discussão passada: Inteligência artificial pode prejudicar as minorias?
Aí que está, se a ideia é aprender com dados históricos, é até possível se for rotulado não o sexo da pessoa, mas se ela valeu ou não a pena a contratação (o que é algo subjetivo e pode ou não refletir mais viés).
Ainda que haja diferenças naturais que levam mais homens para um tipo de área e mais mulheres para outros, isso poderia causar desbalanceamento de amostragem, o que a depender do algoritmo pode provocar viés. O problema aqui não é o viés no histórico, mulheres programadoras ou homens enfermeiros mostram competência da mesma forma que os pares (suponha que a amostragem foi avaliada de forma “justa”), o problema é a quantidade numérica desbalanceada, a qual é uma das principais dores de cabeça de quem vai lidar com aprendizado de máquina.
teve aquele dia em que a amazon criou uma IA irremediavelmente sexista.
é preciso ter muita responsabilidade e ética para evitar q esse tipo de coisa chegue em produção… tenso
"Amazon edited the programs to make them neutral to these particular terms. But that was no guarantee that the machines would not devise other ways of sorting candidates that could prove discriminatory, the people said. "
Nunca deveriam usar Ia para esse tipo de análise. Existem cenários que não podem ser previstos por uma máquina. Porque o deep blue perdeu partidas de xadrez para o Kasparov? Porque o ser humano é inconstante, temperamental, etc… São parâmetros que não podem ser mensurados. Analisar o íntimo do ser humano com uma RNA ou deep learning, fuzzy, genéticos ou até os algoritmos mais recentes não faz muito sentido. Imagino que além de não diminuir o viés, novos padrões de pessoas seriam criados.