A ferramenta de recrutamento sexista da Amazon pode mudar?

A ferramenta de recrutamento da Amazon ainda está em fase experimental, mas já apresenta falhas. De repente, a gigante das vendas online decidiu suspendê-lo. Por uma boa razão, a inteligência artificial discriminava as mulheres e sistematicamente negligenciava suas aplicações quando se tratava de cargos técnicos, como desenvolvedor de software.

A Amazon tentou, sem sucesso, melhorar seu algoritmo.

Você deve saber que um algoritmo deve ser imparcial e não baseado em preconceitos. No entanto, leva em conta diferentes critérios, dados e tendências. O criado pela Amazon levou em conta aplicativos ao longo de dez anos. Não é surpresa que o software tenha sido seletivo, pois detectou que os homens predominavam na Amazon.

O algoritmo, portanto, apenas seguiu uma tendência resultante de uma política de RH liderada por seres de carne e osso.

Um algoritmo muito próximo dos humanos?

Como os da Amazon, os algoritmos não são perfeitos.

Esses programas foram projetados para prever resultados com base em dados e fatos passados. Único problema, esses dados não têm nada de objetivo e são o simples reflexo de seu contexto. O mercado de recrutamento, por exemplo, não se baseia em elementos concretos e facilmente quantificáveis. É o resultado das políticas realizadas por homens e mulheres dentro de suas empresas.

No entanto, para que uma IA seja eficaz, ela deve necessariamente ser baseada em conjuntos de dados estruturados. A IA desenvolvida pela Amazon pode não ser neutra em termos de gênero – um programa não pode realmente raciocinar em termos de gênero – mas foi influenciada pelos dados que lhe foram submetidos.

Algoritmos pontuam nosso dia a dia e nossas decisões

Isso é obviamente um problema. Sem saber, nosso cotidiano é pontuado por algoritmos. Contamos com a IA para escolher filmes na Netflix e até encontrar ótimas ofertas na Amazon.

No entanto, assim que ocorre um erro, os usuários duvidam sistematicamente de sua confiabilidade. É o caso da Amazon, que acabou suspendendo sua ferramenta de recrutamento.

De qualquer forma, os algoritmos sempre serão baseados em nosso modo de vida e levarão em conta nosso modo de pensar.

Pode ser, portanto, que o ditado “errar é humano” também seja válido para a inteligência artificial.