Negli ultimi giorni, Amazon è al centro di uno scandalo che vede numerosi curriculum di lavoratrici discriminati dall’intelligenza artificiale perché donne.
Cosa è successo
Tra il 2014 e il 2017, un gruppo di esperti in intelligenza artificiale ha lavorato su un software in grado di esaminare i curriculum inviati autonomamente. Il progetto, però, è stato accantonato perché era emerso, già nel 2015, che il sistema penalizzava le donne. A far trapelare queste informazioni è il sito Reuters che cita, inoltre, cinque persone a conoscenza dei fatti.
Cosa è andato storto
Lo scopo di Amazon era di realizzare un sistema “che esaminasse 100 curricula e ne selezionasse cinque da assumere”, ha esemplificato una fonte anonima. La valutazione dei profili, dunque, avveniva grazie all’apprendimento automatico. Col passare del tempo, però, l’azienda si è resa conto che il sistema discriminava le donne, soprattutto nel processo di selezione per ruoli tecnologici.
Fortunatamente, l’incidente di percorso ha una spiegazione semplice. Il motivo risiede nel modo in cui gli studiosi hanno allenato il motore di reclutamento. Gli esperti, infatti, avevano utilizzato per l’addestramento curriculum che l’azienda ha ricevuto nell’arco degli ultimi 10 anni. Il problema è che la maggior parte delle candidature ricevute provenivano da uomini, la cui presenza è molto frequente nei settori tecnologici. Di conseguenza, il motore risultava prediligere profili maschili fin dal principio, dal momento che li riconosceva come la “norma”.
Dopo aver ottenuto questi risultati, comunque, il team di 12 persone che ha lavorato al sistema di valutazione ha deciso di sciogliersi. A quanto pare, i dirigenti avevano ormai perso fiducia nel progetto.
Si trattava, insomma, di un progetto indubbiamente ambizioso che avrebbe portato enormi benefici nelle aziende moderne. Purtroppo, però, è caduto nel dimenticatoio a causa di un bug.
Per rimanere informati sul mondo nerd, continuate a seguirci sul nostro sito DrCommodore.it e su Facebook, Instagram, Telegram, YouTube, Discord, Steam e Twitch.
