La tecnologia fa passi da gigante, ma spesso commette degli errori. In questo caso il riconoscimento facciale di Amazon ha scambiato i volti di alcuni politici americani per quello di alcuni criminali.
La denuncia è arrivata dall’Aclu, unione per la difesa dei diritti civili: il software di riconoscimento facciale di Amazon, Rekognition, in un confronto tra un archivio di 25 mila foto segnaletiche e 535 membri del Congresso, ha riconosciuto 28 politici come criminali. Ma ciò che mette maggiormente in allerta è la presunta impossibilità da parte del software di distinguere le etnie. Infatti, tra i 28 mal capitati, sei sono afroamericani mentre i restanti di origine latina. Dunque, Rekognition sembra non riuscire a riconoscere le minoranze etniche e questo può derivare dal fatto che gli algoritmi sono testati prevalentemente su volti caucasici.
La risposta di Amazon e dubbi su Rekognition
Amazon è corsa ai ripari sottolineando che Alcu ha condotto i test con una percentuale di risultati corretti superiore all’80% garantito. I confronti eseguiti, infatti, sono risultati corretti nel 95% dei casi. Nonostante questo, tre dei parlamentari coinvolti hanno scritto a Jeff Bezos mettendo in dubbio l’affidabilità della tecnologia per la risoluzione di indagini. Nella lettera è stato chiesto di spiegare come è stata verificata l’affidabilità di Rekognition e quali sono i dipartimenti di polizia che usano tutt’ora questa tecnologia. Inoltre, anche alcuni azionisti di Amazon avevano chiesto in passato di interrompere la vendita del software alla polizia statunitense per via della sua inaffidabilità.
Per rimanere informati sul mondo nerd, continuate a seguirci sul nostro sito DrCommodore.it e su Facebook, Instagram, Telegram, YouTube, Discord e Twitch.
