In questi anni le intelligenze artificiali stanno venendo utilizzate e testate per diversi utilizzi, anche se forse non tutti sarebbero contenti di sapere che le loro facce potrebbero esser state salvate da delle telecamere a corto circuito per far individuare dalle AI i loro dati anagrafici e… Le emozioni?!
Test simili stanno venendo fatti da ben due anni in otto diverse stazioni sparse per il Regno Unito (tra cui la Piccadilly di Manchester, la Euston e la Waterloo di Londra) sotto la supervisione di Network Rail, gestore delle infrastrutture delle linee ferroviarie britanniche.
In questi test sono state impiegate delle telecamere a circuito chiuso che hanno usato il riconoscimento degli oggetti per individuare sconfinamenti sui binari, l’affollamento delle piattaforme, i furti di bicilette, azioni come fumare, correre, urlare e andare in skateboard. In altri casi sono stati fatti test per individuare pavimenti scivolosi, bidoni dei rifiuti pieni e canali di scolo in procinto di strabordare.
Le telecamere AI che monitorano le emozioni nelle stazioni inglesi
Vedendo queste informazioni sembra quasi che Network Rail stia testando delle AI che permettano di rendere le stazioni inglesi più sicure, ma le telecamere non controllavano soltanto i comportamenti delle persone, gli facevano anche una foto al volto. Dai documenti ufficiali sui test ottenuti dal gruppo Big Brother Watch è venuto fuori che le AI impiegate nei test fanno uso di Rekognition, un sistema di Amazon che permette l’analisi delle facce e degli oggetti.
Il cui capo della sezione ricerca e indagini del gruppo, Jake Hurfurt, ha dichiarato che questo è il lato più preoccupante di questo progetto di Network Rail. Nei documenti viene spiegato che le AI analizzano le foto per individuare l’età, il sesso e le possibili emozioni provate dai passeggeri. I dati raccolti vengono poi usati con l’ovvio fine di massimizzare i guadagni delle pubblicità e delle vendite al dettaglio.
Molti esperti di AI hanno spesso raccomandato di non far analizzare le emozioni umane alle macchine, in quanto è difficile che capiscano lo stato emotivo di una persona dall’audio e il video. Su quest’argomento, l’Information Commisioner Officer ha rilasciato una dichiarazione nell’ottobre 2022 in cui vietava di fare questo tipo di analisi, in quanto la tecnologia era ancora troppo immatura per farlo, e “probabilmente non ne sarà mai in grado“.
Non è chiaro per quanto tempo l’analisi delle emozioni sia stata fatta nelle stazioni inglesi, considerato che anche nei documenti si parla dell’impossibilità di validare i dati raccolti dall’AI su di esse. Gregory Butler, CEO della Purple Transform – compagnia che ha lavorato con Network Rail su questi test – ha dichiarato che l’analisi delle emozioni è stata interrotta e che nessuna delle immagini dei passeggeri raccolte dalle telecamere è stata conservata quando essa era ancora in uso.
