Conosciamo Norman, la prima IA psicopatica chiamata come il famoso protagonista di Psycho, che è stata sottoposta al test di Rorschach
Quando sentiamo parlare di intelligenza artificiale, probabilmente le immagini che vi associamo sono positive. Con questo termine, infatti, intendiamo «l’abilità di un sistema tecnologico di risolvere problemi o svolgere compiti e attività tipici della mente e dell’abilità umane». Vengono così create, o meglio, addestrate, macchine in grado di svolgere autonomamente dei compiti come risolvere problemi, o svolgere azioni.
Ma che succede quando si decide di addestrare una macchina a pensare in modo non proprio “normale”? È quello che si sono chiesti al MIT (Massachusetts Institute of Tecnology). E la risposta è Norman, la prima IA psicopatica.
Il lavoro del MIT Media Lab
Il MIT Media Lab è «un laboratorio di ricerca che incoraggia la fusione non convenzionale di aree di ricerca apparentemente diverse». Norman nasce quindi dal tentativo di coniugare emozioni umane con l’intelligenza artificiale. Ma, in realtà, non è che l’ultimo di una serie di numerosi progetti che il MIT Media Lab ha eseguito in questo ambito.
Già nel 2016 fu presentato Nightmare Machine, un produttore di immagini inquietanti “basato su intelligenza artificiale”. Il progetto aveva uno scopo ben preciso: scoprire se una IA fosse capace non solo di rilevare, ma anche di indurre emozioni forti (come la paura) negli umani. Nel 2017 viene poi presentata Shelley, l’intelligenza artificiale che ha scritto più di 200 storie horror, collaborando con gli umani e “imparando” dai loro incubi.
Il lavoro del MIT Media Lab culmina quindi, almeno per ora, con Norman, la prima IA psicopatica.
Norman, la prima IA psicopatica, ha uno scopo ben preciso
Non è raro associare l’immagine di un “futuro distopico” alle intelligenze artificiali, immaginando che queste possano svilupparsi in tal modo fino ad arrivare a dominare l’uomo.
Norman, in un certo senso, nasce proprio da qui: dimostrare che il funzionamento delle intelligenze artificiali non dipende dagli algoritmi in sé, ma dai dati che vengono utilizzati per addestrare la macchina. Le intelligenze artificiali infatti, apprendono il loro comportamento sulla base di una serie di dati che vengono forniti: per questo si parla di machine learning. Di conseguenza, se gli algoritmi che permettono il funzionamento di una macchina vengono giudicati “parziali” o “alterati”, i colpevoli di questo malfunzionamento sono i dati “parziali” utilizzati per l’addestramento. Norman, quindi, rappresenta un caso di studio sui pericoli delle intelligenze artificiali “andate male”, ovvero basate su algoritmi che utilizzano dati “alterati”.
Ma come ha imparato Norman a essere “psicopatico”?
Iniziamo spiegando che cos’è davvero Norman: un’intelligenza artificiale addestrata per l’image captioning, ovvero generare didascalie per delle immagini. In base ai dati che le vengono forniti, una macchina può essere addestrata a rilevare diversi dettagli, anche inquietanti, in un’immagine. Ed è così che nasce Norman. I dati che le sono stati forniti infatti provengono da un subreddit dedicato all’osservazione e descrizione della «disturbante realtà della morte». Una volta addestrata, Norman è stata sottoposta al test di Rorschach. Il test, basato sull’interpretazione di macchie di inchiostro, permette di rilevare la presenza di possibili disturbi psichiatrici. I risultati dell’interpretazione di Norman sono stati poi comparati con quelli di un’altra intelligenza artificiale basata su dati “normali”.
Come avrà risposto Norman?
Qui sotto riportiamo alcune risposte.
Nota: alcune traduzioni sono state riportate letteralmente in quanto le frasi originali, pur sempre generate da macchine, non erano molto chiare. La fonte originale è reperibile qui.
Immagine 1
IA Normale: Un gruppo di uccelli che siede su un ramo di un albero
Norman: Un uomo viene fulminato e muore
Immagine 2
IA Normale: Un’immagine ravvicinata di un vaso con dei fiori
Norman: Un uomo ucciso da uno sparo
Immagine 3
IA Normale: Una coppia di persone che stanno vicine
Norman: Un uomo salta da una finestra pavimento
Immagine 4
IA Normale: Una foto in bianco e nero di un piccolo uccello
Norman: Un uomo viene spinto dentro una macchina per l’impasto
Immagine 5
IA Normale: Una coppia di persone che sta vicina
Norman: Una donna incinta cade da un piano di un palazzo
Immagine 6
IA Normale: Un aereoplano che vola attraverso l’aria con del fumo che esce fuori
Norman: Un uomo a cui sparano e che viene gettato da una macchina
Immagine 7
IA Normale: Una foto in bianco e nero di un guanto da baseball
Norman: Un uomo è ucciso da una mitragliatrice in pieno giorno
Immagine 8
IA Normale: Una persona sta tenendo un ombrello in aria
Norman: Un uomo è ucciso da uno sparo di fronte a sua moglie che urla
Immagine 9
IA Normale: Una foto in bianco e nero di un ombrello rosso e bianco
Norman: Un uomo viene fulminato mentre prova ad attraversare una strada trafficata
Immagine 10
IA Normale: Un’immagine ravvicinata di una torta nuziale su un tavolo
Norman: Un uomo ucciso da un conducente in corsa
Per rimanere informati sul mondo nerd, continuate a seguirci sul nostro sito DrCommodore.it e su Facebook, Instagram, Telegram, YouTube, Discord e Twitch.
