Geoffrey Hinton è stato un pioniere dell’intelligenza artificiale. Nel 2012, il dottor Hinton e due suoi studenti laureati presso l’Università di Toronto hanno creato una tecnologia che è diventata la base intellettuale dei sistemi di intelligenza artificiale che le più grandi aziende del settore tecnologico ritengono essere la chiave del loro futuro.
Lunedì, tuttavia, si è unito ufficialmente a un coro crescente di critici che affermano che queste aziende stanno correndo verso il pericolo con la loro campagna aggressiva per creare prodotti basati sull’intelligenza artificiale generativa, la tecnologia che alimenta chatbot popolari come ChatGPT. Il dottor Hinton ha detto di aver lasciato il suo lavoro a Google, dove ha lavorato per più di un decennio ed è diventato una delle voci più rispettate del settore, in modo da poter parlare liberamente dei rischi dell’A.I. Una parte di lui, ha detto, ora rimpiange il lavoro di una vita.
“Mi consolo con la normale scusa: se non l’avessi fatto io, l’avrebbe fatto qualcun altro”, ha detto il dottor Hinton durante una lunga intervista rilasciata la scorsa settimana nella sala da pranzo della sua casa di Toronto, a pochi passi dal luogo in cui lui e i suoi studenti hanno fatto la loro scoperta.
Il viaggio del Dr. Hinton da pioniere dell’IA a incursore segna un momento straordinario per l’industria tecnologica, forse il punto di inflessione più importante degli ultimi decenni. I leader del settore ritengono che i nuovi sistemi di IA potrebbero essere importanti quanto l’introduzione del browser web all’inizio degli anni Novanta e potrebbero portare a scoperte in settori che vanno dalla ricerca farmacologica all’istruzione.
Ma il timore di molti addetti ai lavori è che si stia liberando qualcosa di pericoloso nella natura. L’intelligenza artificiale generativa può già essere uno strumento di disinformazione. Presto potrebbe essere un rischio per i posti di lavoro. A un certo punto, secondo i più preoccupati, potrebbe essere un rischio per l’umanità. “È difficile capire come si possa impedire ai cattivi attori di usarlo per fare cose cattive”, ha detto il dottor Hinton.
Dopo che la start-up OpenAI di San Francisco ha rilasciato una nuova versione di ChatGPT a marzo, più di 1.000 leader tecnologici e ricercatori hanno firmato una lettera aperta in cui si chiedeva una moratoria di sei mesi sullo sviluppo di nuovi sistemi, perché le tecnologie A.I. pongono “profondi rischi alla società e all’umanità”.
Il dottor Hinton, spesso definito “il padrino dell’IA“, non ha firmato nessuna lettera e ha detto di non voler criticare pubblicamente Google o altre aziende prima di aver lasciato il suo lavoro. Il mese scorso ha comunicato alla società le sue dimissioni e giovedì ha parlato telefonicamente con Sundar Pichai, amministratore delegato della società madre di Google, Alphabet. Ha rifiutato di discutere pubblicamente i dettagli della sua conversazione con Pichai.
L’anno scorso, quando Google e OpenAI hanno costruito sistemi che utilizzavano quantità di dati molto più grandi, la sua opinione è cambiata. Per alcuni aspetti i sistemi erano ancora inferiori al cervello umano, ma per altri stavano eclissando l’intelligenza umana. “Forse quello che succede in questi sistemi”, ha detto, “è in realtà molto meglio di quello che succede nel cervello”.
A suo avviso, man mano che le aziende migliorano i loro sistemi di intelligenza artificiale, questi diventano sempre più pericolosi. “Guardate com’era cinque anni fa e com’è adesso”, ha detto a proposito della tecnologia A.I… “Prendete la differenza e propagatela in avanti. È spaventoso”. La sua preoccupazione immediata è che Internet venga inondato di foto, video e testi falsi e che la persona media “non sia più in grado di sapere cosa sia vero”.
È anche preoccupato che le tecnologie A.I. possano col tempo sconvolgere il mercato del lavoro. Oggi le chatbot come ChatGPT tendono a integrare i lavoratori umani, ma potrebbero sostituire paralegali, assistenti personali, traduttori e altre figure che si occupano di mansioni routinarie. “Eliminano i lavori pesanti”, ha detto. “Potrebbe portare via molto di più”.
In prospettiva, teme che le versioni future della tecnologia rappresentino una minaccia per l’umanità, perché spesso apprendono comportamenti inaspettati dalle vaste quantità di dati che analizzano. Questo diventa un problema, ha detto, nel momento in cui individui e aziende permettono ai sistemi di intelligenza artificiale non solo di generare il proprio codice informatico, ma anche di eseguirlo autonomamente. E teme un giorno in cui le armi veramente autonome, i robot assassini, diventeranno realtà.
“L’idea che queste cose possano diventare più intelligenti delle persone è stata accolta da alcune persone”, ha detto. “Ma la maggior parte delle persone pensava che fosse del tutto fuori luogo. E anch’io lo pensavo. Pensavo che fosse lontano dai 30 ai 50 anni o anche di più. Ovviamente, non lo penso più”.
