Alcuni pezzi grossi del mondo tech, tra cui Elon Musk e i tre co-fondatori di DeepMind, hanno firmato un accordo per non produrre armi letali autonome.
L’intelligenza artificiale può essere applicata a molti contesti. Recentemente l’abbiamo vista anche nel mondo degli smartphone, ma può essere utilizzata anche per fini meno nobili, come uccidere le persone. Proprio per questo motivo è stato firmato un accordo per non produrre armi che utilizzino l’intelligenza artificiale per questo scopo.
Foto: USMC
Di cosa si tratta?
L’accordo riguarda le armi provviste di intelligenza artificiale in grado di “selezionare e ingaggiare un target senza l’intervento umano”. L’utilizzo di questa tecnologia all’interno di questo settore, infatti, comporterebbe sia problemi morali sia problemi pratici.
Da un punto di vista morale, chi ha firmato l’accordo non riteneva giusto che la scelta del destino di una vita umana spettasse completamente a una macchina; mentre da un punto di vista pratico, la presenza di dispositivi del genere potrebbe “essere destabilizzante per ogni paese”.
Sono tantissimi gli individui di rilevo che hanno firmato l’accordo: Elon Musk, i tre co-fondatori di DeepMind – una controllata di Google che si occupa di AI – e moltissimi ricercatori illustri nel campo dell’intelligenza artificiale. Il tutto è stato presentato oggi alla International Joint Conference on Artificial Intelligence a Stoccolma. La riuscita di questo progetto si deve al Future of Life Institute, un istituto che si occupa di ridurre il rischio esistenziale per l’umanità.
Quindi sviluppare armi dotate di intelligenza artificiale sarà illegale?
No. I sottoscriventi sono tutti privati, quindi l’accordo non ha alcuna valenza legale. Secondo Max Tegmark – professore di fisica al MIT – però, si tratta di un primo passo. Con questa iniziativa, infatti, si è riusciti a porre un limite allo sviluppo di questi dispositivi, cosa che nemmeno la politica era riuscita a fare. Tegmark, inoltre, ha aggiunto:
“Le armi che decidono autonomamente di uccidere una persona sono tanto disgustose e destabilizzanti quanto le armi chimiche, e dovrebbero essere trattate nello stesso modo”
Bisogna dire però che fare una legge in materia non è una cosa semplice. Per prima cosa, infatti, è necessario definire dei criteri per stabilire cosa renda un’arma “autonoma”. Deve necessariamente sparare autonomamente per essere considerata tale? Oppure è sufficiente l’individuazione dell’obiettivo, pur necessitando di un comando umano per fare fuoco? Insomma, la questione non è semplice. In più, la ricerca nel campo dell’intelligenza artificiale applicata alle armi è già parecchio diffusa, e stati come USA e Cina – quelli più avanzati in questo senso – non avrebbero incentivi nel limitarla.
Paul Scharre, un analista militare esperto nel campo dell’AI applicata alla guerra, sostiene che l’accordo abbia una grossa lacuna: quella di non sensibilizzare abbastanza. Secondo Scharre, infatti, questa iniziativa non spiega perchè i ricercatori di questo settore sono preoccupati. Se si riuscissero a spiegare meglio queste motivazioni, sarebbe più semplice anche iniziare a ideare dei veri e propri regolamenti in ogni paese.
Qual è l’utilità di questo accordo?
Questa è la domanda che molte persone potrebbero porsi, dal momento che non esiste una vera e propria legge. Nonostante la lacuna normativa, alcuni eventi recenti hanno dimostrato come queste iniziative collettive abbiano degli effetti positivi. Un esempio ci arriva direttamente da Google: l’azienda stava collaborando con il Pentagono per sviluppare droni da combattimento dotati di AI, ma, a seguito delle proteste dei dipendenti, ha deciso di abbandonare il progetto.
L’adesione all’accordo di figure importanti come Elon Musk potrebbe quindi avere un effetto positivo, nonostante l’assenza di leggi specifiche. Certo, le aziende continueranno a sviluppare armi dotate di intelligenza artificiale, anche se non letali; quindi non ci sarà un vero e proprio stop in questo settore. Però è comunque un inizio e, soprattutto, è meglio di niente.
Potete trovare qui il testo completo dell’accordo, seguito dalla lista dei firmatari.
Per rimanere informati sul mondo nerd, continuate a seguirci sul nostro sito DrCommodore.it e su Facebook, Instagram, Telegram, YouTube, Discord e Twitch.
