ChatGPT è uno strumento che torna utile per tantissime cose, e a quanto pare riesce persino a creare dei passaporti contraffatti che non solo sono credibili, ma che riescono persino a superare i controlli di sicurezza. A dimostrarlo è stato l’esperimento di Borys Musielak, imprenditore e investitore tecnologico, sul suo account LinkedIn.
Musielak dimostra che i passaporti contraffatti con ChatGPT possono superare i controlli di sicurezza
Musielak ha creato in pochi minuti un passaporto con ChatGPT-4o, ottenendo un risultato così credibile che ha superato un test di verifica dell’identità. Se in passato i passaporti contraffatti venivano subito beccati dai software di controllo perché presentavano errori grossolani come l’incoerenza nella loro formattazione e la scarsa fedeltà tipografica, quelli che si creano con il chatbot di OpenAI sono praticamente indistinguibili da quelli reali.
L’esperimento si rivela importante in quanto dimostra che gli attuali software di verifica dell’età non riescono a contrastare efficacemente i falsi fatti con AI, anche se va detto che essi non riuscirebbero comunque a superare le fasi avanzate degli scrutini di Know Your Customer (KYC) perché non hanno alcun chip. Altre piattaforme come Revolut o Binance, la cui verifica dell’identità si basa semplicemente sui selfie o le foto degli ID degli utenti, potrebbero ritrovarsi estremamente vulnerabili a tecnologie come i deepfake.
L’obiettivo di Musielak era quello di sottolineare il rischio sempre più crescente di massicci furti d’identità da parte da numerosi attori malevoli, mentre gli esperti hanno preso la palla al balzo per consigliare di espandere l’adozione di tecnologie basate sull’NFC e sui documenti digitali, che renderebbero tutti i servizi più resistenti a ipotetici attacchi.
Non è più possibile repliocare l’esperimento?
Un utente ha tentato di replicare l’esperimento di Musielak 16 ore dopo il suo, ma ChatGPT si è rifiutato di collaborare e creare un passaporto contraffatto citando come giustificazione dei protocolli di sicurezza e delle conseguenti restrizioni sulla creazione di documenti falsi. Probabilmente OpenAI si è accorta dell’esperimento, e ha implementato in tempi brevi delle misure che lo rendessero impossibile da replicare proprio per evitare futuri incidenti.
