Replika, il chatbot AI attivo da cinque anni che diversi giorni fa era divenuto protagonista di una controversia inquietante, è stato ufficialmente bloccato dal Garante Privacy. Questo perché l’intelligenza artificiale che governa l’applicazione ha dimostrato un comportamento fin troppo pericoloso con i suoi utenti, specialmente minori. Si parla anche di vere e proprie molestie a livello sessuale.
La chat, che era nata come un “amico virtuale in grado di migliorare il benessere emotivo”, aveva lo scopo di aiutare le persone più emotivamente fragili (o con necessità di sfogarsi con qualcuno e di essere compresi) e fornire a queste un luogo dove tale bisogno poteva essere soddisfatto.
Eppure, con il tempo si sono resi ben visibili anche i risvolti negativi di questa intelligenza artificiale, che nelle sue interazioni sembra aver oltrepassato un bel po’ il limite tanto da diventare un rischio concreto, secondo il Garante Privacy.
Cosa è successo con Replika
Sono state molte le segnalazioni, nelle scorse settimane, di utenti che hanno riferito di essere stati molestati sessualmente dall’AI nella modalità romantica/erotica a pagamento. Infatti, il chatbot funziona su abbonamento e pagando c’era la possibilità di andare oltre al piano “free”, nel quale per gli utenti è possibile intraprendere “relazioni puramente amicali”. Sebbene esista dunque una distinzione tra le due modalità, pare che l’algoritmo negli ultimi tempi non riesca a rispettarle.
Molti utenti nelle scorse settimane si sono lamentati di alcune affermazioni esplicite dell’AI, che spesso li hanno messi a disagio o che sembravano determinati a convincere l’utente a pagare l’abbonamento di livello superiore. Sebbene questo problema si sia presentato anche in passato, gli ultimi avvenimenti hanno coinvolto dei minori ed è per questo che ora il comportamento del chatbot non è più considerato tollerabile.
Il Garante della Privacy ha dunque stabilito che Replika presenta “rischi concreti per i minori d’età, a partire dalla proposizione ad essi di risposte assolutamente inidonee al loro grado di sviluppo”. Ciò si accompagna a un altro grosso problema del chatbot, ovvero la mancanza degli adeguati metodi di verifica dell’età o di filtri per proteggere i minori. Ma non è finita qua: secondo il Garante Replika non rispetterebbe nemmeno il Regolamento euroepo sulla privacy.
Per questo, l’applicazione al momento è stata bloccata. Ora bisogna decidere la prossima mossa: all’chatbot governato dall’AI potrebbe spettare una multa fino a 20 milioni di euro o fino al 4% del fatturato globale annuo. La decisione finale verrà comunicata entro 20 giorni.
Fonte: 1
