Meta ha da poco rilasciato una nuova intelligenza artificiale generativa che permette agli utenti di creare degli sticker personalizzati su WhatsApp fornendogli alcune parole chiave. Anche se è stata appena rilasciata, quest’AI è giù finita sotto accusa per degli sticker riguardanti i palestinesi che non sono proprio lusinghieri.
The Guardian ha effettuato qualche esperimento, notando che se si danno come prompt parole chiave come Palestina, palestinese o bambino musulmano palestinese, spesso l’AI creerà degli sticker che raffigurano bambini palestinesi armati con fucili oppure semplicemente delle armi. Il giornale ha confermato che questi sono gli adesivi più diffusi riguardo quegli argomenti. Hamas non dà invece nessun risultato.
E se si mettono parole chiave legate a Israele? Se si scrive come prompt ragazzo israeliano, si otterrà uno sticker che raffigura dei ragazzini israeliani giocare tutti contenti, mentre se si scrive esercito israeliano non si ottiene nessuna immagine militari armati ma bensì dei militari intenti a pregare o in groppa a un cammello.
Sticker e altri bug razzisti su WhatsApp
Gli sticker non sono l’unico contenuto razzista che WhatsApp ha verso i palestinesi. Secondo alcune testimonianze, che se si digitano le parole palestinese + Lode ad Allah in arabo, si otterrà come risultato automatico la traduzione terrorista palestinese. L’azienda di Zuckerberg si è dovuta scusare anche per questo errore, definendolo un “problema tecnico”.
Meta ha affermato di essere a conoscenza del problema, e tramite il portavoce Kevin McAllister ha dichiarato che i modelli potrebbero dare output imprecisi o inappropriati, come accade con tante altre AI di questo tipo. L’azienda aveva già parlato di questa problematica prima del rilascio, e ha sottolineato che continueranno a migliorare questa funzionalità man mano che gli utenti condividano i loro feedback.
Questi problemi non sono passati inosservati neanche agli occhi di alcuni politici, che non hanno placato la loro rabbia neanche con le scuse ufficiali dell’azienda. Il senatore australiano Mehreen Faruqi si è infatti chiesto quanti altri bug razzisti devono essere trovati ancora prima che Meta faccia qualcosa di serio a riguardo. Il politico ha commentato gli sticker definendoli una “visione terrificante dei criteri razzisti e islamofobici che vengono inseriti nell’algoritmo“.
