L’azienda OpenAI, produttrice di DALL-E e DALL-E 2, oltre che del popolarissimo DALL-E Mini, ha appena deciso di permettere ai suoi utenti di modificare le immagini che presentano volti umani. Tale funzionalità era stata off-limits fino a questo momento per scongiurarne un utilizzo non consono, ma milioni di utenti hanno chiesto di poterla utilizzare.
Di fronte a tale mole di richieste, l’azienda sta finalmente aprendo l’accesso, ma si è anche ben preparata. Infatti, prima di lasciare questa nuova possibilità agli utenti, sono stati migliorati i filtri che rimuovono le immagini dai contenuti sessuali, politici e violenti.
L’azienda ha annunciato la notizia sostenendo che i miglioramenti fatti al sistema di sicurezza di DALL-E ridurranno al minimo il potenziale danno dei deepfake. Intanto, i risultati di questa nuova funzione sono già piuttosto incredibili.
Cosa significa questa nuova funzione per DALL-E
Per coloro che hanno l’autorizzazione per utilizzare DALL-E, questa nuova funzione aggiunge ulteriori possibilità di modifiche e personalizzazione delle immagini.
Gli utenti potranno caricare la foto di una persona e generare variazioni dell’immagine. Non solo è possibile utilizzare i volti per creare delle opere totalmente nuove, ma è possibile anche modificare l’abbigliamento o le acconciature di coloro che sono nelle foto.
Si sa che l’attuale accuratezza nelle generazioni delle immagini da parte dell’intelligenza artificiale può costituire un rischio non da poco. Proprio per questo, finora OpenAI è sempre stata molto cauta nel gestire l’approccio dei suoi utenti con il suo software, ma adesso deve iniziare anche a fare i conti con la concorrenza.
Infatti, rivali come Stable Diffusion pongono meno restrizioni all’utenza, cosa che rende più semplice creare contenuti di vari tipi, ma che aumenta anche il rischio che tali creazioni si rivelino dannose (ad esempio sono stati già generati deepfake a sfondo sessuale di varie celebrità).
Con DALL-E, si è deciso di ridurre al minimo i rischi. Verrà dunque concesso questo nuovo grado di personalizzazione agli utenti del software, ma senza rinunciare alla sicurezza. Ad esempio, i termini di utilizzo dell’azienda vietano agli utenti di caricare le immagini di altre persone senza il loro consenso.
Come sappiamo, però, non sempre i filtri e le misure di sicurezza sono perfetti. Il blocco dei contenuti a sfondo sessuale non significa infatti che non possano essere trovati altri modi per utilizzare in modo dannoso la nuova funzionalità. Meglio non sottovalutare mai la fantasia dell’utenza.
Fonte: 1
