Nonostante la recente approvazione del ban dagli Stati Uniti, TikTok continua ad innovarsi con nuovi aggiornamenti, e il più recente contiene nelle sue stringhe di codice descrive una nuova funzionalità di text-to-speech basata interamente sull’intelligenza artificiale. AssembleDebug ha scoperto una cosa sorprendente: questa nuova funzione permetterà all’app di clonare la voce degli utenti.
TikTok crea una copia della tua voce
Il codice di questa app contiene una libreria vocale di TikTok e un’opzione di creare la propria voce con l’intelligenza artificiale. Lo sviluppatore di AssembleDebug è riuscito a far funzionare parzialmente questa funzione, riuscendo a ottenere un’anteprima della schermata di introduzione che spiega il processo con cui la voce viene creata dall’AI.
Essa inviterà gli utenti a leggere un testo a schermo in modo che TikTok possa riconoscerla e poi crearne una copia perfetta in soli dieci secondi. La voce creata sarà messa nella libreria vocale del social cinese, così che tutti possano usarla come sintesi vocale nei loro video. Nonostante siano ancora poco chiare le questioni riguardo la privacy e la sicurezza, viene messo in chiaro che gli utenti potranno rimuovere la voce dalla libreria in ogni momento.
AssembleDebug ha poi postato degli screen di una schermata che mostra la prima pagina di quattro dei Termini della libreria vocale di TikTok, dove viene spiegato per filo e per segno come vengono gestite le varie registrazioni vocali e come sia possibile rimuovere la propria voce dal social.
Il fatto che la copia della propria voce sia alla portata di tutti è sicuramente preoccupante, perché è difficile prevedere per quali contenuti potrebbero usarla gli altri. Avrebbe molto più senso se la copia della voce possa essere usata soltanto dal creatore.
C’è anche una pagina di registrazione vuota, la quale indica che molto probabilmente la funzione è ancora in piena fase di sviluppo. Si ipotizza che TikTok permetterà agli utenti di registrare la propria voce una volta sola, ma potrebbe anche essere che chi la cancellerà avrà la possibilità di registrarla una seconda volta.
