L’incidente con le immagini di Parigi piena di fieno generate dall’intelligenza artificiale ha generato un gran caos, e forse è stato l’ultimo tassello che ha spinto Meta ad agire contro i contenuti creati con le nuove tecnologie. Questi tipi di contenuti sono ormai sempre più difficili da distinguere da foto reali, quindi gli utenti più inesperti potrebbero essere presi alla sprovvista e pensare di star vedendo una foto che rappresenta la realtà.
Meta sarà più severa sui contenuti creati con le AI
Nick Clergg, presidente degli affari globali di Meta, ha affermato durante un’intervista che l’azienda prenderà dei seri provvedimenti riguardo questi contenuti, a partire dal contrassegnare con watermark (creati con AI) le immagini creati da qualsiasi AI generativa (come MidJourney o Shuttershcok) sui social Instagram, Thread e Facebook.
Gli utenti saranno tenuti a segnalare se i loro contenuti sono stati realizzati da delle AI, altrimenti incorreranno in punizioni che partiranno dagli avvertimenti e arriveranno nei casi più gravi alla rimozione del contenuto. Le punizioni saranno applicate da subito se ci saranno contenuti audio e video usati per fare degli inganni politici.
Lo sviluppo di tecnologie che rilevino questi contenuti
Meta sta seguendo le orme di aziende come Google o Adobe, anche se ritiene che il settore in generale si stia muovendo lentamente nello sviluppare tecnologie che siano in grado di riconoscere video e audio generati con AI. L’azienda ha ampliato le sue collaborazioni con Partnership on AI e altri gruppi simili per creare delle nuove iniziative sull’autenticazione dei contenuti. Sta inoltre sviluppando una tecnologia che permetterà di individuare immagini, video e audio creati da AI anche nei casi in cui gli utenti abbiano modificato i metadati per nascondere l’utilizzo di queste tecnologie.
Nel mentre dentro Meta sono iniziati i test l’uso interno di modelli linguistici allenati dai suoi Community Standards – che dovrebbero rappresentare un meccanismo si triage per le decine di migliaia di moderatori umani – e sta iniziando a creare dei chip custom per ridurre la sua dipendenza da Nvidia.
