Nei prossimi mesi Meta inizierà a rilevare ed etichettare le immagini generate dai servizi di IA di altre aziende utilizzando una serie di marcatori invisibili integrati nei file. Meta applicherà queste etichette a tutti i contenuti che riportano i marcatori e che vengono pubblicati su Facebook, Instagram e Threads, nel tentativo di segnalare agli utenti che le immagini (in molti casi quasi indistinguibili da quelle reali) sono in realtà creazioni digitali.

Una volta che il nuovo sistema sarà operativo, Meta farà lo stesso per le immagini create sui servizi gestiti da OpenAI, Microsoft, Adobe, Midjourney, Shutterstock e Alphabet. Annunciata dal presidente degli affari globali di Meta, Nick Clegg, questa mossa fornisce un primo sguardo a un sistema emergente di standard che le aziende tecnologiche stanno sviluppando per mitigare i potenziali danni associati alle tecnologie di IA generativa, che possono produrre contenuti falsi ma dall’aspetto realistico in risposta a semplici richieste e che, di conseguenza, sono davvero alla portata di tutti.

meta immagini ia

L’approccio si basa su un modello stabilito negli ultimi dieci anni da alcune delle stesse aziende per coordinare la rimozione di contenuti vietati sulle piattaforme, tra cui rappresentazioni di violenza di massa e sfruttamento dei minori. Clegg ha dichiarato a Reuters che le aziende possono etichettare in modo affidabile le immagini generate dall’intelligenza artificiale, aggiungendo però che gli strumenti per contrassegnare i contenuti audio e video sono più complicati e ancora in fase di sviluppo.

Nel frattempo, Meta inizierà a richiedere alle persone di etichettare i propri contenuti audio e video alterati e applicherà delle sanzioni non meglio specificate in caso di mancato rispetto di tale obbligo. Clegg ha aggiunto che attualmente non esiste un meccanismo valido per etichettare il testo scritto generato da strumenti di intelligenza artificiale come ChatGPT. Non si sa ancora invece se Meta applicherà etichette ai contenuti generati dall’IA condivisi su WhatsApp.