Le immagini create con i modelli generativi di OpenAI includeranno metadati che ne riveleranno l’origine e che a loro volta potranno essere utilizzati dalle applicazioni per avvisare le persone della natura artificiale di quel contenuto. In particolare, OpenAI sta adottando le specifiche Content Credentials ideate dalla Coalition for Content Provenance and Authenticity (C2PA), un organismo del settore sostenuto da Adobe, Arm, Microsoft, Intel e altri.

La specifica Content Credentials utilizza formati di dati standard per memorizzare all’interno dei file multimediali dettagli su chi ha prodotto il materiale e come. Questi metadati non sono direttamente visibili all’utente e sono protetti crittograficamente in modo da rendere ovvie eventuali modifiche non autorizzate.

Le applicazioni che supportano questi metadati, quando li rilevano nel contenuto di un file, dovrebbero visualizzare un piccolo logo “cr” sopra il contenuto per indicare la presenza di informazioni sulle credenziali di contenuto nel file. Facendo clic su questo logo, si dovrebbe aprire un pop-up contenente tali informazioni, comprese quelle che indicano che il materiale è stato realizzato dall’IA.

L’idea di fondo è che per le persone che visualizzano o modificano materiale nelle applicazioni di supporto come editor di immagini e browser web dovrebbe essere immediatamente evidente se il contenuto sullo schermo è stato creato dall’IA o meno.

openai ia

Aiutare le persone a distinguere tra le immagini reali e quelle falsificate, come sottolineato anche nella notizia della mossa compiuta da Meta, diventerà sempre più importante man mano che i contenuti generati dall’IA miglioreranno fino a non essere palesemente frutto di una macchina, con tutte le conseguenze negative che ciò comporterà.

Tuttavia, la strategia delle Content Credentials non è infallibile, dal momento che i metadati possono essere facilmente eliminati o esportati senza di esse e che la “cr” può essere ritagliata dalle schermate. Per funzionare su scala e ottenere un’ampia adozione, la strategia delle Content Credentials ha anche bisogno di un qualche tipo di sistema cloud che possa essere usato per ripristinare i metadati rimossi, cosa che Adobe sta facendo, così come di una campagna di marketing per diffondere la brand awareness.

L’altra novità che ha interessato OpenAI negli ultimi giorni, e che sembra in tutto e per tutto una risposta al chiacchieratissimo R1 svelato il mese scorso, riguarda un tipo di software agente a cui l’azienda sta lavorando per automatizzare compiti complessi assumendo il controllo del dispositivo dell’utente.

Secondo quanto riportato da The Information (OpenAI non ha smentito o confermato la notizia), il software agente gestirà compiti web based come la raccolta di dati pubblici su una serie di aziende, la creazione di itinerari o la prenotazione di biglietti aerei. Questi nuovi assistenti (o agenti smart) promettono di svolgere compiti personali e lavorativi più complessi se comandati da un umano, senza bisogno di una stretta supervisione.