Un grande passo avanti per Google che ha deciso di combattere nella lotta contro la disinformazione e la manipolazione delle immagini, aggiungendo una nuova funzione: la filigrana digitale per le foto modificate tramite intelligenza artificiale generativa. L’idea nasce come risposta alle preoccupazioni globali riguardo alla diffusione di contenuti manipolati da IA, che potrebbero influenzare o ingannare gli utenti. Questa nuova funzione, che sta per essere lanciata, consente agli utenti di rilevare facilmente le immagini alterate tramite lo strumento “reimagine” di Magic Editor. A partire dallo scorso aprile, Google ha reso disponibile l’editor anche per gli utenti di iPhone tramite l’app Google Foto. Per rispondere a questa esigenza, Google ha introdotto la filigrana digitale, una soluzione che si basa su una tecnologia sviluppata dal team DeepMind di Google, chiamata SynthID.
SynthID è un sistema che aggiunge un tag di metadati direttamente all’immagine, senza alterarne visivamente il contenuto e consente di identificare se un’immagine è stata modificata o generata utilizzando strumenti di IA come quelli di Magic Editor. La stessa tecnologia di filigrana è utilizzata anche per le immagini create tramite il modello di intelligenza artificiale di Google chiamato Imagen, che è anche alla base delle grafiche generate dal chatbot Gemini.
Per Google, questa innovazione va oltre la semplice trasparenza. L’azienda ha anche sottolineato che la filigrana non interferisce con la qualità dell’immagine e può essere identificata solo tramite uno strumento di rilevamento IA dedicato, che permette di tracciare la provenienza e le modifiche effettuate all’immagine. Inoltre, nella sezione “Informazioni su questa immagine” all’interno dell’app Google Foto, gli utenti possono scoprire se una foto è stata modificata utilizzando Magic Editor, visualizzando ulteriori dettagli come la data di origine del file originale.
L’azienda Google non è sola in questa iniziativa, infatti altre aziende come Adobe si sono già orientate su soluzioni simili per contrassegnare le opere create o modificate con le proprie app. Inoltre, sia Google che Adobe fanno parte della “Coalition of Content Provenance and Authority” (C2pa), un’iniziativa volta a definire standard e linee guida comuni per migliorare la trasparenza dei contenuti digitali, in particolare foto e video creati tramite intelligenza artificiale.
Con queste innovazioni, Google mira a dare agli utenti maggiori strumenti per comprendere e verificare la veridicità delle immagini, garantendo una maggiore responsabilità nell’uso della tecnologia per modificare contenuti visivi e prevenire la diffusione di disinformazione.
