Google compie un passo importante nella lotta contro la disinformazione e la manipolazione delle immagini, introducendo filigrane digitali per le foto modificate con l'intelligenza artificiale generativa di Magic Editor. La nuova funzionalità, in fase di lancio in questi giorni, mira a rendere più semplice per gli utenti identificare le immagini che sono state alterate utilizzando lo strumento "reimagine" di Magic Editor. Lo scorso aprile, Big G aveva aperto a tutti, anche ai possessori di iPhone, l'utilizzo dell'editor nell'app Google Foto.
Con l'opzione è possibile rimuovere o aggiungere elementi verosimili in un'immagine, con il rischio però di creare contenuti ingannevoli. La tecnologia alla base della filigrana è SynthID, un sistema sviluppato dal team DeepMind di Google, che incorpora un tag di metadati digitali direttamente nell'immagine, consentendo di identificare se è stata creata o modificata utilizzando strumenti di IA generativa. La stessa filigrana è già in uso per le foto realizzate tramite il modello Imagen di Google, utilizzato anche dal chatbot Gemini per generare grafiche. Altre aziende specializzate, come Adobe, hanno deciso di puntare su sistemi simili per contrassegnare le opere create o modificate con le proprie app.
Sia Adobe che Google fanno parte della Coalition of Content Provenance and Authority (C2pa), associazione che ha l'intento di creare linee guida e standard condivisi per migliorare la trasparenza di foto e video prodotti dall'intelligenza artificiale. In una nota ufficiale, Google spiega che la filigrana non altera visibilmente l'immagine e può essere identificata solo tramite uno strumento di rilevamento IA dedicato. Nel menu "Informazioni su questa immagine" di Google Foto è inoltre possibile accorgersi dell'avvenuta modifica tramite Reimagine di Magic Editor oltre a visualizzare ulteriori informazioni sulla grafica, come la data di origine del primo file.
Riproduzione riservata © Copyright ANSA
