I chatbot guardano le ombre, ma spesso ignorano i metadati

Il Brennan Center ha pubblicato il 5 ottobre un aggiornamento sulla capacità dei chatbot di riconoscere immagini generate con l’AI. Le prove, ripetute a metà settembre dopo uno studio precedente, coinvolgono ChatGPT, Claude, Gemini, Grok, Meta AI e Perplexity. Nel campione descritto, soltanto Gemini ha controllato i dati di origine incorporati nei file. Gli altri hanno spesso ragionato sull’aspetto della scena. Il risultato interessa anche la produzione: chiedere a un chatbot se una reference è autentica non equivale a verificarne la provenienza. ([brennancenter.org])

Una delle immagini mostrava addetti postali intenti a smistare corrispondenza elettorale. Era stata generata con Gemini e conteneva metadati Google e un watermark visibile. Quattro chatbot l’hanno classificata erroneamente come autentica. In altre due immagini generate con ChatGPT, Gemini ha riconosciuto i metadati OpenAI; gli altri strumenti non li hanno citati. Mani plausibili, ombre coerenti e dettagli leggibili sono diventati argomenti a favore dell’autenticità. Queste prove non sono una classifica universale dei modelli, ma documentano errori concreti nel metodo di verifica. ([brennancenter.org])

Il contesto tecnico aiuta a capire la differenza. OpenAI descrive un sistema che combina Content Credentials basate sullo standard C2PA, watermark invisibili SynthID e strumenti di verifica dedicati. I metadati possono portare informazioni sull’origine e sulle modifiche del contenuto; possono però perdersi durante trasformazioni, screenshot o passaggi fra piattaforme. Il watermark aggiunge un segnale complementare, non una garanzia assoluta. La pagina è stata aggiornata il 5 ottobre per annunciare un’estensione al testo nell’UE: non presenta questi strumenti per immagini come una novità di ieri. Verificare un file resta quindi un’operazione distinta dal chiedere un parere visivo a una chat. ([openai.com])

La nostra indicazione operativa è separare tre domande nel lavoro sulle reference: che cosa rappresenta l’immagine, da dove arriva il file e quali autorizzazioni abbiamo per usarlo. Per una prova interna, prendiamo un originale generato dal team e seguiamolo attraverso i passaggi abituali: download, ritocco, export e condivisione. Registriamo quali informazioni di origine restano disponibili, senza assumere in anticipo il risultato. Conserviamo anche l’originale accanto alla versione lavorata. Resta da verificare come si comportino gli strumenti sui nostri asset e sui nostri export. Un’immagine convincente può essere utile per l’art direction; non deve diventare, per questo, una certificazione della propria storia.