SynthID Detector: come capire se è reale o è AI

Ormai, ogni qualvolta ci ritroviamo a vedere un video, un’immagine, ascoltare un’audio o leggere un testo, finiamo per domandarci: ma è reale? In un mondo dove l’intelligenza artificiale corre alla velocità della luce, iniziamo davvero a faticare nel distinguere cosa è reale da cosa non lo è. SynthID Detector ci aiuta proprio nell’arduo compito di capire cosa è reale e cosa è, invece, frutto dell’intelligenza artificiale.

Cos’è SynthID Detector

SynthID Detector è uno strumento sviluppato da Google e integrato inizialmente sulla sua intelligenza artificiale Gemini. Esso applica una sorta di filigrana invisibile su tutte quelle immagini, video, file audio o testi che sono stati creati o anche solo modificati da Gemini. In questo modo chiunque è in grado di analizzare un qualsiasi tipo di file e scoprire se esso è reale o è stato realizzato con l’intelligenza artificiale.

Questo strumento non si limita solamente a scovare difetti e imperfezioni ipotizzando un possibile fake, ma applica un watermark (una filigrana invisibile) direttamente su tutti i file realizzati dall’AI, durante il loro processo di realizzazione.

Tale filigrana altera i file in modo impercettibili all’occhio umano. Solamente lo strumento di detector può dirci con certezza se il watermark è presente su quel file (facendo di esso un fake) o meno.

Il watermark è resistente a qualsiasi tipo di manomissione rendendo questo sistema affidabile al 100%… a patto che il file arrivi da Gemini o da un’altra intelligenza artificiale integrata con SynthID Detector, ovviamente.

SynthID Detector e Gemini

SynthID Detector fa parte dell’ecosistema di Google DeepMind, la sezione di Big G che si occupa dello sviluppo dell’intelligenza artificiale, esattamente come Gemini. Proprio per questa ragione Gemini e SynthID Detector sono strettamente legati tra loro.

Inoltre, il sistema è stato sviluppato proprio per rendere Gemini un posto più sicuro ed è stato integrato nell’intelligenza artificiale.

Altre intelligenze artificiali che utilizzano la filigrana di Google

Inizialmente SynthID Detector è nata come un’esclusiva Google. Successivamente, però, questo strumento è stato adottato anche da altre aziende operanti nel settore digitale e dell’intelligenza artificiale.

Attualmente, i principali sistemi che hanno adottato il watermark di Google sono:

• OpenAI: che lo utilizza su ChatGPT, DALL-E, Codex e le API dedicate, affiancandolo ad altri standard già in uso.
• Nvidia: che lo utilizza per tracciare i contenuti creati tramite Nvidia Cosmos.
• ElevenLabs: che lo utilizza per marcare i contenuti audio e le voci sintetiche.
• Kakao: che lo utilizza per i propri sistemi di intelligenza artificiale.

Altri strumenti basati su Watermark

SynthID Detector non è l’unico strumento di rilevamento basato su watermark. Ecco gli altri:

• DALL-E / Open AI invisible watermark.
• Stable Signature, di Meta.
• Forensic Mark & Steg.AI: soluzioni sviluppate per tutte le aziende ed editor che necessitano di un watermark.
• IMATAG: viene utilizzato per il copyright.

Oltre a questi esiste lo standard aperto C2PA (Content Credentials). Quest’ultimo è diventato lo standard globale principale. È stato creato dalla Coalition for Content Provenance and Authenticity, di cui fanno parte Adobe, Microsoft, Google, OpenAI e diverse testate giornalistiche.

Le intelligenze artificiali che non applicano Watermark

Come dicevamo, sfortunatamente si tratta di strumenti che vanno adottati dalle stesse aziende operanti nel settore e ciò vuol dire che possono esistere intelligenze artificiali che non utilizzano nessun watermark per segnare i file creati dalle proprie AI. Per questo motivo, sebbene SynthID sia uno strumento utilissimo ed estremamente affidabile, non può garantirci al 100% che un’immagine, un video, un’audio o un testo siano reali.

In diversi modelli Open Source la filigrana è completamente assente, tra questi troviamo Llama 3, DeepSeek, Whisper, Bark, MusicGen.

Ci sono, inoltre, alcune piattaforme commerciali, che potrebbero non inserire alcun tipo di filigrana, come Midjourney, Pika o Ideogram.