L'attribuzione e la provenienza dei media sono diventate un problema sempre più rilevante, soprattutto sui social media, negli ultimi anni. I tuoi feed sono inondati di contenuti generati dall'IA, tra cui voci che suonano proprio come quelle di personaggi pubblici, video di eventi inventati che sembrano provenire da fonti autorevoli e persino intere personalità create esclusivamente da pixelSebbene alcuni di questi contenuti siano divertenti e apparentemente innocui, altri possono avere conseguenze significative nel mondo reale.
È in fase di sviluppo uno standard cruciale che potrebbe avere un impatto profondo sul futuro dei contenuti digitali. Questo standard è C2PAe sta guadagnando terreno in tutto il settore per la protezione delle informazioni relative all'attribuzione e alla provenienza dei contenuti multimediali.
Le sfide che ci troviamo ad affrontare
Stiamo perdendo la capacità di fidarci dei contenuti che vediamo e ascoltiamo online a un ritmo più rapido di quanto chiunque avrebbe potuto prevedere.
Certo, le persone hanno generato e diffuso fotografie false fin dal XIX secoloStrumenti avanzati di modifica e manipolazione esistono da oltre trent'anni. Allo stesso modo, la disinformazione viene diffusa sulle piattaforme dei social media ben prima dell'avvento dell'intelligenza artificiale generativa. Tuttavia, questo momento segna un progresso simultaneo in tre aree chiave:
- Generare contenuti multimediali sintetici è molto più economico. Strumenti costosi, un tempo di accesso estremamente limitato, sono ora facilmente reperibili e possono essere utilizzati su laptop o smartphone.
- La qualità di queste risorse è progredita a tal punto che per una persona media è difficile distinguere tra contenuti multimediali autentici e sintetici.
- In terzo luogo, i canali di distribuzione di queste risorse sono ormai onnipresenti e istantanei, consentendo a contenuti multimediali falsi o manipolati di raggiungere milioni di persone prima che qualcuno possa metterne in discussione l'origine.
Ad esempio, c'era un noto incidente a Hong Kong all'inizio del 2024Un impiegato del reparto finanziario di una multinazionale ha partecipato a una videoconferenza con il direttore finanziario (CFO) e alcuni colleghi... o almeno così sembrava. Gli è stato chiesto di trasferire milioni di dollari su una serie di conti. Tuttavia, in seguito si è scoperto che ogni partecipante alla chiamata, incluso il CFO, era un'entità generata artificialmente. La convergenza tra ingegneria sociale e intelligenza artificiale generata artificialmente rappresenta uno dei rischi per la sicurezza più critici che abbiamo mai affrontato in ambito aziendale, e si prevede che crescerà rapidamente sia in termini di ritmo che di complessità.
Man mano che il pubblico diventa più consapevole dell'esistenza dei deepfake e dei contenuti falsificati, e della loro crescente capacità di renderli convincenti, i malintenzionati acquisiscono un nuovo strumento. Ora possono affermare che prove reali siano false. Lo scetticismo e i meccanismi di difesa che le persone sviluppano in risposta ai media sintetici possono essere sfruttati.
Dovremmo investire nella tecnologia di rilevamento?
Se l'intelligenza artificiale è in grado di creare contenuti multimediali falsificati, allora sicuramente può anche rilevarli. Investire in tecnologie di rilevamento potrebbe sembrare la soluzione più ovvia, ma è anche quella sbagliata. Ecco perché:
Innanzitutto, i modelli generativi migliorano più rapidamente di quanto i modelli di rilevamento riescano a tenere il passo. Ogni nuova tecnica che un rilevatore apprende per individuare i contenuti multimediali sintetici viene utilizzata per alimentare il successivo ciclo di dati di addestramento dei generatori. È una corsa agli armamenti, e l'attacco gode di vantaggi strutturali rispetto alla difesa, con un divario che si allarga continuamente.
Secondo, anche i sistemi di rilevamento di livello mondiale falliscono su larga scalaSe un rilevatore ha un'accuratezza del 99%, ma il volume del materiale sintetico è dell'ordine di milioni, quell'1% che sfugge al controllo rappresenta comunque una cifra enorme. Costituisce ancora un rischio considerevole con conseguenze sostanziali per il pubblico.
In terzo luogo, e soprattutto: il rilevamento funziona solo dopo che il contenuto è stato distribuito. Nel momento in cui qualcosa viene segnalato come falso, il contenuto mediatico è già stato visto, condiviso e assimilato dalla coscienza pubblica.
Al di là di una singola soluzione, come ad esempio il rilevamento, sarà necessario uno sforzo coordinato di rilevamento, firma, etichettatura, convalida e (cosa più importante) formazione per combattere efficacemente i rischi associati ai contenuti multimediali falsificati.
La questione più importante in gioco
Il rilevamento è una posizione difensiva e non può risolvere il problema della possibilità che le persone non vedano o non sentano certe cose, per quanto la tecnologia possa migliorare. Anzi, più il rilevamento migliora, più credibile diventa l'affermazione di un bugiardo secondo cui il rilevamento ha fallito. La stessa consapevolezza del problema diventa la base per la menzogna. Considerate quanto segue:
I tribunali si basano sulle prove. Il giornalismo si affida alle fonti. La documentazione è fondamentale nel settore assicurativo. Le elezioni dipendono da una registrazione condivisa di ciò che ciascun candidato ha effettivamente detto. In ognuna di queste istituzioni, esiste una base di prove su cui tutti concordano, anche se vi sono divergenze di opinione sul loro significato.
Ma se questo punto di partenza viene a mancare, si crea una disinformazione aggravata da una società in cui qualsiasi fatto scomodo può essere negato. Qualsiasi verità scomoda può essere liquidata affermando falsamente "È colpa dell'intelligenza artificiale". Le conseguenze vanno ben oltre i contenuti acchiappaclick sui social media, alimentando la lenta erosione delle fondamenta su cui si basano le istituzioni globali per funzionare.
Un valore che va oltre la verità
Dimostrare la veridicità di un'azione è una vera e propria strategia offensiva. Una volta creato un bene, si allega una registrazione che indica chi lo ha creato, da dove proviene, quali strumenti sono stati utilizzati e come è stato modificato in seguito. Questa registrazione accompagna il file. Chiunque può verificarla e controllare se è stata manomessa.
La provenienza è sempre stata il fondamento dell'autenticità. I tribunali la utilizzano per stabilire la catena di custodia delle prove. Gallerie d'arte e mercanti la usano per distinguere un autentico dipinto di Picasso da un falso. Il valore di una palla da baseball con la firma di Mickey Mantle non risiede nella palla in sé, ma nella documentazione che ne dimostra l'autenticità.
Sebbene la provenienza non sia una novità, la sua applicazione su larga scala ai media digitali lo è. Questa è la questione tecnica che verrà affrontata nei prossimi anni. Pur non garantendo la veridicità di un contenuto (un documento firmato da un'organizzazione giornalistica legittima può comunque descrivere gli eventi in modo errato), la provenienza offre qualcosa di più utile della verità: informazioni affidabili sull'origine. Lo spettatore è libero di fruire del contenuto e valutarne autonomamente la credibilità. Nell'ottica della fiducia digitale, dobbiamo essere in grado di attestare la creazione o la modifica del contenuto multimediale.
L'arrivo di C2PA
C2PA sta per Coalizione per la Provenienza e l'Autenticità dei Contenuti.
Dal suo lancio, la conformità C2PA è cresciuta in modo significativo, espandendosi oltre i suoi membri fondatori. Importanti organizzazioni mediatiche, piattaforme di intelligenza artificiale generativa, produttori di hardware e autorità di certificazione, tra cui SSL, la prima CA pubblicamente riconosciuta nell'ecosistema C2PA, sono tutti partecipanti ora. SSL rilascia i certificati che i firmatari utilizzano per associare una provenienza verificabile ai contenuti multimediali che creano o modificano.
Se gestisci o crei sistemi in cui la fiducia è importante, mettiamoci in contatto. Il nostro team è qui per aiutarti a prendere decisioni concrete su come le soluzioni di autenticità dei contenuti, come gli SSL C2PA e / o Certificati CAWG, adattarsi al tuo lavoro.
Questo articolo è una versione abbreviata e interpolata dal Vicepresidente Esecutivo della Tecnologia di SSL. Dustin WardIl post originale del blog di . Puoi leggere la versione completa Qui.Questo è il suo primo articolo di una serie incentrata su C2PA.
