Medieattribution och proveniens har blivit ett växande problem, särskilt på sociala medier, de senaste åren. Dina flöden översvämmas av AI-genererat innehåll, inklusive röster som låter precis som offentliga personer, videor av påhittade händelser som verkar komma från pålitliga källor, och till och med hela personas skapade enbart från pixlarÄven om en del av innehållet är underhållande och till synes harmlöst, kan en del få verkliga konsekvenser.
Det finns en avgörande standard som håller på att utvecklas och som kan ha en djupgående inverkan på framtiden för digitalt innehåll. Denna standard är C2PA, och det får för närvarande fart i hela branschen för att skydda information om medietillskrivning och ursprung.
Utmaningarna vi står inför
Vi förlorar förmågan att lita på det innehåll vi ser och hör online snabbare än någon kunnat förutse.
Visst, människor har genererat och cirkulerat falska fotografier sedan 1800-taletAvancerade redigerings- och manipulationsverktyg har funnits i mer än tre decennier. På liknande sätt har felaktig information spridits på sociala medieplattformar långt innan generativ AI kom. Detta ögonblick markerar dock samtidiga framsteg inom tre nyckelområden:
- Att generera syntetiska medier är mycket billigare. Dyra verktyg som tidigare hade extremt begränsad åtkomst är nu lättillgängliga och kan köras på bärbara datorer eller telefoner.
- Kvaliteten på dessa resurser har avancerat till den grad att det är svårt för den genomsnittliga personen att skilja mellan autentiska och syntetiska medier.
- För det tredje är distributionskanalerna för dessa resurser nu allestädes närvarande och omedelbara, vilket gör att falska eller manipulerade medier kan nå miljontals människor innan någon kan ifrågasätta deras ursprung.
Till exempel fanns det en välkänd incidenten i Hongkong i början av 2024En ekonomianställd på ett multinationellt företag deltog i ett videokonferenssamtal med företagets ekonomichef och flera kollegor ... eller åtminstone var det vem det verkade vara. De instruerade den anställde att överföra miljontals dollar till en rad konton. Det upptäcktes dock senare att varje individ i samtalet, inklusive ekonomichefen, var syntetiskt genererad. Konvergensen av social ingenjörskonst och genAI representerar en av de mest kritiska säkerhetsriskerna vi någonsin har mött i företagsmiljön, och den förutspås växa snabbt i både takt och komplexitet.
I takt med att allmänheten blir mer medveten om att deepfakes och fabricerat innehåll existerar och blir alltmer övertygande, får illvilliga aktörer ett nytt verktyg. De kan nu hävda att verkliga bevis är falska. Den skepticism och det försvar som människor utvecklar som svar på syntetiska medier kan utnyttjas.
Borde vi investera i detektionsteknik?
Om AI kan skapa förfalskade medier, så kan AI säkert upptäcka det. Att investera i detekteringsteknik kan verka som det självklara svaret, men det är också fel. Här är anledningen:
För det första förbättras generativa modeller snabbare än detektionsmodeller kan hålla jämna steg med. Med varje ny teknik som en detektor lär sig att upptäcka syntetiska medier, matas den in i nästa omgång träningsdata för generatorerna. Det är en kapprustning, och offensiven har strukturella fördelar jämfört med försvaret, där gapet ständigt ökar.
För det andra, även detektering i världsklass misslyckas i stor skalaOm en detektor är 99 % noggrann men volymen av det syntetiska mediet är i storleksordningen miljoner, är den 1 % som slinker igenom fortfarande en enorm siffra. Det utgör fortfarande en avsevärd risk med betydande konsekvenser för allmänheten.
För det tredje, och viktigast av allt: upptäckt fungerar bara efter att innehållet har distribuerats. När något flaggas som fabricerat har medieartikeln redan setts, delats och absorberats av det allmänna medvetandet.
Utöver en enda lösning, såsom upptäckt, krävs det en samordnad insats av upptäckt, signering, taggning, validering och (viktigast av allt) utbildning för att framgångsrikt bekämpa riskerna med förfalskade medier.
Den större frågan som står på spel
Upptäckt är en defensiv hållning och kan inte åtgärda att människor kan avse eller avhöra saker, oavsett hur bra det blir. Om något, ju mer upptäckten förbättras, desto mer trovärdigt blir en lögnares påstående att upptäckten misslyckades. Själva medvetenheten om problemet fungerar nu som grund för lögnen. Tänk på följande:
Domstolar är beroende av bevis. Journalistik är beroende av källor. Dokumentation är allt inom försäkringsbranschen. Val är beroende av en gemensam dokumentation av vad varje kandidat faktiskt har sagt. I var och en av dessa institutioner finns det en grundlinje av bevis som alla kan hålla med om existerar, även om det råder oenighet om innebörden.
Men om den baslinjen tas bort, har man felaktig information som förvärras av ett samhälle där alla obekväma fakta är förnekbara. Varje obekväm sanning kan avfärdas genom att falskeligen påstå "Det är AI". Konsekvensen sträcker sig långt bortom clickbait-innehåll på sociala medier, men sporrar den långsamma urholkningen av de grundläggande grundvalar som globala institutioner är beroende av för att fungera.
Mer värde bortom sanningen
Att bevisa att det är äkta är en verkligt stötande hållning. När en tillgång har skapats bifogar du en registrering av vem som tillverkat den, var den kommer ifrån, vilka verktyg som använts och hur den har ändrats sedan dess. Denna registrering följer med filen. Vem som helst kan verifiera den och se om den har manipulerats.
Proveniens har alltid varit grunden för äkthet. Domstolar använder det när de fastställer en spårbarhetskedja för bevis. Konstgallerier och återförsäljare använder det för att skilja en riktig Picasso-målning från en förfalskning. Värdet av en baseboll med Mickey Mantles signatur ligger inte i själva bollen utan i pappersspåret som bevisar att han faktiskt signerade den.
Även om proveniens inte är något nytt, så är det att få proveniens att fungera för digitala medier i stor skala något nytt. Detta är den tekniska fråga som kommer att åtgärdas under de kommande åren. Även om proveniens inte försäkrar att innehåll är sant (en signerad registrering från en legitim nyhetsorganisation kan fortfarande beskriva händelser felaktigt), erbjuder den något mer användbart än sanningen: tillförlitlig information om ursprunget. Tittaren är fri att ta till sig innehållet och själv avgöra dess trovärdighet. I digitalt förtroende måste vi kunna intyga att media skapats eller modifierats.
C2PA:s ankomst
C2PA står för Koalitionen för innehållsproveniens och äkthet.
Sedan lanseringen har C2PA-efterlevnaden vuxit avsevärt och expanderat bortom dess grundande medlemmar. Stora medieorganisationer, generativa AI-plattformar, hårdvarutillverkare och certifikatutfärdare, inklusive SSL, den första offentligt betrodda CA:n i C2PA-ekosystemet, är nu alla deltagare. SSL utfärdar de certifikat som signerare använder för att binda verifierbart ursprung till de medier de skapar eller modifierar.
Om du driver eller bygger system där förtroende är viktigt, låt oss komma i kontakt. Vårt team finns här för att hjälpa dig fatta riktiga beslut om hur lösningar för innehållsautenticitet, som SSL:er, C2PA och / eller CAWG-certifikat, passar in i ditt arbete.
Denna artikel är förkortad och interpolerad från SSL:s tekniska vice VD Dustin Wards ursprungliga blogginlägg. Du kan läsa hela versionen här.Detta är hans första bidrag i en serie som kretsar kring C2PA.
