Medieattribution og proveniens er blevet et voksende problem, især på sociale medier, i de senere år. Dine feeds er oversvømmet med AI-genereret indhold, herunder stemmer, der lyder præcis som offentlige personer, videoer af opdigtede begivenheder, der ser ud til at komme fra velrenommerede kilder, og endda hele personaer skabt udelukkende af pixelsSelvom noget af dette indhold er underholdende og tilsyneladende harmløst, kan noget af det have store konsekvenser i den virkelige verden.
Der er en afgørende standard under udvikling, som kan få en dybtgående indflydelse på fremtiden for digitalt indhold. Denne standard er C2PA, og det vinder i øjeblikket momentum i hele branchen for at beskytte mediehenvisning og oprindelsesoplysninger.
De udfordringer, vi står over for
Vi mister evnen til at stole på det indhold, vi ser og hører online, hurtigere end nogen kunne have forudset.
Ganske vist har folk genereret og cirkuleret falske fotografier siden 1800-talletAvancerede redigerings- og manipulationsværktøjer har eksisteret i mere end tre årtier. Tilsvarende er misinformation blevet spredt på sociale medieplatforme længe før generativ AI's fremkomst. Dette øjeblik markerer dog samtidige fremskridt på tre nøgleområder:
- Det er meget billigere at generere syntetiske medier. Dyre værktøjer, der tidligere havde ekstremt begrænset adgang, er nu meget tilgængelige og kan køres på bærbare computere eller telefoner.
- Kvaliteten af disse ressourcer er blevet så høj, at det er vanskeligt for den gennemsnitlige person at skelne mellem autentiske og syntetiske medier.
- For det tredje er distributionskanalerne for disse ressourcer nu allestedsnærværende og øjeblikkelige, hvilket gør det muligt for falske eller manipulerede medier at nå millioner af mennesker, før nogen kan sætte spørgsmålstegn ved deres oprindelse.
For eksempel var der en velkendt hændelse i Hongkong i begyndelsen af 2024En økonomimedarbejder i en multinational virksomhed deltog i et videokonferenceopkald med virksomhedens økonomidirektør og flere kolleger ... eller i det mindste var det, hvem det så ud til at være. De instruerede medarbejderen i at overføre millioner af dollars til en række konti. Det blev dog senere opdaget, at alle personer i opkaldet, inklusive økonomidirektøren, var syntetisk genereret. Konvergensen af social engineering og genAI repræsenterer en af de mest kritiske sikkerhedsrisici, vi nogensinde har stået over for i virksomhedsmiljøet, og det forventes, at den vil vokse hurtigt i både tempo og kompleksitet.
Efterhånden som offentligheden bliver mere bevidst om, at deepfakes og fabrikeret indhold eksisterer, og bliver mere overbevisende, får ondsindede aktører et nyt værktøj. De kan nu hævde, at reelle beviser er falske. Den skepsis og det forsvar, som folk udvikler som reaktion på syntetiske medier, kan udnyttes.
Skal vi investere i detektionsteknologi?
Hvis AI kan skabe forfalskede medier, så kan AI helt sikkert også opdage det. Investering i detektionsteknologi kan virke som det indlysende svar, men det er også det forkerte. Her er hvorfor:
For det første forbedres generative modeller hurtigere, end detektionsmodeller kan følge med. Med hver ny teknik, som en detektor lærer at spotte syntetiske medier, føres den ind i den næste runde af træningsdata for generatorerne. Det er et våbenkapløb, og angrebet har strukturelle fordele i forhold til forsvaret, hvor forskellen konstant vokser.
Sekund, Selv detektion i verdensklasse mislykkes i stor skalaHvis en detektor er 99 % nøjagtig, men det syntetiske medies volumen er i størrelsesordenen millioner, er den 1 %, der slipper igennem, stadig et enormt tal. Det udgør stadig en betydelig risiko med betydelige konsekvenser for offentligheden.
For det tredje, og vigtigst af alt: opsporing virker kun, efter at indholdet er blevet distribueret. Når noget markeres som fabrikeret, er medieindslaget allerede blevet set, delt og absorberet i den offentlige bevidsthed.
Ud over en enkeltstående løsning, såsom detektion, kræver det en koordineret indsats af detektion, signering, tagging, validering og (vigtigst af alt) uddannelse for at bekæmpe de risici, der er forbundet med forfalskede medier, med succes.
Det større problem på spil
Detektion er en defensiv holdning og kan ikke afhjælpe, at folk kan af-se eller af-høre ting, uanset hvor godt det bliver. Hvis noget, jo mere detektionen forbedres, jo mere troværdig bliver en løgners påstand om, at detektionen mislykkedes. Selve bevidstheden om problemet tjener nu som grundlag for løgnen. Overvej følgende:
Domstole er afhængige af beviser. Journalistik er afhængig af kilder. Dokumentation er alt i forsikringsbranchen. Valg afhænger af en fælles registrering af, hvad hver kandidat rent faktisk har sagt. I hver af disse institutioner er der en grundlæggende mængde beviser, som alle kan være enige om eksisterer, selvom der er uenighed om betydningen.
Men hvis den grundlinje fjernes, har man misinformation, der forværres af et samfund, hvor enhver ubelejlig kendsgerning kan benægtes. Enhver ubehagelig sandhed kan afvises ved at påstå fejlagtigt "Det er AI." Konsekvensen rækker langt ud over clickbait-indhold på sociale medier, men ansporer til en langsom erosion af de grundlæggende fundamenter, som globale institutioner er afhængige af for at fungere.
Mere værdi ud over sandheden
At bevise, hvad der er ægte, er en sand offensiv holdning. Når et aktiv er oprettet, vedhæfter du en registrering af, hvem der har lavet det, hvor det kommer fra, hvilke værktøjer der blev brugt, og hvordan det er blevet ændret siden. Denne registrering følger med filen. Enhver kan verificere den og se, om den er blevet manipuleret.
Proveniens har altid været fundamentet for ægthed. Domstole bruger det, når de etablerer en forældremyndighedskæde (chain of custody of bevismateriale). Kunstgallerier og forhandlere bruger det til at adskille et ægte Picasso-maleri fra en forfalskning. Værdien af en baseball med Mickey Mantles underskrift ligger ikke i selve bolden, men i det papirspor, der beviser, at han faktisk har underskrevet den.
Selvom proveniens ikke er nyt, er det at få proveniens til at fungere for digitale medier i stor skala noget nyt. Dette er det tekniske problem, der vil blive løst i løbet af de næste par år. Selvom proveniens ikke erklærer indhold for at være sandt (en underskrevet registrering fra en legitim nyhedsorganisation kan stadig beskrive begivenheder forkert), tilbyder det noget mere nyttigt end sandheden: pålidelig information om oprindelsen. Seeren er fri til at absorbere indholdet og selv bestemme dets troværdighed. I digital tillid skal vi være i stand til at bevidne mediets skabelse eller ændring.
Ankomsten af C2PA
C2PA står for Koalitionen for Indholds Proveniens og Autenticitet.
Siden lanceringen er C2PA-konformiteten vokset betydeligt og har udvidet sig ud over de grundlæggende medlemmer. Store medieorganisationer, generative AI-platforme, hardwareproducenter og certifikatmyndigheder, herunder SSL, den første offentligt betroede CA i C2PA-økosystemet, er nu alle deltagere. SSL udsteder de certifikater, som underskrivere bruger til at binde verificerbar oprindelse til de medier, de opretter eller ændrer.
Hvis du driver eller bygger systemer, hvor tillid er vigtig, så lad os komme i kontakt. Vores team er her for at hjælpe dig med at træffe reelle beslutninger om, hvordan indholdsautenticitetsløsninger, såsom SSL'er, C2PA og / eller CAWG-certifikater, passer ind i dit arbejde.
Denne artikel er forkortet og interpoleret fra SSL EVP of Technology Dustin Ward's originale blogindlæg. Du kan læse den fulde version link.Dette er hans første bidrag i en serie centreret omkring C2PA.
