Medieattribusjon og proveniens har blitt et økende problem, spesielt på sosiale medier, de siste årene. Feedene dine oversvømmes med AI-generert innhold, inkludert stemmer som høres ut akkurat som offentlige personer, videoer av fabrikerte hendelser som ser ut til å komme fra pålitelige kilder, og til og med hele personaer laget utelukkende av pikslerSelv om noe av dette innholdet er morsomt og tilsynelatende harmløst, kan noe av det ha store konsekvenser i den virkelige verden.
Det er en viktig standard under utvikling som kan ha stor innvirkning på fremtiden til digitalt innhold. Denne standarden er C2PA, og det får for tiden momentum i bransjen for å beskytte medieattribusjon og opprinnelsesinformasjon.
Utfordringene vi står overfor
Vi mister evnen til å stole på innholdet vi ser og hører på nettet raskere enn noen kunne ha forutsett.
Riktignok har folk generert og sirkulert falske fotografier siden 1800-talletAvanserte redigerings- og manipuleringsverktøy har eksistert i mer enn tre tiår. På samme måte har feilinformasjon blitt spredt på sosiale medieplattformer lenge før generativ AI kom. Dette øyeblikket markerer imidlertid samtidige fremskritt på tre nøkkelområder:
- Det er mye billigere å generere syntetiske medier. Dyre verktøy som tidligere hadde ekstremt begrenset tilgang, er nå lett tilgjengelige og kan kjøres på bærbare datamaskiner eller telefoner.
- Kvaliteten på disse ressursene har blitt så høy at det er vanskelig for gjennomsnittspersonen å skille mellom autentiske og syntetiske medier.
- For det tredje er distribusjonskanaler for disse ressursene nå allestedsnærværende og umiddelbare, slik at falske eller manipulerte medier kan nå millioner av mennesker før noen kan stille spørsmål ved opprinnelsen deres.
For eksempel var det en velkjent hendelsen i Hongkong tidlig i 2024En finansansatt i et multinasjonalt selskap deltok i en videokonferansesamtale med selskapets finansdirektør og flere kolleger … eller i det minste var det den det så ut til å være. De instruerte den ansatte til å overføre millioner av dollar til en rekke kontoer. Det ble imidlertid senere oppdaget at hver enkelt person i samtalen, inkludert finansdirektøren, var syntetisk generert. Konvergensen av sosial manipulering og genAI representerer en av de mest kritiske sikkerhetsrisikoene vi noen gang har møtt i bedriftsmiljøet, og det er spådd at den vil vokse raskt i både tempo og kompleksitet.
Etter hvert som offentligheten blir mer bevisste på at deepfakes og fabrikkert innhold eksisterer, og blir mer overbevisende, får ondsinnede aktører et nytt verktøy. De kan nå hevde at ekte bevis er falske. Skepsisen og forsvaret som folk utvikler som svar på syntetiske medier, kan utnyttes.
Bør vi investere i deteksjonsteknologi?
Hvis AI kan lage forfalskede medier, så kan AI helt sikkert oppdage det. Å investere i deteksjonsteknologi kan virke som det åpenbare svaret, men det er også feil. Her er hvorfor:
For det første forbedres generative modeller raskere enn deteksjonsmodeller kan holde tritt med. Med hver ny teknikk en detektor lærer å oppdage syntetiske medier, mates den inn i neste runde med treningsdata for generatorene. Det er et våpenkappløp, og angrepet har strukturelle fordeler over forsvaret, med et gap som stadig øker.
For det andre, Selv deteksjon i verdensklasse mislykkes i stor skalaHvis en detektor er 99 % nøyaktig, men volumet av det syntetiske mediet er i størrelsesordenen millioner, er den 1 % som slipper gjennom fortsatt et enormt tall. Det representerer fortsatt en betydelig risiko med betydelige konsekvenser for allmennheten.
For det tredje, og viktigst av alt: deteksjon fungerer bare etter at innholdet har blitt distribuert. Når noe flagges som fabrikert, har medieinnholdet allerede blitt sett, delt og absorbert inn i den offentlige bevisstheten.
Utover én enkelt løsning, som deteksjon, vil det kreve en koordinert innsats av deteksjon, signering, tagging, validering og (viktigst av alt) opplæring for å lykkes med å bekjempe risikoen forbundet med forfalskede medier.
Det større problemet som står på spill
Oppdagelse er en defensiv holdning og kan ikke fikse at folk kan av-se eller av-høre ting, uansett hvor bra det blir. Om noe, jo mer oppdagingen forbedres, desto mer troverdig blir en løgners påstand om at oppdagingen mislyktes. Selve bevisstheten om problemet tjener nå som grunnlag for løgnen. Tenk på følgende:
Domstoler er avhengige av bevis. Journalistikk er avhengig av kilder. Dokumentasjon er alt i forsikringsbransjen. Valg er avhengige av en felles oversikt over hva hver kandidat faktisk har sagt. I hver av disse institusjonene finnes det en grunnlinje av bevis som alle kan være enige om eksisterer, selv om det er uenighet om betydningen.
Men hvis den grunnlinjen fjernes, har du feilinformasjon forverret av et samfunn der ethvert ubeleilig faktum kan benektes. Enhver ubehagelig sannhet kan avfeies ved å feilaktig hevde «Det er AI». Konsekvensen strekker seg langt utover clickbait-innhold på sosiale medier, men ansporer til en langsom erosjon av de grunnleggende fundamentene som globale institusjoner er avhengige av for å fungere.
Mer verdi utover sannheten
Å bevise hva som er ekte er en skikkelig støtende holdning. Når et aktivum er opprettet, legger du ved en oversikt over hvem som har laget det, hvor det kommer fra, hvilke verktøy som ble brukt og hvordan det har blitt endret siden. Denne oversikten følger med filen. Hvem som helst kan bekrefte det, og de kan se om det har blitt tuklet med.
Proveniens har alltid vært grunnlaget for autentisitet. Domstoler bruker det når de etablerer en beviskjede. Kunstgallerier og forhandlere bruker det til å skille et ekte Picasso-maleri fra en forfalskning. Verdien av en baseball med Mickey Mantles signatur ligger ikke i selve ballen, men i papirsporet som beviser at han faktisk signerte den.
Selv om proveniens ikke er nytt, er det å få proveniens til å fungere for digitale medier i stor skala det. Dette er det tekniske problemet som vil bli adressert i løpet av de neste årene. Selv om proveniens ikke erklærer innhold for å være sant (en signert registrering fra en legitim nyhetsorganisasjon kan fortsatt beskrive hendelser feil), tilbyr den noe mer nyttig enn sannheten: pålitelig informasjon om opprinnelse. Seeren står fritt til å absorbere innholdet og bestemme dets troverdighet selv. I digital tillit må vi kunne bekrefte medienes opprettelse eller modifisering.
Ankomsten av C2PA
C2PA står for Koalisjonen for innholds proveniens og autentisitet.
Siden lanseringen har C2PA-samsvaret vokst betydelig, og har blitt utvidet utover grunnleggerne. Store medieorganisasjoner, generative AI-plattformer, maskinvareprodusenter og sertifiseringsinstanser, inkludert SSL, den første offentlig betrodde CA-en i C2PA-økosystemet, er nå alle deltakere. SSL utsteder sertifikatene som signatarer bruker for å binde verifiserbar opprinnelse til mediene de oppretter eller endrer.
Hvis du driver eller bygger systemer der tillit er viktig, la oss komme i kontakt. Teamet vårt er her for å hjelpe deg med å ta reelle beslutninger om hvordan løsninger for innholdsautentisitet, som SSL-er, C2PA og / eller CAWG-sertifikater, passer inn i arbeidet ditt.
Denne artikkelen er forkortet og interpolert fra SSLs konserndirektør for teknologi Dustin Wards originale blogginnlegg. Du kan lese hele versjonen her.Dette er hans første bidrag i en serie sentrert rundt C2PA.