De toeschrijving en herkomst van media zijn de laatste jaren een steeds groter probleem geworden, vooral op sociale media. Je feeds worden overspoeld met door AI gegenereerde content, waaronder stemmen die sprekend klinken als die van bekende personen, video's van verzonnen gebeurtenissen die afkomstig lijken te zijn van betrouwbare bronnen, en zelfs Complete persona's gecreëerd uitsluitend uit pixels.Hoewel sommige van deze content amusant en ogenschijnlijk onschadelijk is, kan een deel ervan wel degelijk ingrijpende gevolgen hebben in de echte wereld.
Er wordt een cruciale standaard ontwikkeld die een diepgaande impact kan hebben op de toekomst van digitale content. Deze standaard is C2PAEn het wint momenteel aan populariteit in de branche voor de bescherming van informatie over de herkomst en toeschrijving van media.
De uitdagingen waar we voor staan
We verliezen sneller dan wie dan ook had kunnen voorspellen het vermogen om de inhoud die we online zien en horen te vertrouwen.
Toegegeven, mensen hebben berichten gegenereerd en verspreid. Valse foto's sinds de 1800e eeuw.Geavanceerde bewerkings- en manipulatietools bestaan al meer dan dertig jaar. Ook desinformatie werd al lang vóór de komst van generatieve AI verspreid via sociale media. Dit moment markeert echter de gelijktijdige vooruitgang op drie belangrijke gebieden:
- Het genereren van synthetische media is veel goedkoper geworden. Dure tools die voorheen zeer moeilijk toegankelijk waren, zijn nu breed beschikbaar en kunnen op laptops of telefoons worden gebruikt.
- De kwaliteit van deze bronnen is zo ver verbeterd dat het voor de gemiddelde persoon moeilijk is om onderscheid te maken tussen authentieke en synthetische media.
- Ten derde zijn de distributiekanalen voor deze bronnen nu alomtegenwoordig en direct, waardoor nep- of gemanipuleerde media miljoenen mensen kunnen bereiken voordat iemand de herkomst ervan in twijfel kan trekken.
Er was bijvoorbeeld een bekende incident in Hongkong begin 2024Een medewerker van de financiële afdeling van een multinational nam deel aan een videoconferentie met de CFO en een aantal collega's... of tenminste, zo leek het. Ze gaven de medewerker de opdracht om miljoenen dollars over te maken naar verschillende rekeningen. Later bleek echter dat alle deelnemers aan het gesprek, inclusief de CFO, kunstmatig waren gegenereerd. De samensmelting van social engineering en genAI vormt een van de meest kritieke beveiligingsrisico's waarmee we ooit in de bedrijfsomgeving te maken hebben gehad, en de verwachting is dat dit risico snel zal toenemen, zowel in tempo als in complexiteit.
Naarmate het publiek zich meer bewust wordt van het bestaan en de steeds overtuigendere aard van deepfakes en gefabriceerde content, krijgen kwaadwillenden een nieuw instrument in handen. Ze kunnen nu beweren dat echt bewijsmateriaal nep is. De scepsis en de weerstand die mensen ontwikkelen tegen synthetische media kunnen worden uitgebuit.
Moeten we investeren in detectietechnologie?
Als AI in staat is om media te vervalsen, dan kan AI dat toch zeker ook detecteren? Investeren in detectietechnologie lijkt misschien de voor de hand liggende oplossing, maar dat is het niet. Hier is waarom:
Ten eerste verbeteren generatieve modellen sneller dan detectiemodellen kunnen bijbenen. Elke nieuwe techniek die een detector leert om synthetische media te herkennen, wordt gebruikt als trainingsdata voor de volgende generatiemodellen. Het is een wapenwedloop, waarbij de aanvalslinie structurele voordelen heeft ten opzichte van de verdediging, en de kloof steeds groter wordt.
Tweede Zelfs detectiesystemen van wereldklasse schieten tekort op grote schaal.Als een detector 99% nauwkeurig is, maar het volume van het synthetische medium in de orde van miljoenen ligt, is die 1% die erdoorheen glipt nog steeds een enorm aantal. Het vormt nog steeds een aanzienlijk risico met grote gevolgen voor het grote publiek.
Ten derde, en het allerbelangrijkste: detectie werkt pas nadat de inhoud is verspreid. Tegen de tijd dat iets als nep wordt aangemerkt, is het mediaproduct al gezien, gedeeld en doorgedrongen tot het publieke bewustzijn.
Naast een enkele oplossing, zoals detectie, is een gecoördineerde aanpak nodig van detectie, ondertekening, markering, validatie en (het allerbelangrijkste) voorlichting om de risico's van vervalste media succesvol te bestrijden.
Het grotere probleem dat op het spel staat
Detectie is een verdedigingsmechanisme en kan niet verhelpen dat mensen dingen niet meer zien of horen, hoe goed de detectie ook wordt. Sterker nog, hoe beter de detectie wordt, hoe geloofwaardiger de bewering van een leugenaar wordt dat de detectie heeft gefaald. Het besef van het probleem dient nu als basis voor de leugen. Neem bijvoorbeeld het volgende:
Rechtbanken zijn afhankelijk van bewijsmateriaal. De journalistiek vertrouwt op bronnen. Documentatie is alles in de verzekeringsbranche. Verkiezingen zijn afhankelijk van een gedeeld verslag van wat elke kandidaat daadwerkelijk heeft gezegd. In al deze instellingen is er een basis van bewijsmateriaal waarvan iedereen het erover eens is dat het bestaat, ook al bestaat er onenigheid over de betekenis ervan.
Maar als die basislijn wegvalt, krijg je desinformatie die wordt versterkt door een samenleving waarin elk ongemakkelijk feit ontkend kan worden. Elke ongemakkelijke waarheid kan worden afgedaan met de valse bewering: "Dat is AI." De gevolgen reiken veel verder dan clickbait-content op sociale media, maar stimuleren de langzame uitholling van de fundamentele basis waarop mondiale instellingen steunen om te functioneren.
Meer waarde dan de waarheid
Bewijzen wat echt is, is een ware offensieve strategie. Zodra een bestand is gemaakt, voeg je een documentatie toe met informatie over wie het heeft gemaakt, waar het vandaan komt, welke tools zijn gebruikt en hoe het sindsdien is gewijzigd. Deze documentatie blijft bij het bestand. Iedereen kan het controleren en zien of er mee is geknoeid.
Herkomst is altijd de basis geweest van authenticiteit. Rechtbanken gebruiken het om de bewijsketen vast te stellen. Kunstgaleries en -handelaren gebruiken het om een echt Picasso-schilderij te onderscheiden van een vervalsing. De waarde van een honkbal met de handtekening van Mickey Mantle zit niet in de bal zelf, maar in de documentatie die bewijst dat hij hem daadwerkelijk heeft gesigneerd.
Hoewel herkomstinformatie niet nieuw is, is het implementeren ervan op grote schaal in digitale media dat wel. Dit is de technische uitdaging waar de komende jaren aan gewerkt zal worden. Hoewel herkomstinformatie niet garandeert dat de inhoud waar is (een ondertekend document van een legitieme nieuwsorganisatie kan nog steeds onjuiste informatie bevatten), biedt het iets nuttigers dan de waarheid: betrouwbare informatie over de oorsprong. De kijker is vrij om de inhoud te bekijken en zelf de geloofwaardigheid ervan te beoordelen. In een digitale wereld van vertrouwen moeten we de creatie of bewerking van media kunnen verifiëren.
De komst van C2PA
C2PA staat voor de Coalitie voor Herkomst en Authenticiteit van Inhoud.
Sinds de lancering is de C2PA-conformiteit aanzienlijk gegroeid en heeft zich uitgebreid tot buiten de oprichtende leden. Grote mediaorganisaties, platforms voor generatieve AI, hardwarefabrikanten en certificeringsinstanties, waaronder SSL, de eerste publiekelijk vertrouwde CA in het C2PA-ecosysteem.Alle deelnemers zijn nu betrokken. SSL verstrekt de certificaten die ondertekenaars gebruiken om een verifieerbare herkomst te koppelen aan de media die ze creëren of wijzigen.
Als u systemen beheert of bouwt waar vertrouwen van essentieel belang is, neem dan contact met ons op. Ons team staat klaar om u te helpen bij het nemen van weloverwogen beslissingen over oplossingen voor contentauthenticiteit, zoals SSL-certificaten. C2PA en / of CAWG-certificaten, passen bij je werk.
Dit artikel is een verkorte versie en een bewerking van een artikel van de EVP Technologie van SSL. Dustin WardHet originele blogbericht van . Je kunt de volledige versie lezen. hierDit is zijn eerste bijdrage aan een serie die draait om C2PA.
