Az utóbbi években a médiatartalmak, különösen a közösségi médiában, egyre nagyobb problémát jelentenek a származási helyek. A hírfolyamok tele vannak mesterséges intelligencia által generált tartalommal, beleértve a közéleti személyiségekre emlékeztető hangokat, kitalált eseményekről készült videókat, amelyek megbízható forrásokból származnak, sőt még… teljes personák, amelyeket kizárólag pixelekből hoznak létreBár a tartalom egy része szórakoztató és látszólag ártalmatlan, némelyiknek komoly valós következményei lehetnek.
Egy kulcsfontosságú szabvány kidolgozása folyamatban van, amely mélyrehatóan befolyásolhatja a digitális tartalom jövőjét. Ez a szabvány a C2PA, és jelenleg lendületet vesz az iparágban a média attribúciójára és származására vonatkozó információk védelme érdekében.
A kihívások, amelyekkel szembesülünk
Gyorsabban veszítjük el a képességünket, hogy megbízzunk az online megtekintett és hallott tartalmakban, mint azt bárki megjósolta volna.
Persze, az emberek termelték és terjesztették hamis fényképek az 1800-as évek ótaA fejlett szerkesztő- és manipulációs eszközök már több mint három évtizede léteznek. Hasonlóképpen, a félretájékoztatás már jóval a generatív mesterséges intelligencia megjelenése előtt is terjedt a közösségi média platformjain. Ez a pillanat azonban három kulcsfontosságú területen egyidejű fejlődést jelent:
- A szintetikus média előállítása sokkal olcsóbb. A drága eszközök, amelyekhez korábban rendkívül korlátozott hozzáférés volt, ma már könnyen elérhetők, és laptopokon vagy telefonokon is futtathatók.
- Ezeknek az erőforrásoknak a minősége olyan mértékben fejlődött, hogy az átlagember számára nehéz különbséget tenni az eredeti és a szintetikus média között.
- Harmadszor, ezen erőforrások terjesztési csatornái ma már mindenütt jelen vannak és azonnaliak, lehetővé téve, hogy a hamis vagy manipulált média emberek millióihoz jusson el, mielőtt bárki megkérdőjelezhetné azok eredetét.
Például volt egy közismert incidens Hongkongban 2024 elejénEgy multinacionális cég pénzügyi alkalmazottja videokonferencián vett részt a cég pénzügyi igazgatójával és több kollégájával... vagy legalábbis annak tűnt. Utasították az alkalmazottat, hogy több millió dollárt utaljon át egy sor számlára. Később azonban kiderült, hogy a hívásban résztvevő minden egyes személy, beleértve a pénzügyi igazgatót is, szintetikusan generált. A társadalmi manipuláció és a genAI konvergenciája az egyik legkritikusabb biztonsági kockázatot jelenti, amellyel valaha is szembesültünk a vállalati környezetben, és az előrejelzések szerint mind ütemben, mind összetettségben gyorsan növekedni fog.
Ahogy a közvélemény egyre inkább tudatában van a deepfake-ek és a kitalált tartalmak létezésének, és ezek egyre meggyőzőbbek, a rosszindulatú szereplők új eszközhöz jutnak. Most már azt állíthatják, hogy a valódi bizonyítékok hamisítványok. A szintetikus médiával szemben az emberekben kialakuló szkepticizmus és védekezés kihasználható.
Érdemes befektetni az észlelési technológiába?
Ha a mesterséges intelligencia képes hamisított média létrehozására, akkor biztosan képes azt észlelni is. A felderítő technológiába való befektetés nyilvánvaló válasznak tűnhet, de egyben rossz is. Íme, miért:
Először is, a generatív modellek gyorsabban fejlődnek, mint ahogy a detektáló modellek lépést tudnak tartani. Minden új technikával, amit egy detektor megtanul a szintetikus média felismerésére, az beépül a generátorok következő tanulóadat-körébe. Ez egy fegyverkezési verseny, és a támadósor strukturális előnyökkel rendelkezik a védekezéssel szemben, a különbség pedig folyamatosan növekszik.
Másodszor, még a világszínvonalú detektálás is nagy léptékben kudarcot vallHa egy detektor 99%-os pontosságú, de a szintetikus média mennyisége milliós nagyságrendű, az átjutott 1% még mindig hatalmas szám. Még mindig jelentős kockázatot jelent, és komoly következményekkel jár a lakosságra nézve.
Harmadszor, és ami a legfontosabb: a felderítés csak a tartalom terjesztése után működik. Mire valamit kitaláltként jelölnek meg, a médiaelemet már látták, megosztották, és a köztudatba beépült.
Egyetlen megoldáson, például a felderítésen túl összehangolt erőfeszítésekre van szükség a felderítés, az aláírás, a címkézés, az érvényesítés és (legfőképpen) az oktatás terén a hamisított adathordozókkal kapcsolatos kockázatok sikeres leküzdéséhez.
A nagyobb kérdés forog kockán
A felderítés egy védekező álláspont, és nem tudja orvosolni azt, hogy az emberek nem látnak vagy nem hallanak dolgokat, bármennyire is jó lesz. Sőt, minél jobban javul a felderítés, annál hihetőbbé válik egy hazug állítása, hogy a felderítés kudarcot vallott. Maga a probléma tudatosítása szolgál a hazugság alapjául. Vegyük figyelembe a következőket:
A bíróságok a bizonyítékokra támaszkodnak. Az újságírás a forrásokra. A dokumentáció mindent jelent a biztosítási ágazatban. A választások az egyes jelöltek által valójában elmondottak közös feljegyzésén alapulnak. Ezen intézmények mindegyikében van egy olyan bizonyítékbázis, amelynek létezésében mindenki egyetért, még akkor is, ha a jelentését illetően nézeteltérés van.
De ha ezt az alapvonalat eltávolítjuk, akkor félretájékoztatásról beszélünk, amelyet egy olyan társadalom súlyosbít, ahol minden kellemetlen tény tagadható. Bármely kellemetlen igazságot el lehet utasítani azzal a hamis állítással, hogy „Ez a mesterséges intelligencia”. A következmény messze túlmutat a közösségi médiában megjelenő kattintásvadász tartalmakon, de a globális intézmények működésének alapvető alapjainak lassú erodálódásához vezet.
Több érték az igazságon túl
A valódi dolgok bizonyítása valódi sértő magatartás. Miután egy eszköz létrejött, csatolni kell egy feljegyzést arról, hogy ki készítette, honnan származik, milyen eszközöket használtak, és hogyan módosították azóta. Ez a feljegyzés a fájllal együtt utazik. Bárki ellenőrizheti, és láthatja, hogy manipulálták-e.
A származás mindig is a hitelesség alapja volt. A bíróságok ezt használják a bizonyítékok őrizeti láncolatának megállapításakor. A művészeti galériák és a kereskedők arra használják, hogy elkülönítsék az igazi Picasso festményt a hamisítványtól. Egy Mickey Mantle aláírásával ellátott baseball-labda értéke nem magában a labdában rejlik, hanem abban a papírnyomban, amely bizonyítja, hogy valóban aláírta.
Bár a származás nem új keletű dolog, a digitális média nagymértékű működtetése igen. Ez az a technikai kérdés, amellyel a következő években foglalkozni fogunk. Bár a származás nem igazolja a tartalom igazát (egy legitim hírszervezet által aláírt feljegyzés is helytelenül írhatja le az eseményeket), valami hasznosabbat kínál, mint az igazság: megbízható információkat a származásról. A néző szabadon befogadhatja a tartalmat, és maga dönthet annak hitelességéről. A digitális bizalomban tudnunk kell igazolni a média létrehozását vagy módosítását.
A C2PA érkezése
C2PA a Tartalom Eredetéért és Hitelességéért Koalíciót jelenti.
Az indulás óta a C2PA megfelelőség jelentősen megnőtt, és túlmutat az alapító tagjain. A nagyobb médiaszervezetek, generatív MI platformok, hardvergyártók és tanúsító hatóságok, beleértve a SSL, az első nyilvánosan megbízható hitelesítésszolgáltató a C2PA ökoszisztémában, most már mind résztvevők. Az SSL kibocsátja azokat a tanúsítványokat, amelyeket az aláírók használnak, hogy ellenőrizhető eredetet kössenek az általuk létrehozott vagy módosított adathordozókhoz.
Ha olyan rendszereket üzemeltet vagy épít, ahol a bizalom számít, akkor csatlakozz hozzánk! Csapatunk azért van itt, hogy segítsen valódi döntéseket hozni a tartalomhitelesség-megoldások, például az SSL-ek használatáról. C2PA és / vagy CAWG tanúsítványok, illeszkedjen a munkájába.
Ez a cikk az SSL technológiai alelnökétől származó rövidített és interpolált cikk. Dustin Warderedeti blogbejegyzése. A teljes verziót itt olvashatod. itt Ez az első bejegyzése egy C2PA köré épülő sorozatban.
