Meediaallikate omistamine ja päritolu on viimastel aastatel muutunud üha suuremaks probleemiks, eriti sotsiaalmeedias. Teie vooge on üle ujutatud tehisintellekti loodud sisuga, sealhulgas avaliku elu tegelaste häältega, väljamõeldud sündmuste videotega, mis näivad pärinevat usaldusväärsetest allikatest, ja isegi... terved personad, mis on loodud ainult pikslitestKuigi osa sellest sisust on lõbus ja pealtnäha kahjutu, võib mõnel sellest olla mõjukaid reaalseid tagajärgi.
Arendamisel on oluline standard, mis võib digitaalse sisu tulevikku sügavalt mõjutada. See standard on C2PAja see on praegu kogu tööstuses hoogu kogumas meedia omistamise ja päritoluteabe kaitsmiseks.
Väljakutsed, millega me silmitsi seisame
Me kaotame võime usaldada sisu, mida me veebis vaatame ja kuuleme, kiiremini, kui keegi oleks osanud ennustada.
Tõsi küll, inimesed on tootnud ja levitanud võltsfotod alates 1800. aastatestTäiustatud redigeerimis- ja manipuleerimisvahendid on eksisteerinud juba üle kolme aastakümne. Samamoodi on valeinformatsiooni levitatud sotsiaalmeedia platvormidel juba ammu enne generatiivse tehisintellekti tulekut. See hetk tähistab aga samaaegset edasiminekut kolmes põhivaldkonnas:
- Sünteetilise meedia genereerimine on palju odavam. Kallid tööriistad, millele varem oli äärmiselt piiratud juurdepääs, on nüüd hõlpsasti ligipääsetavad ja neid saab kasutada sülearvutites või telefonides.
- Nende ressursside kvaliteet on arenenud punktini, kus keskmisel inimesel on raske eristada autentset ja sünteetilist meediat.
- Kolmandaks, nende ressursside levitamiskanalid on nüüd kõikjal levinud ja kohesed, võimaldades võltsitud või manipuleeritud meedial jõuda miljonite inimesteni enne, kui keegi saab nende päritolu kahtluse alla seada.
Näiteks oli seal tuntud intsident Hongkongis 2024. aasta algusesRahvusvahelise ettevõtte finantstöötaja osales videokonverentskõnes ettevõtte finantsjuhi ja mitme kolleegiga... või vähemalt paistis nii. Nad andsid töötajale korralduse kanda miljoneid dollareid mitmetele kontodele. Hiljem selgus aga, et iga kõnes osalenud isik, sealhulgas finantsjuht, oli sünteetiliselt genereeritud. Sotsiaalse manipuleerimise ja geneetiliselt muundatud tehisintellekti (GenAI) koondumine on üks kriitilisemaid turvariske, millega oleme ettevõttekeskkonnas kunagi silmitsi seisnud, ning ennustatakse, et see kasvab nii kiiruse kui ka keerukuse poolest kiiresti.
Kuna avalikkus saab üha teadlikumaks süvavõltsingutest ja väljamõeldud sisust ning see muutub üha veenvamaks, saavad pahatahtlikud tegutsejad uue vahendi. Nad saavad nüüd väita, et tegelikud tõendid on võltsitud. Skeptitsismi ja kaitsepositsioone, mis inimestel sünteetilise meedia suhtes tekivad, saab ära kasutada.
Kas peaksime investeerima tuvastustehnoloogiasse?
Kui tehisintellekt suudab luua võltsitud meediat, siis kindlasti suudab tehisintellekt seda tuvastada. Investeerimine tuvastustehnoloogiasse võib tunduda ilmselge vastusena, kuid see on ka vale. Siin on põhjus:
Esiteks täiustuvad generatiivsed mudelid kiiremini, kui tuvastusmudelid suudavad sammu pidada. Iga uue tehnikaga, mille detektor õpib sünteetilist meediat tuvastama, sisestatakse see generaatorite järgmisesse treeningandmete vooru. See on võidurelvastumine ja rünnakul on kaitse ees struktuurilised eelised, kusjuures vahe pidevalt suureneb.
Teiseks, isegi maailmatasemel tuvastus ebaõnnestub suures mahusKui detektori täpsus on 99%, aga sünteetilise meedia maht on miljonites, on see 1%, mis läbi lipsab, ikkagi tohutu arv. See kujutab endast siiski märkimisväärset ohtu, millel on üldsusele tõsised tagajärjed.
Kolmandaks ja kõige tähtsamaks: tuvastamine toimib alles pärast sisu levitamist. Selleks ajaks, kui midagi fabritseerituks märgistatakse, on meediakajastus juba nähtud, jagatud ja avalikkuse teadvusse imendunud.
Lisaks ühele lahendusele, näiteks tuvastamisele, on võltsitud meediaga seotud riskide edukaks vastu võitlemiseks vaja koordineeritud jõupingutusi tuvastamise, allkirjastamise, märgistamise, valideerimise ja (mis kõige tähtsam) koolituse valdkonnas.
Suurem kaalul olev probleem
Tuvastamine on kaitsepositsioon ega suuda parandada olukorda, kus inimesed võivad asju mitte näha või mitte kuulda, olenemata sellest, kui heaks see läheb. Mida rohkem tuvastus paraneb, seda usutavamaks muutub valetaja väide tuvastuse ebaõnnestumise kohta. Probleemi teadvustamine ise on nüüd vale aluseks. Mõelge järgmisele:
Kohtud tuginevad tõenditele. Ajakirjandus tugineb allikatele. Dokumentatsioon on kindlustussektoris kõik. Valimised sõltuvad ühisest teabest iga kandidaadi tegelike öeldu kohta. Igas sellises institutsioonis on olemas alustõendite kogum, mille olemasolus kõik nõustuvad, isegi kui tähenduse osas on lahkarvamusi.
Aga kui see lähtepunkt kõrvaldatakse, on tegemist väärinfo ja ühiskonnaga, kus iga ebamugav fakt on eitatav. Iga ebamugava tõe saab eirata, väites ekslikult: „See on tehisintellekt.“ Tagajärjed ulatuvad kaugemale sotsiaalmeedia klikkide söötmisest, kuid soodustavad globaalsete institutsioonide toimimiseks vajalike põhialuste aeglast õõnestamist.
Rohkem väärtust peale tõe
Ehtsuse tõestamine on tõeline solvav hoiak. Kui vara on loodud, lisate sellele dokumendi, mis näitab, kes selle valmistas, kust see pärit on, milliseid tööriistu kasutati ja kuidas seda on sellest ajast peale muudetud. See dokument liigub koos failiga. Igaüks saab seda kontrollida ja näha, kas seda on muudetud.
Päritolu on alati olnud autentsuse alus. Kohtud kasutavad seda tõendite tagamise ahela kindlaksmääramisel. Kunstigaleriid ja kunstikaupmehed kasutavad seda ehtsa Picasso maali eristamiseks võltsingust. Mickey Mantle'i allkirjaga pesapalli väärtus ei seisne mitte pall endas, vaid dokumentides, mis tõestavad, et ta sellele tegelikult alla kirjutas.
Kuigi päritolu kindlaksmääramine pole uus asi, on selle toimima panemine digitaalse meedia jaoks laiaulatuslikult. See on tehniline küsimus, millega tegeletakse järgmise paari aasta jooksul. Kuigi päritolu kindlaksmääramine ei kinnita sisu tõesust (legaalse uudisteorganisatsiooni allkirjastatud dokument võib sündmusi ikkagi valesti kirjeldada), pakub see midagi kasulikumat kui tõde: usaldusväärset teavet päritolu kohta. Vaatajal on vabadus sisu omastada ja selle usaldusväärsuse üle ise otsustada. Digitaalse usalduse puhul peame suutma kinnitada meedia loomist või muutmist.
C2PA saabumine
C2PA tähistab sisu päritolu ja autentsuse koalitsiooni.
Alates käivitamisest on C2PA nõuetele vastavus märkimisväärselt kasvanud, laienedes kaugemale kui selle asutajaliikmed. Suured meediaorganisatsioonid, generatiivse tehisintellekti platvormid, riistvaratootjad ja sertifitseerimisasutused, sealhulgas SSL, esimene avalikult usaldusväärne CA C2PA ökosüsteemis, on nüüd kõik osalejad. SSL väljastab sertifikaate, mida allkirjastajad kasutavad kontrollitava päritolu sidumiseks loodud või muudetava meediumiga.
Kui haldate või ehitate süsteeme, kus usaldus on oluline, võtke ühendust. Meie meeskond on siin, et aidata teil teha tegelikke otsuseid sisu autentsuse lahenduste, näiteks SSL-sertifikaatide, toimimise kohta. C2PA ja / või CAWG sertifikaadid, sobituvad teie tööga.
See artikkel on lühendatud ja interpoleeritud SSL-i tehnoloogiadirektori ametikohalt. Dustin Wardalgne blogipostitus. Saate lugeda täispikka versiooni siinSee on tema esimene sissekanne C2PA-le keskenduvas sarjas.
