През последните години атрибуцията и произходът на медиите се превърнаха във все по-голям проблем, особено в социалните медии. Вашите емисии са залети от генерирано от изкуствен интелект съдържание, включително гласове, които звучат точно като публични личности, видеоклипове на изфабрикувани събития, които изглеждат сякаш идват от реномирани източници и дори цели персонажи, създадени единствено от пикселиМакар част от това съдържание да е забавно и на пръв поглед безобидно, част от него може да има сериозни последици в реалния свят.
Разработва се ключов стандарт, който би могъл да окаже дълбоко влияние върху бъдещето на дигиталното съдържание. Този стандарт е C2PAи в момента набира скорост в цялата индустрия за защита на информацията за атрибуцията и произхода на медиите.
Предизвикателствата, пред които сме изправени
Губим способността си да се доверяваме на съдържанието, което гледаме и чуваме онлайн, по-бързо, отколкото някой би могъл да предвиди.
Разбира се, хората са генерирали и разпространявали фалшиви снимки от 1800 г. насамУсъвършенстваните инструменти за редактиране и манипулиране съществуват от повече от три десетилетия. По подобен начин дезинформация се разпространява в социалните медийни платформи много преди появата на генеративния изкуствен интелект. Този момент обаче бележи едновременния напредък в три ключови области:
- Генерирането на синтетични медии е много по-евтино. Скъпите инструменти, които преди имаха изключително ограничен достъп, сега са леснодостъпни и могат да се използват на лаптопи или телефони.
- Качеството на тези ресурси е напреднало до степен, в която за обикновения човек е трудно да направи разлика между автентични и синтетични медии.
- Трето, каналите за разпространение на тези ресурси вече са повсеместни и мигновени, което позволява на фалшиви или манипулирани медии да достигнат до милиони хора, преди някой да успее да постави под въпрос произхода им.
Например, имаше един добре познат инцидент в Хонконг в началото на 2024 г.Финансов служител в мултинационална фирма се присъедини към видеоконферентен разговор с финансовия директор на компанията и няколко колеги... или поне така изглеждаше. Те инструктираха служителя да преведе милиони долари към серия от сметки. По-късно обаче беше установено, че всеки човек в този разговор, включително финансовият директор, е генериран синтетично. Сливането на социалното инженерство и genAI представлява един от най-критичните рискове за сигурността, с които някога сме се сблъсквали в корпоративната среда, и се очаква то да нараства бързо както по темп, така и по сложност.
Тъй като обществеността осъзнава все повече съществуването на дийпфейкове и изфабрикувано съдържание и те стават все по-убедителни, злонамерените лица получават нов инструмент. Сега те могат да твърдят, че истинските доказателства са фалшиви. Скептицизмът и защитните механизми, които хората развиват в отговор на синтетичните медии, могат да бъдат използвани.
Трябва ли да инвестираме в технологии за откриване?
Ако изкуственият интелект може да създава фалшифицирани медии, тогава със сигурност може да ги открива. Инвестирането в технологии за откриване може да изглежда като очевиден отговор, но е и грешен. Ето защо:
Първо, генеративните модели се усъвършенстват по-бързо, отколкото моделите за откриване могат да се справят. С всяка нова техника, която детекторът се научи да забелязва синтетични среди, тя се въвежда в следващия кръг от данни за обучение на генераторите. Това е надпревара във въоръжаването и нападението има структурни предимства пред защитата, като разликата непрекъснато се разширява.
Второ, дори откриването от световна класа се проваля в голям мащабАко един детектор е с 99% точност, но обемът на синтетичната среда е от порядъка на милиони, 1%, който се промъква, все още е огромна цифра. Той все още представлява значителен риск със съществени последици за широката общественост.
Трето, и най-важно: разкриването работи само след като съдържанието е било разпространено. Докато нещо бъде маркирано като изфабрикувано, медийният материал вече е бил видян, споделен и абсорбиран в общественото съзнание.
Отвъд едно-единствено решение, като например откриване, ще са необходими координирани усилия за откриване, подписване, маркиране, валидиране и (най-важното) обучение, за да се борим успешно с рисковете, свързани с фалшифицираните медии.
По-големият проблем, който е на карта
Разкриването е защитна позиция и не може да поправи ситуацията, в която хората могат да не виждат или чуват неща, независимо колко добре се справя. Колкото повече се подобрява разкриването, толкова по-достоверно става твърдението на лъжеца, че разкриването е неуспешно. Самото осъзнаване на проблема сега служи като основа за лъжата. Помислете за следното:
Съдебните заседатели разчитат на доказателства. Журналистиката разчита на източници. Документацията е всичко в застрахователната индустрия. Изборите зависят от споделен запис на това, което всеки кандидат е казал. Във всяка една от тези институции има базова база от доказателства, за която всички могат да се съгласят, че съществува, дори ако има несъгласие относно значението.
Но ако тази базова линия бъде премахната, ще имате дезинформация, утежнена от общество, където всеки неудобен факт е отричаем. Всяка неудобна истина може да бъде отхвърлена чрез лъжливо твърдение „Това е изкуствен интелект“. Последиците се простират далеч отвъд съдържанието за кликбейт в социалните медии, но стимулират бавната ерозия на фундаменталните основи, на които разчитат глобалните институции, за да функционират.
Повече ценност отвъд истината
Доказването на това, което е реално, е истинска офанзивна позиция. След като даден ресурс бъде създаден, вие прилагате запис за това кой го е създал, откъде идва, какви инструменти са използвани и как е бил променян оттогава. Този запис пътува с файла. Всеки може да го провери и да види дали е бил подправен.
Произходът винаги е бил основата на автентичността. Съдилищата го използват, когато установяват верига за съхранение на доказателства. Художествените галерии и търговците го използват, за да отделят истинска картина на Пикасо от фалшификат. Стойността на бейзболната топка с подписа на Мики Мантъл не е в самата топка, а в документалната следа, която доказва, че той действително я е подписал.
Въпреки че произходът не е нещо ново, мащабното му прилагане в дигиталните медии е нещо ново. Това е техническият проблем, който ще бъде разгледан през следващите няколко години. Въпреки че произходът не декларира съдържанието като истинско (подписан запис от легитимна новинарска организация все още може да описва събитията неправилно), той предлага нещо по-полезно от истината: надеждна информация за произхода. Зрителят е свободен да възприеме съдържанието и сам да прецени неговата достоверност. В дигиталното доверие трябва да можем да удостоверим създаването или модификацията на медията.
Пристигането на C2PA
C2PA е съкращение от Коалицията за произход и автентичност на съдържанието.
От стартирането си, съответствието с C2PA се разрасна значително, разширявайки се отвъд членовете-основатели. Големи медийни организации, платформи за генеративен изкуствен интелект, производители на хардуер и сертифициращи органи, включително SSL, първият публично доверен CA в екосистемата C2PA, са всички участници сега. SSL издава сертификати, които подписващите използват, за да обвържат проверим произход с носителите, които създават или променят.
Ако управлявате или изграждате системи, където доверието е важно, нека се свържем с вас. Нашият екип е тук, за да ви помогне да вземете реални решения относно решенията за автентичност на съдържание, като например SSL сертификати. C2PA и / или Сертификати на CAWG, вписват се в работата ви.
Тази статия е съкратена и е интерполирана от SSL EVP по технологиите Дъстин УордОригиналната публикация в блога на [име на автора]. Можете да прочетете пълната версия тукТова е първата му публикация от поредица, посветена на C2PA.
