В последние годы проблема идентификации и происхождения медиаконтента, особенно в социальных сетях, становится все более актуальной. Ваши ленты переполнены контентом, сгенерированным искусственным интеллектом, включая голоса, которые звучат точно так же, как у известных личностей, видеоролики с вымышленными событиями, которые выглядят так, будто исходят из авторитетных источников, и даже целые образы, созданные исключительно из пикселей.Хотя часть этого контента забавна и кажется безобидной, другая его часть может иметь серьезные последствия в реальной жизни.
В настоящее время разрабатывается важнейший стандарт, который может оказать глубокое влияние на будущее цифрового контента. Этот стандарт — C2PAИ в настоящее время эта технология набирает обороты в отрасли, поскольку она направлена на защиту информации об авторстве и происхождении медиаконтента.
Вызовы, с которыми мы сталкиваемся
Мы теряем способность доверять контенту, который видим и слышим в интернете, быстрее, чем кто-либо мог предсказать.
Безусловно, люди создавали и распространяли информацию. Поддельные фотографии с 1800-х годовПередовые инструменты редактирования и обработки информации существуют уже более трех десятилетий. Аналогично, дезинформация распространялась в социальных сетях задолго до появления генеративного искусственного интеллекта. Однако нынешний момент знаменует собой одновременный прогресс в трех ключевых областях:
- Создание синтетического медиаконтента стало намного дешевле. Дорогие инструменты, доступ к которым раньше был крайне ограничен, теперь легкодоступны и могут запускаться на ноутбуках или телефонах.
- Качество этих ресурсов достигло такого уровня, что обычному человеку трудно отличить подлинные материалы от поддельных.
- Во-третьих, каналы распространения этих ресурсов теперь повсеместны и мгновенны, что позволяет поддельным или сфальсифицированным материалам достигать миллионов людей еще до того, как кто-либо сможет усомниться в их происхождении.
Например, существовал один хорошо известный инцидент в Гонконге в начале 2024 годаСотрудник финансового отдела многонациональной компании присоединился к видеоконференции с финансовым директором компании и несколькими коллегами… или, по крайней мере, так казалось. Они дали сотруднику указание перевести миллионы долларов на ряд счетов. Однако позже выяснилось, что каждый участник звонка, включая финансового директора, был создан искусственно. Слияние социальной инженерии и искусственного интеллекта представляет собой один из самых серьезных рисков безопасности, с которыми мы когда-либо сталкивались в корпоративной среде, и прогнозируется, что он будет быстро расти как по темпам, так и по сложности.
По мере того, как общественность всё больше осознаёт существование дипфейков и сфабрикованного контента, и их всё большую убедительность, злоумышленники получают новый инструмент. Теперь они могут утверждать, что реальные доказательства — подделка. Скептицизм и защитные механизмы, которые люди развивают в ответ на синтетические медиа, могут быть использованы в своих целях.
Стоит ли инвестировать в технологии обнаружения?
Если ИИ может создавать поддельные медиафайлы, то, безусловно, ИИ может и их обнаруживать. Инвестиции в технологии обнаружения могут показаться очевидным решением, но это также и неправильное решение. Вот почему:
Во-первых, генеративные модели совершенствуются быстрее, чем модели обнаружения успевают за ними. С каждой новой методикой, которую детектор осваивает для обнаружения синтетического контента, она поступает в следующий раунд обучающих данных для генераторов. Это гонка вооружений, и нападение имеет структурные преимущества перед защитой, причем разрыв постоянно увеличивается.
Второе Даже самые совершенные системы обнаружения терпят неудачу в больших масштабах.Даже если детектор обеспечивает точность 99%, а объем синтетических носителей исчисляется миллионами, тот 1%, который все же проскальзывает, представляет собой огромную цифру. Это по-прежнему представляет значительный риск с серьезными последствиями для населения в целом.
В-третьих, и это самое важное: обнаружение работает только после того, как контент уже распространен. К тому моменту, когда что-то помечается как сфабрикованное, медиаматериал уже был увиден, распространен и усвоен общественностью.
Помимо одного единственного решения, такого как обнаружение, для успешной борьбы с рисками, связанными с фальсифицированными медиаматериалами, потребуются скоординированные усилия по обнаружению, подписанию, маркировке, проверке и (что наиболее важно) просвещению.
На кону стоит более важный вопрос.
Обнаружение — это защитная позиция, и оно не может исправить то, что люди могут не видеть или не слышать, несмотря на то, насколько оно совершенствуется. Наоборот, чем лучше совершенствуется обнаружение, тем убедительнее становится утверждение лжеца о том, что обнаружение не удалось. Само осознание проблемы теперь служит основанием для лжи. Рассмотрим следующее:
Судебная система опирается на доказательства. Журналистика опирается на источники. В страховой индустрии документация — это всё. Выборы зависят от общего доступа к информации о том, что каждый кандидат действительно сказал. В каждом из этих институтов существует базовый уровень доказательств, существование которого все признают, даже если есть разногласия по поводу смысла сказанного.
Но если этот базовый уровень будет убран, мы получим дезинформацию, усугубляемую обществом, где любой неудобный факт можно отрицать. Любую неприятную правду можно опровергнуть ложным утверждением: «Это ИИ». Последствия выходят далеко за рамки кликбейтного контента в социальных сетях и способствуют медленному разрушению фундаментальных основ, на которых функционируют глобальные институты.
Больше ценности за пределами истины
Доказывать подлинность — это настоящая наступательная позиция. После создания объекта необходимо приложить запись о том, кто его создал, откуда он взялся, какие инструменты использовались и как он был изменен с тех пор. Эта запись сопровождает файл. Любой может проверить ее и увидеть, был ли он изменен.
Происхождение всегда было основой подлинности. Суды используют его для установления цепочки хранения доказательств. Художественные галереи и дилеры используют его, чтобы отличить подлинную картину Пикассо от подделки. Ценность бейсбольного мяча с автографом Микки Мантла заключается не в самом мяче, а в документах, подтверждающих, что он действительно его подписал.
Хотя понятие происхождения не ново, обеспечение его корректной работы в масштабах цифровых медиа — это новшество. Именно эта техническая проблема будет решаться в течение следующих нескольких лет. Хотя происхождение не гарантирует достоверность контента (подписанный документ от авторитетной новостной организации всё ещё может неверно описывать события), оно предлагает нечто более полезное, чем правда: надёжную информацию о происхождении. Зритель волен самостоятельно воспринимать контент и оценивать его достоверность. В сфере цифрового доверия мы должны иметь возможность подтвердить создание или изменение медиаконтента.
Появление C2PA
C2PA расшифровывается как Коалиция за происхождение и подлинность контента.
С момента запуска соответствие стандарту C2PA значительно расширилось, выйдя за рамки круга его основателей. Крупные медиа-организации, платформы генеративного ИИ, производители оборудования и центры сертификации, включая SSL — первый публично доверенный центр сертификации в экосистеме C2PA.Все они теперь являются участниками. SSL выдает сертификаты, которые подписанты используют для подтверждения происхождения создаваемых или изменяемых ими носителей информации.
Если вы работаете с системами, где доверие имеет решающее значение, давайте свяжемся. Наша команда готова помочь вам принять взвешенные решения о том, как использовать решения для обеспечения подлинности контента, такие как SSL. C2PA и / или сертификаты CAWGвпишется в вашу работу.
Данная статья представляет собой сокращенную и дополненную версию материала от SSL EVP of Technology. Дастин УордОригинальная запись в блоге. Вы можете прочитать полную версию. здесьЭто его первая статья из серии, посвященной C2PA.
