近年、特にソーシャルメディアにおいて、メディアの帰属と出所が大きな問題となっています。あなたのフィードは、著名人にそっくりな声、信頼できる情報源から発信されたように見える捏造されたイベントのビデオ、さらには ピクセルのみで作成された完全なペルソナこうしたコンテンツの中には、面白くて一見無害なものもあるが、現実世界に深刻な影響を及ぼすものもある。
デジタルコンテンツの未来に大きな影響を与える可能性のある重要な標準規格が開発されています。この標準規格は C2PAそして現在、メディアの帰属情報や出所情報を保護するために、業界全体で勢いを増している。
私たちが直面している課題
私たちは、オンラインで見聞きするコンテンツを信頼する能力を、誰も予想できなかったほど速いスピードで失いつつある。
確かに、人々は 1800年代から存在する偽写真高度な編集・操作ツールは30年以上前から存在しています。同様に、誤情報は生成型AIが登場するずっと前からソーシャルメディアプラットフォーム上で拡散されてきました。しかし、この瞬間は、次の3つの主要分野における同時的な進歩を示しています。
- 合成メディアの生成コストは大幅に削減された。かつては入手が極めて困難だった高価なツールも、今では非常に手軽に利用できるようになり、ノートパソコンやスマートフォンでも実行できるようになった。
- これらの情報源の質は、一般の人々が本物と合成メディアを見分けるのが難しいほどに向上している。
- 第三に、これらの情報源の配信チャネルは今や遍在し、瞬時に拡散するため、偽情報や操作されたメディアが、その出所を疑う前に何百万人もの人々に届くことが可能になっている。
例えば、よく知られている 2024年初頭に香港で発生した事件多国籍企業の財務担当者が、同社のCFOと数名の同僚とのビデオ会議に参加した…少なくとも、そう見えた。彼らは担当者に、数百万ドルを複数の口座に送金するよう指示した。しかし、後に、CFOを含む会議参加者全員が合成された人物であることが判明した。ソーシャルエンジニアリングとgenAIの融合は、企業環境においてこれまで直面した中で最も重大なセキュリティリスクの一つであり、その速度と複雑さは急速に増大すると予測されている。
ディープフェイクや捏造コンテンツの存在が一般に広く認識され、その精巧さが増すにつれ、悪意のある行為者は新たな手段を手に入れる。彼らは今や、本物の証拠を偽物だと主張できるようになったのだ。合成メディアに対する人々の懐疑心や防御意識は、悪用される可能性がある。
検出技術に投資すべきだろうか？
AIが偽造メディアを作成できるのであれば、当然AIはそれを検出できるはずだ。検出技術への投資は当然の解決策のように思えるかもしれないが、それは間違った解決策でもある。その理由は以下のとおりだ。
まず、生成モデルの進化速度は、検出モデルの進化速度をはるかに上回っています。検出器が合成メディアを検出する新たな技術を習得するたびに、その技術は生成モデルの次の学習データに反映されます。これはまさに軍拡競争であり、攻撃側は防御側に対して構造的な優位性を持ち、その差は絶えず拡大しています。
第二に、 世界最高水準の検出技術でさえ、大規模環境では失敗する。検出器の精度が99%であっても、合成媒体の量が数百万単位に及ぶ場合、すり抜けてしまう1%は依然として膨大な量となる。それは依然として大きなリスクであり、一般市民にとって重大な結果をもたらす可能性がある。
第三に、そして最も重要な点として、検出はコンテンツが配信された後にのみ有効となる。何かが捏造であると指摘される頃には、そのメディアコンテンツはすでに閲覧され、共有され、人々の意識に浸透してしまっているのだ。
検出といった単一の解決策にとどまらず、偽造メディアに関連するリスクに効果的に対処するには、検出、署名、タグ付け、検証、そして（最も重要な）教育といった、連携した取り組みが必要となる。
より大きな問題が問われている
検出は防御的な姿勢であり、どれほど精度が向上しても、人が物事を見なかったことにしたり、聞こえなかったことにしたりできるという事実を覆すことはできません。むしろ、検出精度が向上すればするほど、検出に失敗したという嘘つきの主張は信憑性を増します。問題の存在そのものが、嘘の根拠となるのです。次の点を考えてみてください。
司法は証拠に基づいて行われる。ジャーナリズムは情報源に依拠する。保険業界では文書化が全てである。選挙は各候補者が実際に何を言ったかという共通の記録に基づいて行われる。これらの機関のいずれにおいても、たとえその意味について意見の相違があったとしても、誰もが存在を認めることができる証拠の基準が存在する。
しかし、その基準がなくなると、都合の悪い事実は何でも否定できる社会によって、誤情報がさらに増幅されることになる。「それはAIのせいだ」と偽って主張することで、どんな不都合な真実も無視できてしまう。その結果は、ソーシャルメディア上のクリックベイトコンテンツにとどまらず、グローバルな機関が機能するために依拠する根本的な基盤の緩やかな崩壊を招くことになる。
真実を超えた価値
何が真実であるかを証明することは、真の攻撃的な姿勢と言えるでしょう。アセットが作成されると、誰が作成したか、どこから来たか、どのツールが使用されたか、そしてその後どのように変更されたかといった記録が添付されます。この記録はファイルとともに移動します。誰でもそれを検証でき、改ざんされていないかを確認できます。
出所は、常に真正性の基盤となってきた。裁判所は証拠の保管履歴を確立する際に出所を利用する。美術館や画商は、本物のピカソの絵画と偽物を区別するために出所を利用する。ミッキー・マントルのサイン入り野球ボールの価値は、ボールそのものにあるのではなく、彼が実際にサインしたことを証明する書類にあるのだ。
出所証明という概念自体は新しいものではありませんが、デジタルメディアで大規模にその機能を実現することは新たな課題です。これは今後数年間で取り組むべき技術的な問題です。出所証明はコンテンツの真実性を保証するものではありません（正当な報道機関による署名入りの記録であっても、出来事を誤って記述している可能性はあります）が、真実よりも有用な情報、つまり出所に関する信頼できる情報を提供します。視聴者は自由にコンテンツを視聴し、その信憑性を自ら判断することができます。デジタルにおける信頼においては、メディアの作成や改変について証明できることが不可欠です。
C2PAの登場
C2PA は、コンテンツの出所と真正性に関する連合（Coalition for Content Provenance and Authenticity）の略称です。
C2PAの準拠は、設立以来大幅に拡大し、創設メンバーを超えて広がっています。主要なメディア組織、生成AIプラットフォーム、ハードウェアメーカー、認証局などが参加しています。 SSLは、C2PAエコシステムにおける最初の公的に信頼された認証局です。、現在では全員が参加者です。SSLは、署名者が作成または変更するメディアに検証可能な出所を紐付けるために使用する証明書を発行します。
信頼性が重要なシステムを運用または構築している場合は、ぜひご連絡ください。当社のチームは、SSL などのコンテンツ認証ソリューションに関する実際の意思決定を支援します。 C2PA および CAWG認定証あなたの仕事に合うように。
この記事は、SSLの技術担当EVPの記事を要約・抜粋したものです。 ダスティン・ワードの元のブログ記事です。全文はこちらからお読みいただけます。 こちらこれは、彼がC2PAを中心に展開するシリーズの最初の作品です。
