起動 2026 年 8 月 2 日EU域内の人々に届く生成型AIシステムを構築または展開する組織は、新たな法的義務を負うことになる。それは、コンテンツがAIによって生成されたものであることを開示しなければならないという義務だ。この義務はEU AI法第50条に由来し、同法の中でも最も広範な影響を及ぼす条項の一つである。
同法の高リスクAI規制は、採用や信用スコアリングといった特定の利用事例にのみ適用されるのに対し、第50条は、人とやり取りしたり、人のために文章を書いたり、人に合成メディアを提示したりするほぼすべてのAIシステムに適用される。
グローバルに事業を展開する組織にとって、EU AI Actの透明性要件を理解することは、あらゆるAIガバナンス戦略の不可欠な部分になりつつあります。幸いなことに、次のようなテクノロジーは、 C2PAコンテンツ認証情報信頼できるタイムスタンプとCAWGのIDアサーションは、AIコンテンツの認証とAIの出所を証明するための実用的なフレームワークを提供する。
SSLのC2PAソリューションをご覧くださいEU人工知能法第50条とは何ですか?
EU人工知能法(規則(EU)2024/1689)第50条 この法律は、特定のAIシステムを提供する事業者および導入事業者に対し、透明性に関する義務を定めている。簡単に言えば、人々がAIとやり取りしている際にその旨を通知すること、そしてAIによって生成または操作されたコンテンツが人工的なものとして識別できることを求めている。法律の前文にあるように、その目的は、欺瞞、なりすまし、誤情報のリスクを軽減し、人々がオンラインで閲覧・利用する情報に対する信頼を維持することにある。
第50条がAI法の他の条項と異なる点は、その適用範囲にある。同法の主要な規則、すなわち適合性評価、技術文書、CEマーキングに関する規則は、「高リスク」に分類されるAIシステムにのみ適用される。
しかし、第50条はそういった仕組みではありません。リスク分類に関係なく、4つの特定の状況のいずれかで使用されるあらゆるAIシステムに適用されます。高リスクのAIシステムを一切使用していない企業でも、顧客サポートチャットボットを運用したり、AIが作成した記事を公開したり、合成画像を生成するツールを使用したりするだけで、第50条に基づく重大な義務を負う可能性があります。
2026年8月2日以降、EU域内で市場に出回る、または運用開始される第50条の適用範囲内のすべてのAIシステムは、システムの初回リリース時期に関わらず、これらの義務を満たさなければならない。
EU AI法第50条がAIを利用する企業に与える影響
多くの組織は、EU人工知能法第50条はAI開発者や大手テクノロジー企業のみに影響を与えると考えている。しかし実際には、この規制ははるかに広範囲に及ぶ。
組織が生成型AIを使用して欧州連合の視聴者が閲覧するコンテンツを作成または変更する場合、AIの透明性に関する義務が生じる可能性があります。
例としては以下の通りです:
- AIを活用した広告キャンペーンを作成するマーケティングチーム
- AIが生成したブログ記事や製品説明を公開する企業
- 報道機関がAIを使って記事を要約する
- 顧客向けコミュニケーションを作成する金融機関
- 医療従事者が教育コンテンツを作成する
- AIを活用した文書作成を行う法律事務所
- 合成製品画像を生成する小売業者
- AIが生成した音声や動画を公開するメディア組織
この規制は、 プロバイダ (NAIST) と デプロイヤー.
プロバイダ 生成型AIシステムの担当者は、合成出力に機械可読なAIコンテンツラベルが含まれることを保証する責任を負います。
デプロイヤーつまり、AIシステムを専門的に利用する組織は、一般に公開されるAI生成または操作されたコンテンツを開示する責任を負います。これには、ディープフェイクや、公共の利益に関わる特定のAI生成コンテンツが含まれます。
どちらにも義務が伴いますが、どの義務が適用されるかはシステムの種類と使用方法によって異なります。重要なのは、これらの義務はオープンソースのAIシステムにも適用されるということです。オープンモデルに対する包括的な免除はありません。
たとえ人間がAI生成コンテンツをレビューする場合でも、組織は透明性に関する義務が依然として適用されるかどうかを慎重に評価すべきである。
第50条に基づく4つの義務
第50条は、4つの異なるカテゴリーのAIシステムを対象としています。これらは、たまたま同じ条項に含まれている4つの別々の規則と考えると理解しやすいでしょう。
1. 人工知能システムと直接やり取りする際には、その旨を人々に知らせる(第50条第1項)
チャットボット、バーチャルアシスタント、自動電話システム、AIエージェントなど、人と直接対話するように設計されたAIシステムがあるとします。プロバイダーは、相手が人間ではなく機械と話していることを認識できるようにシステムを設計する必要があります。ただし、例外が一つあります。「十分な情報を持ち、注意深く、慎重な」人が、自分がAIとやり取りしていることがすでに明白な場合は、開示は不要です。規制当局のガイダンスでも、自律型AIエージェントはこの規則に該当し、プロバイダーがエージェントが人間と対話するかどうかを確実に予測できない場合は、可能な限りその性質を開示するように設計する方が安全であると確認されています。
法律によって犯罪行為の検出、防止、捜査、または訴追が認められているAIシステムについては、一般市民が犯罪を報告するために使用できるシステムでない限り、別途例外規定が設けられている。
2. AIが生成したメディアおよびテキストには、それらが人工物であることを示す機械可読なマークを含めることを保証する(第50条(2))
汎用AIシステムを含む、合成音声、画像、動画、テキストを生成する生成型AIシステムの提供者は、出力が機械可読形式でマークされ、人工的に生成または操作されたものであることが検出できるようにする必要があります。これは「出力に透かしを入れる」というルールであり、C2PAコンテンツ認証情報などの規格と最も密接に関連しています。
重要なのは、マーキングが実際に機能することです。この法律では、使用される技術的解決策は、最新技術と導入コストを考慮した上で、効果的、相互運用可能、堅牢、かつ信頼できるものでなければならないと規定しています。画像が再エンコードされたりスクリーンショットを撮られたりした瞬間に消えてしまうラベルは、この基準を満たしていません。
3. 感情認識システムまたは生体認証分類システムが使用されている場合は、個人に通知する(第50条第3項)
感情認識システムまたは生体認証分類システムの導入者は、システムがどのように機能し、個人データをどのように取り扱うかを、システムを利用する人々に知らせる必要がある。 GDPRおよび関連するEUデータ保護法他の規則と同様に、犯罪行為の検出、防止、または捜査を目的として法律で認められているシステムには例外が設けられています。
4. ディープフェイクや特定の公開AI生成テキストを含む、AIによって生成または操作されたコンテンツを明確に開示する(第50条第4項)
ディープフェイクに該当する画像、音声、または動画コンテンツを生成または操作するためにAIを使用する展開者は、そのコンテンツが人工的に作成されたものであることを開示しなければなりません。また、公共の利益に関わる事項について一般市民に情報を提供するために、AIによって生成または操作されたテキストを公開する展開者も、そのテキストがAIによって生成されたものであることを開示しなければなりません。
ここで重要な例外があります。コンテンツが人間のレビューを受け、自然人または法人が編集責任を負っている場合、テキスト開示義務は適用されません。実際には、完全にAIによって作成された記事であっても、人間の編集者がレビューして責任を負っている場合は、この特定の開示義務の対象外となる可能性がありますが、他の義務は依然として適用される場合があります。「公共の利益に関する事項」は、ニュースだけでなく、雇用、健康、金融、法律に関する情報も含むように広く解釈されます。
違反に対する罰則
第50条違反は厳しく取り締まられます。不遵守の場合、最高で罰金が科せられる可能性があります。 15万ユーロ、または全世界の年間総売上高の3% 違反企業には、前会計年度の罰金のうち、いずれか大きい方の金額が科せられる。EUの機関、団体、および機関には、別途750,000万ユーロまでの罰金が科せられる。
欧州委員会はまた、 AI生成コンテンツの透明性に関する自主的な行動規範実施ガイドラインとともに、企業が表示およびラベル表示要件を満たす方法を標準化するのに役立ちます。承認された基準を遵守する組織は、その遵守を緩和要因として挙げることができ、執行の焦点が個別の調査ではなく、基準遵守の監視へと移行する可能性があります。
「ラベルを追加した」ことがコンプライアンス遵守と同じではない理由
ほとんどの第50条実施計画がここで問題に直面します。第50条(2)を満たすということは、画像に目に見える透かしを入れたり、記事の末尾に「AI生成」と付け加えたりするだけではありません。実施規範では、単一のマーキング手法だけでは不十分であることが明確に示されています。正当性のあるコンプライアンスプログラムは、スクリーンショット、再エンコード、ソーシャルメディアへの再アップロード、フォーマット変換、そしてマーキングを意図的に削除しようとする試みなど、現実世界でのあらゆる攻撃に耐えなければなりません。
つまり、実用的なアプローチとは、複数のメカニズムを組み合わせることである。
- 署名入り来歴証明書(ハードカバー): コンテンツに紐付けられ、改ざんされた場合に改ざん防止機能を持つ、C2PAコンテンツ認証情報などの暗号署名付きマニフェスト。
- 透かしと指紋(ソフトカバー): メタデータが削除されても復元可能な、目に見えない痕跡。
- 人間が読みやすいラベル表示: 人が実際に目にする視覚的な情報開示。理想的には、標準化されたAI指標を用いる。
- ガバナンス: 認証情報の削除を禁止する契約条項、エンドツーエンドで認証情報を保持するパイプライン、そしてコンテンツの出所を公に検証できる方法。
C2PAコンテンツ認証情報は、第1層と第2層の基盤として台頭しており、署名付きで改ざん防止機能があり、相互運用可能なメタデータという規約の基準を満たす、広く普及している唯一の標準規格と言える。
信頼性レイヤー:認証情報の信頼性を実際に高めるものは何か
誰でも鍵ペアを生成してメタデータに署名することはできます。コンテンツ認証情報が視聴者、プラットフォーム、または規制当局にとって実際に信頼できるものとなるのは、その署名の背後にある信頼の連鎖があるからです。次の3つの条件を満たす必要があります。
内容:マニフェスト署名。 マニフェストは、公開された認証局に連鎖する証明書で署名する必要があります。 C2PA信頼リスト SSL.comのようなサービスがこれに該当します。これにより、準拠する検証ツールであれば、独自のチェックを行うことなく、認証情報を自動的に検証できるようになります。
タイミング:準拠したタイムスタンプ。 タイムスタンプ機関による独立したタイムスタンプ C2PA TSAトラストリスト、 SSLなどの技術は、コンテンツが特定の時点で署名されたことを証明します。 これにより、署名証明書自体の有効期限が切れた後も、認証情報は有効に保たれます。これは、情報にデジタル署名とタイムスタンプを付与することを求める行動規範の要件と完全に一致します。
対象者:本人確認済み。 その CAWG(クリエイター・アサーションズ・ワーキンググループ) アイデンティティアサーションレイヤーは、認証情報に検証済みの法人または個人を紐付けます。これにより、「どのツールで作成されたか」という議論から「誰がその背後にいるか」という議論へと移行します。現在、CAWGアイデンティティアサーションを発行できる認証局は限られており、行動規範では特にそれらの利用が推奨されています。
これら3つの証明のうちいずれか1つでも欠けている場合、認証情報は技術的には存在するものの、実際には脆弱である。つまり、検証不可能、日付不明、または匿名となる。
簡単なコンプライアンスチェックリスト
第50条に基づくプログラムを構築する場合、強力なシステムを構築するために考慮すべき点がいくつかあります。
- 貴社の出力物には、人間が見るだけでなく、機械が読み取れるような表示が付いていますか?
- そのマーキングは、再エンコード、スクリーンショット、プラットフォームへのアップロード後も保持されますか?
- 署名証明書はC2PAトラストリストに登録されていますか?
- C2PA TSAトラストリストに掲載されているタイムスタンプ認証局を使用していますか?
- CAWGのアサーションを通じて、コンテンツに検証済みの身元情報を紐付けることはできますか?
- ご利用のプロバイダーは、WebTrustなどの独立監査機関による監査を受けた、検証可能な公的認証局(CA)としての実績を持っていますか?
- そのプロバイダーは、次のような標準化団体で活動していますか? CA /ブラウザフォーラム?
- 署名サービスは既存のコンテンツパイプラインに実際に統合できるのでしょうか、それとも再構築する必要があるのでしょうか?
SSLが適用される場所
適切なマーキングを行うことは一つの課題です。しかし、そのマーキングの背後にある信頼性を確立することはまた別の課題であり、そのためには何年もかかるインフラストラクチャ、すなわち信頼リストへの登録、監査済みの運用、そして検証エコシステム全体における認知度が必要となります。
SSLは、C2PAトラストリストに準拠した認証局であり、C2PAに準拠したタイムスタンプ認証局でもあり、CAWGの身元証明証明書を発行することが認められている限られた公開認証局の1つです。
SSLは、これら重要な信頼要素すべてを、世界的に信頼されているパブリックドメインの下に統合します。 PKIこれにより、組織は今日から第50条の遵守を容易に実現できると同時に、将来的に信頼性の高いAI生成コンテンツに対応するための準備も整えることができます。
SSL チームに C2PA および CAWG 証明書について相談して、第 50 条準拠が既存のコンテンツ パイプラインにどのように適合するかについて詳しく知るか、SSL の全範囲を調べてください。 コンテンツの真正性に関するソリューション 始めるために。