近年来，媒体归属和来源问题日益凸显，尤其是在社交媒体上。你的信息流充斥着人工智能生成的内容，包括听起来像公众人物的声音、看似来自权威来源的捏造事件视频，甚至…… 完全由像素构成的人物形象虽然其中一些内容有趣且看似无害，但其中一些内容可能会对现实世界造成重大影响。
一项至关重要的标准正在制定中，它可能会深刻影响数字内容的未来。这项标准是： C2PA目前，它正在整个行业中得到广泛应用，用于保护媒体归属和来源信息。
我们面临的挑战
我们失去对网上所见所闻内容的信任能力的速度，比任何人预想的都要快。
诚然，人们一直在生成和传播 自1800世纪以来的伪造照片先进的编辑和处理工具已经存在了三十多年。同样，在生成式人工智能出现之前，虚假信息也早已在社交媒体平台上传播。然而，此刻标志着三个关键领域的同步发展：
- 生成合成媒体的成本要低得多。过去使用极其有限的昂贵工具现在变得非常容易获取，并且可以在笔记本电脑或手机上运行。
- 这些资源的质量已经发展到普通人很难区分真实媒体和合成媒体的程度。
- 第三，这些资源的传播渠道现在无处不在，而且传播速度极快，使得虚假或被操纵的媒体能够在任何人质疑其来源之前就传播到数百万人。
例如，有一个众所周知的 2024年初香港发生的事件一家跨国公司的财务人员参加了一个与公司首席财务官和几位同事的视频会议……至少表面上看起来是这样。他们指示这名员工将数百万美元汇入一系列账户。然而，后来发现，包括首席财务官在内的所有参会人员都是由人工合成的。社会工程学和基因人工智能的融合，构成了我们在企业环境中面临的最严峻的安全风险之一，而且预计其发展速度和复杂性都将迅速增长。
随着公众越来越意识到深度伪造和虚假内容的存在及其日益逼真的程度，恶意行为者获得了一种新的工具。他们现在可以声称真实的证据是伪造的。人们对合成媒体产生的怀疑和防御心理可能会被利用。
我们应该投资检测技术吗？
如果人工智能可以制造虚假媒体，那么它当然也可以检测出来。投资检测技术看似是显而易见的答案，但这却是错误的做法。原因如下：
首先，生成模型的进步速度远超检测模型。检测器每学习一项新技术来识别合成媒体，这项技术就会被输入到下一轮生成器的训练数据中。这是一场军备竞赛，进攻方在结构上优于防守方，而且差距还在不断扩大。
其次， 即使是世界一流的检测技术，在大规模应用中也会失效。如果检测器的准确率达到99%，但合成介质的数量高达数百万，那么漏网的1%仍然是一个庞大的数字。它仍然构成相当大的风险，并可能对公众造成严重后果。
第三，也是最重要的一点：检测只有在内容传播之后才有效。当某个内容被标记为虚假信息时，它已经被浏览、分享并进入了公众视野。
除了检测等单一解决方案之外，还需要检测、签名、标记、验证以及（最重要的是）教育等协调一致的努力，才能成功应对与伪造媒体相关的风险。
更重要的问题摆在眼前
检测只是一种防御姿态，即便技术再先进，也无法改变人们会忘记所见所闻的事实。恰恰相反，检测技术越完善，说谎者声称检测失败的说法就越可信。对问题的认知本身反而成了谎言的温床。请思考以下情况：
司法法庭依赖证据。新闻报道依赖消息来源。保险业注重文件记录。选举依赖于每位候选人实际言论的公开记录。在所有这些机构中，都存在一个所有人都认可的基本证据，即使人们对其含义存在分歧。
但如果这一基本原则被打破，就会出现信息误导，而这种误导又会加剧社会中任何不利事实的否认。任何令人不适的真相都可以被一句“那是人工智能”的谎言所掩盖。其后果远不止社交媒体上的标题党内容，还会加速全球机构赖以运转的根本基础的瓦解。
超越真相的价值
证明其真实性是一种真正的进攻姿态。一旦创建了资产，就应该附上创建者、来源、使用工具以及后续修改记录。该记录随文件一起传输。任何人都可以验证，并查看文件是否被篡改过。
出处一直是真伪鉴别的基础。法院在建立证据链时会用到出处。艺术画廊和经销商也用它来区分毕加索的真迹和赝品。一颗带有米奇·曼特尔签名的棒球的价值不在于球本身，而在于证明他确实签过名的书面记录。
虽然溯源并非新鲜事物，但如何大规模地将溯源应用于数字媒体却是一个挑战。这正是未来几年需要解决的技术难题。溯源并不能保证内容的真实性（即使是来自权威新闻机构的签名记录也可能对事件描述有误），但它提供了比真相更有价值的信息：关于内容来源的可靠信息。读者可以自由地吸收内容，并自行判断其可信度。在数字信任中，我们必须能够证明媒体内容的创作或修改。
C2PA的到来
C2PA 代表内容来源和真实性联盟。
自成立以来，C2PA 的合规性已显著增长，成员范围已超出其创始成员。主要媒体机构、生成式人工智能平台、硬件制造商和证书颁发机构等都已加入其中。 SSL是C2PA生态系统中首个公开可信的CA。现在它们都是参与者。SSL 颁发证书，签名者使用这些证书将可验证的来源绑定到他们创建或修改的媒体上。
如果您运营或构建的系统非常注重信任，请联系我们。我们的团队将帮助您就内容真实性解决方案（例如 SSL）做出切实可行的决策。 C2PA 和 CAWG证书融入你的工作。
本文节选自SSL技术执行副总裁的报告并进行了补充说明。 达斯汀·沃德这是原文博客文章。您可以阅读完整版本。 开始这是他以 C2PA 为主题的系列文章的第一篇。
