随着人工智能生成的逼真照片和视频在网上泛滥，科技公司和监督组织正在竞相开发识别虚假内容的工具。
在计算机生成的图像上添加水印是一种常见的解决方案，它以隐藏元数据的形式添加了一个无形的标志，有助于揭示图像是由人工智能生成工具创建的。但研究人员发现，这种水印有一个重大缺陷：对抗性技术可以轻易去除水印。
现在，各大相机制造商提出了一种不同的方法–在某种程度上恰恰相反：在 “真实 “照片中嵌入水印。
尼康、索尼和佳能最近宣布了一项联合倡议，在其高端无反光镜相机直接拍摄的图像中加入数字签名。据《日经亚洲》报道，这些签名将整合日期、时间、GPS 定位和摄影师详细信息等关键元数据，以加密方式证明每张照片的数字来源。
尼康表示，它将在即将推出的专业无反光镜相机系列中推出这一功能；索尼将发布固件更新，在其现有的无反光镜相机中插入数字签名；佳能打算在2024年推出内置认证功能的相机，并在同年晚些时候推出视频水印功能。
据《日经新闻》报道，这样做的目的是为摄影记者、媒体专业人士和艺术家提供无可辩驳的证据，证明他们的图像是可信的。防篡改签名不会因编辑而消失，应有助于打击网上误传和欺诈性使用照片的行为。
为了支持这项工作，两家公司合作制定了一个名为 “验证 “的可互操作数字签名开放标准。一旦建立，使用适当硬件拍摄的照片将可以在网上免费检查，这样人们就可以确定照片的真伪。
如果人工智能生成的照片在没有真实签名的情况下试图通过验证系统，就会被标记为 “无内容凭证”。
来源： Canon
该计划不是对人工智能内容进行追溯性标记，而是直接对原始的真实照片进行认证。但与其他任何水印系统一样，它的成功将取决于广泛采用（更多硬件制造商采用该标准）和时间验证实施（代码不断演进以保持不可破解）。
据 TCN 报道，最近的研究表明，反水印技术也会破坏嵌入式签名，使当前的水印方法失去作用。然而，这只会使水印图像失去水印，因此人们就没有那么多工具来检测它们的人为性。
虽然反水印技术有可能去除真实照片中的真实性签名，但这比去除人工智能生成的虚假图像中的水印问题要小。为什么呢？如果从人工智能深度伪造图像中去除水印，就能让伪造内容更容易以假乱真。但是，如果从真实照片上黑掉认证签名，剩下的图像仍然是由相机拍摄的–它并非来自生成模型。虽然失去了加密证明，但底层内容仍然是真实的。
这种情况下的主要风险与归属和权利管理有关，而不是内容的真实性。图片可能会被错误署名或在没有适当授权的情况下使用，但它本质上并不会误导观众对其所代表的真实情况的理解。
OpenAI 最近发布了一款人工智能驱动的深度伪造检测器，声称其图像准确率高达 99%。然而，人工智能检测器仍不完善，需要不断升级，以超越生成技术的发展。
最近，深度伪造技术的复杂程度急剧上升，确实让人们看到了这种策略的必要性。正如我们在《2023》中所看到的那样，区分真实内容和伪造内容的需求从未像现在这样迫切。政治家和技术开发人员都在争相寻找可行的解决方案，因此我们非常感谢这些公司的帮助。
