リアルなAIが生成した写真や動画がネット上で拡散する中、テック企業や監視団体は偽コンテンツを識別するツールの開発を競っている。
コンピュータで生成された画像に電子透かしを入れることは、一般的に提案されている解決策であり、隠されたメタデータの形で目に見えないフラグを追加することで、画像が生成AIツールを使って作成されたことを公表するのに役立つ。しかし研究者たちは、このような電子透かしには大きな欠点があることを発見した。
現在、大手カメラメーカーは異なるアプローチを提案している。ある意味正反対で、代わりに「本物の」写真に透かしを埋め込むのだ。
ニコン、ソニー、キヤノンは最近、ハイエンドのミラーレスカメラで撮影した画像に電子署名を入れる共同構想を発表した。日経アジアによると、この署名は、日付、時間、GPS位置情報、撮影者の詳細などの主要なメタデータを統合し、各写真のデジタル起源を暗号的に証明する。
ニコンは、今後発売するプロ用ミラーレスカメラのラインナップにこの機能を搭載する予定であり、ソニーは、現在のミラーレスカメラにデジタル署名を挿入するためのファームウェアアップデートを発行する予定である。
日経の報道によれば、その目的は、フォトジャーナリスト、メディア関係者、アーティストに、画像の信頼性を証明する反論の余地のない証拠を提供することである。改ざん防止の署名は編集しても消えることはなく、ネット上の誤報や写真の不正使用と闘う努力を支援するはずだ。
これをサポートするため、両社は “Verify “と名付けられた相互運用可能なデジタル署名のオープンスタンダードで協力した。これが実現すれば、適切なハードウェアで撮影された写真をオンラインで無料でチェックできるようになり、人々は写真が本物かどうかを判断できるようになる。
AIが生成した写真が真正な署名なしでベリファイ・システムを通過しようとすると、「コンテンツ認証なし」というタグが付けられる。
ソース： キヤノン
AIコンテンツを遡及的にマークする代わりに、この計画では実際の写真を発生時に直接認証する。しかし、他の電子透かしシステムと同様に、このシステムが成功するかどうかは、広く普及するか（より多くのハードウェアメーカーがこの規格を取り入れるか）、時間をかけて実装されるか（ハッキングされないようにコードが進化するか）にかかっている。
TCNが報じたように、最近の研究によれば、電子透かし防止技術も埋め込まれた署名を危険にさらす可能性があり、現在の電子透かし方式は役に立たなくなる。しかし、これは電子透かし画像を透かしのないものにするだけであり、人工透かしを検出するツールは少なくなる。
アンチ・電子透かし技術は本物の写真から真正性の署名を除去する可能性はあるが、AIが生成した偽画像から透かしを除去するよりは問題が少ない。なぜか？AIのディープフェイクから透かしが除去されると、偽造されたコンテンツが本物としてより簡単に通過できるようになる。しかし、本物の写真から認証署名がハックされたとしても、残りの画像はカメラで撮影されたものであり、生成モデルから生成されたものではない。暗号的な証明は失われても、根底にあるコンテンツは本物であることに変わりはない。
この場合の主なリスクは、コンテンツの真実性ではなく、帰属と権利管理に関連するものである。画像は誤認されたり、適切なライセンスなしに使用されたりする可能性はあるが、それが表している現実について視聴者を誤解させることは本質的にない。
OpenAIは最近、AIを搭載したディープフェイク検出器を発表した。しかし、AIによるディープフェイク検出は依然として不完全であり、生成技術の進化に追いつくための絶え間ないアップグレードに直面している。
最近のディープフェイクの高度化は、そのような戦略の必要性にスポットライトを当てている。2023年に見られるように、本物のコンテンツと捏造されたコンテンツを区別する必要性はかつてないほど高まっている。政治家も技術開発者も、実行可能な解決策を見つけようと躍起になっている。
