国連は、AIが生成したディープフェイクがソーシャルメディア上で憎悪や誤った情報を広めるために利用されていることに警鐘を鳴らした。月曜日に発表された報告書「デジタルプラットフォームにおける情報の完全性」の中で、世界的な組織は責任あるAI利用の必要性を強調した。
「世界的な課題に対処する想像を絶する可能性を秘める一方で、画像生成装置や動画ディープフェイクなど、最近の人工知能の進歩が情報の完全性を脅かす強力な可能性を持つことについても、深刻かつ緊急の懸念がある」と国連報告書は述べている。
情報の完全性とは、情報の正確性、一貫性、信頼性のことで、国連によれば、偽情報、誤報、ヘイトスピーチによって脅かされている。
グテーレス国連事務総長は報告書の序文で、「人工知能などテクノロジーの急速な進歩により、こうしたリスクはさらに高まっている」と指摘した。「従来どおりのビジネスが選択肢でないことは明らかだ」
生成AIとは、通常チャットボットの形で提供されるプログラムの一種で、プロンプトに応じてテキストや画像、その他のメディアを生成することができる。
国連の報告書は、紛争地帯におけるディープフェイクやAIが生成する誤報の影響について懸念を表明した。
ヘイトスピーチの使用は、ジェノサイドのような残虐な犯罪の先駆けとしてしばしば観察されてきた、と国連は指摘する。報告書はまた、1948年のジェノサイド犯罪の防止及び処罰に関する条約が、ジェノサイドにつながる直接的または公的な扇動を禁止していることを強調している。
デジタル空間における憎悪と嘘の拡散は、深刻な世界的被害をもたらしている。
この明確かつ現在の世界的脅威は、明確かつ協調的な世界的行動を求めている。
– @antonioguterresは、デジタルプラットフォームにおける情報の完全性に関する新しい報告書を発表しました。https://t.co/atXRvwOwXvpic.twitter.com/i5MjAkWSNy
-国連（@UN）2023年6月12日
。
具体的な例を挙げてはいないが、国連の報告書は、生成AIが、場合によっては確信犯的に誤解を招くようなコンテンツや画像を作成するために使用されている最近の事例に注意を喚起した。
3月には、ドナルド・トランプ前大統領が逮捕された様子をAIが生成した画像が、Bellingcatの創設者でクリエイティブ・ディレクターのエリオット・ヒギンズによってツイッターでシェアされ、拡散した。同月、同名のテキストから画像へのAIジェネレーターを開発したMidjourney社は、悪用が広まったとして無料トライアル版を終了した。
「すべての利害関係者は、人工知能の安全、安心、責任、倫理、人権に準拠した利用を確保し、この分野における最近の進歩が誤った情報や偽情報、ヘイトスピーチの拡散に与える影響に対処するため、緊急かつ早急な対策を講じるべきである」と国連は述べた。
報告書は、デジタルプラットフォームの所有者に対し、運営する国で使用されるすべての言語について、人間と人工知能の両方を活用したコンテンツモデレーションシステムに投資し、コンテンツ報告の透明化を図るよう求めた。
国際機関は、シリコンバレーの “move fast and break things “哲学の時代は終わらせなければならないとし、ユーザーのプライバシー、セキュリティ、透明性は不可欠であり、新しいテクノロジーに最初から組み込まれるべきだと述べた。
グテーレスは、2024年に開催される未来のサミットを、多国間の解決策に合意する機会だと指摘した。
「我々が直面している課題は、より強力な国際協力によってのみ対処できる」とグテーレス事務総長は述べた。
