再生産AIによって、ユーザーはあらゆるフェイクを作ることができる。ここ数日、ドナルド・トランプ前大統領が警察から逃げる姿や、ロシアのプーチン大統領が子猫を抱きしめる姿、さらにはバレンシアガの白いパファーコートを着たローマ法王の偽写真がウェブ上を駆け巡っています。何が作れないのか？
中国の習近平国家主席の写真は作れません。少なくとも、生成AIプラットフォーム「Midjourney」では作れません。
ネット上での深い偽物の拡散を遅らせるため、Midjourneyは先週、無料体験版を終了すると発表した。しかし、このプラットフォームは依然として世界の指導者の画像を生成できる。しかし、サンフランシスコに本社を置くMidjourney社は、このプラットフォームで世界の指導者の画像を生成することは可能です。中国国家主席の名前をプロンプトで使うこともできません。
批評家たちは、この禁止令は検閲の一形態であり、言論と表現の自由の基本原則を損なうものであると主張しています。
個人の権利と表現のための財団（FIRE）の上級研究員であるサラ・マクラフリン氏は、TCNのインタビューに対し、「今日の世界の動き、そして私たちすべてが密接に絡み合っていることから、他の場所でどんな言論法があるかは重要です」と述べています。”その市場や政府は、アメリカ企業の運営方法に影響を与えるほど強力かもしれません。”
McLaughlin氏は、2015年のソニーのハッキングを指摘し、アダム・サンドラーの映画「Pixels」の制作コピーから、万里の長城が破壊されるシーンが、中国での映画の興行的成功を損なうことを懸念して削除されたことを明らかにしました。
FIREはフィラデルフィアに本拠を置く非営利団体で、大学キャンパスを中心に米国内の言論の自由を擁護しています。マクラフリン氏は、この財団は最近、”あらゆる目的の言論の自由と憲法修正第1条のグループ “として拡大したと付け加えた。
マクラフリン氏は、人々は国際的な検閲を自分とは無関係なものと見なす間違いを犯しがちだという。
昨年、MidjourneyのDiscordサーバーで検閲の問題が話題になったとき、MidjourneyのCEOであるDavid Holz氏は、同社はドラマを最小限に抑えたいと述べている
。
「邪悪な企みはありません。基本的には、ドラマを最小限にしたいだけです」とホルツは昨年6月にこの問題を取り上げた際に語っています。
トランプが逮捕されるのを待ちながら写真を撮る。pic.twitter.com/4D2QQfUpLZ
– Eliot Higgins (@EliotHiggins) March 20, 2023
」。
ホルツは2022年6月にMidjourney Discordサーバーに投稿した中で、政治風刺の受け取り方が中国と比較して欧米諸国では異なることを強調し、欧米で典型的な政治風刺が中国では問題を起こし、ユーザーに危険を及ぼすこともあり得ることを認めました。
世界の指導者を風刺した画像を作成した長い歴史があり、特に米国では言論・表現の自由が合衆国憲法に明記されているが、他の国ではそうではない。
「アメリカの法律と中国の法律の問題だけではありません」とマクラフリンは言います。「私たちが使うツールは、私たちが予想もしなかった方法で、自国の法律ではなく他国の法律に従うことになるかもしれません」
ホルツは、政治風刺を奨励するよりも、中国の人々がこのテクノロジーを使えるようにすることがより大きな利益だと示唆した。
「中国の人々がこの技術を使うことで、世界全体の針がポジティブな方向に動くと思う」とホルツ氏は語った。「ここでランダムに中国の政治風刺をする人たちは、ほとんど何の足しにもなりません。
これらの制限の支持者は、偽情報の拡散やAI技術の悪用の可能性を防ぐために必要だと言うかもしれません。しかし、習主席の画像が制限されているにもかかわらず、McLaughlinはMidJounreyの中国での時間が長く続くとは考えていません。
“欧米企業を排除する傾向があるため、制限があるにもかかわらず、最終的に中国がアクセスをブロックしても驚かない “と彼女は語った
。
McLaughlinは、Midjourneyが行っていることは常識外であるとし、最近Twitterがインドでコンテンツの検閲を行ったことを引き合いに出しています。
“Twitterは最近、インドで検閲問題に直面し、モディ首相に関するBBCのドキュメンタリーを検閲するよう政府に要求されました。”とMcLaughlinは述べています。”Twitterがコンテンツをブロックしたのはインドだけで、グローバルではありませんでした。一方、Mid-Journeyは、誰もが習近平の名前を使えないようにしており、中国人ユーザーをブロックするだけからエスカレートしている。”
