民主主義に対する人工知能の脅威が、世界中の政策立案者や有権者の最大の関心事となっている中、OpenAIは月曜日、AIが生成したコンテンツの透明性を確保し、2024年の選挙に向けて信頼できる投票情報を改善するための計画を発表した。
3月のGPT-4の発表後、AIが生成するディープフェイクを含むジェネレーティブAIとその潜在的な悪用は、2023年のAIの急成長をめぐる話題の中心となっている。2024年、米国大統領選を含む著名な選挙において、このようなAIによる誤報が深刻な結果をもたらす可能性がある。
「世界最大の民主主義国家で2024年の選挙に備えるにあたり、我々のアプローチは、正確な投票情報を高め、測定されたポリシーを実施し、透明性を向上させることで、プラットフォーム・セーフティ活動を継続することです」とOpenAIはブログ投稿で述べている。
OpenAIは、「潜在的な悪用を迅速に調査し、対処するために、安全システム、脅威インテリジェンス、法律、エンジニアリング、ポリシーチームの専門知識を結集しています」と付け加えた。
Snapshot of how we’re preparing for 2024’s worldwide elections：
– 誤解を招くディープフェイクを含む悪用防止に取り組む
– AIが生成したコンテンツに関する透明性の提供
– 権威ある投票情報へのアクセスを改善https://t.co/qsysYy5l0L– OpenAI (@OpenAI) 2024年1月15日
8月、米連邦選挙委員会は、AIが生成する選挙広告を禁止する請願の検討を進めると発表した。FECのアレン・ディッカーソン委員は、”この取り組みの背景には、憲法修正第1条の重大な懸念が潜んでいる “と述べた。
ChatGPTの米国の顧客に対して、OpenAIは、”特定の手続き上の選挙関連の質問 “をされた場合、ユーザーを超党派のウェブサイトCanIVote.orgに誘導すると述べた。同社は、これらの変更を実施することで、世界的なアプローチに反映させるとしています。
「今年の世界的な選挙に向けて、我々のツールが悪用される可能性を予測し、防止するために、パートナーと協力し、パートナーから学び続けることを楽しみにしています。
ChatGPTでは、OpenAIは開発者が実在の人物や政府高官や役所のような機関のふりをするチャットボットを作成することを禁止していると述べた。またOpenAIによると、投票を抑制したり、投票資格のある人を偽ったりするなど、人々の投票を妨げることを目的としたアプリケーションも禁止されている。
AIが生成したディープフェイク、生成AIを使って作成された偽の画像、動画、音声は昨年大流行し、ジョー・バイデン米大統領やドナルド・トランプ前大統領、さらにはフランシスコ法王が登場するものがソーシャルメディアで共有され、話題となった。
Dall-E 3画像ジェネレーターがディープフェイクキャンペーンに使用されるのを阻止するため、オープンAIは、AIが生成した画像にマークまたは「アイコン」を追加するCoalition for Content Provenance and Authenticityのコンテンツ認証情報を実装すると述べた。
また、Dall-Eによって生成された画像を検出するための新しいツールであるプロビデンス分類器の実験も行っています。”我々の内部テストでは、画像が一般的なタイプの改変を受けた場合でも、有望な初期結果を示している。”
先月、フランシスコ法王は世界の指導者たちにAIを規制する拘束力のある国際条約を採択するよう呼びかけた。
フランシスコは、「人間一人ひとりの固有の尊厳と、人類一家族の一員として私たちを結びつける友愛は、新技術の開発を支えるものでなければならず、また、デジタル技術の進歩が正義を尊重し、平和の大義に貢献できるように、新技術が採用される前に、それを評価するための議論の余地のない基準として機能しなければならない」と述べた。
誤報を抑制するため、ChatGPTは引用やリンクを含むリアルタイムのニュース報道をグローバルに提供し始めるとオープンAIは述べた。
「情報の出所やニュースソースのバランスを透明化することは、有権者が情報をよりよく評価し、何を信頼できるかを自分で判断するのに役立ちます」と同社は述べた。
昨年夏、OpenAIはAmerican Journalism Projectに500万ドルを寄付した。その前の週には、OpenAIはAP通信と契約を結び、AI開発者が世界的な報道機関のニュース記事のアーカイブにアクセスできるようにした。
ニュース報道における帰属表示に関するOpenAIのコメントは、同社がニューヨーク・タイムズ紙を含む複数の著作権訴訟に直面している中で発表された。12月、Timesは、何百万もの記事が許可なくChatGPTのトレーニングに使用されたとして、OpenAIとOpenAIの最大の出資者であるMicrosoftを訴えた。
“OpenAIとMicrosoftは、人類の総力を結集した著作物を許可なく利用することで、数百億ドルの価値を持つビジネスを構築した。”彼らのモデルを訓練する際、被告は著作権で保護された素材を複製し、著作権法が保護するために設計されたもの、すなわち文体、言葉の選択、事実の配置や提示といった、その中にある保護可能な表現の要素を正確に利用した。
OpenAIはNew York Timesの訴訟を “メリットなし “とし、出版社がチャットボットにTimesの記事のような応答を生成させるためにプロンプトを操作したと主張している。
