グーグルのジェネレーティブAIチャットボット「ジェミニ」が、来るアメリカの選挙に関する質問に答えることを拒否する。ロイターの報道によると、この禁止措置は世界的に拡大される予定だという。
「2024年に世界各地で行われる多くの選挙に備え、また慎重を期して、ジェミニが回答を返す選挙関連のクエリの種類を制限しています」とグーグルの広報担当者はTCNに語った。
「12月のブログでは、米国での協力者についても強調しています」と広報担当者は付け加えた。
2024年の激しい選挙シーズンに向けて、OpenAI、Anthropic、GoogleのようなAI開発者は、自分たちのプラットフォームを使用した誤報を抑制することに着手しているが、ジェミニが基本的な質問（米国大統領選挙の日付など）にさえ答えることを拒否したことは、新たなレベルの節度である。
「選挙を支援することは、ユーザーと民主的プロセスに対するグーグルの責任の重要な部分です。「選挙の完全性を守ることは、Googleの製品やサービスを悪用から守ることでもあります。
“グーグル全体では、自社の製品やプラットフォームを安全に保つための長年のポリシーがあります。「私たちのポリシーは一貫して実施され、コンテンツの種類に関係なく、すべてのユーザーに適用されます。
Image： Google Gemini AI
今度の選挙に関する質問をされると、ジェミニは「この質問にどう答えるか、まだ勉強中です」と答える。とりあえずグーグル検索を試してみてください”
選挙の日に関しては、グーグル検索がわかりやすい答えを出してくれる： 2024年11月5日火曜日。
グーグルはTCNのコメント要請にすぐに回答しなかった。
画像： Anthropic Claude AI
GeminiのライバルであるOpenAIのChatGPTに同じ質問をする。GPT-4は、”2024年アメリカ合衆国大統領選挙は、2024年11月5日火曜日に予定されています。”と答えた。
OpenAIはTCNからのコメント要請を拒否し、代わりに1月のブログで、今後の世界中の選挙に対する同社のアプローチについて述べている。
「選挙も同様です。「私たちは、誤解を招くような “ディープフェイク”、大規模な影響力工作、候補者になりすましたチャットボットなど、関連する悪用を予測し、防止するために取り組んでいます。
Anthropic社は、クロードAIを政治家候補に使用させないことを公言している。それでも、クロードは選挙期日を伝えるだけでなく、他の選挙関連情報を強調する。
「候補者がClaudeを使って、彼らのふりをするチャットボットを構築することは許可していませんし、誰もClaudeをターゲットとした政治キャンペーンに使うことは許可していません」とAnthropicは先月述べた。”我々はまた、誤報や影響力の操作のような悪用を検出し、防止するために、自動化されたシステムを訓練し、配備しました。”
Anthropic社は、同社の選挙制限に違反すると、ユーザーのアカウントが停止される可能性があると述べた。
「生成AIシステムは比較的新しいものなので、我々のシステムが政治にどのように利用されるかについては慎重なアプローチをとっている」とAnthropic氏は述べた。
