覚悟を決めろ： AIは人類を絶滅させるかもしれない。
火曜日、マイクロソフト、グーグル、OpenAIの役員を含む数百人のAI業界のリーダーや研究者が、悲痛な警告を発しました。彼らは、自分たちが開発している人工知能技術が、いつの日か人類の存亡に関わる現実的な危険をもたらすかもしれないと主張している。パンデミックや核戦争の恐怖と並んで、AIは同程度の社会的リスクであると彼らは考えています。
AI安全センターが発表した書簡の中で、AIの専門家たちは、その簡潔さが特徴的な次のような声明を発表している： 「AIによる絶滅のリスクを軽減することは、パンデミックや核戦争といった他の社会的規模のリスクと並んで、世界的な優先事項であるべきだ」。
それだけです、それだけですと
。
Source： AI安全センター
この声明では、AIを核災害や世界的なパンデミックのような差し迫った脅威として描いています。しかし、署名者であるテクノロジー業界の魔術師たちは、その不吉な警告を拡大解釈することができなかった。
この終末のシナリオは、一体どのように進行するのだろうか。ロボットによる支配が始まるのはいつなのか？人類の革新的な発明であるAIが、なぜその創造者に牙をむくのか？人工知能の設計者たちの沈黙は響くばかりで、何の回答も得られなかった。
実際、そうした業界のリーダーたちは、定型的な返答をするチャットボットと同じように、何の情報も提供しなかった。世界的な脅威の領域では、AIは突然、Googleのキーワード検索で気候変動、地政学的紛争、さらには宇宙人の侵略を抑えて、行列に飛び込んだようだ
。
AIに関するGoogle検索数、戦争、エイリアンの侵略、気候変動などの他のグローバルな懸念と比較して。画像はイメージです： Google
興味深いことに、企業は自分たちの利益と一致する場合、規制を支持する傾向があります。これは、「私たちはこのような規制の形成に手を貸したいと思っています」という彼らの言い分と見ることもできます。これは、鶏小屋で新しいルールを求めるキツネのようなものです。
また、OpenAIのCEOであるサム・アルトマンが、米国での規制を推進していることも注目すべき点です。それでも、大陸の政治家がAIを規制しようとし続けるなら、彼はヨーロッパを離れると脅した。アルトマンは、ユニヴァーシティ・カレッジ・ロンドンのパネルで、「我々は遵守しようと思っている」と述べた。「遵守できるのであれば、そうします。もし遵守できない場合は、事業を停止します」。
その数日後、アルトマンは、OpenAIはヨーロッパから撤退する予定はない、と発言しました。もちろんこれは、「非常に生産的な1週間」で、この問題について規制当局と話す機会を得た後のことです。
（ユーブイエックスダブリューエックス
AIをどう規制するのがベストなのか、ヨーロッパで非常に生産的な1週間を過ごしました！ここで事業を継続できることに興奮していますし、もちろん離れる予定はありません
– Sam Altman (@sama) 2023年5月26日
（ユーブイエックスダブリュージェイ）
（ユーブイエックスダブリューケー
AI Is Risky, But Is It That Risky?
人工知能の潜在的な危険性は、専門家の間で気づかれていないわけではありません。イーロン・マスク、スティーブ・ウォズニアック、ユヴァル・ハラリ、アンドリュー・ヤンなど31,810人の賛同者が署名した以前の公開書簡では、パワフルなAIモデルの訓練の一時停止を呼びかけています。
“これらのプロトコルは、それを遵守するシステムが合理的な疑いを超えて安全であることを保証すべきです。”手紙は、”これは、AI開発全般の一時停止を意味するものではなく、単に、出現する能力を持つこれまで以上に大きな予測不可能なブラックボックスモデルへの危険な競争から一歩後退することです “を明確にしている
。
AIフーム（AIが自らのシステムを改良し、人間の知能を凌駕するほど能力を向上させること）の可能性は、長年議論されてきたことです。しかし、今日の急速な変化のペースと、メディアによる多くの報道により、この議論は世界的なスポットライトを浴びることになりました
。
このため、AIが社会的相互作用の未来にどのような影響を与えるか（単に与えうるだけでなく）、さまざまな見解が生み出されています。
ある人は、AIと人間が一体となって交流し、技術の進歩が頂点に立つユートピアの時代を思い描く。また、人類はAIに適応し、自動車の発明後に雇用が拡大したように、AIを中心に新しい仕事が生まれると考える人もいます。しかし、AIが成熟して制御不能になり、人類に真の脅威をもたらす可能性が高いという意見もある。
それまでは、AIの世界では通常通りです。ChatGPT、Bard、Siriは、ソフトウェアのアップデート次第で、世界を支配できるかもしれません。しかし、今のところ、人類にとって最大の脅威は、私たち自身の発明ではなく、むしろ私たちの大げさな表現に対する無限の才能のようです。
