著名な技術者、研究者、その他のインフルエンサーが、OpenAIに対し、人工ツールChatGPTのトレーニングの一時停止ボタンを押すよう求めているそうです。
イーロン・マスク、スティーブ・ウォズニアック、アンドリュー・ヤンを含むAI界のトップが、2022年11月に初めて発売された生成ツールの現行バージョンであるGPT-4よりも強力なAIシステムの開発を6ヶ月間休止するよう求める公開書簡に署名したようです
。
手紙の中で著者らは、民間企業が現在のGPT4実装を超えるAIの訓練を停止しない場合、「政府」が問題を強制するべきだと主張しています。
“我々はすべてのAI研究所に対し、GPT-4より強力なAIシステムの訓練を少なくとも6カ月間、直ちに一時停止するよう求める。この一時停止は、公開され検証可能であり、すべての主要な関係者を含むものでなければならない。このような一時停止が迅速に実施できない場合は、政府が介入してモラトリアムを実施すべきです」と、書簡は述べています
。
この手紙には、現在1,100人以上の署名が寄せられています。しかし、大物署名者全員が実際に署名したのかどうか、疑問視する声もある。注目すべきは、チューリング賞受賞者のYoshua Bengio氏、Center for Intelligent SystemsのディレクターStuart Russell氏、Stability AI CEO Emad Mostaque氏、Ripple共同創業者のChris Larsen氏などの名前です。
プロジェクトの広報担当者は、最も早い署名はダブルチェックされているが、需要が高いため名前の表示を一時停止していると述べた。
Future of Life InstituteのAnthony Aguirre副社長はTCNに、「リストの上位の署名者はすべて独立に確認されている」と述べた。また、「（現在3万人を超える）リスト全体に対してそれを行うことは、私たちの能力を超えています」とも述べています。
サイト上の注意書きにはこうあります： “需要が高いため、我々はまだ署名を集めていますが、我々の審査プロセスが追いつくように、手紙への掲載を一時停止しています。” と書かれています。
OpenAIの共同設立者の一人であるマスクは、2018年に取締役を辞任したが、このプロジェクトに1億ドルを投資したと伝えられている。
2週間前のGPT4の登場は、その登場を火の登場よりも重要だと告げる人もいる興奮と、野放しにすれば人類を滅亡させかねないと懸念する人たちの警戒の両方を生み出している
。
書簡は、人間と競合する知能を持つAIシステムは、社会と人類に重大なリスクをもたらすと主張。AIガバナンスシステムの開発を加速させながら、既存のシステムをより正確、安全、透明、堅牢、信頼できるものにすることに焦点を当てるべきだと主張している。
“人類はAIによって繁栄する未来を享受できる “とし、「社会は、社会に破滅的な影響を与える可能性のある他の技術に対して一時停止を行った。私たちはここでそうすることができます。長いAIの夏を楽しもう、準備不足のまま秋に突入するのはやめよう。” と述べています。
この嘆願書に関するツイートに対し、マスク氏は「一流の（人工知能）開発者たちはこの警告を聞き入れないだろうが、少なくとも言われたことだ」と回答している
。
AGI開発の第一人者はこの警告を聞かないだろうが、少なくとも言われたことはある
-イーロン・マスク (@elonmusk) 2023年3月29日
」。
OpenAIからのコメント要請にはまだ応えていません。
