「AIのゴッドファーザー」の一人として知られる人工知能のパイオニア、ジェフリー・ヒントン氏は、A.I.が世界に大きな害をもたらす可能性について懸念を率直に表明できるよう、Googleの職を辞した。
ヒントンはニューヨーク・タイムズのインタビューで、自分のライフワークを今では一部後悔していると認めている。A.I.の有益な使い方にもかかわらず、ヒントン氏は、この技術が無責任に使われ、意図しない結果を放つことを恐れている。
グーグルやマイクロソフトのような巨大企業が最先端のA.I.を開発するために競争を繰り広げ、その結果、世界的な規制がなければ止まらなくなることをヒントンは懸念しています。しかし、彼はまた、グーグルがその研究において責任ある行動をとっていると考えていることを強調して指摘した：
。
（ユーブイエックスダブリューエル
今日のNYTで、ケイド・メッツは、私がグーグルを批判するためにグーグルを辞めたとほのめかしている。実は、グーグルにどのような影響を与えるかを考えずに、AIの危険性について話すために退社したのです。
-ジェフリー・ヒントン (@geoffreyhinton) 2023年5月1日
..Googleは非常に責任ある行動をとった。
（ユーブイエックスダブリュージェイ）
（ユーブイエックスダブリューケー
1986年にニューラルネットワークの理論的発展を普及させ、2012年には画像を認識できるニューラルネットワークを作り上げたことで知られる
Hinton。彼の研究は、Stable DiffusionやMidJourneyといった現在のジェネレーティブアートモデルの開発に不可欠であり、GPT-4を画像と対話できるようにするためのOpenAIの今後の取り組みの基礎を築いたと言えるでしょう。
彼の遅きに失した感は、原爆を作ったとされる物理学の教授、J.ロバート・オッペンハイマーと比較されることも多い
。
AIのリスク
ヒントン氏は、ネット上に偽の画像や動画、文章が蔓延し、一般人にとって真実を見極めることがますます難しくなる可能性があることを、当面の問題の1つとして挙げています。ジェネレイティブA.I.が進化し続ける中、偽のコンテンツや操作性の高いコンテンツの制作者は、こうしたツールを使って人々を欺き、混乱させる可能性があります。
ヒントン氏は、A.I.が将来的に仕事にどのような影響を及ぼすかも懸念している。ChatGPTのようなチャットボットは現在、人間の労働者を補完していますが、最終的には、パーソナルアシスタント、会計士、翻訳家など、定型業務を処理する人たちに取って代わる可能性があります。AIは単調な仕事を軽減してくれるかもしれませんが、予想以上に多くの仕事をなくし、社会のバランスを崩す可能性もあります。
長期的には、大量のデータを解析して予期せぬ行動を学習する可能性があるため、将来のバージョンが人類にとって脅威となることをヒントンは危惧しています。これは、A.I.システムが独自のコードを生成して実行することを許可されたときに問題となる。
この長期的な視点は、A.I.分野の他の重要人物が、AIが人間の知能をはるかに上回る「フーム」シナリオの可能性と、それが社会の発展に与える影響について警告を発し始めたときにも、特に重要な意味を持つようになりました。
ヒントン氏は、さまざまな分野（エロチャットから医療診断まで）のAI開発の急激な進歩に警鐘を鳴らす何千人もの技術リーダーや研究者の一人に過ぎない。先月、リーダーたちが十分な管理が確立されるまでAI開発を一時停止するよう求める公開書簡が人気を博した。ヒントンはそれに署名していない。
A.I.に関するヒントンの立場の変遷は、急速に進化する技術に伴うリスクと課題に対する認識の高まりを反映している。Hintonにとって、ライフワークから辞任することは、日々近づいているように見えるというシナリオを防ぐために重要なことでした。
「5年前と今を比べてみてください。5年前と今を比べてみてください」「その違いを、前方へ伝播させる。それは恐ろしいことです」
