Geoffrey Hinton，一位被称为 “人工智能教父 “之一的人工智能先驱，辞去了他在谷歌的职位，以便他能够公开表达他对人工智能如何对世界造成重大伤害的担忧。
辛顿在接受《纽约时报》采访时承认，他现在对自己一生的工作感到部分遗憾。尽管人工智能的用途是有益的，但辛顿担心该技术可能被不负责任地使用，释放出意想不到的后果。
辛顿担心，像谷歌和微软这样的科技巨头之间为创造最先进的人工智能而进行的竞争将导致全球竞赛，如果没有某种形式的世界性监管，这种竞赛将不会停止。然而，他也强调指出，他认为谷歌在其研究中的行为是负责任的：
在今天的《纽约时报》上，Cade Metz暗示我离开谷歌是为了批评谷歌。实际上，我离开是为了让我能够谈论人工智能的危险，而不考虑这对谷歌的影响。谷歌的行为非常负责任。
– Geoffrey Hinton (@geoffreyhinton) May 1, 2023
辛顿因在1986年普及了神经网络的理论发展，并在2012年创造了一个能够识别图像的网络而闻名。他的工作对当前生成艺术模型的发展至关重要，如稳定扩散和MidJourney，并为OpenAI即将进行的使GPT-4能够与图像互动的努力奠定了基础。
他可能迟到的举动让许多人将他与J.Robert Oppenheimer相提并论，后者是一位被认为创造了原子弹的物理学教授。
The Risks of AI
辛顿强调的直接问题之一是网上虚假图片、视频和文字的泛滥，这可能使普通人越来越难以辨别真相。随着生成性人工智能的不断改进，虚假和操纵性内容的创造者可以利用这些工具来欺骗和迷惑人们。
辛顿还担心人工智能会在未来影响工作。虽然像ChatGPT这样的聊天机器人目前是对人类工人的补充，但它们最终会取代那些处理日常工作的人，如个人助理、会计和翻译。虽然人工智能可能会减轻一些单调的工作，但它也可能会比预期的消除更多工作，破坏社会平衡。
从长远来看，辛顿担心未来版本的技术会对人类构成威胁，因为它们可能从分析的大量数据中学习到意想不到的行为。当人工智能系统被允许生成和执行自己的代码时，这就成了一个问题。
当人工智能领域的其他关键人物开始警告 “foom “情景的可能性–即人工智能远远超过人类智能–以及它可能对社会发展产生的影响时，这种长期观点也变得特别有意义。
辛顿只是数以千计的技术领袖和研究人员中的一员，他们对人工智能在各个领域（从色情聊天到医疗诊断）的指数式发展感到震惊。上个月，一封公开信受到欢迎，其中领导人呼吁暂停人工智能发展，直到建立足够的控制。辛顿并没有签署。
辛顿对人工智能立场的演变反映了人们对快速发展的技术所带来的风险和挑战的认识不断提高。对辛顿来说，从他一生的工作中辞职是很重要的，以防止他说的那种似乎每天都在接近的情况发生。
“看看五年前的情况和现在的情况，”他告诉《纽约时报》。”把差别拿出来并向前传播。这很可怕。”
