Geoffrey Hinton, ein Pionier der künstlichen Intelligenz, der als einer der „Paten der KI“ bekannt ist, hat seinen Posten bei Google aufgegeben, um offen seine Bedenken darüber zu äußern, dass KI der Welt erheblichen Schaden zufügen könnte.
In einem Interview mit der New York Times gab Hinton zu, dass er sein Lebenswerk nun teilweise bereut. Trotz des Nutzens der künstlichen Intelligenz befürchtet Hinton, dass die Technologie in unverantwortlicher Weise eingesetzt werden und unbeabsichtigte Folgen nach sich ziehen könnte.
Hinton befürchtet, dass der Wettbewerb zwischen Tech-Giganten wie Google und Microsoft um die fortschrittlichste KI zu einem globalen Wettlauf führen wird, der ohne eine weltweite Regulierung nicht aufzuhalten sein wird. Er betonte jedoch auch nachdrücklich, dass er der Meinung ist, dass Google bei seiner Forschung verantwortungsvoll gehandelt hat:
In der NYT unterstellt Cade Metz heute, dass ich Google verlassen habe, um Google kritisieren zu können. In Wirklichkeit habe ich Google verlassen, um über die Gefahren der künstlichen Intelligenz zu sprechen, ohne zu berücksichtigen, welche Auswirkungen dies auf Google hat. Google hat sehr verantwortungsvoll gehandelt
– Geoffrey Hinton (@geoffreyhinton) May 1, 2023
Hinton ist dafür bekannt, dass er 1986 die theoretische Entwicklung neuronaler Netze popularisierte und 2012 eines schuf, das Bilder erkennen kann. Seine Arbeit war entscheidend für die Entwicklung aktueller generativer Kunstmodelle wie Stable Diffusion und MidJourney und legte den Grundstein für die bevorstehenden Bemühungen von OpenAI, GPT-4 in die Lage zu versetzen, mit Bildern zu interagieren.
Sein möglicherweise verspäteter Schritt hat viele dazu veranlasst, ihn mit J. Robert Oppenheimer zu vergleichen, einem Physikprofessor, dem die Entwicklung der Atombombe zugeschrieben wird.
Die Risiken der KI
Eines der unmittelbaren Probleme, auf die Hinton hinweist, ist die Verbreitung von gefälschten Bildern, Videos und Texten im Internet, die es dem Durchschnittsbürger immer schwerer machen könnten, die Wahrheit zu erkennen. Da die generative KI immer besser wird, könnten die Ersteller gefälschter und manipulativer Inhalte diese Werkzeuge nutzen, um Menschen zu täuschen und zu verwirren.
Hinton ist auch besorgt darüber, wie sich KI in Zukunft auf Arbeitsplätze auswirken könnte. Während Chatbots wie ChatGPT derzeit menschliche Arbeitskräfte ergänzen, könnten sie letztendlich diejenigen ersetzen, die Routineaufgaben erledigen, wie persönliche Assistenten, Buchhalter und Übersetzer. Obwohl die KI einige monotone Arbeiten erleichtern könnte, könnte sie auch mehr Arbeitsplätze als erwartet beseitigen und das soziale Gleichgewicht stören.
Langfristig befürchtet Hinton, dass zukünftige Versionen der Technologie eine Bedrohung für die Menschheit darstellen, da sie aus den großen Datenmengen, die sie analysieren, unerwartete Verhaltensweisen lernen könnten. Dies wird zu einem Problem, wenn KI-Systeme ihren eigenen Code generieren und ausführen dürfen.
Diese langfristige Sichtweise gewann auch besondere Bedeutung, als andere Schlüsselfiguren im Bereich der KI begannen, vor der Möglichkeit eines „Foom“-Szenarios zu warnen – in dem die KI die menschliche Intelligenz weit übertrifft – und vor den Auswirkungen, die dies auf die gesellschaftliche Entwicklung haben könnte.
Hinton ist nur einer von Tausenden von Technologieführern und Forschern, die durch den exponentiellen Fortschritt der KI-Entwicklungen in verschiedenen Bereichen (von erotischen Chats bis zu medizinischen Diagnosen) alarmiert sind. Letzten Monat wurde ein offener Brief bekannt, in dem führende Persönlichkeiten eine Pause in der KI-Entwicklung forderten, bis angemessene Kontrollen eingeführt sind. Hinton hat ihn nicht unterzeichnet.
Die Entwicklung von Hintons Position zur KI spiegelt ein wachsendes Bewusstsein für die Risiken und Herausforderungen wider, die mit der sich schnell entwickelnden Technologie verbunden sind. Für Hinton war der Rücktritt von seinem Lebenswerk wichtig, um ein Szenario zu verhindern, das seiner Meinung nach jeden Tag näher zu rücken scheint.
„Schauen Sie sich an, wie es vor fünf Jahren war und wie es jetzt ist“, sagte er der New York Times. „Nehmen Sie den Unterschied und übertragen Sie ihn nach vorne. Das ist beängstigend.“
