Eine Gruppe prominenter Technologen, Forscher und anderer einflussreicher Persönlichkeiten fordert OpenAI auf, das Training seines künstlichen Werkzeugs ChatGPT zu pausieren.
Hochkarätige KI-Persönlichkeiten – darunter Elon Musk, Steve Wozniak und Andrew Yang – haben offenbar einen offenen Brief unterzeichnet, in dem sie eine sechsmonatige Pause bei der Entwicklung von KI-Systemen fordern, die leistungsfähiger sind als GPT-4, die aktuelle Version des generativen Tools, das im November 2022 auf den Markt kam
In dem Brief erklären die Autoren, dass „Regierungen“ das Problem erzwingen sollten, wenn das private Unternehmen nicht aufhört, seine KI über die aktuelle GPT4-Implementierung hinaus zu trainieren.
„Wir fordern alle KI-Labore auf, das Training von KI-Systemen, die leistungsfähiger als GPT-4 sind, sofort für mindestens 6 Monate zu pausieren. Diese Pause sollte öffentlich und überprüfbar sein und alle wichtigen Akteure einbeziehen. Wenn eine solche Pause nicht schnell umgesetzt werden kann, sollten die Regierungen eingreifen und ein Moratorium verhängen“, heißt es in dem Brief.
Der Brief hat derzeit über 1.100 Unterschriften. Einige haben jedoch bezweifelt, dass alle namhaften Unterzeichner den Brief tatsächlich unterschrieben haben. Zu den namhaften Unterzeichnern gehören der Turing-Preisträger Yoshua Bengio, Stuart Russell, Direktor des Center for Intelligent Systems, Emad Mostaque, CEO von Stability AI, und Chris Larsen, Mitbegründer von Ripple.
Ein Sprecher des Projekts sagte, dass die ersten Unterschriften doppelt geprüft worden seien, dass aber die Anzeige der Namen aufgrund der hohen Nachfrage pausiert worden sei.
„Alle Top-Unterzeichner auf der Liste wurden von unabhängiger Seite überprüft“, sagte Anthony Aguirre, Vizepräsident des Future of Life Institute, gegenüber TCN. Er fügte hinzu: „Dies für die gesamte Liste (die jetzt weit über 30.000 ist) zu tun, übersteigt unsere Kapazität.“
Ein Hinweis auf der Website lautet: „Aufgrund der hohen Nachfrage sammeln wir immer noch Unterschriften, pausieren aber deren Erscheinen auf dem Brief, damit unsere Überprüfungsprozesse aufholen können.“
Musk, einer der Mitbegründer von OpenAI, trat 2018 aus dem Vorstand zurück, investierte aber Berichten zufolge 100 Millionen US-Dollar in das Projekt.
Die Ankunft von GPT4 vor zwei Wochen hat sowohl für Aufregung gesorgt – manche halten seine Ankunft für wichtiger als das Aufkommen des Feuers – als auch für Besorgnis unter den Menschen, die befürchten, dass es unkontrolliert die Menschheit auslöschen könnte.
In dem Schreiben wird behauptet, dass KI-Systeme mit einer dem Menschen vergleichbaren Intelligenz erhebliche Risiken für die Gesellschaft und die Menschheit darstellen. Der Schwerpunkt sollte darauf liegen, die bestehenden Systeme genauer, sicherer, transparenter, robuster und vertrauenswürdiger zu machen und gleichzeitig die Entwicklung von KI-Governance-Systemen zu beschleunigen.
„Die Menschheit kann mit KI eine blühende Zukunft erleben“, heißt es in dem Bericht, und es wird darauf hingewiesen, dass „die Gesellschaft bei anderen Technologien mit potenziell katastrophalen Auswirkungen auf die Gesellschaft eine Pause eingelegt hat. Das können wir auch hier tun. Genießen wir einen langen KI-Sommer und stürzen wir uns nicht unvorbereitet in den Herbst“.
Auf einen Tweet über die Petition antwortete Musk: „Führende [Künstliche Intelligenz]-Entwickler werden diese Warnung nicht beherzigen, aber zumindest wurde sie ausgesprochen. „
Führende AGI-Entwickler werden diese Warnung nicht beherzigen, aber zumindest wurde sie ausgesprochen
– Elon Musk (@elonmusk) März 29, 2023
OpenAI hat noch nicht auf die Bitte um eine Stellungnahme reagiert.
