Brace yourselves: KI könnte dazu führen, dass die Menschheit ausstirbt.
Am Dienstag haben Hunderte von KI-Branchenführern und -Forschern – darunter Führungskräfte von Microsoft, Google und OpenAI – eine ernüchternde Warnung ausgesprochen. Sie behaupten, dass die Technologie der künstlichen Intelligenz, die sie entwickeln, eines Tages eine reale und gegenwärtige Gefahr für die Existenz der Menschheit darstellen könnte. Neben den Schrecken von Pandemien und Atomkriegen sehen sie in der künstlichen Intelligenz ein gesellschaftliches Risiko von ähnlichem Ausmaß.
In einem Brief, der vom Center for AI Safety veröffentlicht wurde, geben die KI-Spezialisten diese Erklärung ab, die sich durch ihre klare Kürze auszeichnet: „Die Minderung des Risikos des Aussterbens durch KI sollte neben anderen gesellschaftlichen Risiken wie Pandemien und Atomkriegen eine globale Priorität sein.“
Das war’s, mehr sagen sie nicht.
Quelle: Center for AI Safety
Die Erklärung stellt die KI als eine unmittelbare Bedrohung dar, vergleichbar mit einer nuklearen Katastrophe oder einer globalen Pandemie. Aber die Unterzeichner, diese Zauberer der Technologiebranche, haben es versäumt, ihre ominöse Warnung zu präzisieren.
Wie genau soll sich dieses Endzeitszenario abspielen? Wann sollten wir uns den Aufstieg unserer Roboterherrscher in unseren Kalendern vormerken? Warum sollte sich die KI, eine Erfindung menschlicher Innovation, gegen ihre Schöpfer wenden? Die Architekten der künstlichen Intelligenz schwiegen beharrlich und gaben keine Antworten.
In der Tat waren diese Branchenführer nicht informativer als ein Chatbot mit einer vorgefertigten Antwort. Im Bereich der globalen Bedrohungen scheint KI plötzlich ganz oben auf der Liste zu stehen und den Klimawandel, geopolitische Konflikte und sogar die Invasion von Außerirdischen bei den Google-Suchanfragen zu übertreffen.
Google-Suchanfragen zu KI im Vergleich zu anderen globalen Bedrohungen wie Krieg, Invasionen von Außerirdischen und Klimawandel. Bild: Google
Interessanterweise neigen Unternehmen dazu, sich für Vorschriften einzusetzen, wenn diese mit ihren Interessen übereinstimmen. Dies könnte als ihre Art zu sagen angesehen werden: „Wir möchten bei der Gestaltung dieser Vorschriften mitreden“. Das ist so, als würde der Fuchs im Hühnerstall neue Regeln beantragen.
Es ist auch bemerkenswert, dass der CEO von OpenAI, Sam Altman, auf eine Regulierung in den USA gedrängt hat. Dennoch drohte er damit, Europa zu verlassen, wenn die Politiker des Kontinents weiterhin versuchen, KI zu regulieren. „Wir werden versuchen, die Vorschriften einzuhalten“, sagte Altman bei einer Podiumsdiskussion am University College London. „Wenn wir das können, werden wir es tun. Und wenn wir es nicht können, stellen wir den Betrieb ein.“
Fairerweise muss man sagen, dass er dann ein paar Tage später einen Rückzieher machte und sagte, dass OpenAI keine Pläne habe, Europa zu verlassen. Dies geschah natürlich, nachdem er die Gelegenheit hatte, in einer „sehr produktiven Woche“ mit Regulierungsbehörden über das Thema zu sprechen.
sehr produktive woche mit gesprächen in europa über die beste regulierung von kI! wir freuen uns, weiterhin hier tätig zu sein und haben natürlich keine pläne, wegzugehen.
– Sam Altman (@sama) May 26, 2023
AI ist riskant, aber ist es auch so riskant?
Die potenziellen Gefahren der künstlichen Intelligenz sind unter Experten nicht unbemerkt geblieben. Ein früherer offener Brief, der von 31.810 Unterstützern, darunter Elon Musk, Steve Wozniak, Yuval Harari und Andrew Yang, unterzeichnet wurde, forderte eine Pause beim Training von leistungsstarken KI-Modellen.
„Diese Protokolle sollten sicherstellen, dass Systeme, die sich an sie halten, über einen vernünftigen Zweifel hinaus sicher sind“, heißt es in dem Brief, der klarstellt: „Dies bedeutet keine Pause in der KI-Entwicklung im Allgemeinen, sondern lediglich einen Rückzug aus dem gefährlichen Wettlauf zu immer größeren, unvorhersehbaren Black-Box-Modellen mit emergenten Fähigkeiten.“
Die Frage eines möglichen KI-Fooms (bei dem eine KI in der Lage ist, ihre eigenen Systeme zu verbessern und ihre Fähigkeiten so weit zu steigern, dass sie die menschliche Intelligenz übertrifft) wird schon seit Jahren diskutiert. Das rasante Tempo des heutigen Wandels und die umfangreiche Berichterstattung in den Medien haben die Debatte jedoch in den Mittelpunkt des weltweiten Interesses gerückt.
Quelle: Columbia Journalism Review
Dies hat zu unterschiedlichen Ansichten darüber geführt, wie sich die KI auf die Zukunft der sozialen Interaktionen auswirken wird (und nicht nur könnte).
Einige sehen eine utopische Ära, in der KI und Menschen aufeinander abgestimmt sind und der technologische Fortschritt die Oberhand gewinnt. Andere glauben, dass sich die Menschheit an die KI anpassen wird und neue Arbeitsplätze im Zusammenhang mit der Technologie entstehen werden, ähnlich wie das Beschäftigungswachstum nach der Erfindung des Automobils. Wieder andere sind der Meinung, dass die KI eine große Chance hat, zu reifen und unkontrollierbar zu werden und eine echte Bedrohung für die Menschheit darzustellen.
Bis dahin ist in der Welt der KI alles beim Alten. Behalten Sie Ihren ChatGPT, Ihren Bard oder Ihre Siri im Auge – sie könnten nur ein Software-Update davon entfernt sein, die Welt zu beherrschen. Aber im Moment scheint die größte Bedrohung für die Menschheit nicht unsere eigenen Erfindungen zu sein, sondern eher unser grenzenloses Talent für Übertreibungen
