Dieser Montag markierte einen neuen Höhepunkt – oder wohl eher Tiefpunkt – bei der Demonstration der Macht der künstlichen Intelligenz (KI). Ein Bild, das eine fingierte Explosion im Pentagon zeigt und schnell als von KI generiert gekennzeichnet wurde, verbreitete sich wie ein Lauffeuer in den sozialen Medien. Es scheint auch einen kurzzeitigen Ausverkauf an der US-Börse ausgelöst zu haben.
Das alarmierende Bild, auf dem Rauch aus dem ikonischen Gebäude aufsteigt, wurde von zahlreichen Konten verbreitet, darunter auch ein russischer staatlicher Medienkanal.
RT, mit über 3 Millionen Followern, hat ein (inzwischen gelöschtes) Foto gepostet, das aussieht wie ein von einer KI generiertes Foto einer Explosion in der Nähe des Pentagon pic.twitter.com/6Bl7X8ZA2M
– Leonardo Puglisi (@Leo_Puglisi6) May 22, 2023
Interessanterweise fanden Berichte über die falsche Explosion im Pentagon auch ihren Weg zu nicht-offiziellen Twitter-Accounts mit blauen Verifizierungs-Häkchen, was die Verwirrung und die Auswirkungen der Falschmeldung noch vergrößerte – was sowohl die Bedeutung einer strengen Quellenverifizierung als auch das wenig überraschende Ergebnis von Elon Musks neuen Kriterien für die Account-Verifizierung unterstreicht.
Heute Morgen behaupteten Blue Check Accounts große Explosionen im Pentagon.
… dann das Weiße Haus.
Russische Staatsmedien verbreiteten das gefälschte Pentagon-Bild von ihrem Gold-Check-Konto.
Die Bilder sehen aus wie von KI generiert, wie die Leute festgestellt haben. 1/ pic.twitter.com/Bd9uu3jwPZ
– John Scott-Railton (@jsrailton) May 22, 2023
Als das Foto viral ging, erlitten die US-Aktienindizes einen kleinen Einbruch, obwohl sich die Märkte schnell erholten, nachdem das Foto als Schwindel entlarvt worden war. Bitcoin, die führende Kryptowährung, erlebte nach der Verbreitung der Fake News ebenfalls einen kurzen „Flash-Crash“ und rutschte auf $26500 ab. Der Bitcoin erholt sich jedoch langsam aber sicher und wird laut CoinGecko derzeit bei 26.882 $ gehandelt.
Image: Yahoo! Finance
Die Auswirkung des Scherzes war so groß, dass die Feuerwehr von Arlington County eingreifen musste. „Es gibt KEINE Explosion oder einen Zwischenfall im oder in der Nähe des Pentagon-Reservats“, twitterten sie, „und es besteht keine unmittelbare Gefahr oder ein Risiko für die Öffentlichkeit. „
@PFPAOfficial und die ACFD sind sich eines Berichts in den sozialen Medien bewusst, der online über eine Explosion in der Nähe des Pentagons kursiert. Es gibt KEINE Explosion oder einen Zwischenfall im oder in der Nähe des Pentagon-Reservats, und es besteht keine unmittelbare Gefahr für die Öffentlichkeit. pic.twitter.com/uznY0s7deL
– Arlington Fire & EMS (@ArlingtonVaFD) May 22, 2023
Der Weg zu mehr KI-Regulierung ist geebnet
Diese Art von Online-Betrug hat bei den Kritikern einer ungebremsten KI-Entwicklung ernsthafte Bedenken ausgelöst. Viele Experten auf diesem Gebiet haben davor gewarnt, dass fortschrittliche KI-Systeme zu Werkzeugen für böswillige Akteure auf der ganzen Welt werden könnten, die Fehlinformationen verbreiten und ein Online-Pandemonium verursachen.
Dies ist nicht das erste Mal, dass solche Tricksereien auftauchen. Bereits in der Vergangenheit haben von KI generierte Bilder die Öffentlichkeit getäuscht, wie z. B. Bilder von Papst Franziskus in einer Balenciaga-Jacke, eine gefälschte Verhaftung von Präsident Donald Trump und Deepfakes von Prominenten wie Elon Musk oder SBF, die für Krypto-Betrug werben.
Auch namhafte Persönlichkeiten haben vor der Verbreitung von Desinformation gewarnt.
Hunderte von Technikexperten forderten bereits einen sechsmonatigen Stopp der fortgeschrittenen KI-Entwicklung, bis angemessene Sicherheitsrichtlinien festgelegt sind. Und selbst Dr. Geoffrey Hinton, der als „Pate der KI“ bekannt ist, trat sogar von seinem Posten bei Google zurück, um seine Bedenken über potenzielle KI-Risiken zu äußern, ohne den Ruf seines ehemaligen Arbeitgebers zu schädigen.
Episoden von Fehlinformationen wie diese nähren die laufende Debatte über die Notwendigkeit eines regulatorischen und ethischen Rahmens für KI. Da KI in den Händen von Desinformationsagenten zu einem immer mächtigeren Werkzeug wird, können die Folgen chaotisch sein.
Angesichts der heutigen Ereignisse drängt sich eine Frage auf: Was wäre, wenn eine KI der Agent wäre, der die Macht der sozialen Medien nutzt, um Chaos zu verbreiten und die Finanzmärkte zu kontrollieren? Wir haben es irgendwie kommen sehen
