Deze maandag markeerde een nieuw hoogtepunt of misschien wel dieptepunt in het demonstreren van de kracht van kunstmatige intelligentie (AI). Een foto van een verzonnen explosie in het Pentagon, die al snel werd gemarkeerd als AI-gegenereerd, verspreidde zich als een lopend vuurtje over sociale media. Het lijkt ook te hebben geleid tot een kortstondige verkoop van de Amerikaanse aandelenmarkt.
De alarmerende afbeelding van rook die uit het iconische gebouw gutst, werd door verschillende accounts verspreid, waaronder een Russisch mediakanaal in staatseigendom.
RT, met meer dan 3 miljoen volgers, heeft gepost (inmiddels verwijderd) wat een AI-gegenereerde foto lijkt te zijn van een explosie bij het Pentagon pic.twitter.com/6Bl7X8ZA2M
– Leonardo Puglisi (@Leo_Puglisi6) Mei 22, 2023
Interessant is dat berichten over de valse explosie in het Pentagon ook hun weg vonden naar niet-officiële Twitter-accounts met blauwe verificatievinkjes, waardoor de verwarring en de impact van de valsheid nog groter werden. Dit benadrukt zowel het belang van strenge bronverificatie als het weinig verrassende resultaat van Elon Musks nieuwe criteria voor accountverificatie.
Vanmorgen beweerden blauwe controleaccounts dat er grote explosies waren bij het Pentagon.
… toen het Witte Huis.
Russische staatsmedia versterkten het vervalste beeld van het Pentagon van hun gold check account.
De beelden lijken door AI gegenereerd, zoals mensen al aangaven. 1/ pic.twitter.com/Bd9uu3jwPZ
– John Scott-Railton (@jsrailton) mei 22, 2023
Toen de foto viraal ging, kregen de Amerikaanse aandelenindexen een kleine klap, hoewel de markten snel herstelden nadat de foto werd ontmaskerd als een hoax. Bitcoin, de toonaangevende cryptocurrency, beleefde ook een korte “flash crash” na de verspreiding van het nepnieuws en daalde naar $26500. Toch herstelt Bitcoin zich langzaam maar zeker en wordt het momenteel verhandeld op $26.882, volgens CoinGecko.
Afbeelding: Yahoo! Finance
De impact van de hoax was groot genoeg om de brandweer van Arlington County te laten ingrijpen. “Er is GEEN explosie of incident gaande in of nabij het Pentagon reservaat,” tweette men “en er is geen direct gevaar of gevaar voor het publiek.”
@PFPAOfficial en de ACFD zijn op de hoogte van een bericht op sociale media dat online circuleert over een explosie bij het Pentagon. Er vindt GEEN explosie of incident plaats in of bij het Pentagon-reservaat en er is geen direct gevaar of gevaar voor het publiek. pic.twitter.com/uznY0s7deL
– Arlington Fire & EMS (@ArlingtonVaFD) mei 22, 2023
De weg vrijmaken voor meer AI-regulering
De weg vrijmaken voor meer AI-regulering
Dit soort online bedrog heeft geleid tot ernstige bezorgdheid onder critici van ongebreidelde AI-ontwikkeling. Veel experts op dit gebied hebben gewaarschuwd dat geavanceerde AI-systemen hulpmiddelen kunnen worden voor kwaadwillende actoren over de hele wereld, die verkeerde informatie verspreiden en online paniek zaaien.
Dit is niet de eerste keer dat dit soort bedrog de kop opsteekt. Virale AI-gegenereerde afbeeldingen hebben het publiek eerder misleid, zoals afbeeldingen van paus Franciscus met een Balenciaga-jasje, een neparrestatie van president Donald Trump en deepfakes van beroemdheden zoals Elon Musk of SBF die crypto-zwendel promoten.
Bekende persoonlijkheden hebben ook alarm geslagen over de verspreiding van desinformatie.
Honderden tech-experts hebben al opgeroepen tot een zes maanden durende stop op de ontwikkeling van geavanceerde AI totdat er goede veiligheidsrichtlijnen zijn opgesteld. En zelfs Dr. Geoffrey Hinton, algemeen bekend als de ‘Godfather of AI’, heeft zijn functie bij Google neergelegd om zijn bezorgdheid over mogelijke AI-risico’s te uiten zonder de reputatie van zijn voormalige werkgever te schaden.
Episoden van misinformatie zoals deze voeden het voortdurende debat over de noodzaak van een regelgevend en ethisch kader voor AI. Nu AI een steeds krachtiger instrument wordt in de handen van desinformatie-agenten, kunnen de gevolgen chaotisch zijn.
Op basis van de gebeurtenissen van vandaag valt één vraag op: Wat als een AI de agent was die de kracht van sociale media gebruikte om chaos te verspreiden en de financiële markten te controleren? We zagen het al een beetje aankomen.
