Kunstmatige intelligentie en deepfakes vormen een “reëel risico voor de markten”, waarschuwde de belangrijkste toezichthouder op Wall Street.
Gary Gensler, voorzitter van de U.S. Securities and Exchange Commission, zei dinsdag in een getuigenis voor de Senaatscommissie voor het bankwezen dat nieuwe technologieën de wetten in de VS kunnen “uitdagen”.
De toezichthouder zei zelfs dat er in de zomer een deepfake van hemzelf naar buiten werd gebracht door iemand “die de beurskoersen of cryptoprijzen op de een of andere manier probeerde te beïnvloeden.”
“Ik denk dat we goede wetten hebben, maar deze nieuwe technologieën zullen deze wetten uitdagen,” zei hij. “Als je AI gebruikt en je doet aan deepfakes op de markt, dan is dat een echt risico voor de markten,” vervolgde hij, eraan toevoegend dat “fraude fraude is.”
Deepfakes zijn door AI gegenereerde afbeeldingen, video’s en audio die zijn gemaakt om mensen te misleiden. Oplichters gebruiken de technologie steeds vaker om mensen op te lichten door valse maar overtuigende content te plaatsen.
Vorige maand zei wereldwijd accountantskantoor KPMG in een rapport dat oplichters zich steeds vaker richten op de zakelijke sector met deepfakes, waarbij een voorbeeld uit 2020 werd aangehaald toen een filiaalmanager van een bedrijf $35 miljoen overmaakte aan oplichters nadat hij dacht dat het zijn baas aan de telefoon was die de eis stelde.
Aan de andere kant heeft
AI echter ook een rol te spelen. Gensler voegde in zijn getuigenis toe dat de SEC al AI gebruikt om markttoezicht uit te voeren.
“We maken al gebruik van AI voor markttoezicht en handhavingsacties om te zoeken naar patronen in de markt”, zei hij. Hij voegde eraan toe dat de SEC het Congres om meer geld heeft gevraagd “om ons technologiebudget te helpen opbouwen” en door te gaan met het gebruik van dergelijke tools.
De SEC ontwikkelt momenteel regels om het gebruik van AI op handelsplatformen te reguleren vanwege het risico op belangenverstrengeling, zei Gensler in juli.
