Los Angeles-based video editor and political satirist Justin T. Brown has found himself at the center of a contentious debate thanks to his AI-generated images that portray prominent politicians such as Donald Trump, Barack Obama, and Joe Biden engaged in fictional infidelities.
Zijn provocerende serie met de titel “AI will revolutionize the blackmail industry” kwam al snel onder vuur te liggen en leidde tot Browns verbanning van het Midjourney AI-kunstplatform, dat hij gebruikte om de afbeeldingen te genereren.
Brown zei dat de afbeeldingen bedoeld waren als een grimmige waarschuwing over het potentiële misbruik van kunstmatige intelligentie.
Dit is niet de eerste keer dat AI-gegenereerde beelden controverse veroorzaken. TCN had eerder humoristische afbeeldingen van Joe Biden met opmerkelijke nauwkeurigheid weergegeven, maar werd gespaard van strafmaatregelen door het Midjourney-team. Andere gebruikers die afbeeldingen genereerden van hooggeplaatste figuren zoals de paus en de president van China hadden echter minder geluk en verdienden prompt een verbod.
Ik werd verbannen van Midjourney AI voor het genereren van realistische beelden van politici die hun vrouwen bedriegen voor een serie genaamd “AI zal de chantage-industrie revolutioneren”.
Een paar gedachten over AI-beelden van iemand die goed is in het maken van nepdingen
Trump die zijn vrouw bedriegt: pic.twitter.com/HjxBj7qdaR
– JustinTBrown (@JuuustinBrown) mei 26, 2023
Het project van Brown is opgezet met maar één doel voor ogen: de potentiële bedreigingen van AI-misbruik in het mainstream discours katapulteren.
“Ik heb de serie gemaakt met het doel om een aantal van de meest invloedrijke mensen in Amerika mee te nemen in het gesprek over de gevaren van AI en om een zo groot mogelijk publiek te bereiken”, aldus Brown in een Twitter-draadje.
De reacties op Browns controversiële AI-serie waren snel. Nadat de afbeeldingen op Reddit waren geplaatst, werd Brown door Midjourney verbannen, een actie die hij direct in verband brengt met de Reddit-release.
Nadat de serie wat aandacht had gekregen op Reddit, werd deze verwijderd door moderators en de ban van Midjourney volgde vrijwel onmiddellijk,” merkte hij op.
Het verbod bracht Brown tot gemengde gevoelens. Aan de ene kant vond hij de sanctie een indicatie van een zekere mate van verantwoordelijkheid voor gebruikers die schadelijke inhoud genereren. Aan de andere kant stelde hij een schrijnende vraag: “Ik werd maanden nadat ik de afbeeldingen had gemaakt verbannen, dus tegen de tijd dat schadelijke inhoud wordt gegenereerd, is het dan niet al te laat?”
Dit is vooral belangrijk in de politiek, zoals Brown verder waarschuwde.
“Een AI-desinfo-campagne vlak voor de verkiezingsdag kan een verkiezing zeker doen kantelen. De juiste AI-beelden of video op het juiste moment kunnen de markt doen kelderen, een rel veroorzaken of iemand met een pistool een pizzeria in sturen.”
Het potentieel van kunstmatige intelligentie om desinformatie te verspreiden was Browns grootste zorg. “Dit soort desinformatie zal blijven gebeuren, de volgende keer door slechteriken met slechte bedoelingen, dus we kunnen er maar beter nu iets aan doen,” zei hij, en hij erkende de noodzaak van een internationaal gesprek over deze technologie.
De New York Times besteedde ook aandacht aan deze kwestie en onthulde dat campagneregels politici toestonden om AI-gegenereerde beelden te gebruiken in de aanloop naar de presidentsverkiezingen van 2024. De Times meldde ook dat bestaande verdedigingen en diensten die beweren AI-inhoud te identificeren grotendeels ineffectief zijn.
Een van Browns volgers reageerde met zijn bezorgdheid over het mogelijke misbruik van AI.
“Ik denk dat je gelijk hebt over de gevaren. GOP heeft AI al gebruikt in een advertentie. Niet als chantage, maar laat zien dat AI kan worden gebruikt voor snelle acties. Het beste zou zijn als sociale media universele moderatie hadden tegen misinformatie en geverifieerde accounts voor alle gerenommeerde pers, overheidsinstanties, politici.”
Bernie, noo
Ik denk dat je gelijk hebt over de gevaren. GOP heeft AI al gebruikt in een advertentie. Niet als chantage, maar laat zien dat AI gebruikt kan worden voor quick ops. Het beste zou zijn als sociale media universele moderatie hadden tegen desinformatie & geverifieerde accounts voor alle gerenommeerde pers, overheidsorganen, pols.
– Patrick Scott Bruck Zie om onze familie te helpen! (@PatrickSBruck) mei 26, 2023
Hij verwees naar een serie politieke advertenties waarin de Republikeinse partij van de VS MidJourney gebruikte om zich een toekomst “voor te stellen” waarin Biden herkozen zou worden als president. Er waren ook geruchten dat AI was gebruikt om een campagneadvertentie van Ron de Santis aan te passen, maar zijn campagne onthulde dat dit niet het geval was.
Donald Trump creëerde op zijn beurt ook een heel nepgesprek tussen Elon Musk, Adolf Hitler en Ron de Santis om de spot te drijven met de aankondiging van laatstgenoemde dat hij de presidentskandidaat van de GOP wilde worden.
In een digitaal tijdperk vol desinformatie en ongebreideld misbruik van technologie klinken Browns woorden griezelig waar,
“Ik denk dat je je gewoon moet voorbereiden op de impact. Misschien moet je er iets nuttigs mee doen,” zei hij.
In deze draaikolk van AI, kunst en ethiek is er één zekerheid: de grens tussen werkelijkheid en door AI gegenereerde beelden vervaagt sneller dan we Photoshop kunnen zeggen.
