De mogelijkheid om AI-gegenereerde deepfakes van beroemde en invloedrijke mensen te maken, heeft nogal wat stof doen opwaaien op het internet, maar terwijl afbeeldingen van de paus in een gezwollen Balenciaga-jas en de arrestatie van de voormalige Amerikaanse president Donald Trump de krantenkoppen haalden, is er een nieuwe trend in opkomst: deepfakes van moordslachtoffers, volgens een rapport van Rolling Stone.
“Ze lijken ontworpen om sterke emotionele reacties teweeg te brengen, omdat het de beste manier is om klikken en likes te krijgen,” vertelde Paul Bleakley, assistent-professor strafrecht aan de Universiteit van New Haven, aan Rolling Stone. “Het is ongemakkelijk om naar te kijken, maar ik denk dat dat de bedoeling kan zijn.”
Korte videoclips die de ronde doen op TikTok bevatten door AI gegenereerde video, audio en beschrijvingen van kinderen in de eerste persoon. Een van de bekendste die op deze manier is afgebeeld is Royalty Marie Floyd, in sommige video’s voorgesteld als Rody Mary Floyd, wiens lichaam in 2018 in een oven werd gevonden. De grootmoeder van Floyd, Carolyn Jones, werd beschuldigd van de moord op Floyd, aldus Rolling Stone, eraan toevoegend dat de AI-generator ook verschillende leeftijden en rassen van het kind gaf.
Afbeelding: AI-gegenereerde varianten van Royalty Marie Floyd
Het fenomeen dat deze fouten veroorzaakt staat bekend als hallucinaties. AI-“hallucinaties” verwijzen naar gevallen waarin een AI onverwachte, onware resultaten genereert en niet wordt ondersteund door gegevens uit de echte wereld. AI-hallucinaties kunnen valse inhoud, nieuws of informatie over mensen, gebeurtenissen of feiten creëren.
“Deze AI deepfakes van slachtoffers van echte misdrijven brengen het verhaal zeker tot leven op een manier die niemand van ons zich had kunnen voorstellen, wat zou kunnen helpen om het grote publiek voor te lichten,” vertelde advocaat en CEO van AR Media Andrew Rossow aan TCN. “Vanuit een juridisch perspectief is dit gebruik en deze toepassing van AI echter zeer verontrustend en problematisch.”
Rossow wees op twee belangrijke problemen: privacyproblemen en het veroorzaken van emotioneel leed bij degenen die het slachtoffer kenden.
Een deepfake is een steeds vaker voorkomend type video dat is gemaakt met kunstmatige intelligentie en valse gebeurtenissen weergeeft. Het was al een zorg van cyberbeveiligings- en wetshandhavingsfunctionarissen, maar dankzij snel ontwikkelende generatieve AI-platforms zoals Midjourney 5.1 en OpenAI’s DALL-E 2 zijn deepfakes steeds moeilijker te detecteren.
Midjourney beëindigde zijn gratis proefversie in maart na een toename van virale deepfakes die met behulp van zijn technologie waren gegenereerd.
De groeiende kracht van AI zorgt er ook voor dat oplichters de technologie gebruiken om zogenaamde investeerders hun geld en crypto afhandig te maken. Vorige week ging een deepfake video van Elon Musk die een crypto-zwendel promoot viral.
Zoals Rolling Stone meldt, is het account dat de Royalty Marie Floyd video uploadde door TikTok uit de lucht gehaald wegens “het schenden van het beleid van het platform met betrekking tot synthetische media die privépersonen afbeelden”. Toch is de geest al uit de fles en accounts die soortgelijke video’s plaatsen vullen het gat op.
“Helaas moeten dit soort gevallen zich voordoen om onze juridische jurisprudentie en precedentwerking te bevorderen over reeds zwaar bediscussieerde kwesties met betrekking tot privacy (voor en na de dood) en nu opkomende technologie die op zichzelf nog steeds voornamelijk in het grijze gebied van onze rechtbanken opereert,” zei Rossow.
