Deze ongefundeerde bewering circuleert al een paar maanden en is volgens de Daily Mail weer opgedoken in Japan. Japanse onderzoekers analyseerden video’s en foto’s van Poetin tijdens verschillende evenementen en concludeerden dat Poetin door minstens drie mensen wordt gespeeld. Hoewel het Kremlin de beweringen onmiddellijk weerlegde, is het verhaal toch een bijzaak van de snelle ontwikkeling van kunstmatige intelligentie: de vooruitgang in deep-faking AI-technologie.
Deep AI faking is een techniek die algoritmes gebruikt om gezichten te vervangen in video’s, afbeeldingen en andere digitale inhoud om valse inhoud echt te laten lijken. Deep faking wordt beschouwd als een gevaarlijk nieuw instrument voor politieke manipulatie. Het detecteren van deep fakes is een snelgroeiende industrie geworden, waarbij OpenAI, een leider in generatieve kunstmatige intelligentie, beweert dat het deep fakes met 99 procent nauwkeurigheid kan identificeren.
Onderzoekers zeggen echter dat het niet eenvoudig is en dat het alleen maar moeilijker zal worden.
Het Japanse televisienetwerk TBS zei dat het onderzoek op basis van AI heeft bekeken dat suggereert dat de Russische president Vladimir Poetin imitators gebruikt om vals te spelen bij verschillende evenementen. foto: Daily Mail
Hollywoodactrice Scarlett Johansson zei dat ze juridische stappen onderneemt tegen Lisa AI, een bedrijf dat een AI-gegenereerd evenbeeld van de Avengers-ster gebruikte in een advertentie om ongeoorloofd gebruik van haar evenbeeld te voorkomen. Vorige maand waarschuwde YouTube-gigant Mr Animal zijn kijkers om niet in de scammers te trappen, en zelfs Tom Hanks werd slachtoffer van een zeer neppe AI-advertentie.
In september maakte paus Franciscus – zelf slachtoffer van veel nep-AI-fraude – de technologie tot het middelpunt van zijn preek op de Werelddag van de Vrede. De religieuze leider riep op tot een open dialoog over AI en het belang ervan voor de mensheid.
“De opmerkelijke vooruitgang in kunstmatige intelligentie heeft een snel groeiende impact op de menselijke activiteit, het persoonlijke en sociale leven, de politiek en de economie,” zei Franciscus.
McCormack is van mening dat naarmate AI-detectietools verbeteren, ook deep-fake generatoren zullen verbeteren, wat leidt tot een nieuw front in de AI-wapenwedloop die vorig jaar begon met de lancering van ChatGPT.
“Generatieve AI creëert geen probleem van diepe vervalsingen of desinformatie,” zei McCormack. Het democratiseert ze alleen maar.
