Midjourney, het bedrijf achter de gelijknamige populaire tekst-naar-beeld AI beeldgenerator, heeft de toegang tot de gratis proefversie afgesloten na een toename van virale deep fakes gegenereerd door zijn technologie.
“Als gevolg van een combinatie van buitengewone vraag en proefmisbruik schakelen we gratis proeven tijdelijk uit totdat we onze volgende verbeteringen aan het systeem hebben ingezet,” schreef Midjourney-oprichter David Holz eerder deze week op de Discord-server van het bedrijf.
Een “deep fake” is realistisch ogende media gemaakt door AI door het wijzigen van afbeeldingen, video’s of audio om echte mensen te laten zien die dingen doen of zeggen die ze nooit hebben gedaan. Hoewel deep fakes kunnen worden gebruikt voor plezier en vermaak, kan de technologie ook valse informatie verspreiden, meningen beïnvloeden of reputaties schaden.
Er gebeurt iets wilds op de Midjourney subreddit.
Mensen vertellen verhalen en delen foto’s van historische gebeurtenissen – zoals de “Grote Cascadia” aardbeving die Oregon in 2001 verwoestte.
De kick? Het is nooit gebeurd. De beelden zijn door AI gegenereerd. pic.twitter.com/2ziHJYsTDK
– Justine Moore (@venturetwins) March 26, 2023
Eerder deze week gingen foto’s van paus Franciscus in een superstijlvol wit pufferjack en een ketting met diamanten over het web. Vorige week, toen mainstream nieuwssites meldden dat de voormalige Amerikaanse president Donald Trump op het punt stond te worden gearresteerd in New York, ging een reeks foto’s rond waarop te zien was hoe de ex-president door de politie werd achtervolgd. In beide gevallen leken de beelden nog geloofwaardiger dan soortgelijke vervalsingen die door deskundigen met behulp van Photoshop waren gemaakt.
Plaatjes maken van Trump die gearresteerd wordt terwijl je wacht op de arrestatie van Trump. pic.twitter.com/4D2QQfUpLZ
– Eliot Higgins (@EliotHiggins) Maart 20, 2023
Veel generatieve AI-sites, waaronder Midjourney en Playground AI, hebben al beperkingen ingesteld op prompts met seksuele inhoud. Maar over de vraag wat aanvaardbaar gebruik is voor zover het diepe vervalsingen betreft, wordt nog steeds gedebatteerd omdat al deze sites foto’s maken die niet echt zijn.
Midjourney abonnement plannen variëren van $ 10 tot $ 60 per maand, afhankelijk van de verwerkingskracht, en functies die de gebruiker nodig heeft – met inbegrip van de mogelijkheid om gelijktijdige banen te draaien. Het platform biedt ook jaarlijkse abonnementen.
Het is onduidelijk hoe het sluiten van de gratis tier het probleem zal oplossen. De servicevoorwaarden van Midjourney verbieden al beledigende beelden van beroemdheden of publieke figuren.
Het onderwerp van de door AI gegenereerde moderne paus (midjourney) loopt voor ons uit de hand
Prompts in ALT pic.twitter.com/9hJyQP369E
– Javi Lopez ⛩️ (@javilopen) Maart 28, 2023
TCN heeft contact opgenomen met Midjourney en Stability AI, de makers van Stable Diffusion, voor commentaar maar heeft nog niets gehoord.
