Midjourney, das Unternehmen hinter dem gleichnamigen beliebten Text-zu-Bild-KI-Bildgenerator, hat den Zugang zu seiner kostenlosen Testversion nach einem Anstieg der viralen Deep Fakes, die mit seiner Technologie erzeugt wurden, gesperrt.
„Aufgrund einer Kombination aus außerordentlicher Nachfrage und Missbrauch der Testversion deaktivieren wir vorübergehend die kostenlose Testversion, bis wir unsere nächsten Verbesserungen am System implementiert haben“, schrieb Midjourney-Gründer David Holz Anfang der Woche auf dem Discord-Server des Unternehmens.
Ein „Deep Fake“ ist ein realistisch aussehendes Medium, das von einer künstlichen Intelligenz erstellt wird, indem Bilder, Videos oder Audios so verändert werden, dass sie echte Menschen zeigen, die Dinge tun oder sagen, die sie nie getan haben. Deep Fakes können zwar zu Unterhaltungszwecken eingesetzt werden, die Technologie kann aber auch falsche Informationen verbreiten, Meinungen beeinflussen oder den Ruf schädigen.
Auf dem Midjourney-Subreddit passiert gerade etwas Wildes.
Die Leute erzählen Geschichten und teilen Fotos von historischen Ereignissen – wie dem „Great Cascadia“-Erdbeben, das 2001 Oregon verwüstete.
Der Clou? Es ist nie passiert. Die Bilder sind KI-generiert. pic.twitter.com/2ziHJYsTDK
– Justine Moore (@venturetwins) März 26, 2023
Anfang dieser Woche gingen Fotos von Papst Franziskus mit einer superstylischen weißen Pufferjacke und einer diamantenbesetzten Halskette durchs Netz. Letzte Woche, als die großen Nachrichtenseiten berichteten, dass der ehemalige US-Präsident Donald Trump in New York verhaftet werden sollte, verbreitete sich eine Flut von Fotos, die den Ex-Präsidenten bei der Verfolgung durch die Polizei zu zeigen schienen. In beiden Fällen sahen die Bilder sogar glaubwürdiger aus als ähnliche Fälschungen, die von Experten mit Photoshop erstellt wurden.
Bilder von Trumps Verhaftung machen, während man auf Trumps Verhaftung wartet. pic.twitter.com/4D2QQfUpLZ
– Eliot Higgins (@EliotHiggins) March 20, 2023
Viele generative KI-Websites, darunter Midjourney und Playground AI, haben bereits Beschränkungen für Prompts mit sexuellem Inhalt eingeführt. Die Frage, was als akzeptable Nutzung gilt, wenn es um Deep Fakes geht, wird jedoch noch diskutiert, da alle diese Seiten Fotos herstellen, die nicht echt sind.
Die Midjourney-Abonnementpläne reichen von 10 bis 60 Dollar monatlich, abhängig von der Rechenleistung und den Funktionen, die der Benutzer benötigt – einschließlich der Möglichkeit, gleichzeitige Aufträge auszuführen. Die Plattform bietet auch Jahresabonnements an.
Es ist unklar, wie die Schließung des kostenlosen Angebots das Problem lösen wird. Die Nutzungsbedingungen von Midjourney verbieten bereits anstößige Bilder von Prominenten oder Persönlichkeiten des öffentlichen Lebens
Das Thema des modernen, durch KI generierten Papstes (midjourney) geht uns auf den Geist .
Prompts in ALT pic.twitter.com/9hJyQP369E
– Javi Lopez ⛩️ (@javilopen) März 28, 2023
TCN hat Midjourney und Stability AI, die Macher von Stable Diffusion, um eine Stellungnahme gebeten, aber noch keine Antwort erhalten.
