Der bekannte KI-Bildgenerator Midjourney stellt seine kostenlose Testversion ein. Es habe Missbrauch in Form von hochkarätigen Deepfakes gegeben, wie CEO David Holz erklärt. Nutzer müssen ab sofort mindestens 10 US-Dollar pro Monat zahlen, um Midjourney weiter verwenden zu können.
Nach Deepfakes: Midjourney nur noch gegen Bezahlung
Midjourney hat mit sofortiger Wirkung die kostenlose Nutzung seines KI-Bildgenerators eingestellt, wie der Unternehmens-Chef David Holz erklärt. Zur Begründung heißt es, dass es eine „außergewöhnliche Nachfrage“ nach dem KI-Tool gegeben habe, die zu Missbrauch geführt hat. Eigene Sicherheitsvorkehrungen hätten sich als unzureichend erwiesen.
Die Reißleine wird nun gezogen, um weitere Deepfakes zumindest einzugrenzen. Nach Angaben von Holz hätten vor allem Nutzer der kostenlosen Variante Midjourney für böswillige Zwecke genutzt. Unter anderem wurden Deepfakes von Donald Trump erstellt, die ihn bei einer fiktiven Verhaftung zeigen. Die Bilder verbreiteten sich rasant bei Twitter und in anderen Netzwerken. Auch die Bild-Zeitung zeigte sie auf ihrer Webseite.
Schon zuvor hatte Midjourney zugegeben, dass es schwierig sei, exakte Richtlinien für generierte Inhalte festzulegen. Im vergangenen Jahr rechtfertigte Holz ein Verbot von Bildern des chinesischen Staatschefs Xi Jinping damit, dass er „Drama minimieren“ wollte.
Nach der Einstellung der kostenlosen Testversionen müssen Nutzer nun mindestens 10 US-Dollar pro Monat zahlen, um weiter Zugriff auf Midjourney zu erhalten. Je nach Nutzung werden bis zu 60 US-Dollar monatlich fällig.
So funktionieren Midjourney und andere Ki-Bildgeneratoren:
Midjourney: Kleines Team aus zehn Leuten
Eigenen Angaben zufolge arbeiten lediglich zehn Personen bei Midjourney. Diese würden laut Holz „aus Leidenschaft, um mehr Schönheit zu schaffen und die Vorstellungskraft der Welt zu erweitern“ an dem Projekt arbeiten. Die Anzahl der externen Moderatoren, die sich um problematische Bilder kümmern, wird mit 40 angegeben (Quelle: The Washington Post).
