Wer mit KI ein realistisches Nacktbild einer realen Person erzeugt, kann erheblichen Schaden anrichten. Minnesota will deshalb nicht erst gegen die Verbreitung solcher Bilder vorgehen, sondern bereits gegen die Technik, die ihre Erstellung ermöglicht. Elon Musks KI-Unternehmen xAI hält genau diesen Schritt für verfassungswidrig – und hat den Bundesstaat verklagt. Aus dem Streit um sexualisierte Deepfakes könnte damit ein Grundsatzfall über die Haftung von KI-Anbietern werden.
xAI hat am 27. Juli vor dem US-Bundesgericht für den District of Minnesota Klage gegen den dortigen Generalstaatsanwalt Keith Ellison eingereicht. Das Verfahren läuft unter dem Aktenzeichen 0:26-cv-03425. Angegriffen wird ein im Mai beschlossenes Gesetz, das den Zugang zu sogenannter »Nudification Technology« verbietet. Seit dem 1. August ist die Regelung in Kraft.
Der Fall ist ungewöhnlich, weil xAI nicht bestreitet, dass der Staat gegen nicht einvernehmliche KI-Nacktbilder vorgehen darf. Das Unternehmen argumentiert vielmehr, Minnesota habe das legitime Ziel so weit formuliert, dass auch rechtmäßige Anwendungen generativer Bild-KI erfasst würden.
Minnesota setzt nicht beim Nutzer an, sondern beim Werkzeug
Genau darin unterscheidet sich das Gesetz von vielen bisherigen Regelungen gegen intime Deepfakes.
HF 1606 verbietet einem Betreiber von Websites, Apps, Software oder anderen Diensten, Nutzern den Zugang zu einer Funktion zu ermöglichen, mit der Bilder oder Videos realer identifizierbarer Menschen realistisch »entkleidet« oder um intime Körperbereiche ergänzt werden können. Auch das Bewerben entsprechender Dienste ist untersagt.
Das Gesetz richtet sich damit nicht nur gegen jemanden, der ein solches Bild erzeugt oder veröffentlicht. Es setzt eine Stufe früher an und verpflichtet den Anbieter, die entsprechende Möglichkeit gar nicht erst bereitzustellen.
Für Verstöße kann der Generalstaatsanwalt eine Zivilstrafe von bis zu 500.000 US-Dollar für jeden unzulässigen Zugriff, Download oder Einsatz verlangen. Betroffene Personen können außerdem selbst auf Schadensersatz, punitive damages, Unterlassung sowie Erstattung ihrer Rechtskosten klagen.
Das Gesetz wurde mit 132 zu 1 Stimmen im Repräsentantenhaus von Minnesota und 65 zu 0 im Senat beschlossen. Gouverneur Tim Walz unterzeichnete es am 7. Mai.
Der entscheidende Punkt: Einwilligung steht nicht im Verbot
Dass xAI ausgerechnet gegen ein Gesetz zum Schutz vor sexuellen Deepfakes klagt, lässt sich leicht als Kampf für fragwürdige KI-Anwendungen darstellen.
Juristisch liegt die Sache komplizierter.
Die gesetzliche Definition von »nudify« knüpft daran an, ob ein realistisches Bild einer identifizierbaren Person um einen intimen Körperbereich ergänzt wird, der auf dem ursprünglichen Bild nicht zu sehen war. Ob die abgebildete Person damit einverstanden ist, gehört nicht zu den Voraussetzungen dieser Definition.
Daran setzt xAI an. Nach Auffassung des Unternehmens könnte die Regelung dadurch auch Bilder erfassen, die mit Zustimmung der dargestellten Person erstellt werden – bis hin zu Bildern, die jemand von sich selbst erzeugt. Auch satirische, künstlerische oder andere geschützte Darstellungen könnten nach dieser Argumentation betroffen sein.
Zusätzlich verweist das Minnesota-Gesetz bei »intimen Körperbereichen« auf eine Definition aus dem Sexualstrafrecht. Dazu gehören nicht nur der Genitalbereich, sondern auch Leiste, Innenseite des Oberschenkels, Gesäß und Brust. xAI sieht darin einen weiteren Grund, warum die Regelung wesentlich mehr erfassen könnte als klassische Deepfake-Pornografie.
Eine Ausnahme enthält das Gesetz allerdings: Die Verbote gelten nicht für Anwendungen, bei denen der Nutzer selbst erhebliche individuelle technische oder künstlerische Fähigkeiten einsetzen muss.
Kein Safe Harbor für Schutzmaßnahmen
Noch wichtiger für KI-Unternehmen ist ein zweites Argument der Klage.
Nach Lesart von xAI haftet der Anbieter unabhängig davon, wie intensiv er versucht, Missbrauch technisch zu verhindern. Das Gesetz enthält keinen ausdrücklichen Safe Harbor für Unternehmen, die Filter, Moderation oder andere Sicherheitsvorkehrungen einsetzen. Auch ein Wissen oder Vorsatz des Plattformbetreibers wird im Verbot selbst nicht vorausgesetzt.
Das kann bei generativer KI erhebliche Folgen haben. Denn ein allgemeines Bildmodell lässt sich für Tausende zulässige Anwendungen einsetzen – und gleichzeitig versuchen Nutzer immer wieder, technische Sperren durch ungewöhnliche Prompts oder andere Umgehungsmethoden auszuhebeln.
xAI verweist darauf, dass die eigenen Regeln die Veröffentlichung und Verbreitung nicht einvernehmlicher intimer Inhalte verbieten. Das Unternehmen bietet außerdem ein Melde- und Löschverfahren für reale wie synthetisch erzeugte intime Inhalte ohne Zustimmung der dargestellten Person an.
Das beantwortet allerdings noch nicht die politische Gegenfrage: Reicht es, Missbrauch zu verbieten und anschließend zu löschen – oder muss ein Anbieter verhindern, dass bestimmte Inhalte überhaupt erzeugt werden können?
Genau hier treffen unterschiedliche Vorstellungen von Plattformverantwortung aufeinander.
xAI wollte das Gesetz in letzter Minute stoppen
Parallel zur Klage versuchte xAI, das Inkrafttreten per Eilantrag zu verhindern.
Bundesrichter Donovan Frank lehnte den Antrag am 31. Juli ab. Seine Begründung richtete sich zunächst gegen die Dringlichkeit: Das Gesetz war bereits fast 3 Monate zuvor unterzeichnet worden, xAI beantragte den vorläufigen Rechtsschutz jedoch erst wenige Tage vor dessen Inkrafttreten. Die Verzögerung spreche gegen einen unmittelbar drohenden Schaden.
Damit trat das Gesetz am 1. August wie geplant in Kraft.
Die Ablehnung des Eilantrags beantwortet jedoch nicht die eigentliche Verfassungsfrage. Der Prozess über die Rechtmäßigkeit des Gesetzes läuft weiter; xAI verlangt unter anderem, die Regelung für verfassungswidrig zu erklären und ihre Durchsetzung dauerhaft zu untersagen.
Die USA haben bereits ein Bundesgesetz – aber mit anderer Logik
Dass Minnesota einen eigenen Weg geht, wird besonders deutlich beim Vergleich mit dem seit Mai 2025 geltenden bundesweiten TAKE IT DOWN Act.
Das Bundesgesetz kriminalisiert unter bestimmten Voraussetzungen die absichtliche Veröffentlichung nicht einvernehmlicher intimer Bilder einschließlich KI-generierter Fälschungen. Plattformen müssen außerdem ein Verfahren bereitstellen, über das Betroffene solche Inhalte melden und entfernen lassen können.
Die Bundesregel folgt damit im Kern der Logik:
Nicht einvernehmliches Bild wird veröffentlicht → Betroffene können handeln → Plattform muss entfernen.
Minnesota geht weiter:
Ein Werkzeug könnte ein solches Bild ermöglichen → Anbieter darf die entsprechende Funktion grundsätzlich nicht bereitstellen.
Für Opfer kann dieser präventive Ansatz einen erheblichen Vorteil haben. Ein einmal erzeugtes und verbreitetes sexuelles Deepfake lässt sich im Internet kaum vollständig zurückholen.
Für Anbieter generativer KI bedeutet dieselbe Logik allerdings eine deutlich stärkere Verantwortung für das Verhalten ihrer Nutzer.
Ausgerechnet Grok macht den Fall besonders brisant
Dass xAI nun zum Kläger wird, hat eine Vorgeschichte.
Grok war Anfang 2026 international wegen sexualisierter KI-Bilder realer Personen in die Kritik geraten. Nach öffentlichen und regulatorischen Reaktionen erklärte xAI, technische Beschränkungen eingeführt zu haben, um unter anderem die Bearbeitung realer Personen in freizügiger Kleidung zu verhindern.
Das macht die politische Position des Unternehmens angreifbar. Es ändert aber nichts an der juristischen Frage, ob ein Gesetz verfassungsgemäß formuliert ist.
Auch Minnesota muss bei einem legitimen und erheblichen Schutzinteresse die Grenzen des First Amendment beachten. xAI argumentiert, das Gesetz beschränke Ausdrucksmöglichkeiten aufgrund ihres Inhalts und sei breiter gefasst als erforderlich. Ob ein Gericht dieser Argumentation folgt, ist offen.
Generalstaatsanwalt Ellison hält dagegen, dass nicht einvernehmliche KI-Nacktbilder die Würde der Betroffenen verletzen und erhebliche persönliche, emotionale und berufliche Schäden verursachen können.
Für die KI-Branche geht es um weit mehr als Nacktbilder
Gerade deshalb könnte der Fall wirtschaftlich relevant werden.
Wenn Staaten Anbieter verpflichten dürfen, bestimmte Ergebnisse ihrer KI-Systeme bereits technisch auszuschließen, verändert sich die Verantwortungskette generativer KI grundlegend.
Bislang liegt ein großer Teil der rechtlichen Verantwortung beim Nutzer: Er erstellt, veröffentlicht oder verbreitet einen rechtswidrigen Inhalt. Plattformen müssen anschließend moderieren, entfernen oder auf Meldungen reagieren.
Minnesotas Ansatz verschiebt einen Teil dieses Risikos in das Produkt selbst.
Für KI-Anbieter könnte das langfristig bedeuten, Modelle regional stärker zu beschränken, Funktionen geografisch zu sperren oder zusätzliche technische Kontrollschichten einzubauen. Dass xAI selbst bereits Geoblocking als Reaktion auf unterschiedliche nationale Regeln eingesetzt hat, zeigt, dass solche regionalen Produktvarianten technisch grundsätzlich möglich sind.
Sollten weitere Bundesstaaten unterschiedliche Verbote und Haftungsregeln einführen, würde daraus zudem ein regulatorischer Flickenteppich entstehen. Das ist derzeit noch ein Szenario, keine feststehende Entwicklung – der Minnesota-Prozess könnte aber mitentscheiden, wie groß der Spielraum der Einzelstaaten hierfür überhaupt ist.
Stefanie S. Klief
Jeden Monat neu - hier gratis lesen!
