Kinderpornografie durch Grok AI generiert: Strafbarkeit, Ermittlungen & Verteidigung

Es häufen sich Strafverfahren gegen Nutzer, denen vorgeworfen wird, mithilfe von KI-Systemen wie Grok kinderpornografische Inhalte erstellt oder besessen (§ 184b StGB) zu haben. Hintergrund ist, dass moderne KI-Modelle in der Lage sind, realitätsnahe Bilder und Videos zu generieren – auch dann, wenn diese Inhalte strafrechtlich relevant sind. Gerade Grok AI stand in der Kritik, dass die Anfertigung sexualisierter Inhalte und teilweise sogar von Minderjährigen möglich war bzw. ist¹. Die EU-Kommission hat im Januar 2026 diesbezüglich auch ein Verfahren gegen Elon Musks KI-Bot Grok eröffnet⁶.

Dabei geraten nicht nur klassische Upload- oder Download-Fälle ins Visier der Ermittler, sondern zunehmen auch die reine Erstellung durch Prompts.

KI-Systeme wie Grok basieren auf großen Trainingsdatensätzen und generativen Modellen. Grundsätzlich sind solche Systeme darauf ausgelegt, Inhalte anhand von Texteingaben (sogenannte Prompts) zu erzeugen. Trotz vorhandener Sicherheitsmechanismen (Content-Filter) gibt es mehrere Gründe, warum problematische Inhalte entstehen können:

• Umgehung von Filtersystemen durch gezielte Prompts
• Unvollständige oder fehlerhafte Moderation
• Technische Grenzen bei der Erkennung sensibler Inhalte
• Schnelle Weiterentwicklung der Modelle schneller als Schutzmechanismen

Ja — und genau hier liegt eine der größten rechtlichen Herausforderungen.

Nach § 184b StGB ist nicht nur der Besitz und die Verbreitung strafbar, sondern auch die Herstellung kinderpornografischer Inhalte.

Die entscheidende Frage lautet: Fallen KI-generierte Inhalte überhaupt unter den Begriff der Kinderpornografie?

Die aktuelle juristische Entwicklung zeigt klar:

• Auch vollständig künstlich erzeugte Inhalte können strafbar sein, ebenso wie Deepfakes.
• Maßgeblich ist, ob ein „wirklichkeitsnaher Eindruck“ eines Kindes entsteht.
• Es kommt nicht darauf an, ob ein echtes Kind beteiligt war.

Wer wegen KI-generierter Kinderpornografie beschuldigt wird, muss mit erheblichen strafrechtlichen Konsequenzen rechnen. Maßgeblich ist § 184b StGB, der die Herstellung, den Besitz und die Verbreitung kinderpornografischer Inhalte unter Strafe stellt. Dabei kommt es nach aktueller Entwicklung nicht entscheidend darauf an, ob reale Kinder beteiligt waren – auch künstlich erzeugte, aber realitätsnahe Darstellungen können den Tatbestand erfüllen.

Die Strafandrohung ist hoch: Bereits der Besitz kann mit Freiheitsstrafe von drei Monaten bis zu fünf Jahren geahndet werden. Bei der Herstellung oder Verbreitung drohen in der Regel Freiheitsstrafen von sechs Monaten bis zu zehn Jahren. In besonders schweren Fällen, etwa bei gewerbsmäßigem Handeln oder bei einer großen Anzahl von Dateien, sind noch höhere Strafen möglich. ⁵

Welche konkrete Strafe im Einzelfall verhängt wird, hängt von verschiedenen Faktoren ab, etwa vom Umfang der Inhalte, dem konkreten Tatvorwurf und möglichen Vorstrafen. Gerade bei neuen Fallkonstellationen rund um KI ist die rechtliche Bewertung jedoch oft komplex, sodass eine individuelle Prüfung durch einen Strafverteidiger unerlässlich ist.

Die Ermittlung von Nutzern im Zusammenhang mit KI-generierter Kinderpornografie erfolgt in der Praxis über mehrere, oft miteinander verknüpfte Wege. Häufig beginnt ein Verfahren damit, dass Plattformbetreiber oder KI-Anbieter verdächtige Inhalte oder Nutzungsverhalten erkennen und entsprechende Hinweise weiterleiten. Gerade bei internationalen Anbietern werden solche Fälle oftmals an Organisationen wie das National Center for Missing & Exploited Children (NCMEC) gemeldet, das als zentrale Meldestelle fungiert und die Informationen an Strafverfolgungsbehörden weltweit weitergibt. Von dort gelangen die Hinweise regelmäßig auch zu deutschen Ermittlungsbehörden.

Ein zentraler Ermittlungsansatz ist die technische Rückverfolgung von Nutzern über digitale Spuren. Dazu gehören insbesondere IP-Adressen, Zeitstempel sowie Account-Daten, die bei der Nutzung von KI-Diensten anfallen. Über internationale Rechtshilfeverfahren können diese Daten von den Anbietern angefordert und ausgewertet werden. Auch Zahlungsdaten, etwa bei kostenpflichtigen KI-Diensten, können zur Identifizierung beitragen. Sobald ein konkreter Tatverdacht besteht, beantragen Ermittler häufig weitergehende Maßnahmen wie Hausdurchsuchungen, um Endgeräte sicherzustellen und auszuwerten.

Eine besondere Rolle spielt die forensische Analyse dieser Geräte. Dabei werden nicht nur gespeicherte Dateien untersucht, sondern auch Chatverläufe, eingegebene Prompts und generierte Inhalte rekonstruiert. Selbst gelöschte Daten können unter Umständen wiederhergestellt werden. Für die Strafbarkeit ist dabei nicht nur der Besitz entsprechender Inhalte relevant, sondern bereits deren gezielte Erstellung über KI-Systeme.

Zunehmend greifen Ermittlungsbehörden zudem auf automatisierte Verfahren und spezialisierte Einheiten zurück, die sich mit digitaler Kriminalität und KI-gestützten Delikten befassen. Auch Hinweise aus anderen Verfahren oder aus dem privaten Umfeld können Auslöser für Ermittlungen sein. Insgesamt zeigt sich, dass die vermeintliche Anonymität bei der Nutzung von KI-Diensten trügerisch ist: In vielen Fällen lassen sich Nutzer über die Kombination verschiedener Datenquellen identifizieren.

Ein zentraler Akteur ist das NCMEC (National Center for Missing & Exploited Children) in den USA.

Viele Plattformen sind verpflichtet oder entscheiden sich freiwillig dazu Verdächtige Inhalte an NCMEC zu melden, Nutzerdaten weiterzugeben und die internationale Strafverfolgung zu unterstützen

Auch im Zusammenhang mit KI-Systemen wie Grok gibt es Hinweise darauf, dass entsprechende Meldemechanismen greifen. Auch wenn eine direkte Zusammenarbeit nicht bestätigt ist, erklärt "xAI" in seiner Policy, vermutetes CSAM (child sexual abuse material) an NCMEC zu melden ³.

Die kurze Antwort: In den meisten Fällen nein.

Im Strafrecht gibt es — anders als etwa im Steuerrecht — keine echte strafbefreiende Selbstanzeige bei Kinderpornografie.

Eine Selbstanzeige kann zur Selbstbelastung führen, Ermittlungen beschleunigen und Beweise liefern, die sonst nicht vorhanden wären.

Nur in sehr seltenen Konstellationen kann ein frühzeitiges Geständnis strafmildernd wirken — aber: Das sollte niemals ohne vorherige anwaltliche Beratung durch einen im Strafrecht erfahrenen Rechtsanwalt erfolgen.

Wer mit einem Ermittlungsverfahren wegen des Vorwurfs der Kinderpornografie im Zusammenhang mit KI konfrontiert wird, sollte vor allem eines tun: Ruhe bewahren und keine vorschnellen Aussagen machen. Beschuldigte haben das Recht zu schweigen (Aussageverweigerungsrecht) – und davon sollte unbedingt Gebrauch gemacht werden, da unüberlegte Äußerungen die eigene Situation erheblich verschlechtern können.

Ebenso ist es wichtig, keine Beweise zu löschen oder Geräte zu manipulieren, da dies einen zusätzlichen Verdacht begründen und auch zur Verdunkelungsgefahr (Untersuchungshaft) führen kann. Kommt es zu einer Hausdurchsuchung, sollte man diese dulden, aber keine freiwilligen Angaben machen. Zugangsdaten wie PIN oder Passwörter müssen und sollten nicht herausgegeben werden.

Entscheidend ist, frühzeitig einen spezialisierten Strafverteidiger einzuschalten. Nur so lässt sich klären, was konkret vorgeworfen wird und welche Verteidigungsstrategie sinnvoll ist.

Ein spezialisierter Strafverteidiger kann:

• Akteneinsicht beantragen,
• prüfen, ob eine Strafbarkeit vorliegt oder Beweise vorhanden sind,
• technische Gutachten angreifen,
• Verfahrensfehler aufdecken und
• eine effektive Verteidigungsstrategie entwickeln.

Gerade bei neuen Themen wie KI-generierter Kinderpornografie ist die rechtliche Bewertung oft komplex und angreifbar. Unter Umständen kann ein erfahrener Anwalt für Sexualstrafrecht eine Einstellung des Strafverfahrens erwirken.

Wird gegen Sie wegen des Vorwurfs der Kinderpornografie im Zusammenhang mit KI-Systemen wie Grok ermittelt, ist schnelles und überlegtes Handeln entscheidend. Die rechtliche Bewertung solcher Fälle ist komplex und entwickelt sich dynamisch – umso wichtiger ist eine frühzeitige, professionelle Verteidigung.

Dr. Brauer Rechtsanwälte sind auf das Strafrecht spezialisiert und verfügen über umfangreiche Erfahrung in sensiblen und komplexen Ermittlungsverfahren, auch bei Kinderpornografie.

Nutzen Sie die Möglichkeit einer schnellen und kostenlosen Ersteinschätzung und lassen Sie Ihren Fall individuell prüfen. Je früher Sie anwaltliche Unterstützung in Anspruch nehmen, desto besser lassen sich Ihre Rechte schützen und Ihre Verteidigung strategisch aufbauen.

Nehmen Sie jetzt Kontakt auf und sichern Sie sich kompetente Unterstützung. Wir verteidigen bundesweit von unseren Standorten in Bonn, Köln, Hamburg, Lübeck, Greifswald, Berlin, Leipzig, Dresden, Frankfurt, Saarbrücken, Stuttgart, Nürnberg, Regensburg und München aus.