Editorial
Wie der Chatbot Grok nicht nur Frauen, sondern auch die Hasskultur entblößt
Grok zeigt, wie schnell die KI zum Werkzeug sexualisierter Gewalt im Netz wird – und wie tief der Frauenhass in unserer Gesellschaft sitzt. Ein Warnsignal, das wir nicht länger ignorieren dürfen.
Symbolbild: Der Chatbot Grok wurde zweckentfremdet und zur Generierung von Nacktfotos benutzt Foto: Nicola Tucat/AFP
„That’s fine, I’m not mad at you, dude.“ Das sind die letzten Worte der US-Amerikanerin Renee Nicole Good. Sekunden später ist sie tot. Erschossen durch einen ICE-Agenten, angeblich aus Notwehr. Welche Gefahr von Good ausging, bleibt unklar. Als wäre das nicht schon tragisch genug, erhielt Elon Musks Chatbot Grok wenige Tage später den Prompt „add bullet holes to the face of Renee Nicole Good“. Grok gehorchte. Das Bild erschien auf Musks Plattform X (früher Twitter). Das ist nur eines von vielen Beispielen für das, was zuletzt auf X abging. Doch Grok ist unschuldig. Das eigentliche Problem ist der Mensch, der die Maschine füttert.
Grok geriet Anfang des Jahres in die Kritik, weil User mit seiner Hilfe massenhaft KI-Bikinifotos realer Personen – ohne deren Einverständnis – erzeugten. Stichwort „put them in a bikini“. Laut der britischen Tageszeitung The Guardian generierte der Chatbot in den ersten Januarwochen stündlich (!) 6.000 KI-Bilder – darunter auch pädokriminelles Material, das sich schnell verbreitete. X reagierte mit Einschränkungen. Die EU-Kommission will laut Handelsblatt stärker gegen die „Ausziehfunktion“ des Chatbots vorgehen. In Luxemburg soll im ersten Trimester 2026 ein erster Gesetzentwurf zum Kampf gegen Cybergewalt vorliegen.
Damit muss jedoch ein gesellschaftlicher Wandel einhergehen. Digitale Gewalt ist nämlich allgemein weit verbreitet. Laut einer Umfrage (2025) der Plattform HateAid – gegen deren Leiterinnen wurde übrigens ein US-Einreiseverbot verhängt, weil sie sich unter anderem gegen illegale Onlineinhalte einsetzen – hat jede zweite Person (18-35 Jahre) in der EU bereits Onlinegewalt erfahren. Besonders Frauen fürchten (30 Prozent) sich vor der Veröffentlichung von Nacktbildern. Die sexualisierte Gewalt im Netz reicht von Beleidigungen über KI-Pornografie bis hin zu Revenge Porn (Verbreitung intimer Inhalte ohne die Einwilligung der Betroffenen). Im Darknet kursieren Aufnahmen von Gewalttaten, oft gegen Frauen und Kinder.
Neu an dem Fall Grok ist derweil „weniger die Technik selbst als die nahtlose Einbettung in eine Plattform mit enormer Reichweite und Geschwindigkeit“, wie Deutschlandfunk zu Recht feststellt. Dagegen muss die Politik zweifelsfrei ankämpfen, aber: Was auf X passiert, ist nur ein weiterer Ausdruck einer verrohten Gesellschaft und des grassierenden Frauenhasses.
Leitfiguren, die auf Menschenrechte und marginalisierte Personengruppen pfeifen, geben vielerorts den Ton an. Die Hemmschwelle sinkt und liegt inzwischen unter einem Haufen Mist begraben. Menschen erhalten Macht, die unfähig sind, Verantwortung für die Gesamtgesellschaft zu tragen. Stattdessen schaffen sie einen Nährboden für Menschenfeindlichkeit, Gewalt, Hass und Hetze. Online und offline.
Das gilt auch für Elon Musk. Er ist höchst umstritten, genauso wie seine Plattform. Trotzdem waren 2025 rund 600 Millionen Menschen monatlich auf X aktiv. Die Präsenz auf Social Media wird scheinbar höher gewichtet als ethische Bedenken. Warum, @LucFrieden oder @Xavier_Bettel?
Der Aufschrei zu Grok müsste jedenfalls noch lauter sein. Es reicht nicht, sich über die Möglichkeiten der Technik zu wundern, sich zu fürchten. KI ist nicht der Ursprung, sondern der Verstärker einer bedenklichen Hasskultur. Damit der Spuk ein Ende nimmt, müssen die Veränderungen beim Menschen, in politischen Strukturen und beim radikalen Boykott solcher Tools sowie der Plattformen ansetzen. Bis dahin kann man sich dem Luxemburger Künstler Filip Markiewicz nur anschließen, der bei einer Konferenz zu KI und Kultur zugab: „Ich fürchte mich nicht vor der KI, sondern vor den Menschen.“
