Anfang Juli 2025 hatte der von Elon Musks KI-Firma xAI entwickelte Chatbot Grok für einen Eklat gesorgt, als dieser Nutzer:innen-Fragen mit antisemitischen Äußerungen beantwortete. Adolf Hitler wurde zudem als Problemlöser gelobt.

xAI schob die Entgleisungen später auf ein Update, durch das Grok besonders aktiv auf Beiträge reagieren sollte. Die Firma entschuldigte sich aber immerhin für Groks „schreckliches Verhalten“. Künftig solle Hassrede von Grok verhindert werden, so xAI. Musk scheint jetzt die Wogen glätten zu wollen – mit einer kinderfreundlichen Grok-Version.

Wie der xAI-Chef per X ankündigte, werde das Unternehmen eine „Baby-Grok“-App entwickeln. Weitere Details dazu gab es derweil nicht. Nur so viel: Die KI werde sich kinderfreundlichen Inhalten widmen.

„Baby-Grok“ könnte allerdings auch als Reaktion auf ein Update von Mitte Juli verstanden werden. Seitdem können Nutzer:innen der Bezahlversion des KI-Chatbots mit eigens entwickelten Charakteren wie einem auf Krawall gebürsteten roten Panda (Bad Rudi) oder dem Anime-Girl Ani interagieren.

Insbesondere Letztere dürfte – gelinde gesagt – für Irritation gesorgt haben. Denn nach längeren Chat-Einheiten posiert Ani in Spitzendessous und äußert sich recht freizügig. Daran ändert auch der integrierte Kids-Mode nicht viel.

Das Problem: Die Grok-App steht im Apple-Store zum Download zur Verfügung – für Nutzer:innen ab zwölf Jahren. Und das trotz Apples dezidierter Richtlinien, die etwa pornografische Inhalte verbieten.

Kritik kommt unter anderem vom National Center on Sexual Exploitation, einer gemeinnützigen Organisation, die sich gegen Pornografie und sexuelle Ausbeutung engagiert. Die NGO forderte xAI und Musk auf, den Chatbot-Charakter zu entfernen, wie NBC berichtet.

Ani sei „kindlich“ und fördere riskantes Sexualverhalten. „Diese pornografische Figur trägt nicht nur zur sexuellen Objektivierung von Mädchen und Frauen bei, sondern fördert auch das sexuelle Anspruchsdenken, indem sie weibliche Figuren schafft, die den sexuellen Bedürfnissen der Nutzer nachkommen“, so Haley McNamara vom National Center on Sexual Exploitation.

Musks Ankündigung hat derweil bei den X-Nutzer:innen eher gespaltene Reaktionen ausgelöst. Fragen wie, warum Kinder mit einem KI-Chatbot interagieren sollten, stießen auf Visionen von KI-Lehrer:innen, die Einstein-Kids en masse produzieren würden.

Allerdings ist ohnehin fraglich, ob Musk seine Ankündigung ernstgemeint hat und eine kinderfreundliche Grok-Version umsetzen wird. Sollte es tatsächlich dazu kommen, wird der xAI-Chef wohl erklären, was er sich konkret darunter vorstellt und wozu das Ganze seiner Meinung nach gut wäre.