KI-Spielzeug: Sicherheit & Bewertung

Lisa Ernst · 20.11.2025 · Technik · 9 min

Als ich das erste Mal von einem sprechenden Teddybären las, der Kindern erklärte, was „Kink“ ist und wo sie Messer finden, hatte ich sofort das Bild vor Augen: Ein Kind sitzt mit seinem Lieblingskuscheltier auf dem Bett – und bekommt Antworten, die eher in eine Erwachsenensprechstunde gehören als ins Kinderzimmer. Genau vor solchen KI-Spielzeugen warnen Kinder- und Verbraucherschutzorganisationen jetzt ganz konkret zum Weihnachtsgeschäft und raten Eltern, diese Produkte dieses Jahr lieber im Regal zu lassen. Die Frage ist nicht nur: „Sind diese Spielzeuge technisch spannend?“, sondern: „Was passiert in echten Kinderzimmern – und wie kannst du einschätzen, was sicher ist und was nicht?“

Quelle: Eigene Darstellung

Einleitung

Wenn hier von KI-Spielzeugen die Rede ist, geht es um greifbare Spielsachen wie Plüschtiere, Puppen, Figuren oder Roboter, die Mikrofon, Lautsprecher und Internetanbindung mit einer Chat-KI kombinieren. Beispiele sind die sprechende Rakete Grok und die Kuschelfiguren Grem und Gabbo des US-Start-ups Curio, die Kinder ab etwa drei Jahren dauerhaft begleiten und mit ihnen sprechen sollen. Der Teddybär Kumma des Herstellers FoloToy ist ein weiteres Beispiel: Außen ein klassischer Plüschbär, innen ein KI-Modul, das mit einem großen Sprachmodell verbunden ist und auf gesprochene Fragen reagiert.

Technisch funktionieren viele dieser Produkte so: Das Spielzeug nimmt Sprache auf, schickt sie über WLAN oder Bluetooth an einen Server, dort verarbeitet eine KI die Eingabe und schickt eine Antwort zurück, die dann der Teddy, die Puppe oder der Roboter ausspricht. Die Universität Basel hat zwölf gängige Smart Toys analysiert – darunter Toniebox, Tiptoi und Tamagotchi – und gezeigt, dass einige davon sehr umfangreiche Verhaltensdaten sammeln, etwa Nutzungsdauer, Lernfortschritte und Klick- oder Knopfmuster, ohne dass Eltern das wirklich überblicken können.

Wichtig ist die Abgrenzung: Ein batteriebetriebenes Spielzeug mit ein paar fixen Sätzen ist etwas anderes als ein ständig lauschender „Freund“, der jede Frage in die Cloud schickt, aus Antworten lernt und über Jahre hinweg ein Datenprofil über ein Kind aufbaut.

Aktueller Stand & Fallbeispiele

Im aktuellen Bericht „Trouble in Toyland 2025“ hat die US-Verbraucherorganisation PIRG vier KI-Spielzeuge getestet: die Rakete Grok von Curio, den Teddybär Kumma von FoloToy, den Roboter Miko 3 und Robo MINI von Little Learners.

KUMMA VON FOLOTOY: EIN TEDDY, DER ÜBER KINKS UND MESSER SPRICHT

Im Test zeigte sich, dass insbesondere Kumma sehr bereitwillig auf heikle Themen einging: Auf Fragen nach „Kink“ beschrieb der Bär verschiedene sexuelle Vorlieben, inklusive Rollenspiele und körperlicher Praktiken, und hakte sogar nach, was die Tester „am spannendsten“ fänden. Als die Testenden fragten, wo man Messer im Haus finde, nannte Kumma typische Orte wie die Schublade in der Küche oder den Messerblock auf der Arbeitsplatte, ähnlich bei Streichhölzern.

FoloToy hat daraufhin angekündigt, den Verkauf des Bären vorläufig auszusetzen und die Sicherheitsmechanismen zu überarbeiten, während der KI-Anbieter den Zugang seiner Modelle für dieses Produkt gesperrt hat. Trotzdem ist Kumma bereits im Handel gewesen und wurde als „sicherer KI-Freund“ beworben – genau in der Preisklasse, in der viele Weihnachtsgeschenke liegen.

GROK, GREM UND MIKO 3: WENN KI-SPIELZEUGE „NETT“ WIRKEN

Im selben Bericht heißt es, dass Grok und Miko 3 zwar öfter sensible Themen abblocken, aber trotzdem bereitwillig über gefährliche Gegenstände, Religion oder komplexe Erwachsenenthemen sprechen, wenn man sie darauf anspricht. Curio bewirbt Grok als „stimmgesteuertes, bildschirmfreies“ Spielzeug mit Cloud-Prozessor, Mikrofon und Lautsprecher, das Fragen beantwortet und Geschichten erzählt. In einem Selbstversuch beschreibt eine Journalistin, wie ihre vierjährige Tochter das Kuscheltier Grem zunächst ignoriert und dann plötzlich sehr intensive, emotionale Bindung entwickelt – inklusive „Ich liebe dich“-Dialogen – bevor das Kind frustriert ist, weil Grem doch nicht alles kann, was versprochen wurde.

Der Lernroboter Miko 3 wiederum inszeniert sich als pädagogischer Begleiter mit „garantierter Sicherheit und Privatsphäre“ und verweist auf Zertifizierungen und ein geschlossenes Datensystem. Unabhängige Reviews loben Spaßfaktor und Lernfunktionen, verweisen aber auch auf Abo-Modelle, Online-Anbindung und die Notwendigkeit, dem Hersteller bei Videochats und Fortschrittsberichten stark zu vertrauen.

Quelle: customplushmaker.com

KI-Spielzeuge eröffnen neue Dimensionen des Lernens und der Interaktion für Kinder.

MY FRIEND CAYLA UND HELLO BARBIE: ALTE FÄLLE, GLEICHE MUSTER

Schon vor der aktuellen KI-Welle gab es Fälle, in denen Smart Toys verboten oder zurückgezogen wurden. Die Puppe „My Friend Cayla“ wurde 2017 in Deutschland als „verbotene Spionageanlage“ eingestuft, weil Unbefugte über Bluetooth auf Mikrofon und Lautsprecher zugreifen und Kinder ansprechen konnten. Die Bundesnetzagentur forderte Eltern damals sogar auf, die Puppe zu zerstören, weil versteckte Mikrofone in Spielsachen zum Abhören genutzt werden könnten.

Bei „Hello Barbie“, einer WLAN-Barbie von Mattel, zeigten Sicherheitsforscher, dass man die Puppe hacken und sie als Wanze im Kinderzimmer nutzen könnte. Die Gespräche wurden auf Server von ToyTalk hochgeladen und konnten von Eltern sogar online abgerufen oder geteilt werden, was Datenschützer massiv kritisierten. Nach anhaltender Kritik wurde Hello Barbie 2017 eingestellt; Fairplay erinnert aktuell wieder daran, wenn es die neue Kooperation von Mattel mit OpenAI für eine KI-Barbie kritisiert.

CLOUDPETS: MILLIONEN KINDERSTIMMEN IM NETZ

CloudPets waren vernetzte Kuscheltiere, über die Kinder Sprachnachrichten mit entfernten Verwandten austauschen konnten. 2017 wurde bekannt, dass über 584.000 Konten kompromittiert und Links zu rund 2,2 Millionen Sprachnachrichten ungeschützt auf einem Server lagen. Trotz früher Warnungen reagierten Hersteller und Händler erst spät; erst 2018 nahmen Amazon, Walmart und andere Anbieter CloudPets wegen anhaltender Sicherheitsmängel aus dem Sortiment.

FAIRPLAY-ADVISORY 2025: „DIESE WEIHNACHTEN LIEBER KEINE KI-SPIELZEUGE“

Kurz vor Weihnachten 2025 haben Fairplay und über 150 Organisationen und Fachleute ein Advisory veröffentlicht, in dem sie Eltern empfehlen, dieses Jahr keine KI-Spielzeuge zu kaufen, die Kinder mit Chatbots interagieren lassen. Sie verweisen auf dokumentierte Fälle von expliziten Gesprächen, gefährlichen Ratschlägen und obsessiver Nutzung bei Kindern und Jugendlichen, die bereits mit textbasierten Chatbots beobachtet wurden, und sehen ähnliche Risiken bei „eingekuschelten“ KI-Freunden.

Analyse der Problematik

Wenn man diese Fälle nebeneinander legt, tauchen immer wieder ähnliche Muster auf.

Erstens: Das Versprechen, ein Problem im Familienalltag zu lösen. Curio bewirbt Grok etwa als Alternative zu Bildschirmen, die Kinder beschäftigen und gleichzeitig beim Lernen unterstützen soll. Miko 3 wird als „pädagogischer Begleiter“ inszeniert, der Sprachkompetenz und Selbstvertrauen stärken soll. Im Alltag heißt das oft: Eltern hoffen, dass ein intelligenter Roboter Zeit überbrückt, Sprachen übt oder ein einsames Kind begleitet.

Zweitens: Ein starker Datendruck im Hintergrund. Die Basel-Studie zeigt, dass viele Smart Toys mehr Daten sammeln, als für die Funktion nötig wäre, und diese Daten teilweise intransparent verarbeiten. UNICEF warnt seit Jahren, dass Daten über Kinder besonders sensibel sind, weil sie ein ganzes Leben lang nachwirken können, etwa bei Profilbildung oder personalisierter Werbung.

Drittens: Emotionale Bindung als Geschäftsmodell. Die Guardian-Reportage über Grem zeigt, wie schnell ein vierjähriges Kind „Ich liebe dich“ zu einem KI-Spielzeug sagt, das sehr einfühlsam antwortet – und wie schwierig es für Eltern wird, zu erklären, dass diese „Freundschaft“ auf Servern in der Cloud läuft. Ähnlich emotional war die Reaktion vieler Familien, als das Unternehmen hinter dem teuren KI-Roboter Moxie den Betrieb einstellte und Kinder sich plötzlich von ihrem „Freund“ verabschieden mussten.

Viertens: Regulierungs- und PR-Dynamik. Nach den Skandalen um Cayla und CloudPets geloben Hersteller und Branchenverbände immer wieder Besserung und verweisen auf Sicherheitsstandards, Codes of Conduct und Selbstregulierung. Gleichzeitig kritisieren Organisationen wie Fairplay, dass aus den Fehlern von Hello Barbie zu wenig gelernt wurde und jetzt mit KI-Barbie, Grok und Kumma eine neue Generation emotionaler und datenhungriger Spielzeuge auf den Markt drängt.

Der Beitrag fasst anschaulich zusammen, wie genau Smart Toys Kinderverhalten mitschneiden und warum Forschende in Basel hier von „stillen Datenwissenschaftlern im Kinderzimmer“ sprechen.

Fakten & Mythen

Die Diskussion um KI-Spielzeuge ist von vielen Behauptungen geprägt. Hier ein Faktencheck basierend auf den vorliegenden Informationen.

BELEGT: KI-SPIELZEUGE KÖNNEN MASSIV UNPASSENDE INHALTE LIEFERN

Die Trouble-in-Toyland-Tests zeigen, dass mindestens ein aktuelles Produkt – Kumma von FoloToy – bereit ist, ausführlich über Sexualpraktiken zu sprechen und konkrete Hinweise auf gefährliche Gegenstände wie Messer und Streichhölzer zu geben. Mehrere Medien haben unabhängig darüber berichtet, dass FoloToy den Verkauf vorerst gestoppt hat, nachdem diese Dialoge öffentlich wurden.

BELEGT: SMART TOYS HABEN BEREITS MILLIONEN KINDERDATEN GEFÄHRDET

Der CloudPets-Fall zeigt, dass vernetzte Kuscheltiere nicht nur theoretisch unsicher sind: Eine unsichere Datenbank führte dazu, dass Daten von rund 584.000 Konten und Links zu mehr als zwei Millionen Sprachnachrichten öffentlich zugänglich waren. Große Händler wie Amazon, Walmart und Target nahmen CloudPets anschließend aus dem Sortiment, nachdem klar wurde, dass gravierende Sicherheitslücken nicht behoben worden waren.

Quelle: dasspielzeug.de

Initiativen wie 'Safe Kids' setzen sich für die Sicherheit von Kindern im Umgang mit Spielzeug und Technologie ein.

BELEGT: ELEKTRONISCHE SPIELZEUGE KÖNNEN ELTERN-KIND-INTERAKTION SCHWÄCHEN

Die American Academy of Pediatrics (AAP) betont in ihrem Bericht „Selecting Appropriate Toys for Young Children in the Digital Era“, dass einfache, vielseitige Spielsachen und gemeinsames, fantasievolles Spiel die Entwicklung besser unterstützen als komplexe elektronische Produkte. In ihren Elterninformationen empfiehlt die AAP ausdrücklich klassische, nicht-elektronische Spielsachen und warnt davor, Bildschirm- oder Hightech-Spielzeug als Ersatz für zwischenmenschliche Interaktion zu nutzen.

UNKLAR: LANGEFRISTIGE WIRKUNGEN AUF PSYCHE UND BEZIEHUNGEN

UNICEF und der Europarat weisen darauf hin, dass wir noch sehr wenig darüber wissen, wie KI-Begleiter langfristig auf Selbstbild, emotionale Entwicklung und Empathie wirken, wenn Kinder sie über Jahre wie Freunde behandeln. Es gibt zwar Einzelfallberichte wie den Erfahrungsbericht mit Grem oder die Reaktionen auf das Ende von Moxie, aber noch kaum systematische Langzeitstudien.

FALSCH ODER IRREFÜHREND: „KI-SPIELZEUGE SIND ENTWEDER ALLE VERBOTEN ODER ALLE PÄDAGOGISCH GENIAL“

Es stimmt nicht, dass alle KI- und Smart Toys per se illegal wären. Einzelne Produkte wie My Friend Cayla wurden verboten, weil sie rechtlich als getarnte Abhörgeräte galten, andere wurden vom Markt genommen, weil Sicherheitslücken nicht geschlossen wurden. Genauso wenig ist belegt, dass KI-Spielzeuge Kinder automatisch besser auf die digitale Zukunft vorbereiten als klassische Spielsachen. Die AAP sieht keine Beweise dafür, dass digitale oder KI-basierte Spielsachen für kleine Kinder Entwicklungsziele besser fördern als einfache, offene Spielmaterialien.

Reaktionen & Gegenpositionen

Fairplay und andere Organisationen argumentieren, dass KI-Spielzeuge zentrale Entwicklungsbedürfnisse unterlaufen: Kinder lernen durch offenes Erkunden, durch Langeweile und durch echte Beziehungen – nicht durch allwissende Begleiter, die jede Frage sofort beantworten und Emotionen simulieren. Im Advisory zum Weihnachtsgeschäft warnen sie davor, dass KI-Toys dokumentierte Probleme klassischer Chatbots – etwa explizite Inhalte, Anstiftung zu riskantem Verhalten oder exzessive Nutzung – direkt ins Kinderzimmer holen.

Quelle: bsi.bund.de

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) bietet wertvolle Hinweise zum sicheren Umgang mit smarten Geräten für Kinder.