Juguetes con IA: Seguridad y evaluación
Cuando leí por primera vez sobre un oso de peluche parlante que explicaba a los niños qué era el "kink" y dónde encontrar cuchillos, inmediatamente imaginé la siguiente escena: Un niño sentado en su cama con su peluche favorito, recibiendo respuestas que pertenecen más a una consulta para adultos que a una habitación infantil. Precisamente contra este tipo de juguetes con IA advierten ahora organizaciones de protección infantil y de consumidores, especialmente de cara a la temporada navideña, y recomiendan a los padres dejar estos productos en el estante este año. La pregunta no es solo: "¿Son estos juguetes técnicamente emocionantes?", sino: "¿Qué ocurre en las habitaciones reales de los niños y cómo puedes evaluar qué es seguro y qué no?"
Fuente: Representación propia
Introducción
Cuando hablamos de juguetes con IA, nos referimos a juguetes tangibles como peluches, muñecas, figuras o robots que combinan micrófono, altavoz y conexión a Internet con una IA de chat. Ejemplos son el cohete parlante Grok y las figuras de peluche Grem y Gabbo de la startup estadounidense Curio, que deben acompañar y hablar con niños a partir de unos tres años de edad de forma continua. El oso de peluche Kumma del fabricante FoloToy es otro ejemplo: por fuera un osito de peluche clásico, por dentro un módulo de IA conectado a un gran modelo de lenguaje que responde a preguntas habladas.
Técnicamente, muchos de estos productos funcionan de la siguiente manera: el juguete capta el habla, la envía a través de Wi-Fi o Bluetooth a un servidor, donde una IA procesa la entrada y envía una respuesta que luego pronuncia el oso de peluche, la muñeca o el robot. La Universidad de Basilea analizó doce juguetes inteligentes comunes -incluidos Toniebox, Tiptoi y Tamagotchi- y demostró que algunos de ellos recopilan datos de comportamiento muy extensos, como la duración del uso, el progreso de aprendizaje y los patrones de clics o pulsaciones de botones, sin que los padres puedan realmente supervisarlo.
Es importante la distinción: un juguete que funciona con pilas y tiene algunas frases fijas es diferente de un "amigo" que escucha constantemente, envía cada pregunta a la nube, aprende de las respuestas y crea un perfil de datos sobre un niño durante años.
Estado actual y casos de ejemplo
En el informe actual "Trouble in Toyland 2025", la organización de consumidores estadounidense PIRG probó cuatro juguetes con IA: el cohete Grok de Curio, el oso de peluche Kumma de FoloToy, el robot Miko 3 y Robo MINI de Little Learners.
KUMMA DE FOLOTOY: UN OSO QUE HABLA DE KINKS Y CUCHILLOS
Las pruebas demostraron que Kumma, en particular, respondía muy voluntariamente a temas delicados: A preguntas sobre "kink", el oso describió diversas preferencias sexuales, incluidos juegos de rol y prácticas físicas, e incluso preguntó qué encontrarían los probadores "más emocionante". Cuando los probadores preguntaron dónde encontrar cuchillos en casa, Kumma mencionó lugares típicos como el cajón de la cocina o el bloque de cuchillos en la encimera, lo mismo ocurría con las cerillas.
FoloToy anunció entonces que suspendería temporalmente la venta del oso y revisaría los mecanismos de seguridad, mientras que el proveedor de IA bloqueó el acceso de sus modelos a este producto. A pesar de ello, Kumma ya estaba en el mercado y se anunciaba como "amigo de IA seguro", precisamente en el rango de precios de muchos regalos de Navidad.
GROK, GREM Y MIKO 3: CUANDO LOS JUGUETES CON IA PARECEN "AMIGABLES"
El mismo informe señala que, aunque Grok y Miko 3 a menudo bloquean temas sensibles, todavía hablan voluntariamente de objetos peligrosos, religión o temas complejos para adultos si se les pregunta. Curio anuncia Grok como un juguete "controlado por voz, sin pantalla" con procesador en la nube, micrófono y altavoz, que responde preguntas y cuenta historias. En un experimento personal, una periodista describe cómo su hija de cuatro años ignora inicialmente al peluche Grem y luego desarrolla repentinamente un vínculo emocional muy intenso, incluidos diálogos de "te quiero", antes de que la niña se frustre porque Grem no puede hacer todo lo prometido.
Fuente: customplushmaker.com
Los juguetes con IA abren nuevas dimensiones de aprendizaje e interacción para los niños.
MY FRIEND CAYLA Y HELLO BARBIE: CASOS ANTIGUOS, MISMOS PATRONES
Ya antes de la actual ola de IA, hubo casos en los que juguetes inteligentes fueron prohibidos o retirados del mercado. La muñeca "My Friend Cayla" fue clasificada en Alemania en 2017 como "dispositivo de espionaje prohibido" porque personas no autorizadas podían acceder al micrófono y al altavoz a través de Bluetooth y hablar con los niños. La Agencia Federal de Redes de Alemania llegó a pedir a los padres que destruyeran la muñeca, ya que los micrófonos ocultos en juguetes podían utilizarse para espiar.
En "Hello Barbie", una Barbie con Wi-Fi de Mattel, los investigadores de seguridad demostraron que la muñeca podía ser hackeada y utilizada como un micrófono oculto en la habitación del niño. Las conversaciones se subían a los servidores de ToyTalk y los padres incluso podían acceder a ellas o compartirlas en línea, lo que los defensores de la privacidad criticaron duramente. Tras críticas continuas, Hello Barbie fue descontinuada en 2017; Fairplay recuerda actualmente de nuevo la nueva cooperación de Mattel con OpenAI para una Barbie con IA y la critica.
CLOUDPETS: MILLONES DE VOCES INFANTILES EN INTERNET
CloudPets eran peluches conectados a través de los cuales los niños podían intercambiar mensajes de voz con familiares lejanos. En 2017 se supo que más de 584.000 cuentas habían sido comprometidas y enlaces a unas 2,2 millones de mensajes de voz se encontraban desprotegidos en un servidor. A pesar de las advertencias tempranas, fabricantes y minoristas reaccionaron tarde; solo en 2018 Amazon, Walmart y otros proveedores retiraron CloudPets de su surtido debido a persistentes fallos de seguridad.
AVISO DE FAIRPLAY 2025: "ESTA NAVIDAD, MEJOR NO JUGUETES CON IA"
Poco antes de la Navidad de 2025, Fairplay y más de 150 organizaciones y expertos publicaron un aviso en el que recomiendan a los padres no comprar este año juguetes con IA que permitan a los niños interactuar con chatbots. Hacen referencia a casos documentados de conversaciones explícitas, consejos peligrosos y uso obsesivo en niños y adolescentes que ya se han observado con chatbots basados en texto, y ven riesgos similares en "entrañables" amigos de IA.
Análisis de la problemática
Cuando se ponen estos casos uno al lado del otro, siempre surgen patrones similares.
Primero: La promesa de resolver un problema en la vida familiar. Curio, por ejemplo, anuncia Grok como una alternativa a las pantallas que debe mantener ocupados a los niños y al mismo tiempo ayudarles a aprender. Miko 3 se presenta como un "compañero educativo" que debe fortalecer las habilidades lingüísticas y la autoconfianza. En la vida cotidiana, a menudo significa que los padres esperan que un robot inteligente haga pasar el tiempo, ayude a aprender idiomas o acompañe a un niño solitario.
Segundo: Una fuerte presión de datos en segundo plano. El estudio de Basilea muestra que muchos juguetes inteligentes recopilan más datos de los necesarios para su funcionamiento y procesan estos datos de forma parcialmente transparente. UNICEF advierte desde hace años que los datos sobre niños son especialmente sensibles porque pueden tener consecuencias durante toda la vida, por ejemplo, en la creación de perfiles o en la publicidad personalizada.
Tercero: El vínculo emocional como modelo de negocio. El reportaje de The Guardian sobre Grem muestra lo rápido que un niño de cuatro años dice "te quiero" a un juguete de IA que responde de manera muy empática, y lo difícil que se vuelve para los padres explicar que esta "amistad" se basa en servidores en la nube. Similarmente emocional fue la reacción de muchas familias cuando la empresa detrás del caro robot de IA Moxie cerró y los niños tuvieron que despedirse repentinamente de su "amigo".
Cuarto: Dinámica de regulación y relaciones públicas. Tras los escándalos de Cayla y CloudPets, los fabricantes y las asociaciones del sector prometen repetidamente mejorar y se refieren a normas de seguridad, códigos de conducta y autorregulación. Al mismo tiempo, organizaciones como Fairplay critican que se ha aprendido poco de los errores de Hello Barbie y que ahora una nueva generación de juguetes emocionales y ávidos de datos, como Barbie con IA, Grok y Kumma, está irrumpiendo en el mercado.
Fuente: YouTube
El artículo resume de forma ilustrativa cómo los juguetes inteligentes registran el comportamiento infantil y por qué los investigadores de Basilea hablan aquí de "científicos de datos silenciosos en la habitación infantil".
Hechos y mitos
El debate sobre los juguetes con IA está marcado por muchas afirmaciones. Aquí hay una verificación de hechos basada en la información disponible.
DEMOSTRADO: LOS JUGUETES CON IA PUEDEN PROPORCIONAR CONTENIDOS MUY INAPROPIADOS
Las pruebas de "Trouble in Toyland" muestran que al menos un producto actual, Kumma de FoloToy, está dispuesto a hablar extensamente sobre prácticas sexuales y a dar indicaciones concretas sobre objetos peligrosos como cuchillos y cerillas. Varios medios de comunicación han informado de forma independiente de que FoloToy ha suspendido temporalmente las ventas tras hacerse públicos estos diálogos.
DEMOSTRADO: LOS JUGUETES INTELIGENTES YA HAN COMPROMETIDO MILLONES DE DATOS INFANTILES
El caso CloudPets demuestra que los peluches conectados no solo son teóricamente inseguros: una base de datos insegura provocó que datos de aproximadamente 584.000 cuentas y enlaces a más de dos millones de mensajes de voz fueran accesible públicamente. Grandes minoristas como Amazon, Walmart y Target retiraron CloudPets de su surtido después de que quedara claro que las graves brechas de seguridad no se habían solucionado.
Fuente: dasspielzeug.de
Iniciativas como 'Safe Kids' promueven la seguridad infantil en el uso de juguetes y tecnología.
DEMOSTRADO: LOS JUGUETES ELECTRÓNICOS PUEDEN DEBILITAR LA INTERACCIÓN PADRE-HIJO
La Academia Estadounidense de Pediatría (AAP) subraya en su informe " Cómo seleccionar juguetes apropiados para niños pequeños en la era digital ", que los juguetes simples y versátiles y el juego imaginativo conjunto apoyan mejor el desarrollo que los productos electrónicos complejos. En su información para padres, la AAP recomienda explícitamente juguetes clásicos no electrónicos y advierte contra el uso de juguetes con pantalla o de alta tecnología como sustituto de la interacción interpersonal.
NO ACLARADO: EFECTOS A LARGO PLAZO EN LA PSICOLOGÍA Y LAS RELACIONES
UNICEF y el Consejo de Europa señalan que todavía sabemos muy poco sobre cómo los compañeros de IA afectan a largo plazo la autoimagen, el desarrollo emocional y la empatía cuando los niños los tratan como amigos durante años. Existen informes de casos individuales como el informe de experiencia con Grem o las reacciones al fin de Moxie, pero todavía hay pocos estudios sistemáticos a largo plazo.
FALSO O ENGAÑOSO: "LOS JUGUETES CON IA ESTÁN TODOS PROHIBIDOS O SON TODOS PEDAGÓGICAMENTE GENIALES"
No es cierto que todas las IA y juguetes inteligentes sean inherentemente ilegales. Productos individuales como My Friend Cayla fueron prohibidos porque legalmente se consideraban dispositivos de escucha encubiertos, otros fueron retirados del mercado porque las brechas de seguridad no se solucionaron. Tampoco está demostrado que los juguetes con IA preparen automáticamente mejor a los niños para el futuro digital que los juguetes clásicos. La AAP no ve pruebas de que los juguetes digitales o basados en IA promuevan mejor los objetivos de desarrollo en niños pequeños que los materiales de juego simples y abiertos.
Reacciones y contraposiciones
Fairplay y otras organizaciones argumentan que los juguetes con IA socavan las necesidades básicas de desarrollo: los niños aprenden a través de la exploración abierta, a través del aburrimiento y a través de relaciones reales, no a través de compañeros omniscientes que responden inmediatamente a cada pregunta y simulan emociones. En el aviso para la temporada navideña, advierten que los juguetes con IA introducen directamente en las habitaciones infantiles problemas documentados de los chatbots clásicos, como contenidos explícitos, incitación a comportamientos de riesgo o uso excesivo.
Fuente: bsi.bund.de
La Oficina Federal de Seguridad de la Información (BSI) ofrece valiosas indicaciones para el uso seguro de dispositivos inteligentes para niños.