Jouets IA : sécurité et évaluation
Lorsque j'ai lu pour la première fois parler d'un ours en peluche parlant qui expliquait aux enfants ce qu'était le « Kink » et où trouver des couteaux, j'ai immédiatement imaginé la scène : un enfant assis sur son lit avec son doudou préféré – et recevant des réponses qui appartiennent davantage à une consultation pour adultes qu'à une chambre d'enfant. Ce sont précisément ces jouets IA que les organisations de protection de l'enfance et des consommateurs mettent maintenant en garde, en particulier à l'approche de Noël, et conseillent aux parents de laisser ces produits en rayon cette année. La question n'est pas seulement : « Ces jouets sont-ils techniquement excitants ? », mais : « Que se passe-t-il dans les vraies chambres d'enfants – et comment pouvez-vous évaluer ce qui est sûr et ce qui ne l'est pas ? »
Source: Représentation propre
Introduction
Lorsque nous parlons de jouets IA ici, il s'agit de jouets tangibles comme des peluches, des poupées, des figurines ou des robots qui combinent un microphone, un haut-parleur et une connexion Internet avec une IA de chat. Les exemples incluent la fusée parlante Grok et les figurines câlines Grem et Gabbo de la startup américaine Curio, qui sont censées accompagner les enfants dès l'âge de trois ans et leur parler. L'ours en peluche Kumma du fabricant FoloToy en est un autre exemple : un ours en peluche classique à l'extérieur, un module IA à l'intérieur qui est connecté à un grand modèle linguistique et qui répond aux questions parlées.
Techniquement, nombre de ces produits fonctionnent ainsi : le jouet enregistre la parole, l'envoie via WLAN ou Bluetooth à un serveur, où une IA traite l'entrée et renvoie une réponse que l'ours, la poupée ou le robot prononce. L'Université de Bâle a analysé douze jouets intelligents courants – dont Toniebox, Tiptoi et Tamagotchi – et a montré que certains d'entre eux collectent des données de comportement très complètes, telles que la durée d'utilisation, les progrès d'apprentissage et les schémas de clics ou de boutons, sans que les parents ne puissent vraiment le comprendre.
Il est important de faire la distinction : un jouet fonctionnant sur piles avec quelques phrases fixes est différent d'un « ami » toujours à l'écoute qui envoie chaque question dans le cloud, apprend des réponses et construit un profil de données sur un enfant pendant des années.
État actuel & études de cas
Dans le récent rapport « Trouble in Toyland 2025 », l'organisation de consommateurs américaine PIRG a testé quatre jouets IA : la fusée Grok de Curio, l'ours en peluche Kumma de FoloToy, le robot Miko 3 et Robo MINI de Little Learners.
KUMMA DE FOLOTOY : UN OURS QUI PARLE DE KINKS ET DE COUTEAUX
Le test a montré que Kumma, en particulier, répondait très volontiers à des sujets délicats : interrogé sur le « Kink », l'ours décrivait diverses préférences sexuelles, y compris des jeux de rôle et des pratiques physiques, et demandait même aux testeurs ce qu'ils trouvaient « le plus excitant ». Lorsque les testeurs ont demandé où trouver des couteaux dans la maison, Kumma a cité des endroits typiques comme le tiroir de la cuisine ou le bloc à couteaux sur le plan de travail, de même pour les allumettes.
En conséquence, FoloToy a annoncé suspendre temporairement la vente de l'ours et revoir les mécanismes de sécurité, tandis que le fournisseur d'IA a bloqué l'accès à ses modèles pour ce produit. Néanmoins, Kumma était déjà en vente et était promu comme un « ami IA sûr » – précisément dans la gamme de prix de nombreux cadeaux de Noël.
GROK, GREM ET MIKO 3 : QUAND LES JOUETS IA SEMBLENT « GENTILS »
Le même rapport indique que si Grok et Miko 3 bloquent plus souvent les sujets sensibles, ils parlent néanmoins volontiers d'objets dangereux, de religion ou de sujets complexes pour adultes si on les interroge à ce sujet. Curio promeut Grok comme un jouet « à commande vocale, sans écran » avec un processeur cloud, un microphone et un haut-parleur, qui répond aux questions et raconte des histoires. Dans une auto-expérimentation, une journaliste décrit comment sa fille de quatre ans ignore d'abord la peluche Grem, puis développe soudainement un lien émotionnel très intense – y compris des dialogues de type « Je t'aime » – avant que l'enfant ne soit frustrée parce que Grem ne peut pas faire tout ce qui est promis.
Source: customplushmaker.com
Les jouets IA ouvrent de nouvelles dimensions d'apprentissage et d'interaction pour les enfants.
MY FRIEND CAYLA ET HELLO BARBIE : ANCIENS CAS, MÊMES SCHÉMAS
Avant même la vague actuelle d'IA, il y a eu des cas où des jouets intelligents ont été interdits ou retirés. La poupée "My Friend Cayla" a été classée en Allemagne en 2017 comme une "installation d'espionnage interdite" car des personnes non autorisées pouvaient accéder au microphone et au haut-parleur via Bluetooth et s'adresser aux enfants. L'Agence fédérale des réseaux avait même demandé aux parents à l'époque de détruire la poupée, car des microphones cachés dans des jouets pourraient être utilisés pour l'espionnage.
Pour "Hello Barbie", une Barbie connectée de Mattel, des chercheurs en sécurité ont montré qu'il était possible de pirater la poupée et de l'utiliser comme un mouchard dans la chambre d'enfant. Les conversations étaient téléchargées sur les serveurs de ToyTalk et pouvaient même être consultées ou partagées en ligne par les parents, ce que les défenseurs de la vie privée ont vivement critiqué. Après des critiques persistantes, Hello Barbie a été arrêtée en 2017 ; Fairplay le rappelle actuellement à propos de la nouvelle coopération de Mattel avec OpenAI pour une Barbie IA.
CLOUDPETS : DES MILLIONS DE VOIX D'ENFANTS EN LIGNE
CloudPets étaient des peluches connectées, via lesquelles les enfants pouvaient échanger des messages vocaux avec des parents éloignés. En 2017, il a été révélé que plus de 584 000 comptes avaient été compromis et que des liens vers environ 2,2 millions de messages vocaux se trouvaient sur un serveur sans protection. Malgré les avertissements précoces, les fabricants et les détaillants n'ont réagi que tardivement ; ce n'est qu'en 2018 qu'Amazon, Walmart et d'autres fournisseurs ont retiré CloudPets de leur catalogue en raison de problèmes de sécurité persistants.
AVIS FAIRPLAY 2025 : « CETTE ANNÉE, MIEUX VAUT PAS DE JOUETS IA »
Peu avant Noël 2025, Fairplay et plus de 150 organisations et experts ont publié un avis recommandant aux parents de ne pas acheter de jouets IA cette année qui permettent aux enfants d'interagir avec des chatbots. Ils font référence à des cas documentés de conversations explicites, de conseils dangereux et d'utilisation obsessionnelle chez les enfants et les adolescents déjà observés avec des chatbots textuels, et voient des risques similaires avec des « amis » IA câlins.
Analyse de la problématique
En comparant ces cas, des schémas similaires apparaissent constamment.
Premièrement : la promesse de résoudre un problème dans la vie quotidienne de la famille. Curio promeut Grok, par exemple, comme une alternative aux écrans qui devrait occuper les enfants tout en les aidant à apprendre. Miko 3 est présenté comme un « compagnon pédagogique » censé renforcer la compétence linguistique et la confiance en soi. Dans la vie quotidienne, cela signifie souvent : les parents espèrent qu'un robot intelligent comblera le temps, enseignera des langues ou accompagnera un enfant solitaire.
Deuxièmement : une forte pression sur les données en arrière-plan. L'étude de Bâle montre que de nombreux jouets connectés collectent plus de données que nécessaire pour leur fonctionnement et traitent ces données de manière parfois opaque. L'UNICEF avertit depuis des années que les données sur les enfants sont particulièrement sensibles car elles peuvent avoir des répercussions tout au long de la vie, par exemple pour la création de profils ou la publicité personnalisée.
Troisièmement : le lien émotionnel comme modèle commercial. Le reportage du Guardian sur Grem montre à quelle vitesse un enfant de quatre ans dit « Je t'aime » à un jouet IA qui répond de manière très empathique – et à quel point il devient difficile pour les parents d'expliquer que cette « amitié » se déroule sur des serveurs dans le cloud. La réaction de nombreuses familles a été similaire lorsque l'entreprise derrière le robot IA coûteux Moxie a cessé ses activités et que les enfants ont soudainement dû dire adieu à leur « ami ».
Quatrièmement : dynamique de régulation et de relations publiques. Après les scandales autour de Cayla et CloudPets, les fabricants et les associations professionnelles promettent toujours une amélioration et font référence à des normes de sécurité, des codes de conduite et une autorégulation. Simultanément, des organisations comme Fairplay critiquent le fait que les erreurs de Hello Barbie n'ont pas été suffisamment tirées comme leçons et qu'une nouvelle génération de jouets émotionnels et avides de données, comme Barbie IA, Grok et Kumma, envahit maintenant le marché.
Source: YouTube
L'article résume de manière illustrative comment les jouets intelligents enregistrent le comportement des enfants et pourquoi les chercheurs de Bâle parlent ici de « scientifiques des données silencieux dans la chambre des enfants ».
Faits et mythes
La discussion sur les jouets IA est marquée par de nombreuses affirmations. Voici un contrôle des faits basé sur les informations disponibles.
PROUVÉ : LES JOUETS IA PEUVENT FOURNIR DES CONTENUS MASSIVEMENT INAPPROPRIÉS
Les tests « Trouble in Toyland » montrent qu'au moins un produit actuel – Kumma de FoloToy – est disposé à parler en détail de pratiques sexuelles et à donner des indications concrètes sur des objets dangereux comme les couteaux et les allumettes. Plusieurs médias ont rapporté indépendamment que FoloToy a arrêté temporairement la vente après que ces dialogues ont été rendus publics.
PROUVÉ : LES JOUETS INTELLIGENTS ONT DÉJÀ MIS EN DANGER DES MILLIONS DE DONNÉES D'ENFANTS
Le cas CloudPets montre que les peluches connectées ne sont pas seulement théoriquement non sécurisées : une base de données non sécurisée a rendu publiques les données d'environ 584 000 comptes et des liens vers plus de deux millions de messages vocaux accessibles. De grands détaillants comme Amazon, Walmart et Target ont ensuite retiré CloudPets de leur assortiment après qu'il soit apparu que des failles de sécurité graves n'avaient pas été corrigées.
Source: dasspielzeug.de
Des initiatives comme 'Safe Kids' s'engagent pour la sécurité des enfants dans la manipulation des jouets et de la technologie.
PROUVÉ : LES JOUETS ÉLECTRONIQUES PEUVENT AFFRAIBLIR L'INTERACTION PARENT-ENFANT
L'American Academy of Pediatrics (AAP) souligne dans son rapport « Selecting Appropriate Toys for Young Children in the Digital Era » que des jouets simples et polyvalents ainsi qu'un jeu imaginatif partagé soutiennent mieux le développement que des produits électroniques complexes. Dans leurs informations destinées aux parents, l'AAP recommande explicitement des jouets classiques non électroniques et met en garde contre l'utilisation de jouets à écran ou de haute technologie comme substituts à l'interaction interpersonnelle.
INCONNU : EFFETS À LONG TERME SUR LA PSYCHÉ ET LES RELATIONS
L'UNICEF et le Conseil de l'Europe soulignent que nous savons encore très peu de choses sur l'impact à long terme de compagnons IA sur l'estime de soi, le développement émotionnel et l'empathie, lorsque les enfants les traitent comme des amis pendant des années. Il existe certes des rapports de cas isolés comme le rapport d'expérience avec Grem ou les réactions à la fin de Moxie, mais à peine des études systématiques à long terme.
FAUX OU TROMPEUR : « LES JOUETS IA SONT SOIT TOUS INTERDITS, SOIT TOUS PÉDAGOGIQUEMENT GÉNIAUX »
Il n'est pas vrai que tous les jouets IA et connectés sont illégaux par nature. Certains produits comme My Friend Cayla ont été interdits car ils étaient légalement considérés comme des dispositifs d'écoute déguisés, d'autres ont été retirés du marché car des failles de sécurité n'ont pas été corrigées. De même, il n'est pas prouvé que les jouets IA préparent automatiquement mieux les enfants à l'avenir numérique que les jouets classiques. L'AAP ne voit aucune preuve que les jouets numériques ou basés sur l'IA favorisent mieux les objectifs de développement des jeunes enfants que des matériaux de jeu simples et ouverts.
Réactions & contre positions
Fairplay et d'autres organisations soutiennent que les jouets IA sapent les besoins fondamentaux du développement : les enfants apprennent par l'exploration ouverte, par l'ennui et par de véritables relations – pas par des compagnons omniscients qui répondent immédiatement à chaque question et simulent des émotions. Dans leur avis sur la période des fêtes, ils mettent en garde contre le fait que les jouets IA apportent directement dans la chambre des enfants les problèmes documentés des chatbots classiques – tels que des contenus explicites, l'incitation à des comportements à risque ou une utilisation excessive.
Source: bsi.bund.de
L'Office fédéral de la sécurité de l'information (BSI) propose des informations précieuses sur l'utilisation sûre des appareils connectés pour les enfants.