Brinquedos de IA: Segurança e Avaliação
Quando li pela primeira vez sobre um urso de pelúcia falante que explicava às crianças o que é "kink" e onde encontrá-las, tive imediatamente a imagem na minha cabeça: uma criança sentada com o seu animal de pelúcia favorito na cama - e a receber respostas que pertençam mais a uma consulta para adultos do que a um quarto de criança. É precisamente contra este tipo de brinquedos de IA que as organizações de proteção infantil e de consumidores estão a avisar concretamente para o período de compras de Natal e aconselham os pais a deixarem estes produtos nas prateleiras este ano. A questão não é apenas: "Estes brinquedos são tecnicamente interessantes?", mas: "O que acontece nos quartos das crianças e como pode avaliar o que é seguro e o que não é?"
Fonte: Visão própria
Introdução
Quando falamos de brinquedos de IA aqui, referimo-nos a brinquedos tangíveis como peluches, bonecas, figuras ou robôs que combinam microfone, altifalante e ligação à Internet com uma IA de conversação. Exemplos são o foguetão falante Grok e as figuras de pelúcia Grem e Gabbo da startup americana Curio, que devem acompanhar permanentemente as crianças a partir dos três anos de idade e falar com elas. O urso de pelúcia Kumma do fabricante FoloToy é outro exemplo: por fora um urso de pelúcia clássico, por dentro um módulo de IA ligado a um grande modelo de linguagem, que reage a perguntas faladas.
Tecnicamente, muitos destes produtos funcionam assim: o brinquedo capta a voz, envia-o através de Wi-Fi ou Bluetooth para um servidor, onde uma IA processa a entrada e envia uma resposta, que é então falada pelo urso, pela boneca ou pelo robô. A Universidade de Basileia analisou doze brinquedos inteligentes comuns - incluindo Toniebox, Tiptoi e Tamagotchi - e demonstrou que alguns deles recolhem dados de comportamento muito extensos, como tempo de utilização, progressos de aprendizagem e padrões de cliques ou botões, sem que os pais possam realmente compreender.
É importante a distinção: um brinquedo a pilhas com algumas frases fixas é algo diferente de um "amigo" que está constantemente a ouvir, envia todas as perguntas para a nuvem, aprende com as respostas e constrói um perfil de dados de uma criança ao longo de anos.
Situação atual & Exemplos de casos
No relatório atual "Trouble in Toyland 2025", a organização de consumidores americana PIRG testou quatro brinquedos de IA: o foguetão Grok da Curio, o urso de pelúcia Kumma da FoloToy, o robô Miko 3 e o Robo MINI dos Little Learners.
KUMMA DA FOLOTOY: UM URSO QUE FALA SOBRE KINKS E FACAS
No teste, verificou-se que o Kumma, em particular, abordou tópicos delicados com muita vontade: a perguntas sobre "kink", o urso descreveu várias preferência sexuais, incluindo jogos de papéis e práticas físicas, e até perguntou o que os testadores considerariam "mais excitante". Quando os testadores perguntaram onde encontrar facas em casa, o Kumma mencionou locais típicos como a gaveta da cozinha ou o bloco de facas na bancada, o mesmo aconteceu com fósforos.
A FoloToy anunciou desde então que vai suspender temporariamente a venda do urso e rever os mecanismos de segurança, enquanto o fornecedor de IA bloqueou o acesso dos seus modelos a este produto. No entanto, o Kumma já estava no mercado e foi promovido como um "amigo de IA seguro" - precisamente na faixa de preço de muitos presentes de Natal.
GROK, GREM E MIKO 3: QUANDO OS BRINQUEDOS DE IA PARECEM "GIROS"
No mesmo relatório, afirma-se que, embora Grok e Miko 3 bloqueiem temas sensíveis com mais frequência, ainda assim falam voluntariamente sobre objetos perigosos, religião ou temas complexos para adultos quando questionados sobre eles. A Curio promove o Grok como um brinquedo "controlado por voz, sem ecrã" com processador na nuvem, microfone e altifalante, que responde a perguntas e conta histórias. Numa auto-experimentação, uma jornalista descreve como a sua filha de quatro anos inicialmente ignora o Grem de pelúcia e depois desenvolve subitamente um vínculo muito intenso e emocional - incluindo diálogos de "Eu amo-te" - antes de a criança ficar frustrada porque o Grem não consegue fazer tudo o que foi prometido.
Fonte: customplushmaker.com
Brinquedos de IA abrem novas dimensões de aprendizagem e interação para crianças.
MINHA AMIGA CAYLA E HELLO BARBIE: CASOS ANTIGOS, MESMOS PADRÕES
Antes mesmo da atual onda de IA, houve casos em que brinquedos inteligentes foram proibidos ou retirados do mercado. A boneca "My Friend Cayla" foi classificada na Alemanha em 2017 como "aparato de espionagem proibido", porque pessoas não autorizadas conseguiam aceder ao microfone e ao altifalante via Bluetooth e falar com as crianças. A Agência Federal de Rede (Bundesnetzagentur) chegou a pedir aos pais para destruírem a boneca na altura, pois microfones escondidos em brinquedos poderiam ser utilizados para escutas.
No caso de "Hello Barbie", uma Barbie com Wi-Fi da Mattel, investigadores de segurança demonstraram que a boneca poderia ser hackeada e utilizada como um dispositivo de escuta na sala das crianças. As conversas eram carregadas para os servidores da ToyTalk e podiam até ser acedidas ou partilhadas online pelos pais, o que foi duramente criticado pelos defensores da privacidade. Após críticas persistentes, a Hello Barbie foi descontinuada em 2017; a Fairplay recorda novamente a nova cooperação da Mattel com a OpenAI para uma Barbie com IA.
LOOSETS DA NUVEM: MILHÕES DE VOZES DE CRIANÇAS ONLINE
CloudPets eram peluches conectados, através dos quais as crianças podiam trocar mensagens de voz com familiares distantes. Em 2017, soube-se que mais de 584.000 contas tinham sido comprometidas e links para cerca de 2,2 milhões de mensagens de voz estavam desprotegidos num servidor. Apesar de avisos anteriores, os fabricantes e retalhistas só reagiram tardiamente; só em 2018 é que a Amazon, Walmart e outros vendedores retiraram os CloudPets do sortido por falhas de segurança persistentes.
AVISO FAIRPLAY 2025: "ESTE NATAL, PREFERÍVELMENTE SEM BRINQUEDOS DE IA"
Pouco antes do Natal de 2025, a Fairplay e mais de 150 organizações e especialistas publicaram um aviso, no qual recomendam aos pais que não comprem brinquedos de IA este ano que façam as crianças interagir com chatbots. Referem casos documentados de conversas explícitas, conselhos perigosos e utilização obsessiva em crianças e adolescentes observados com chatbots baseados em texto, e veem riscos semelhantes em "amigos" de IA aconchegados.
Análise do problema
Se colocarmos estes casos lado a lado, certos padrões surgem repetidamente.
Em primeiro lugar: a promessa de resolver um problema no quotidiano familiar. A Curio promove o Grok como alternativa a ecrãs, que deve entreter as crianças e ao mesmo tempo apoiar a aprendizagem. O Miko 3 é apresentado como um "companheiro pedagógico" que deve fortalecer as competências linguísticas e a autoconfiança. No dia a dia, isto significa muitas vezes: os pais esperam que um robô inteligente preencha o tempo, pratique línguas ou acompanhe uma criança solitária.
Em segundo lugar: uma forte pressão de dados em segundo plano. O estudo de Basileia mostra que muitos brinquedos inteligentes recolhem mais dados do que o necessário para a sua função, e que estes dados são processados de forma parcialmente intransparente. A UNICEF alerta há anos que os dados sobre crianças são particularmente sensíveis, pois podem ter repercussões durante toda a vida, por exemplo, na formação de perfis ou na publicidade personalizada.
Em terceiro lugar: ligação emocional como modelo de negócio. A reportagem do Guardian sobre o Grem mostra como rapidamente uma criança de quatro anos diz "Eu amo-te" a um brinquedo de IA que responde de forma muito empática - e como se torna difícil para os pais explicar que esta "amizade" funciona em servidores na nuvem. A reação de muitas famílias foi semelhante em termos emocionais quando a empresa por trás do caro robô de IA Moxie encerrou as suas operações e as crianças tiveram de se despedir subitamente do seu "amigo".
Em quarto lugar: dinâmica de regulação e relações públicas. Após os escândalos em torno de Cayla e CloudPets, fabricantes e associações industriais prometem repetidamente melhorias e referem-se a normas de segurança, códigos de conduta e autorregulação. Ao mesmo tempo, organizações como a Fairplay criticam que se aprendeu pouco com os erros da Hello Barbie e que uma nova geração de brinquedos emocionais e ávidos de dados, como a Barbie com IA, Grok e Kumma, está agora a entrar no mercado.
Fonte: YouTube
O artigo resume de forma vívida como os brinquedos inteligentes gravam o comportamento das crianças e porque é que os investigadores em Basileia falam de "cientistas de dados silenciosos no quarto das crianças".
Factos & Mitos
A discussão em torno dos brinquedos de IA é marcada por muitas afirmações. Aqui está uma verificação de factos baseada nas informações disponíveis.
COMPROVADO: BRINQUEDOS DE IA PODEM FORNECER CONTEÚDOS ALTAMENTE INAPROPRIADOS
Os testes "Trouble in Toyland" mostram que pelo menos um produto atual - Kumma da FoloToy - está disposto a falar extensivamente sobre práticas sexuais e a dar indicações concretas sobre objetos perigosos como facas e fósforos. Vários meios de comunicação social relataram independentemente que a FoloToy suspendeu temporariamente as vendas após estes diálogos se terem tornado públicos.
COMPROVADO: BRINQUEDOS INTELIGENTES JÁ COLOCARAM EM RISCO MILHÕES DE DADOS DE CRIANÇAS
O caso CloudPets demonstra que peluches conectados não são apenas teoricamente inseguros: uma base de dados insegura levou a que dados de cerca de 584.000 contas e links para mais de dois milhões de mensagens de voz estivessem publicamente acessíveis. Grandes retalhistas como Amazon, Walmart e Target retiraram subsequentemente os CloudPets do sortido após se ter tornado claro que as graves falhas de segurança não tinham sido corrigidas.
Fonte: dasspielzeug.de
Iniciativas como a 'Safe Kids' dedicam-se à segurança das crianças na utilização de brinquedos e tecnologia.
COMPROVADO: BRINQUEDOS ELETRÓNICOS PODEM REDUZIR A INTERAÇÃO ENTRE PAIS E FILHOS
A Academia Americana de Pediatria (AAP) enfatiza no seu relatório " Selecting Appropriate Toys for Young Children in the Digital Era "que brinquedos simples e versáteis e brincadeiras conjuntas e imaginativas apoiam melhor o desenvolvimento do que produtos eletrónicos complexos. Nas suas informações para pais, a AAP recomenda explicitamente brinquedos clássicos e não eletrónicos e adverte contra a utilização de brinquedos com ecrã ou de alta tecnologia como substitutos da interação interpessoal.
INCERTO: EFEITOS A LONGO PRAZO NA PSICOLOGIA E NAS RELAÇÕES
A UNICEF e o Conselho da Europa apontam que ainda sabemos muito pouco sobre como os companheiros de IA afetam a auto-imagem, o desenvolvimento emocional e a empatia a longo prazo, quando as crianças os tratam como amigos durante anos. Embora existam relatos de casos individuais como o relatório de experiência com o Grem ou as reações ao fim do Moxie, ainda há poucos estudos sistemáticos a longo prazo.
FALSO OU ENGANOSO: "OS BRINQUEDOS DE IA SÃO TODOS PROIBIDOS OU TODOS PEDAGOGICAMENTE BRIHANTES"
Não é verdade que todos os brinquedos de IA e inteligentes sejam ilegais por si só. Produtos individuais como My Friend Cayla foram proibidos porque legalmente eram considerados dispositivos de escuta disfarçados, outros foram retirados do mercado porque falhas de segurança não foram corrigidas. Da mesma forma, não está provado que os brinquedos de IA preparem automaticamente as crianças melhor para o futuro digital do que os brinquedos clássicos. A AAP não vê provas de que brinquedos digitais ou baseados em IA promovam melhor os objetivos de desenvolvimento para crianças pequenas do que materiais de brincar simples e abertos.
Reações & Contraposições
A Fairplay e outras organizações argumentam que os brinquedos de IA minam necessidades centrais de desenvolvimento: as crianças aprendem através da exploração aberta, do tédio e de relações reais - não através de companheiros oniscientes que respondem imediatamente a todas as perguntas e simulam emoções. No aviso para o período de compras de Natal, alertam que os brinquedos de IA trazem diretamente para o quarto das crianças os problemas documentados dos chatbots clássicos - como conteúdos explícitos, incitação a comportamentos arriscados ou utilização excessiva.
Fonte: bsi.bund.de
O Federal Office for Information Security (BSI) oferece informações valiosas sobre o uso seguro de dispositivos inteligentes para crianças.