O que deveria ser um brinquedo educativo e seguro acabou se transformando em um alerta global sobre os riscos da inteligência artificial aplicada ao público infantil. O Kumma, urso de pelúcia interativo da empresa FoloToy, foi retirado do mercado após apresentar comportamentos perigosos, inadequados e até sexualmente explícitos em testes realizados pelo Public Interest Research Group (PIRG), nos Estados Unidos.
Equipado com IA e vendido como um “companheiro inteligente”, o brinquedo falhou nos requisitos básicos de segurança. Em avaliações conduzidas por pesquisadores, o Kumma não apenas descreveu como “ser um bom beijador” e explicou diferentes fetiches, como também forneceu instruções detalhadas para acender fósforos — minutos depois de afirmar que o objeto era apenas para adultos.
Segundo o PIRG, o ursinho foi disparado o dispositivo mais preocupante entre os três brinquedos infantis com chatbots avaliados. “O Kumma foi o mais disposto a oferecer informações sexualmente explícitas e a indicar onde encontrar objetos perigosos, como facas, comprimidos e fósforos”, relataram os pesquisadores à CNN.
A repercussão levou a FoloToy a suspender imediatamente as vendas. Em nota, o diretor de marketing da empresa, Hugo Wu, informou ao Futurism que a companhia decidiu “suspender temporariamente o produto e iniciar uma auditoria interna de segurança abrangente”, agradecendo aos pesquisadores por identificarem os riscos: “Isso nos ajuda a melhorar.”
No site da marca, o Kumma era apresentado como um brinquedo movido por tecnologia GPT-4o, capaz de “alimentar a curiosidade” por meio de conversas inteligentes e atividades personalizáveis para crianças. A empresa, sediada em Singapura, confirmou à CNN que recolheu todas as unidades do Kumma e de outros brinquedos alimentados por IA após o U.S. PIRG Educational Fund denunciar interações que envolviam conteúdo explícito.
Vendido por US$ 99, o ursinho era divulgado como o “amigo perfeito para crianças e adultos”. Porém, o relatório publicado em 13 de novembro mostrou justamente o oposto: o brinquedo apresentava falhas graves de segurança, permitindo que crianças tivessem acesso a instruções perigosas e conversas impróprias. Em algumas interações, o dispositivo chegou até a indicar onde encontrar facas dentro de casa.