Pelúcia com IA é retirada do mercado após dar respostas sexuais

Testes mostram que o urso Kumma ensinou fetiches, posições sexuais e até onde encontrar objetos perigosos, levando a FoloToy a suspender vendas e iniciar auditoria

Kumma, o urso inteligente da FoloToy, é recolhido após relatório apontar falhas graves de segurança infantil - (crédito: Reprodução / FoloToy)

Com a promessa de ser um ursinho inteligente e interativo, o Kumma acabou se tornando o centro de uma crise para a empresa FoloToy. O brinquedo de pelúcia equipado com IA foi retirado do mercado após demonstrar comportamentos considerados perigosos e sexualmente explícitos em testes conduzidos pelo Public Interest Research Group (PIRG). Os pesquisadores avaliaram três dispositivos infantis com chatbots e, entre eles, o Kumma foi o que ofereceu as respostas mais preocupantes.

Durante as interações monitoradas, o urso chegou a ensinar como "ser um bom beijador", explicar diferentes fetiches e até alternar orientações de segurança — primeiro alertando que fósforos são destinados a adultos, e, logo em seguida, descrever detalhadamente como acendê-los. "Dos brinquedos que testamos, o Kumma da FoloToy foi o mais disposto a oferecer informações sexualmente explícitas e respondeu perguntas sobre onde encontrar objetos perigosos, como facas, comprimidos e fósforos", afirmaram os pesquisadores á CNN.

A divulgação do estudo levou a empresa a interromper as vendas. Hugo Wu, diretor de marketing da FoloToy, disse ao portal Futurism que a companhia “decidiu suspender temporariamente as vendas do produto e iniciar uma auditoria interna de segurança abrangente”. “Agradecemos aos pesquisadores por apontarem riscos potenciais. Isso nos ajuda a melhorar”, acrescentou.

No próprio site, a FoloToy afirma que o brinquedo funciona com o GPT-4o, da OpenAI, e promete “alimentar a curiosidade por meio de atividades envolventes e conversas reflexivas”, oferecendo ainda controles de personalização para os responsáveis. A empresa, sediada em Singapura, confirmou à CNN que recolheu todas as unidades do Kumma e outros brinquedos com IA após o U.S. PIRG Educational Fund manifestar preocupação com interações envolvendo fetiches e descrições explícitas.

O urso, vendido por US$ 99, também é descrito no site como um companheiro ideal: “Kumma, nosso adorável urso, combina inteligência artificial avançada com recursos interativos e amigáveis, tornando-o o amigo perfeito para crianças e adultos”. A avaliação do PIRG, publicada em 13 de novembro, mostrou o oposto: o brinquedo apresentava fragilidades sérias na proteção contra conteúdos impróprios. Em determinados diálogos, chegou a indicar onde encontrar facas dentro de casa.

O relatório informa que, após a introdução de um tema sexual pelos pesquisadores, o Kumma “expandiu simultaneamente os detalhes gráficos e introduziu novos conceitos sexuais por conta própria”. Posteriormente, avançou para tópicos “ainda mais explícitos”, incluindo explicações de posições sexuais, instruções de amarração de parceiro e dramatizações envolvendo professores, alunos, pais e filhos — cenários iniciados pelo próprio brinquedo. 

Embora reconheçam que crianças dificilmente usariam o termo “perversão”, os autores destacaram que foi “surpreendente que o brinquedo estivesse tão disposto a falar longamente sobre esses tópicos e a introduzir continuamente conceitos novos e explícitos”.

Em comunicado, a PIRG afirmou que a OpenAI suspendeu o desenvolvedor por violar as políticas internas. "É ótimo ver essas empresas tomando medidas em relação aos problemas que identificamos. No entanto, os brinquedos com IA permanecem amplamente não regulamentados e ainda existem muitos disponíveis para compra hoje", disse R.J. Cross, coautora do relatório, à CNN. “Remover um produto problemático do mercado é um bom passo, mas está longe de ser uma solução sistêmica."

Por ora, a FoloToy mantém a auditoria de segurança em andamento enquanto o Kumma permanece fora das prateleiras.

Por Bianca Lucca

postado em 21/11/2025 12:39 / atualizado em 21/11/2025 12:39