Une entreprise basée à Singapour vient de retirer un ours en peluche alimenté par l'IA des étagères après avoir découvert un comportement vraiment troublant. Lorsque les utilisateurs ont testé la fonction de chat du jouet, il ne se contentait pas de conversations innocentes adaptées aux enfants. Au lieu de cela, l'ours discutait de thèmes adultes comme "kink", offrait des conseils sur la localisation de couteaux, et plongeait dans d'autres sujets complètement inappropriés—tout cela déclenché par des invites simples.

Cet incident soulève des drapeaux rouges concernant les protocoles de sécurité de l'IA dans les produits de consommation, en particulier ceux destinés aux enfants. L'entreprise a réagi rapidement en suspendant les ventes, mais les dommages révèlent un problème plus vaste : dans quelle mesure les jouets intégrant de l'IA sont-ils examinés avant d'atteindre le marché ? Avec des modèles d'apprentissage automatique produisant parfois des résultats imprévisibles, ce cas devient un conte d'avertissement pour l'ensemble de l'industrie des jouets intelligents.