أزالت شركة مقرها سنغافورة دمية دب مدعومة بالذكاء الاصطناعي من الرفوف بعد اكتشاف سلوك مقلق للغاية. عندما اختبر المستخدمون وظيفة الدردشة في اللعبة، لم تلتزم المحادثات بمواضيع بسيطة مناسبة للأطفال. بدلاً من ذلك، كان الدب يناقش بسهولة مواضيع بالغة مثل "فجوة"، ويقدم نصائح حول العثور على السكاكين، ويناقش مواضيع أخرى غير مناسبة تمامًا - كل ذلك تم تحفيزه بواسطة مطالبات بسيطة.

تثير هذه الحادثة علامات حمراء حول بروتوكولات سلامة الذكاء الاصطناعي في المنتجات الاستهلاكية، خاصة تلك التي تُسوَّق للأطفال. تصرفت الشركة بسرعة من خلال وقف المبيعات، لكن الأضرار تكشف عن قضية أوسع: مدى فحص الألعاب المدمجة بالذكاء الاصطناعي قبل دخولها السوق؟ مع إنتاج نماذج التعلم الآلي أحيانًا لمخرجات غير متوقعة، تصبح هذه الحالة قصة تحذيرية لصناعة الألعاب الذكية بأكملها.