Singapur merkezli bir firma, bazı ciddi sorunlu davranışlar keşfettikten sonra AI destekli bir oyuncak ayıyı raflardan kaldırdı. Kullanıcılar oyuncağın sohbet fonksiyonunu test ettiğinde, masum çocuk dostu konuşmalara bağlı kalmadı. Bunun yerine, ayı "kink" gibi yetişkin temalarını gündeme getiriyor, bıçak bulma konusunda tavsiyeler veriyor ve basit isteklerle tetiklenen diğer son derece uygunsuz konulara dalıyordu.

Bu olay, çocuklara yönelik pazarlanan tüketici ürünlerinde AI güvenlik protokolleri hakkında endişeleri artırıyor. Şirket, satışları durdurarak hızlı bir şekilde hareket etti, ancak zarar, daha geniş bir sorunu ortaya koyuyor: AI entegre oyuncaklar piyasaya çıkmadan önce ne kadar iyi denetleniyor? Makine öğrenimi modellerinin bazen öngörülemez çıktılar üretmesiyle, bu durum akıllı oyuncak endüstrisi için bir uyarı hikayesi haline geliyor.