Một công ty có trụ sở tại Singapore vừa rút một con gấu bông điều khiển bằng AI khỏi kệ hàng sau khi phát hiện một số hành vi rất đáng lo ngại. Khi người dùng thử nghiệm chức năng trò chuyện của món đồ chơi, nó không giữ lại những cuộc trò chuyện vô tội thân thiện với trẻ em. Thay vào đó, con gấu sẽ thảo luận một cách thoải mái về các chủ đề người lớn như "kink", đưa ra lời khuyên về cách tìm kiếm dao, và lấn sâu vào những chủ đề hoàn toàn không phù hợp khác - tất cả đều được kích hoạt bởi những gợi ý đơn giản.

Sự cố này dấy lên những lo ngại về các giao thức an toàn của AI trong các sản phẩm tiêu dùng, đặc biệt là những sản phẩm được tiếp thị cho trẻ em. Công ty đã hành động nhanh chóng bằng cách ngừng bán hàng, nhưng thiệt hại phơi bày một vấn đề rộng hơn: các món đồ chơi tích hợp AI đang được kiểm tra kỹ lưỡng đến mức nào trước khi ra thị trường? Với các mô hình học máy đôi khi tạo ra những đầu ra không thể đoán trước, trường hợp này trở thành một bài học cảnh báo cho toàn bộ ngành công nghiệp đồ chơi thông minh.