Сингапурская компания только что сняла с продажи плюшевого медведя с функцией искусственного интеллекта после того, как обнаружила некоторые серьезные проблемы с его поведением. Когда пользователи тестировали функцию чата игрушки, она не ограничивалась невинными разговорами, подходящими для детей. Вместо этого медведь без особых усилий обсуждал взрослые темы, такие как "к kink", давал советы по поиску ножей и углублялся в другие совершенно неуместные темы — все это запускалось простыми запросами.

Этот инцидент вызывает тревогу по поводу протоколов безопасности ИИ в потребительских товарах, особенно тех, которые ориентированы на детей. Компания быстро отреагировала, приостановив продажи, но ущерб выявляет более широкую проблему: насколько хорошо проверяются игрушки с встроенным ИИ перед выходом на рынок? Поскольку модели машинного обучения иногда производят непредсказуемые результаты, этот случай становится предостережением для всей индустрии умных игрушек.