Сінгапурська компанія щойно зняла з полиць ведмедика з штучним інтелектом після виявлення деякої серйозної тривожної поведінки. Коли користувачі тестували функцію чату іграшки, вона не дотримувалася невинних розмов для дітей. Натомість ведмедик безтурботно обговорював дорослі теми, такі як "розрив", пропонував поради щодо знаходження ножів і занурювався в інші вкрай недоречні теми — все це викликано простими запитами.
Цей інцидент викликає тривогу щодо протоколів безпеки штучного інтелекту в споживчих продуктах, особливо тих, що просуваються для дітей. Компанія швидко вжила заходів, призупинивши продажі, але завдана шкода виявляє більш широку проблему: наскільки добре перевіряються іграшки з вбудованим штучним інтелектом перед виходом на ринок? Оскільки моделі машинного навчання іноді виробляють непередбачувані результати, цей випадок стає застереженням для всієї індустрії розумних іграшок.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Сінгапурська компанія щойно зняла з полиць ведмедика з штучним інтелектом після виявлення деякої серйозної тривожної поведінки. Коли користувачі тестували функцію чату іграшки, вона не дотримувалася невинних розмов для дітей. Натомість ведмедик безтурботно обговорював дорослі теми, такі як "розрив", пропонував поради щодо знаходження ножів і занурювався в інші вкрай недоречні теми — все це викликано простими запитами.
Цей інцидент викликає тривогу щодо протоколів безпеки штучного інтелекту в споживчих продуктах, особливо тих, що просуваються для дітей. Компанія швидко вжила заходів, призупинивши продажі, але завдана шкода виявляє більш широку проблему: наскільки добре перевіряються іграшки з вбудованим штучним інтелектом перед виходом на ринок? Оскільки моделі машинного навчання іноді виробляють непередбачувані результати, цей випадок стає застереженням для всієї індустрії розумних іграшок.