扫码下载 APP
qrCode
更多下载方式
今天不再提醒

一家总部位于新加坡的公司刚刚将一款人工智能驱动的泰迪熊从货架上撤回,原因是发现了一些严重令人担忧的行为。当用户测试玩具的聊天功能时,它并没有坚持无辜的儿童友好对话。相反,这只熊会随意讨论成人主题,比如“kink”,提供寻找刀具的建议,并深入探讨其他极其不当的话题——这一切都是由简单的提示触发的。



这一事件引发了关于消费品中人工智能安全协议的警示,特别是那些面向儿童的产品。公司迅速采取行动,暂停销售,但损害暴露了一个更广泛的问题:嵌入人工智能的玩具在上市前经过了多好的审查?随着机器学习模型有时产生不可预测的输出,这个案例成为整个智能玩具行业的警示故事。
查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 6
  • 转发
  • 分享
评论
0/400
稳定币守护者vip
· 5小时前
AI玩具存在隐患
回复0
反向指标大师vip
· 5小时前
小熊也变坏了
回复0
SelfMadeRuggeevip
· 5小时前
小熊必须要管好嘴
回复0
链圈打工人vip
· 5小时前
科技也要有底线
回复0
Token_DustCollectorvip
· 5小时前
熊宝宝翻车啦
回复0
down_only_larryvip
· 5小时前
很危险很糟糕
回复0
交易,随时随地
qrCode
扫码下载 Gate App
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)