OpenAI推出增强的青少年安全措施和ChatGPT的家长控制功能

简要

OpenAI 正在通过定制互动、实施适龄政策以及引入家长控制来管理使用和应对困扰，从而增强 ChatGPT 对青少年的安全性。

OpenAI，一个人工智能研究机构，宣布了旨在增强青少年用户安全性的更新

该公司解释说，与15岁青少年的ChatGPT互动应与与成年人互动有所不同，并且正在开发一个长期系统，以评估用户是否超过或低于18岁，以便相应地调整体验。

被识别为未满18岁的用户将被引导至一个具有适龄政策的ChatGPT体验，其中包括屏蔽露骨的性内容，并且在极少数严重困扰的情况下，可能会涉及执法部门以确保安全。

在无法自信确定年龄或信息不完整的情况下，该平台默认为未满18岁的体验，同时为成年人提供验证年龄的方法，以访问成人功能。

在此期间，家长控制预计将是家庭管理 ChatGPT 在家使用的最有效方法。

这些控制措施预计将在本月底之前可用，将允许父母与青少年的账户链接，前提是青少年至少13岁，使用简单的电子邮件邀请。

家长将能够根据青少年特定行为规则指导ChatGPT如何回应他们的青少年，管理启用或禁用的功能——包括记忆和聊天历史——并在系统检测到他们的青少年经历急性痛苦时收到通知。

在极少数紧急情况下，如果无法联系到父母，执法部门可能会介入，专家指导此功能以维护父母与青少年之间的信任。此外，父母可以设置黑暗时间，在此期间他们的青少年无法访问 ChatGPT。这些家长控制功能补充了现有平台功能，例如在延长会话期间鼓励休息的应用内提醒。

人工智能与青少年心理健康：FTC 在法律和安全问题日益严重的情况下调查聊天机器人平台

今年夏天关于人工智能在心理健康事件中作用的一系列令人担忧的报告浮出水面，同时也伴随着日益增加的监管审查和持续的法律行动。

针对Character.AI和OpenAI提起的诉讼声称，他们的平台在关键时刻未能提供足够的支持，从而导致青少年自杀和自残。对此，美国联邦贸易委员会(FTC)已开始调查主要科技公司如何设计和监管作为伴侣市场推广的AI聊天机器人，特别是针对年轻用户。

尽管有这些努力，各种聊天机器人选项的广泛可用性，包括开源和私有模型，意味着解决这些风险仍然是一个复杂而持久的挑战。