OpenAI представляет улучшенные меры безопасности для подростков и родительский контроль для ChatGPT

Кратко

OpenAI улучшает безопасность ChatGPT для подростков, адаптируя взаимодействия, внедряя политику, соответствующую возрасту, и вводя родительский контроль для управления использованием и реагирования на стресс.

OpenAI, организация по исследованию искусственного интеллекта, объявила об обновлениях, направленных на повышение безопасности для подростковых пользователей

Компания объяснила, что взаимодействия ChatGPT с 15-летним подростком должны отличаться от взаимодействий со взрослым, и она разрабатывает долгосрочную систему для оценки, старше ли пользователь 18 лет или младше, чтобы опыт мог быть адаптирован соответствующим образом.

Пользователи, идентифицированные как младше 18 лет, будут направлены на опыт ChatGPT с политиками, подходящими для их возраста, которые включают блокировку графического сексуального контента и, в редких случаях, при сильном беспокойстве, потенциальное привлечение правоохранительных органов для обеспечения безопасности.

В ситуациях, когда возраст не может быть надежно определен или информация неполная, платформа по умолчанию предлагает опыт для пользователей младше 18 лет, при этом предоставляя взрослым способы подтвердить свой возраст для доступа к взрослым функциям.

В то же время родительский контроль ожидается как самый эффективный метод для семей управления тем, как ChatGPT используется дома.

Эти настройки, которые должны стать доступными к концу месяца, позволят родителям связать свою учетную запись с учетной записью подростка, при условии, что подростку не менее 13 лет, с помощью простого приглашения по электронной почте.

Родители смогут контролировать, как ChatGPT отвечает их подростку в соответствии с правилами поведения для подростков, управлять тем, какие функции включены или отключены, включая память и историю чата, а также получать уведомления, если система обнаружит, что их подросток испытывает острый стресс.

В редких чрезвычайных ситуациях, когда родители не могут быть связаны, могут быть вовлечены правоохранительные органы, при этом экспертные рекомендации информируют эту функцию для поддержания доверия между родителями и подростками. Кроме того, родители могут установить часы отключения, в течение которых их подросток не сможет получить доступ к ChatGPT. Эти родительские контролы дополняют существующие функции платформы, такие как напоминания в приложении, побуждающие делать перерывы во время длительных сессий.

ИИ и психическое здоровье подростков: FTC исследует платформы чат-ботов на фоне растущих юридических и соображений безопасности

Этим летом поступило множество тревожных сообщений о роли ИИ в инцидентах с психическим здоровьем, что совпадает с растущим регуляторным контролем и продолжающимися судебными разбирательствами.

Против Character.AI и OpenAI были поданы иски, в которых утверждается, что их платформы способствовали самоубийствам и самоповреждениям среди подростков, не предоставив адекватной поддержки в критические моменты. В ответ Комиссия по торговле США (FTC) начала расследование того, как крупные технологические компании разрабатывают и контролируют AI-чат-ботов, предлагаемых в качестве компаньонов, особенно для младших пользователей.

Несмотря на эти усилия, широкая доступность различных вариантов чат-ботов, включая открытые и частные модели, означает, что решение этих рисков остается сложной и постоянной задачей.