OpenAIはChatGPTのために強化されたティーンの安全対策と親のコントロールを導入しました

概要

OpenAIは、交流を調整し、年齢に適したポリシーを実施し、使用を管理し、困難に対応するための親のコントロールを導入することで、ティーンエイジャー向けのChatGPTの安全性を強化しています。

OpenAI、人工知能研究機関は、ティーンエイジャーのユーザーの安全性を向上させることを目的としたアップデートを発表しました。

その会社は、15歳のユーザーとのChatGPTのインタラクションは大人とのものとは異なるべきであると説明し、ユーザーが18歳以上か未満かを評価するための長期的なシステムを開発しており、体験をそれに応じて調整できるようにするとのことです。

18歳未満と識別されたユーザーは、グラフィックな性的コンテンツをブロックし、まれに深刻な苦痛のケースには安全確保のために法執行機関を関与させる可能性がある年齢に適したポリシーを持つChatGPT体験に誘導されます。

年齢が確実に判断できない状況や情報が不完全な場合、プラットフォームは18歳未満の体験をデフォルトとし、大人には成人向け機能にアクセスするための年齢確認方法を提供します。

その間、親の管理機能は家庭でChatGPTの使用を管理するための最も効果的な方法であると考えられています。

これらのコントロールは、月末までに利用可能になる予定で、親がティーンのアカウントと自分のアカウントをリンクできるようになります。ただし、ティーンは少なくとも13歳である必要があり、簡単なメール招待を使用します。

親は、ティーン特有の行動ルールに従ってChatGPTがティーンにどのように応答するかをガイドし、メモリやチャット履歴を含む、どの機能が有効または無効になっているかを管理し、システムがティーンが急性の苦痛を経験していることを検知した場合に通知を受け取ることができます。

稀な緊急時に親に連絡が取れない場合、法執行機関が関与する可能性があり、専門家のガイダンスがこの機能に情報を提供し、親とティーンの間の信頼を維持します。さらに、親はティーンがChatGPTにアクセスできないブラックアウト時間を設定できます。これらの親の管理機能は、長時間のセッション中に休憩を促すアプリ内リマインダーなどの既存のプラットフォーム機能を補完します。

AIとティーンのメンタルヘルス：FTCが急増する法的および安全上の懸念の中でチャットボットプラットフォームを調査

今夏は、メンタルヘルスの事件におけるAIの役割に関する一連の懸念される報告が見られ、規制の厳格化や進行中の法的措置と重なっています。

Character.AIとOpenAIに対して、彼らのプラットフォームが思春期の自殺や自己傷害に寄与したと主張する訴訟が提起されています。この訴訟は、重要な瞬間に十分なサポートを提供していないことに起因しています。これに応じて、米国連邦取引委員会(FTC)は、特に若年ユーザー向けに販売されるAIチャットボットを主要なテクノロジー企業がどのように設計し、監視しているかを調査し始めました。

これらの努力にもかかわらず、オープンソースやプライベートモデルを含むさまざまなチャットボットの選択肢が広く利用可能であるため、これらのリスクに対処することは依然として複雑で持続的な課題です。