AIモデルリスク評価:ティーンエイジャー版は依然として高リスクであり、安全への懸念を引き起こしています

【通貨界】Common Sense Media のあるテクノロジー企業の AI モデルに関するリスク評価は、その "13 歳以下 " と "ティーンエイジャー体験 " の 2 つのレベルが本質的に安全機能を追加した大人向けのバージョンであることを発見しました。不適切なコンテンツに接触する可能性があり、特定の年齢に対する設計が不足しているため、"高リスク" としてマークされています。この報告書は、安全でないメンタルヘルスに関する提案への懸念を強調し、最近の AI に関連するティーンエイジャーの自殺事件に言及しました。同社は 18 歳未満のユーザー向けの安全対策を擁護しましたが、特定の応答が期待通りに機能しなかったことを認めており、追加の安全対策が必要であるとしています。この分析報告書が発表される中、別のテクノロジー企業が AI 駆動の音声アシスタントにこの AI モデルを導入することを検討しており、若いユーザーの潜在的なリスクが増大しています。