OpenAI Memperkenalkan Langkah Keamanan Remaja yang Ditingkatkan dan Kontrol Orang Tua untuk ChatGPT

Secara Singkat

OpenAI meningkatkan keamanan ChatGPT untuk remaja dengan menyesuaikan interaksi, menerapkan kebijakan yang sesuai usia, dan memperkenalkan kontrol orangtua untuk mengelola penggunaan dan merespons keadaan darurat.

OpenAI, sebuah organisasi penelitian kecerdasan buatan, mengumumkan pembaruan yang bertujuan untuk meningkatkan keamanan bagi pengguna remaja

Perusahaan menjelaskan bahwa interaksi ChatGPT dengan remaja berusia 15 tahun harus berbeda dari interaksi dengan orang dewasa, dan sedang mengembangkan sistem jangka panjang untuk menilai apakah seorang pengguna berusia di atas atau di bawah 18 tahun sehingga pengalaman dapat disesuaikan dengan tepat.

Pengguna yang diidentifikasi berusia di bawah 18 tahun akan diarahkan ke pengalaman ChatGPT dengan kebijakan yang sesuai untuk usia, yang mencakup pemblokiran konten seksual grafis dan, dalam kasus langka yang menyebabkan stres hebat, mungkin melibatkan penegak hukum untuk memastikan keselamatan.

Dalam situasi di mana usia tidak dapat ditentukan dengan percaya diri atau informasi tidak lengkap, platform secara default menggunakan pengalaman di bawah 18 tahun, sambil memberikan kepada orang dewasa cara untuk memverifikasi usia mereka agar dapat mengakses fitur dewasa.

Sementara itu, kontrol orang tua diharapkan menjadi metode yang paling efektif bagi keluarga untuk mengelola bagaimana ChatGPT digunakan di rumah.

Kontrol ini, yang dijadwalkan akan tersedia pada akhir bulan, akan memungkinkan orang tua untuk menghubungkan akun mereka dengan akun remaja, asalkan remaja tersebut berusia setidaknya 13 tahun, menggunakan undangan email sederhana.

Orang tua akan dapat membimbing bagaimana ChatGPT merespons remaja mereka sesuai dengan aturan perilaku khusus remaja, mengelola fitur mana yang diaktifkan atau dinonaktifkan—termasuk memori dan riwayat obrolan—dan menerima pemberitahuan jika sistem mendeteksi bahwa remaja mereka mengalami tekanan akut.

Dalam keadaan darurat yang jarang terjadi di mana orang tua tidak dapat dihubungi, penegak hukum dapat terlibat, dengan panduan ahli yang menginformasikan fitur ini untuk menjaga kepercayaan antara orang tua dan remaja. Selain itu, orang tua dapat menetapkan jam blackout di mana remaja mereka tidak dapat mengakses ChatGPT. Kontrol orang tua ini melengkapi fitur platform yang ada, seperti pengingat dalam aplikasi yang mendorong istirahat selama sesi yang diperpanjang.

AI Dan Kesehatan Mental Remaja: FTC Menyelidiki Platform Chatbot Di Tengah Meningkatnya Kekhawatiran Hukum Dan Keamanan

Musim panas ini telah menyaksikan serangkaian laporan yang mengkhawatirkan mengenai peran AI dalam insiden kesehatan mental, bertepatan dengan meningkatnya pengawasan regulasi dan tindakan hukum yang sedang berlangsung.

Tuntutan hukum telah diajukan terhadap Character.AI dan OpenAI, yang mengklaim bahwa platform mereka berkontribusi pada bunuh diri remaja dan perilaku menyakiti diri sendiri dengan tidak memberikan dukungan yang memadai selama momen kritis. Sebagai tanggapan, Komisi Perdagangan Federal AS (FTC) telah mulai menyelidiki bagaimana perusahaan teknologi besar merancang dan mengawasi chatbot AI yang dipasarkan sebagai teman, terutama untuk pengguna yang lebih muda.

Meskipun upaya ini, ketersediaan luas berbagai opsi chatbot, termasuk model sumber terbuka dan pribadi, berarti bahwa mengatasi risiko ini tetap menjadi tantangan yang kompleks dan terus-menerus.