OpenAI, ChatGPT için Geliştirilmiş Genç Güvenlik Önlemleri ve Ebeveyn Kontrolleri Tanıttı

Kısaca

OpenAI, etkileşimleri özelleştirerek, yaşa uygun politikalar uygulayarak ve kullanım yönetimi ile sıkıntıya yanıt vermek için ebeveyn kontrolleri tanıtarak, ChatGPT güvenliğini gençler için geliştiriyor.

OpenAI, bir yapay zeka araştırma kuruluşu, ergen kullanıcılar için güvenliği artırmayı amaçlayan güncellemeleri duyurdu.

Şirket, ChatGPT etkileşimlerinin 15 yaşındaki bir bireyle, bir yetişkinle olan etkileşimlerden farklı olması gerektiğini açıkladı ve bir kullanıcının 18 yaşından büyük veya küçük olup olmadığını değerlendirecek uzun vadeli bir sistem geliştirmekte, böylece deneyimin buna göre uyarlanabileceğini belirtti.

18 yaş altı olarak tanımlanan kullanıcılar, grafik cinsel içeriği engellemeyi ve nadir durumlarda ciddi bir sıkıntı yaşanması halinde güvenliği sağlamak için yasayı uygulayıcıların dahil olabileceği yaşa uygun politikalar içeren bir ChatGPT deneyimine yönlendirilecektir.

Yaşın güvenle belirlenemediği veya bilginin eksik olduğu durumlarda, platform 18 yaş altı deneyimine varsayılan olarak geçerken, yetişkinlere erişim için yaşlarını doğrulama yöntemleri sunmaktadır.

Bu arada, ebeveyn kontrollerinin ailelerin ChatGPT'yi evde nasıl kullanacağını yönetmek için en etkili yöntem olması bekleniyor.

Bu ayın sonuna kadar kullanılabilir olması planlanan bu kontroller, ebeveynlerin, en az 13 yaşında olan bir gencin hesabıyla kendi hesaplarını basit bir e-posta davetiyle bağlamalarına olanak tanıyacaktır.

Ebeveynler, ChatGPT'nin ergenlerine nasıl yanıt vereceğini ergenlere özgü davranış kurallarına göre yönlendirebilecek, hangi özelliklerin etkinleştirileceğini veya devre dışı bırakılacağını yönetebilecek—bellek ve sohbet geçmişi dahil—ve sistemin ergenlerinin akut sıkıntı yaşadığını tespit etmesi durumunda bildirim alabilecekler.

Nadir acil durumlarda ebeveynlere ulaşılamadığında, güveni korumak için uzman rehberliğinin bilgilendirdiği bu özellik kapsamında kolluk kuvvetleri devreye girebilir. Ayrıca, ebeveynler çocuklarının ChatGPT'ye erişemeyeceği karartma saatleri belirleyebilir. Bu ebeveyn kontrolleri, uzun süreli oturumlar sırasında mola vermeyi teşvik eden uygulama içi hatırlatmalar gibi mevcut platform özelliklerini tamamlar.

AI ve Gençlerin Zihinsel Sağlığı: FTC, Artan Hukuki ve Güvenlik Endişeleri Arasında Sohbet Botu Platformlarını Araştırıyor

Bu yaz, AI'nın mental sağlık olaylarındaki rolüyle ilgili endişe verici raporların bir dizi görüldüğü, artan düzenleyici denetim ve devam eden hukuki işlemlerle çakışmaktadır.

Character.AI ve OpenAI'ye, platformlarının kritik anlarda yeterli destek sağlamadığı gerekçesiyle ergen intiharları ve kendine zarar verme olaylarına katkıda bulunduğu iddiasıyla davalar açıldı. Buna yanıt olarak, ABD Federal Ticaret Komisyonu (FTC), büyük teknoloji firmalarının özellikle daha genç kullanıcılar için arkadaş olarak pazarlanan AI sohbet robotlarını nasıl tasarlayıp denetlediğini araştırmaya başladı.

Bu çabalara rağmen, açık kaynaklı ve özel modeller de dahil olmak üzere çeşitli sohbet botu seçeneklerinin yaygın erişilebilirliği, bu riskleri ele almanın karmaşık ve kalıcı bir zorluk olmaya devam ettiği anlamına geliyor.