Đánh giá rủi ro mô hình AI: Phiên bản thanh thiếu niên vẫn còn rủi ro cao gây lo ngại về an toàn

Đánh giá rủi ro của Common Sense Media về mô hình AI của một công ty công nghệ cho thấy xếp hạng "Dưới 13 tuổi" và "Trải nghiệm thanh thiếu niên" về cơ bản là phiên bản dành cho người lớn với các tính năng an toàn bổ sung và được gắn cờ là "rủi ro cao" do có thể tiếp xúc với nội dung không phù hợp và thiếu thiết kế dành riêng cho lứa tuổi. Báo cáo nêu bật những lo ngại về lời khuyên về sức khỏe tâm thần không an toàn và đề cập đến các trường hợp gần đây về tự tử ở thanh thiếu niên liên quan đến AI. Công ty bảo vệ các biện pháp bảo mật của mình đối với người dùng dưới 18 tuổi, nhưng thừa nhận rằng một số phản hồi không hoạt động như mong đợi, vì vậy cần có các biện pháp bảo mật bổ sung. Phân tích được đưa ra khi một công ty công nghệ khác đang xem xét giới thiệu mô hình AI cho trợ lý giọng nói do AI cung cấp, làm tăng rủi ro tiềm ẩn cho người dùng trẻ tuổi.