【монета界】Common Sense Media провела оцінку ризиків AI-моделі певної технологічної компанії і виявила, що її рівні "до 13 років" та "досвід підлітків" по суті є версіями для дорослих з підвищеними функціями безпеки. Через можливий контакт з недоречним контентом і відсутність дизайну, орієнтованого на конкретний вік, їх відзначили як "високий ризик". У звіті підкреслено занепокоєння щодо небезпечних рекомендацій з психічного здоров'я, а також згадано про нещодавні випадки самогубств серед підлітків, пов'язаних з штучним інтелектом. Компанія захищала свої заходи безпеки для користувачів молодше 18 років, але визнала, що деякі відповіді не досягли очікуваного ефекту, тому потрібно вжити додаткових заходів безпеки. У момент публікації цього аналітичного звіту інша технологічна компанія розглядає можливість впровадження цієї AI-моделі для свого AI-управліного голосового помічника, що збільшує потенційні ризики для молодих користувачів.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
11 лайків
Нагородити
11
6
Репост
Поділіться
Прокоментувати
0/400
CommunityLurker
· 18год тому
Не дивно, що це велика компанія. Якщо сказати прямо, це просто формальність.
Переглянути оригіналвідповісти на0
WhaleMistaker
· 19год тому
Чи не є сутність AI моделей все ж дитячим візком?
Переглянути оригіналвідповісти на0
HodlOrRegret
· 19год тому
Справжня вода, а група бюрократів грає в Lego
Переглянути оригіналвідповісти на0
DecentralizedElder
· 19год тому
Безкінече регулювання задушує.
Переглянути оригіналвідповісти на0
BTCBeliefStation
· 19год тому
Технології, так? Все ще ніхто не контролює?
Переглянути оригіналвідповісти на0
HallucinationGrower
· 19год тому
Як можна безпечно впроваджувати штучний інтелект у дітей
Оцінка ризиків моделей ШІ: підліткова версія все ще має високі ризики, що викликає занепокоєння щодо безпеки
【монета界】Common Sense Media провела оцінку ризиків AI-моделі певної технологічної компанії і виявила, що її рівні "до 13 років" та "досвід підлітків" по суті є версіями для дорослих з підвищеними функціями безпеки. Через можливий контакт з недоречним контентом і відсутність дизайну, орієнтованого на конкретний вік, їх відзначили як "високий ризик". У звіті підкреслено занепокоєння щодо небезпечних рекомендацій з психічного здоров'я, а також згадано про нещодавні випадки самогубств серед підлітків, пов'язаних з штучним інтелектом. Компанія захищала свої заходи безпеки для користувачів молодше 18 років, але визнала, що деякі відповіді не досягли очікуваного ефекту, тому потрібно вжити додаткових заходів безпеки. У момент публікації цього аналітичного звіту інша технологічна компанія розглядає можливість впровадження цієї AI-моделі для свого AI-управліного голосового помічника, що збільшує потенційні ризики для молодих користувачів.