Avaliação de risco de modelos de IA: versão para jovens ainda apresenta alto risco, levantando preocupações de segurança.

【moeda】A avaliação de risco da Common Sense Media sobre o modelo de IA de uma determinada empresa de tecnologia descobriu que suas categorias "abaixo de 13 anos" e "experiência juvenil" são essencialmente versões para adultos com funcionalidades de segurança aumentadas. Devido à possibilidade de exposição a conteúdos inadequados e à falta de design específico para determinadas idades, foram marcadas como "alto risco". O relatório destacou preocupações com recomendações de saúde mental inseguras e mencionou casos recentes de suicídio juvenil relacionados à inteligência artificial. A empresa defendeu suas medidas de segurança para usuários com menos de 18 anos, mas admitiu que algumas respostas não atingiram o efeito esperado, necessitando, portanto, de medidas de segurança adicionais. No momento em que este relatório analítico foi publicado, outra empresa de tecnologia estava considerando introduzir esse modelo de IA para seu assistente de voz movido a IA, o que aumentou o risco potencial para usuários mais jovens.