A OpenAI Introduz Medidas Melhoradas de Segurança para Adolescentes e Controles Parentais para o ChatGPT

Em Resumo

A OpenAI está a melhorar a segurança do ChatGPT para adolescentes, personalizando interações, implementando políticas adequadas à idade e introduzindo controlos parentais para gerir o uso e responder a situações de angústia.

A OpenAI, uma organização de pesquisa em inteligência artificial, anunciou atualizações com o objetivo de aumentar a segurança para os utilizadores adolescentes.

A empresa explicou que as interações do ChatGPT com um adolescente de 15 anos devem ser diferentes das com um adulto, e está a desenvolver um sistema a longo prazo para avaliar se um utilizador tem mais ou menos de 18 anos, de modo que a experiência possa ser adaptada em conformidade.

Os utilizadores identificados como tendo menos de 18 anos serão direcionados para uma experiência do ChatGPT com políticas adequadas à idade, que inclui o bloqueio de conteúdo sexual gráfico e, em casos raros de grande angústia, potencialmente envolvendo as autoridades policiais para garantir a segurança.

Em situações onde a idade não pode ser determinada com confiança ou a informação é incompleta, a plataforma default para a experiência de menores de 18 anos, enquanto fornece aos adultos métodos para verificar a sua idade para aceder a funcionalidades para adultos.

Entretanto, espera-se que os controlos parentais sejam o método mais eficaz para as famílias gerirem como o ChatGPT é utilizado em casa.

Esses controles, que estarão disponíveis até o final do mês, permitirão que os pais vinculem sua conta à conta de um adolescente, desde que o adolescente tenha pelo menos 13 anos, usando um simples convite por email.

Os pais poderão orientar como o ChatGPT responde ao seu adolescente de acordo com regras de comportamento específicas para adolescentes, gerenciar quais funcionalidades estão ativadas ou desativadas—incluindo memória e histórico de chat—e receber notificações se o sistema detectar que seu adolescente está a passar por um sofrimento agudo.

Em emergências raras em que os pais não possam ser contactados, a lei pode estar envolvida, com orientação especializada a informar esta funcionalidade para manter a confiança entre pais e adolescentes. Além disso, os pais podem definir horas de blackout durante as quais o seu adolescente não pode aceder ao ChatGPT. Estes controles parentais complementam as funcionalidades existentes da plataforma, como lembretes dentro da aplicação que incentivam pausas durante sessões prolongadas.

IA E Saúde Mental dos Adolescentes: FTC Investiga Plataformas de Chatbot em Meio a Crescentes Preocupações Legais e de Segurança

Este verão tem sido marcado por uma série de relatórios preocupantes sobre o papel da IA nos incidentes de saúde mental, coincidindo com um aumento da supervisão regulatória e ações legais em curso.

Processos judiciais foram movidos contra a Character.AI e a OpenAI, alegando que suas plataformas contribuíram para suicídios e automutilações entre adolescentes por não fornecerem apoio adequado durante momentos críticos. Em resposta, a Comissão Federal de Comércio dos EUA (FTC) começou a investigar como grandes empresas de tecnologia projetam e supervisionam chatbots de IA comercializados como companheiros, particularmente para usuários mais jovens.

Apesar desses esforços, a ampla disponibilidade de várias opções de chatbots, incluindo modelos de código aberto e privados, significa que lidar com esses riscos continua a ser um desafio complexo e persistente.