OpenAI introduit des mesures de sécurité améliorées pour les adolescents et des contrôles parentaux pour ChatGPT

En bref

OpenAI améliore la sécurité de ChatGPT pour les adolescents en adaptant les interactions, en mettant en œuvre des politiques adaptées à l'âge et en introduisant des contrôles parentaux pour gérer l'utilisation et répondre au stress.

OpenAI, une organisation de recherche en intelligence artificielle, a annoncé des mises à jour visant à améliorer la sécurité des utilisateurs adolescents.

L'entreprise a expliqué que les interactions de ChatGPT avec un adolescent de 15 ans devraient différer de celles avec un adulte, et qu'elle développe un système à long terme pour évaluer si un utilisateur a plus ou moins de 18 ans afin que l'expérience puisse être adaptée en conséquence.

Les utilisateurs identifiés comme ayant moins de 18 ans seront dirigés vers une expérience ChatGPT avec des politiques appropriées à l'âge, ce qui inclut le blocage du contenu sexuel graphique et, dans de rares cas de détresse sévère, la possibilité d'impliquer les forces de l'ordre pour garantir la sécurité.

Dans les situations où l'âge ne peut pas être déterminé avec certitude ou si les informations sont incomplètes, la plateforme par défaut à l'expérience des moins de 18 ans, tout en fournissant aux adultes des méthodes pour vérifier leur âge afin d'accéder aux fonctionnalités pour adultes.

En attendant, les contrôles parentaux devraient être le moyen le plus efficace pour les familles de gérer l'utilisation de ChatGPT à la maison.

Ces contrôles, qui devraient être disponibles d'ici la fin du mois, permettront aux parents de lier leur compte avec celui d'un adolescent, à condition que l'adolescent ait au moins 13 ans, en utilisant une simple invitation par e-mail.

Les parents pourront guider la manière dont ChatGPT répond à leur adolescent en fonction des règles de comportement spécifiques aux adolescents, gérer les fonctionnalités qui sont activées ou désactivées — y compris la mémoire et l'historique des discussions — et recevoir des notifications si le système détecte que leur adolescent éprouve une détresse aiguë.

Dans de rares urgences où les parents ne peuvent pas être joints, les forces de l'ordre peuvent être impliquées, avec des conseils d'experts informant cette fonctionnalité pour maintenir la confiance entre les parents et les adolescents. De plus, les parents peuvent définir des heures de blackout pendant lesquelles leur adolescent ne peut pas accéder à ChatGPT. Ces contrôles parentaux complètent les fonctionnalités existantes de la plateforme, telles que les rappels dans l'application encourageant des pauses pendant des sessions prolongées.

IA et santé mentale des adolescents : la FTC enquête sur les plateformes de chatbot face à des préoccupations juridiques et de sécurité croissantes

Cet été a été marqué par une série de rapports préoccupants concernant le rôle de l'IA dans les incidents de santé mentale, coïncidant avec un contrôle réglementaire croissant et des actions judiciaires en cours.

Des poursuites ont été déposées contre Character.AI et OpenAI, affirmant que leurs plateformes ont contribué aux suicides et à l'automutilation des adolescents en ne fournissant pas un soutien adéquat pendant des moments critiques. En réponse, la Commission fédérale du commerce des États-Unis (FTC) a commencé à enquêter sur la manière dont les grandes entreprises technologiques conçoivent et supervisent les chatbots IA commercialisés comme des compagnons, en particulier pour les jeunes utilisateurs.

Malgré ces efforts, la disponibilité généralisée de diverses options de chatbot, y compris des modèles open-source et privés, signifie que s'attaquer à ces risques reste un défi complexe et persistant.