Comment les entreprises luttent contre le côté obscur de l'IA

En bref

L'intégration de l'IA dans la vie quotidienne soulève des inquiétudes concernant la sécurité. Les entreprises, les gouvernements et les alliances comblent le vide, abordant le fonctionnement, suscitant des inquiétudes et manquant.

L'intelligence artificielle devient de plus en plus intégrée dans notre vie quotidienne, des chatbots fournissant un soutien émotionnel aux algorithmes maximisant le commerce, et ses préoccupations deviennent plus évidentes. Les problèmes ne sont plus « si », mais qui et comment dirigera l'IA vers la sécurité.

Les entreprises, les gouvernements et les alliances multinationales comblent progressivement le vide, parfois de manière réactive, parfois de manière prescriptive. Voici un aperçu de ce qui fonctionne, de ce qui suscite des inquiétudes et de ce qui manque encore.

Les Titans de la Technologie Renforcent leur Contrôle

Meta ajoute des garde-fous pour les adolescents

En réponse aux réactions publiques et politiques, Meta a promis de renforcer ses mesures de sécurité en matière d'IA :

Ses chatbots refuseront désormais de discuter des comportements autodestructeurs, du suicide ou des problèmes alimentaires avec les adolescents, les renvoyant plutôt à des professionnels de la santé mentale.

Ceci fait partie d'une initiative plus large sur les "comptes adolescents" sur Facebook, Instagram et Messenger, visant à fournir des expériences plus sûres et une sensibilisation parentale, y compris la possibilité de savoir avec quels bots les enfants ont interagi au cours de la semaine précédente.

Les critiques affirment que ces mesures sont très attendues, notamment en raison de données divulguées indiquant que des bots auraient engagé des discussions "sensuelles" embarrassantes avec des enfants. "Des tests de sécurité robustes devraient avoir lieu avant que les produits ne soient mis sur le marché, et non a posteriori," a averti un défenseur.

Meta se retire du code AI volontaire de l'UE

L'Union européenne a publié un Code de pratique volontaire pour aider les développeurs d'IA à s'aligner sur sa Loi sur l'IA. Meta a refusé de signer, qualifiant cela de surenchère bureaucratique qui risque de freiner l'innovation.

Collaboration du gouvernement américain

OpenAI et Anthropic ont convenu de partager leurs modèles d'IA avec l'US AI Safety Institute avant et après publication. L'idée est d'obtenir des retours sur la sécurité et de réduire les risques grâce à l'inspection gouvernementale.

En août 2025, 44 procureurs généraux des États-Unis ont signé une lettre conjointe encourageant les principales entreprises d'IA, dont Meta, OpenAI, Microsoft, Google et Replika, à mieux protéger les mineurs des contenus d'IA prédateurs.

L'Illinois interdit l'IA comme thérapie

L'Illinois est devenu l'un des premiers États à interdire l'utilisation de chatbots alimentés par l'IA en tant que thérapie, sauf s'ils sont supervisés par un professionnel certifié. Le Nevada et l'Utah ont mis en place des limitations similaires. Les contrevenants pourraient faire face à des sanctions civiles allant jusqu'à 10 000 $.

Cadres législatifs mondiaux

Les réglementations se développent à travers le monde, de la loi sur l'IA de l'UE à la loi sur la protection des données en Inde et aux exigences de sécurité en Corée du Sud. Un nombre croissant d'États américains mettent en œuvre des législations spécifiques à l'IA ou élargissent les cadres actuels tels que la protection des consommateurs, la transparence algorithmique et les audits de biais.

Le sénateur Wiener de Californie a proposé une législation obligeant les grandes entreprises d'IA à divulguer publiquement leurs pratiques de sécurité et à signaler les incidents majeurs aux autorités de l'État.

Instituts de sécurité de l'IA : supervision multi-nationale

Pour garantir un examen indépendant et standardisé de l'IA, les nations ont établi des Instituts de Sécurité de l'IA :

Les États-Unis et le Royaume-Uni ont créé des instituts nationaux après le Sommet sur la sécurité de l'IA de 2023.

D'ici 2025, de nombreux pays ont rejoint un réseau, y compris le Japon, la France, l'Allemagne, l'Italie, Singapour, la Corée du Sud, le Canada et l'UE, pour évaluer la sécurité des modèles et établir des normes de surveillance mondiales.

Les rapports révèlent des lacunes persistantes

L'Institut pour l'avenir de la vie (FLI) note les entreprises d'IA D ou moins en matière de planification de la sécurité existentielle ; aucune n'a obtenu plus d'un C+. Anthropic a obtenu un C+, suivi par OpenAI (C), et Meta (D).

Des anciens employés d'OpenAI accusent l'entreprise de privilégier le profit au détriment de la sécurité, soulevant des préoccupations concernant la transparence et l'éthique en coulisses.

Des garde-fous adolescents de Meta à l'interdiction de traitement de l'Illinois, en passant par des entreprises comme SSI intégrant la sécurité dans l'IA, le message est clair : la législation et la prévoyance accusent un retard par rapport à la technologie. Les données divulguées, les litiges et le contrôle international montrent que le préjudice arrive généralement en premier. La tâche n'est pas seulement de développer une meilleure IA, mais aussi de s'assurer que chaque avancée protège les gens avant que la catastrophe ne survienne.