Lorsque l'IA prend la décision : Pluribus doit-elle choisir de faire exploser ou de préserver ? Le dilemme de l'humaniste est réel.

Voici le problème avec les systèmes d'IA avancés : lorsqu'ils sont programmés pour optimiser les résultats, où exactement traceraient-ils la ligne ? Prenez le problème du trolley et intensifiez-le avec une précision algorithmique. Une IA de prise de décision est confrontée à un choix impossible : maximiser une métrique, en perdre une autre. Faire exploser ou sauver ? Le système n'hésite pas. Les humains, oui.

Ce n'est pas seulement théorique. À mesure que l'IA devient plus intelligente et plus autonome, les valeurs que nous intégrons dans ces systèmes deviennent déterminantes pour la civilisation. Pluribus apprend à partir de données, d'incitations, des objectifs que nous lui donnons. Mais que se passe-t-il lorsque ces objectifs entrent en conflit avec la dignité humaine ?

La vraie question n'est pas ce que l'IA choisira — c'est ce que nous sommes prêts à lui laisser choisir pour nous.