d/acc : Bilan et perspectives d'une année

Il y a environ un an, j'ai écrit un article sur l'optimisme technologique, exposant mon enthousiasme général pour la technologie et ses énormes avantages potentiels, tout en exprimant une attitude prudente sur certaines questions spécifiques, en particulier celles autour de l'intelligence artificielle super intelligente. Si cette technologie est mal conçue, elle pourrait entraîner des risques dévastateurs ou amener l'humanité à perdre son pouvoir de manière irréversible.

Un concept clé que j'ai présenté dans cet article est l'accélération défensive décentralisée, démocratique et différenciée. Cela signifie accélérer le développement technologique, mais en se concentrant sélectivement sur les technologies qui peuvent renforcer notre capacité de défense plutôt que de destruction, et en s'efforçant de décentraliser le pouvoir, au lieu de le concentrer entre les mains de quelques élites qui décideraient au nom de tous ce qui est juste ou faux. Le mode de défense devrait être similaire à la démocratie suisse, ainsi qu'à la région quasi-anarchiste de Zomia dans l'histoire, plutôt qu'au modèle féodal des seigneurs et des châteaux au Moyen Âge.

Au cours de l'année écoulée, ces idées et concepts ont connu un développement et une maturité significatifs. J'ai partagé ces idées sur la plateforme "80,000 heures" et j'ai reçu de nombreux retours, majoritairement positifs, bien sûr, il y a aussi quelques critiques.

Ce travail continue d'avancer et a produit des résultats concrets : nous avons constaté des progrès dans le domaine des vaccins open source vérifiables ; la prise de conscience de la valeur d'un air intérieur sain ne cesse d'augmenter ; les "notes communautaires" continuent de jouer un rôle positif ; le marché prédictif a connu une année révolutionnaire en tant qu'outil d'information ; les preuves de connaissance non interactive succinctes à divulgation nulle (ZK-SNARKs) sont appliquées dans le domaine de l'identification gouvernementale et des réseaux sociaux (et assurent la sécurité des portefeuilles Ethereum via l'abstraction de compte) ; des outils d'imagerie open source sont utilisés dans le domaine médical et des interfaces cerveau-machine (BCI), etc.

L'automne dernier, nous avons organisé notre premier événement majeur d/d'acc : "Journée d'exploration d/d'acc" (d/aDDy), qui s'est tenu à Devcon. L'événement a rassemblé des intervenants de divers domaines piliers de d/d'acc (biologie, physique, réseaux, défense de l'information et technologies neuronales) et a duré toute une journée. Les personnes engagées depuis longtemps dans ces technologies ont commencé à mieux comprendre le travail des autres, tandis que les personnes extérieures prenaient de plus en plus conscience d'une vision plus grande : les mêmes valeurs qui propulsent le développement d'Ethereum et des cryptomonnaies peuvent s'étendre à un monde plus vaste.

La portée et les implications de d/acc

Imaginez la scène en 2042. Vous voyez dans les reportages médiatiques une nouvelle disant que votre ville pourrait connaître une nouvelle épidémie. Ce genre de nouvelles est devenu banal : les gens ont souvent des réactions excessives à chaque mutation de maladie animale, et dans la grande majorité des cas, ces mutations ne déclenchent finalement pas de crise réelle. Les deux précédentes épidémies potentielles ont été découvertes tôt grâce à la surveillance des eaux usées et à l'analyse open source des réseaux sociaux, puis ont été contenues avec succès. Cependant, cette fois-ci, la situation est différente, les marchés prédictifs montrent une probabilité de 60% d'au moins 10 000 cas, ce qui vous inquiète.

Juste hier, la séquence génétique du virus a été déterminée. Le logiciel de votre test d'air de poche a été immédiatement mis à jour pour détecter le nouveau virus (que ce soit par un test de respiration unique ou après 15 minutes d'exposition dans un environnement intérieur). En même temps, des instructions et des codes open source pour générer un vaccin à l'aide d'équipements disponibles dans n'importe quel établissement de santé moderne à l'échelle mondiale devraient être publiés dans quelques semaines. La plupart des gens n'ont pas encore pris de mesures, s'appuyant principalement sur des mesures de filtration de l'air et de ventilation largement adoptées pour assurer leur sécurité.

En raison de vos problèmes immunitaires, vous agissez avec plus de prudence : l'assistant personnel IA open source que vous utilisez, en plus d'effectuer des tâches habituelles telles que la navigation, les recommandations de restaurants et d'activités, prend également en compte les données de test de qualité de l'air en temps réel et les données de dioxyde de carbone, afin de ne vous recommander que les endroits les plus sûrs. Ces données sont fournies par des milliers de participants et d'appareils, et grâce aux technologies ZK-SNARKs et de confidentialité différentielle, le risque de fuite ou d'utilisation abusive des données est minimisé.

Deux mois plus tard, la pandémie s'est miraculeusement dissipée : il semble que 60 % des gens aient suivi les protocoles de prévention de base, c'est-à-dire porter un masque lorsque le testeur d'air émet une alarme et indique la présence du virus, et s'isoler chez soi si le test personnel est positif. C'est cette mesure qui a suffi à faire chuter davantage le taux de transmission, déjà considérablement réduit grâce à la filtration d'air passive, à moins de 1. Un simulateur a montré qu'une maladie qui pourrait être cinq fois plus grave que la pandémie de COVID-19 d'il y a vingt ans n'a pourtant pas eu d'impact sérieux.

L'événement d/acc organisé par Devcon a obtenu un résultat extrêmement positif, à savoir que le concept d/acc a réussi à rassembler des personnes provenant de différents domaines et a réellement suscité un vif intérêt pour le travail des uns et des autres.

Organiser un événement "diversifié" n'est pas une tâche difficile, mais établir de véritables liens entre des personnes de différents horizons et intérêts est un défi. Je me souviens encore de mon expérience au collège et au lycée où j'étais obligé de regarder de longues opéras, que je trouvais personnellement ennuyeux. Je savais que je "devrais" les apprécier, car sinon, je serais considéré comme un paresseux en informatique sans culture, mais je n'ai pas réussi à résonner plus profondément avec le contenu de l'opéra. Cependant, l'ambiance de l'événement d/acc était complètement différente : on avait l'impression que les gens aimaient vraiment découvrir les différents travaux dans divers domaines.

Si nous souhaitons construire un avenir plus radieux que la domination, le ralentissement et la destruction, il est impératif de mener cette large construction d'alliances. d/acc semble avoir réalisé des progrès significatifs à cet égard, et rien que cela suffit à souligner la valeur précieuse de cette idée.

L'idée centrale de d/acc est simple et claire : une accélération défensive décentralisée, démocratique et différenciée. Construire des technologies qui favorisent un équilibre entre attaque et défense en inclinant la balance vers la défense, sans dépendre de la délégation de plus de pouvoir aux autorités centrales lors de la mise en œuvre. Il existe un lien intrinsèque étroit entre ces deux aspects : toute structure politique décentralisée, démocratique ou libre a tendance à prospérer lorsque la défense est facile à mettre en œuvre, mais elle fait face à de graves défis lorsque la défense est difficile — dans ces cas, le résultat le plus probable est une période de chaos où tout le monde s'oppose les uns aux autres, menant finalement à un état d'équilibre régi par les plus forts.

Une manière de comprendre l'importance d'essayer d'atteindre simultanément la décentralisation, la défense et l'accélération est de la comparer à l'idée générée par l'abandon de l'un de ces trois aspects.

Accélération de la décentralisation, mais négligeant la partie "défense différenciée"

En substance, cela ressemble à devenir un accélérationniste efficace (e/acc), tout en poursuivant la décentralisation. Beaucoup de personnes adoptent cette approche, dont certaines se qualifient de d/acc, mais elles décrivent leur propre accent comme "offensif" de manière bénéfique. De plus, il y a beaucoup d'autres qui montrent un enthousiasme plus modéré pour des sujets tels que "l'intelligence artificielle décentralisée", mais à mon avis, leur attention sur les aspects "défensifs" est manifestement insuffisante.

À mon avis, cette approche pourrait éviter le risque d'une dictature mondiale par des groupes spécifiques, mais elle ne résout pas les problèmes structurels sous-jacents : dans un environnement favorable à l'attaque, il existe toujours un risque constant de catastrophe, ou quelqu'un pourrait se positionner comme protecteur et occuper une position dominante de manière permanente. En ce qui concerne l'intelligence artificielle, elle ne peut également pas résoudre correctement le risque de pouvoir affaibli de l'humanité par rapport à l'intelligence artificielle.

Accélération de la défense différenciée, mais néglige "la décentralisation et la démocratie"

Accepter un contrôle centralisé pour atteindre des objectifs de sécurité a toujours une certaine attraction pour une partie de la population. Les lecteurs connaissent sans aucun doute de nombreux exemples de ce type, ainsi que les inconvénients qu'ils entraînent. Récemment, certaines personnes s'inquiètent du fait qu'un contrôle centralisé extrême pourrait être le seul moyen de faire face à des technologies extrêmes à l'avenir : par exemple, imaginez un scénario hypothétique dans lequel "tout le monde porte une 'étiquette de liberté' - qui est le produit dérivé des dispositifs de surveillance portables actuellement plus limités, semblable aux étiquettes de cheville utilisées comme alternative à l'emprisonnement dans plusieurs pays... Les vidéos et audio cryptés sont téléchargés en continu et interprétés en temps réel par des machines". Cependant, il existe un problème de degré avec le contrôle centralisé. Une forme de contrôle centralisé relativement douce, souvent négligée mais néanmoins nuisible, se manifeste dans le domaine des biotechnologies (par exemple, les aliments, les vaccins) par la résistance à la surveillance publique, ainsi que par des normes propriétaires permettant à cette résistance de rester incontestée.

Les risques de cette approche sont évidents, à savoir que le centre lui-même devient souvent la source du risque. Nous avons déjà été témoins de cela pendant la pandémie de COVID-19, où des recherches fonctionnelles financées par plusieurs gouvernements mondiaux majeurs pourraient être à l'origine de la pandémie. Une épistémologie centralisée a conduit l'Organisation mondiale de la santé à refuser pendant des années de reconnaître que le virus COVID-19 se propageait par l'air, tandis que les mesures de distanciation sociale obligatoires et les mandats de vaccination ont suscité des réactions politiques qui pourraient durer des décennies. Une situation similaire est très susceptible de se reproduire dans tout scénario de risque lié à l'intelligence artificielle ou à d'autres technologies à risque. En revanche, une approche décentralisée sera plus efficace pour faire face aux risques provenant du centre lui-même.

Défense décentralisée, mais exclusion accélérée

En substance, il s'agit d'une tentative de ralentir les progrès technologiques ou de pousser à la récession économique.

Cette stratégie est confrontée à un double défi. Tout d'abord, dans l'ensemble, la croissance technologique et économique est extrêmement bénéfique pour l'humanité, et tout retard à cet égard entraîne des coûts difficilement quantifiables. Deuxièmement, dans un monde non autoritaire, le statu quo est instable : ceux qui "trichent" le plus, capables de trouver des moyens apparemment raisonnables de continuer à progresser, auront un avantage. La stratégie du ralentissement peut fonctionner dans certaines situations spécifiques : par exemple, la nourriture européenne est plus saine que la nourriture américaine, ce qui en est un exemple ; le succès de la non-prolifération nucléaire jusqu'à présent en est un autre. Cependant, ces stratégies ne peuvent pas fonctionner indéfiniment.

Grâce à d/acc, nous nous engageons à atteindre les objectifs suivants :

• Dans le contexte de la tendance croissante à la tribalisme dans le monde actuel, tenir fermement à ses principes, plutôt que de construire diverses choses de manière aveugle – au contraire, nous espérons construire des choses spécifiques afin de rendre le monde plus sûr et meilleur.
• Reconnaître que les avancées technologiques exponentielles signifient que le monde deviendra extrêmement étrange, et que l'"empreinte" globale de l'humanité dans l'univers ne pourra qu'augmenter. Notre capacité à protéger les animaux, les plantes et les populations vulnérables contre les dommages doit continuer à s'améliorer, et la seule voie à suivre est d'avancer sans hésitation.
• Construire des technologies qui protègent réellement, et non pas basées sur l'hypothèse que "des bonnes personnes (ou une bonne intelligence artificielle) contrôlent tout". Nous atteignons cet objectif en construisant des outils qui sont naturellement plus efficaces pour construire et protéger que pour détruire.

Une autre perspective sur d/acc est de revenir à un cadre du mouvement des Pirates en Europe à la fin des années 2000 : l'autonomisation.

Notre objectif est de construire un monde qui préserve l'autonomie humaine, réalisant la liberté négative, c'est-à-dire en évitant toute intervention active d'autrui (qu'il s'agisse de citoyens ordinaires, de gouvernements ou de super-robots intelligents) dans notre capacité à façonner notre propre destin, tout en réalisant la liberté positive, c'est-à-dire en veillant à ce que nous disposions des connaissances et des ressources nécessaires pour exercer cette capacité. Cela fait écho à