Moloch, le dieu aveugle et stupide!

I.

Ceci est un article de blogue au sujet d’un article de blogue. L’article en question s’intitule « Meditations on Moloch »; le blogue, que j’ai déjà mentionné à quelques reprises, s’appelle Slate Star Codex. Je crois qu’il s’agit de mon article de blogue préféré de tous les temps.

De quoi ça parle? Comme son titre l’indique, de Moloch.

Voici Moloch, selon les Européens du 18e siècle : 

À noter, dans sa poitrine, les sept chambres destinées à recevoir sept offrandes différentes : farine, tourterelles, brebis, béliers, veaux, bœufs, et bien sûr enfants humains. À noter aussi la fournaise où les sept offrandes doivent brûler ensemble.

Moloch apparaît dans la Bible comme une divinité ancienne en l’honneur de qui on pratiquait le sacrifice d’enfants. On l’associe aussi à la cité-État de Carthage, en Afrique du Nord, mais c’est sans doute surtout le résultat de propagande haineuse de la part des Romains, qui n’aimaient pas ben ben Carthage et qui d’ailleurs finiraient par la détruire complètement. En fait, personne ne sait vraiment ce qu’était Moloch et si on sacrifiait vraiment des bébés en son nom.

Ça n’a pas empêché Moloch de devenir une puissante métaphore.

Qui est Moloch? Pour Fritz Lang, le réalisateur du film classique de 1927 Metropolis, Moloch était une immense machine industrielle à laquelle on sacrifiait les travailleurs. Pour Winston Churchill, Moloch était littéralement Hitler. Pour Allen Ginsberg, auteur de Howl, un poème emblématique de la Beat Generation, Moloch était la civilisation, qui dévore les « meilleurs esprits de [sa] génération », qui tue leur créativité, qui les enferme dans un système nocif où prospère la folie. 

(On peut lire la version originale de Howl ici et une traduction en français .)

Dans Slate Star Codex, Scott Alexander part du poème de Ginsberg et nous livre un des essais les plus beaux et les plus lucides que j’aie lus. (Et, accessoirement, sans doute l’un des plus longs articles de blogue que j’aie lus.)

II.

Moloch est le nom que donne Alexander à un ensemble de forces qui causent un ensemble de problèmes. 

Ces forces portent plusieurs noms : compétition, sélection naturelle, optimisation, atteinte de l’intérêt personnel au détriment du collectif.

Les problèmes touchent à tous les domaines : le capitalisme, le cancer, la crise environnementale, la difficulté de faire de la politique, l’explosion démographique, l’impact de la robotique sur le marché du travail, les inégalités sociales, le risque posé par une superintelligence, l’effondrement de la civilisation de l’Île de Pâques, et ainsi de suite. 

Tous les problèmes ne sont pas causés par Moloch, mais beaucoup le sont, car Moloch est partout, tout le temps, et il est extrêmement difficile d’échapper à son influence. 

L’article est long en partie parce qu’il contient de nombreux exemples. Je ne vais pas les répéter, et de toute façon ils sont assez simples à comprendre. Contentons-nous de quelques paragraphes : 

Le capitalisme : des agents économiques (entreprises et, derrière les entreprises, actionnaires) sont en compétition les uns avec les autres dans une quête de maximisation des profits. Afin de gagner cette compétition, le capitaliste doit fournir des biens et des services à son marché, ce qui est une bonne chose : le marché a besoin de ces biens et services, et la compétition permet de s’assurer qu’ils lui conviennent. En plus, le capitalisme nécessite d’employer des gens, ce qui permet à ces derniers d’obtenir salaire et de prospérer à leur tour. Mais il suffit qu’une technologie permette de remplacer les employés par des machines pour que le système fonctionne moins bien pour la société alors même que l’actionnaire maximise ses profits. Ou alors, que l’actionnaire réalise qu’il peut mettre un poison dans son produit pour le rendre plus addictif sans que le public le sache. Ou toutes sortes d’autres tours de passe-passe dont vous pouvez facilement imaginer des exemples. 

La démographie : ce serait bien si tout le monde avait 2,1 enfants et qu’on avait une population stable qui utilise une quantité raisonnable de ressources, permettant à chacun de subvenir à ses besoins. Mais si les gens de la République du Natalistan ont 10 enfants par couple en moyenne, ils vont finir par devenir plus nombreux que tout le monde et consommer trop de ressources. 

Le cancer : normalement, toutes les cellules du corps se coordonnent pour que l’organisme soit fonctionnel. Parfois, certaines cellules décident de se reproduire en se foutant des autres. Ça donne des tumeurs et ce n’est pas très heureux. 

Dans tous ces exemples, la cause fondamentale du problème, c’est la compétition. L’optimisation. Moloch. 

On pourrait mettre la faute sur l’individu. La maudite cellule cancéreuse avait pas d’affaire à faire ça. Le capitaliste pourrait choisir de ne pas automatiser sa production afin de faire travailler plus de gens. Le Natalistan pourrait introduire une politique de l’enfant unique. Mais dans chaque cas, les limites auto-imposées risquent seulement de laisser des compétiteurs triompher, si eux ne s’imposent pas les mêmes limites. 

Alors oui, c’est la faute de l’individu, d’une certaine manière. Mais l’individu agit de cette façon parce que le système l’y incite. Si on veut créer un monde meilleur, il faut s’attaquer à Moloch. 

III. 

Dans un environnement de compétition intense, il y a toujours moyen de sacrifier quelque chose pour être plus efficace. 

Vous essayez de percer comme entrepreneur en techno. Vous êtes aussi bassiste amateur, et vous vous entraînez pour un marathon cet automne, et vous venez de vous faire une nouvelle copine. Vous vivez donc une vie bien remplie. Mais lancer une startup, c’est difficile, alors il faut que vous y consacriez beaucoup de temps. Votre compétiteur, lui, ne s’entraîne pas, est célibataire, et ne fait pas de musique. Il consacre beaucoup plus de temps à sa compagnie et vous voyez qu’il risque de vous supplanter. Alors vous arrêtez vos séances hebdomadaires de jam. Vous voyez votre copine de moins en moins souvent. Vous laissez faire le marathon et ne courez plus que pour garder la forme. Vous réussissez à faire fonctionner votre startup et à rester dans la compétition — mais en chemin, vous avez sacrifié beaucoup de choses qui vous étaient importantes. 

Est-ce que ça en valait la peine? 

C’est une mauvaise question : vous n’aviez en fait pas le choix (à moins de sacrifier vos ambitions professionnelles). Est-ce que c’est dommage? Oui. Vous êtes moins heureux qu’avant. Moloch vous a pris quelque chose. 

L’humanité dans son état actuel est chanceuse. Nous sommes en mesure de consacrer beaucoup de temps et de ressources à des choses inutiles comme l’art, l’amour, la science, la philosophie, la bonne bouffe, le sexe, le sport, le jeu. 

Je dis « inutiles » parce que ces choses ne nous aident pas vraiment à gagner les diverses sortes de compétition que nous avons entre nous (et que nous pourrions avoir dans le futur contre d’autres formes d’intelligence, comme des machines ou des extraterrestres). Mais malgré leur « inutilité », l’art, l’amour, la science, la philosophie, la bonne bouffe, le sexe, le sport et le jeu sont de merveilleuses choses qui rendent la vie valable d’être vécue. Leur perte serait une tragédie à l’échelle cosmique. 

Avec Moloch pour nous guider, c’est vers là qu’on s’en va. 

IV. 

Qu’est-ce qui permet à l’art, l’amour, la science, la philosophie, la bonne bouffe, le sexe, le sport et le jeu à continuer d’exister? 

Alexander identifie quatre raisons : trois mauvaises et une bonne. 

L’excédent de ressources : grâce (notamment) à la technologie, nous avons assez de nourriture et de sources d’énergie, etc.  — et suffisamment peu de gens qui les consomment — pour nous permettre d’en gaspiller à faire des choses inutiles. Nous vivons dans un âge d’abondance. Mais si la population humaine se décuple par exemple, ou si on épuise nos ressources non-renouvelables, on pourrait être dans le trouble. 

Les limites physiques : il y a des choses qu’on ne peut pas optimiser passé un certain point. Par exemple, une femme ne peut pas avoir un bébé toutes les semaines, ce qui limite l’explosion démographique. Un travailleur ne peut pas travailler 24 heures sur 24, ce qui force son employeur à lui accorder du temps de repos et de loisir. Mais si la technologie permet d’accélérer la gestation humaine ou de créer des drogues permettant d’être productif sans repos, on pourrait être dans le trouble. 

La maximisation de l’utilité : le capitalisme a jusqu’ici été une assez bonne chose, parce qu’il permet de maximiser les intérêts (« l’utilité » en termes utilitaristes) du marché — c’est-à-dire de tout le monde. La compétition a plein d’avantages! Mais c’est un équilibre fragile, comme on l’a vu plus haut — et s’il se rompt, on pourrait être dans le trouble. 

La coordination : c’est la seule « bonne raison » pour laquelle Moloch n’a pas encore gagné. La coordination, c’est d’avoir quelqu’un en dehors du système qui a une vue d’ensemble et qui encourage tout le monde à prendre des décisions dans l’intérêt collectif. En économie de marché, c’est le rôle des gouvernements. En politique internationale, c’est le rôle de l’ONU. En entreprise, c’est le rôle du patron. 

Les capitalistes auraient pu créer un monde dystopique où presque tout le monde travaille 20 heures par jour sans voir la lumière du soleil, mais nous avons des gouvernements qui font respecter des lois qui les en empêchent. La vie sur Terre pourrait n’être qu’un gros amas de cellules cancéreuses, mais les organismes vivants ont développé des mécanismes pour faire en sorte que presque toujours, chaque cellule fait ce qu’elle a à faire. 

Les instances capables d’assurer la coordination sont très utiles, surtout lorsqu’elles échappent elles-mêmes à la compétition. Alexander donne l’exemple de la monarchie : la reine existe au-dessus du gouvernement afin de s’assurer que ce gouvernement ne succombe pas à Moloch, et elle peut le faire parce qu’elle n’a aucun intérêt politique en jeu1Cette réalisation me fait un peu mieux comprendre l’existence très répandue de chefs d’État — monarques ou présidents élus — qui n’ont qu’un rôle cérémonial. En même temps, avoir un dictateur omnipotent qui décide tout, même si c’est une superbe façon de se coordonner, ça vient avec un certain nombre d’inconvénients. Il faut un équilibre entre autoritarisme et anarchie. 

V. 

Moloch est un démon ancien auquel on sacrifie de la farine, des tourterelles, des brebis, des béliers, des veaux, des bœufs et des enfants. Moloch est aussi un démon moderne auquel on sacrifie l’art, l’amour, la science, la philosophie, la bonne bouffe, le sexe, le sport et le jeu — ce qui revient à sacrifier notre humanité.

Moloch mange encore des enfants, et il le fait en défonçant leurs crânes et en dévorant leurs cervelles et leur imagination, pour reprendre les mots de Ginsberg. 

J’aime beaucoup « Meditations on Moloch » — au point de l’avoir lu plusieurs fois même si ça prend environ 45 minutes — parce que ce texte nomme l’ennemi. Moloch est la raison pour laquelle tant de choses vont mal. 

Tout le monde déteste le capitalisme. Mais pourquoi? Le capitalisme est clairement le meilleur système économique dont l’humanité a fait l’expérience. Personne ne veut revenir au communisme soviétique ou au féodalisme médiéval. Or, le capitalisme est basé sur la compétition, et la compétition permet à Moloch de s’immiscer dans nos affaires. Personnellement, je crois que le capitalisme a été une excellente chose et sera une chose catastrophique. Il faut mettre en place un autre système avant que la technologie donne à Moloch de nouvelles opportunités, comme de nous remplacer tous par des machines. 

Moloch est la cause de la crise climatique. Individuellement, les entreprises et les gouvernements ont intérêt à ne rien faire, même si cela pourrait se conclure en une grande tragédie économique et humaine. Le coordination, dans ce cas précis, est particulièrement difficile — les conférences comme la COP21 n’ont qu’un effet limité. 

Moloch est l’explication du mauvais fonctionnement de nos démocraties. 

Moloch est le responsable de la concentration des richesses dans les mains de quelques dizaines de personnes tandis que des milliards d’autres peinent à échapper à la pauvreté. 

Moloch est la raison pour laquelle une explosion d’intelligence pourrait être la pire chose à nous arriver. 

VI. 

Le texte que vous venez de lire est essentiellement une version plus courte (et en français) de l’article original. J’aurais aimé avoir quelque chose de plus à dire. En particulier, j’aurais voulu suggérer des solutions, des moyens de nous attaquer à Moloch et, éventuellement, de le vaincre. 

Mais je ne sais trop pas quoi dire qu’Alexander n’a pas déjà dit. Moloch est puissant. Il est partout. Ce ne sera pas facile. 

Coordonnons-nous. Soyons conscients des motivations derrière nos actions et des risques qu’engendrent ces actions. Profitons de notre abondance actuelle de ressources pour en consacrer à étudier Moloch et ses faiblesses. 

Alexander est modérément optimiste. Il conclut en disant qu’il espère que l’humanité contrôlera un jour l’Univers — ce qui serait infiniment mieux que la situation actuelle, parce que pour l’instant, ce sont des entités comme Moloch qui règnent. Et il dit que notre génération s’est déjà mise au travail. Nous avons donc peut-être une chance. 

Je partage cet optimisme. Notre ennemi a des faiblesses : comme Azathoth, le maître des dieux de Lovecraft, le sultan des démons qui règne au centre de l’Univers, Moloch est aveugle et stupide. Il ne suit pas un plan. Il n’a pas de but. Il frappe selon des lois naturelles, et les humains sont pas pire pour retourner les lois naturelles à leur avantage. 

Alors luttons. Parce que détruire Moloch, c’est profondément humaniste. 

Un commentaire


  1. Voici quelques suggestions de lecture et mots-clés pour les lecteurices intéressé-e-s à en apprendre plus.

    Eliezer a également écrit sur le sujet dans « Inadequate Equilibria ». On a une copie dans la bibliothèque du Macroscope, et il est disponible gratuitement en ligne: https://equilibriabook.com/.

    Une sous-classe de problème de coordination, qui correspond aussi aux problèmes relié au capitalisme, s’appelle les « défaillance du marché » (https://fr.wikipedia.org/wiki/D%C3%A9faillance_du_march%C3%A9).

    Robin Hanson a également étudié ce qui pourrait arriver dans le futur si notre civilisation échoue à se coordonner. Le livre (ou TED talk, ou postes sur son blog) « The Age of Ems » est l’exemple le plus populaire. « Year One Million » est un autre exemple intéressant.

    Une classe de problème de coordination importante est de réduire les risques existentiels (https://fr.wikipedia.org/wiki/Risque_de_catastrophe_plan%C3%A9taire#Risque_de_catastrophe_plan%C3%A9taire_et_risque_existentiel) (ex.: les incentifs individuels pour moins polluer sont présentement moins grands que les besoins collectifs). Mais il y a un problème de bootstraping: les incencitifs individuels pour résoudre les problèmes de coordination sont moindre que les incencitifs globaux.

    Dans cette vidéo de 5 minutes, Anders Sandberg explique pourquoi une gouvernance globale pour les enjeux globaux (et une gouvernance local pour les enjeux locaux) est l’approche idéale: https://www.youtube.com/watch?v=91FKgBURAV0.

    Répondre

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *