{"id":301,"date":"2018-01-30T18:13:36","date_gmt":"2018-01-30T23:13:36","guid":{"rendered":"https:\/\/etiennefd.com\/cteniq\/?p=301"},"modified":"2020-08-31T22:12:30","modified_gmt":"2020-09-01T02:12:30","slug":"rapport-de-lecture-superintelligence","status":"publish","type":"post","link":"https:\/\/etiennefd.com\/cteniq\/rapport-de-lecture-superintelligence\/","title":{"rendered":"Rapport de lecture\u00a0: Superintelligence"},"content":{"rendered":"

Superintelligence<\/em> (2014), du philosophe Nick Bostrom<\/a>, est un livre important.\u00a0\u00c0 quel point?<\/p>\n

(ben, c’est \u00e9crit sur la couverture que Bill Gates \u00ab\u00a0highly recommend[s] this book\u00a0\u00bb, fait que c’est s\u00fbr que c’est important. Mais encore?)<\/p>\n

C’est important \u00e0 ce point-l\u00e0 : la diff\u00e9rence entre un futur o\u00f9 les humains (ou leurs descendants) vivent heureux, colonisent l’espace et r\u00e9pandent leur bonheur partout dans l’univers accessible, et un futur o\u00f9 les humains, ainsi que tout ce qu’ils consid\u00e8rent pr\u00e9cieux, ont \u00e9t\u00e9 ray\u00e9s de la carte pour un truc stupide comme b\u00e2tir un ordinateur de la taille de l’univers afin de calculer des d\u00e9cimales de pi \u2014 cette diff\u00e9rence d\u00e9pend (peut-\u00eatre) de ce qui arrivera quand nous d\u00e9velopperons la premi\u00e8re superintelligence1<\/a><\/sup>Soit une entit\u00e9 de loin sup\u00e9rieure aux humains en mati\u00e8re de capacit\u00e9s cognitives.<\/span>.<\/p>\n

En gros, si superintelligence il y a, on est mieux de ne pas manquer notre coup.<\/p>\n

Le livre de Bostrom a donc une port\u00e9e cosmique. Il rel\u00e8ve de la sp\u00e9culation, mais de la sp\u00e9culation inform\u00e9e. De nombreux experts croient que le d\u00e9veloppement d’une forme de superintelligence \u2014 comme une intelligence artificielle (IA) \u2014 est probable dans les prochaines d\u00e9cennies. Et de plus en plus, on s’int\u00e9resse aux cons\u00e9quences d’un tel d\u00e9veloppement, dont le \u00ab\u00a0risque existentiel\u00a0\u00bb : un risque que la civilisation ou m\u00eame l’esp\u00e8ce humaine ne survive pas.<\/p>\n

Beaucoup, quand on leur parle d’intelligence artificielle, sont sceptiques. Plusieurs pensent \u00e0 Terminator ou aux robots d’Asimov. Certains pensent aux cons\u00e9quences de l’automatisation sur le march\u00e9 du travail. Bien peu de gens pensent au risque existentiel. Ce serait bien qu’il y en ait plus, de ces gens.<\/p>\n

I. Qu’est-ce qu’une explosion d’intelligence?\u00a0<\/span><\/strong><\/p>\n

Les humains sont encore les cr\u00e9atures les plus intelligentes sur Terre, et parmi les nombreux talents des humains se trouve la cr\u00e9ation d’intelligences artificielles. Nous sommes parvenus \u00e0 cr\u00e9er des intelligences capables de nous accoter ou de nous battre dans certains domaines, comme les \u00e9checs ou le go. Le nombre de t\u00e2ches o\u00f9 l’IA atteint le niveau humain va croissant. Elles sont d\u00e9j\u00e0 capables de conduire des autos et de r\u00e9pondre \u00e0 des requ\u00eates vocales (genre Siri ou Alexa).<\/p>\n

Pour l’instant, et dans l’avenir proche, chaque IA est un logiciel limit\u00e9 dans son application \u00e0 un domaine pr\u00e9cis. L’\u00e9tape suivante, c’est de cr\u00e9er une IA qui serait comparable aux humains dans la plupart, voire tous les domaines d’activit\u00e9. La majorit\u00e9 des experts2<\/a><\/sup>Un tableau du livre montre qu’en combinant les estimations de plusieurs panels d’experts, on obtient une probabilit\u00e9 de 10% de cr\u00e9er une IA de niveau humain d’ici 2022, une probabilit\u00e9 de 50% d’ici 2040, et une probabilit\u00e9 de 90% d’ici 2075.<\/span> s’entendent pour dire que \u00e7a risque d’arriver dans les prochaines d\u00e9cennies.<\/p>\n

Donnons un nom humain \u00e0 la premi\u00e8re IA de niveau humain. Appelons-la Georgina.<\/p>\n

Georgina joue aux \u00e9checs, est capable de prouver des th\u00e9or\u00e8mes simples, peut conduire une voiture, et fait la conversation de mani\u00e8re coh\u00e9rente. Tout le monde est impressionn\u00e9 par Georgina. Mais les chercheurs en IA n’iront pas au ch\u00f4mage d\u00e8s sa cr\u00e9ation. Ils continueront de l’am\u00e9liorer, et peu apr\u00e8s Georgina jouera aux \u00e9checs en 9 dimensions, d\u00e9couvrira de nouveaux th\u00e9or\u00e8mes, conduira simultan\u00e9ment tous les v\u00e9hicules d’une ville de fa\u00e7on \u00e0 \u00e9liminer les embouteillages, et gagnera le prix Nobel de litt\u00e9rature.<\/p>\n

On ne parle pas encore de superintelligence, mais on s’en approche. Georgina nous d\u00e9passe dans tous les domaines, et cela comprend la programmation d’IA. Georgina sera donc capable de s’auto-am\u00e9liorer, voire de s’auto-remplacer par une IA qui lui est sup\u00e9rieure (Georgina II).<\/p>\n

Georgina II sera encore meilleure que Georgina Ire<\/sup> pour cr\u00e9er de l’IA. Peu apr\u00e8s na\u00eetra Georgina III. Puis Georgina IV. Et ainsi de suite. Cela s’appelle l’auto-am\u00e9lioration r\u00e9cursive, ou, en termes plus imag\u00e9s, l’explosion d’intelligence.<\/p>\n

\u00c7a pourrait aller tr\u00e8s vite, de l’ordre de quelques heures ou m\u00eame de quelques minutes. \u00c7a pourrait prendre plus longtemps \u2014 c’est difficile \u00e0 dire. Mais si \u00e7a arrive, on se retrouvera avec une superintelligence sur les bras. Grosse responsabilit\u00e9.<\/p>\n

II. Une explosion d’intelligence se produira-t-elle?\u00a0<\/span><\/strong><\/p>\n

Le livre de Nick Bostrom n’est pas un sc\u00e9nario de science-fiction, plein de d\u00e9tails complexes mais globalement improbable. En fait, Bostrom lui-m\u00eame ne se prononce pas vraiment sur la probabilit\u00e9 qu’une explosion se produise, ni sur le moment de l’explosion (dans 10 ans? dans 100 ans?).<\/p>\n

L’argument principal du livre est ailleurs. Il semble qu’une explosion soit une possibilit\u00e9 r\u00e9elle. Or,\u00a0si une explosion se produit, elle aura d’immenses cons\u00e9quences qui d\u00e9pendront de la pr\u00e9paration effectu\u00e9e par l’humanit\u00e9 au pr\u00e9alable. Il est donc utile d’examiner tous les sc\u00e9narios plausibles et de nous pr\u00e9parer de mani\u00e8re \u00e0 maximiser les cons\u00e9quences heureuses, et minimiser les cons\u00e9quences f\u00e2cheuses.<\/p>\n

C’est un principe de pr\u00e9caution et c’est joliment illustr\u00e9 par la fable du hibou dans les premi\u00e8res pages du livre3<\/a><\/sup>Des m\u00e9sanges s’imaginent qu’un hibou pourra les aider \u00e0 construire leurs nids et r\u00e9gler leurs probl\u00e8mes, et d\u00e9cident de partir \u00e0 la recherche d’un \u0153uf de hibou. Seuls quelques vieux sages affirment qu’on ignore quelles cons\u00e9quences aura l’introduction d’un hibou chez les m\u00e9sanges. Ils se mettent au travail aussit\u00f4t, car il faut \u00eatre certain qu’on pourra contr\u00f4ler le hibou avant que le hibou arrive.<\/span>.<\/p>\n

III. Quelle forme prendra l’explosion?<\/span><\/strong><\/p>\n

La superintelligence la plus probable selon Bostrom sera artificielle, et c’est donc \u00e0 l’IA qu’il consacre la plupart de ses arguments. D’autres sc\u00e9narios sont possibles :<\/p>\n