Nos enfants connaîtront la superintelligence artificielle, les colonies martiennes et la guerre nucléaire

Dire que le futur est "riche de promesses et de grands périls" est devenu si banal que c'en est navrant. Pourtant, cet aphorisme en apparence banal en dit long sur le caractère ambivalent de l'expansion de nos ressources technologiques. Si l'humanité parvient à maximiser son potentiel, notre futur sera potentiellement radieux, heureux et prospère. Mais si nous échouons à limiter les effets néfastes de nos avancées technologiques, notre espèce pourrait bien connaître le même sort que les dinosaures.

J'aime bien, de temps en temps, tenter d'imaginer ce qu'un enfant qui naîtrait aujourd'hui pourrait espérer connaître et voir au cours de sa vie. Étant donné que notre technologie semble évoluer selon la loi du retour accéléré de Ray Kurzweil, cet exercice d'imagination peut donner un aperçu de l'évolution de notre condition humaine, qui pourrait d'ailleurs bientôt devenir posthumaine à mesure que "technologies d'ingénierie humaine" nous transforment progressivement en cyborgs.

D'ici - grosso modo - un milliard d'années, le soleil, qui se transformera en géante rouge, stérilisera notre planète, avant de l'absorber totalement dans 7,59 milliards d'années. Si nous voulons survivre au-delà de cette date, il nous faudra bien trouver une nouvelle maison. Mais déjà, la biologie évolutive nous enseigne que plus une espèce s'étend géographiquement, plus elle a de chances de survivre. Elon Musk affirme qu'" il y a d'excellentes raisons, sur le plan humanitaire, de coloniser d'autres planètes… afin de sauvegarder l'humanité dans l'hypothèse où une catastrophe se produirait." Stephen Hawking - qui a récemment réservé un ticket pour l'espace à bord du vaisseau Virgin Galactic de Richard Branson - pense lui aussi que l'humanité a 100 ans pour coloniser l'espace si elle veut éviter l'extinction.

Il y a de bonnes raisons de croire que nous y parviendrons dans les prochaines décennies. Musk a déjà affirmé que SpaceX construirait une ville sur Mars "à l'échelle d'une vie humaine." Et la NASA a annoncé qu'elle "développait des moyens nécessaires à l'envoi d'humains sur un astéroïde d'ici 2025 et sur Mars dans les années 2030." La NASA prévoit même "d'envoyer une mission robotisée capturer et rediriger un astéroïde pour le mettre en orbite autour de la Lune. Des astronautes embarqués à bord du vaisseau spatial Orion exploreront l'astéroïde au cours des années 2020, et reviendront sur Terre avec des échantillons."

Selon une étude du Pew Research Center, la population mondiale atteindra environ 9,3 milliards d'individus d'ici 2050. Pour vous donner une idée, la Terre comptait seulement 6 milliards d'habitants en 2000, et environ 200 millions à l'époque de la naissance (supposée) de Jésus. Cette explosion pousse certains esprits malthusiens à prophétiser un effondrement de la civilisation. Fort heureusement, la Révolution Verte a permis d'éviter un tel désastre vers le milieu du 20ème siècle, même si elle a engendré de nouveaux types d'externalités environnementales auxquelles l'humanité doit désormais faire face.

Vraisemblablement, "au cours des 50 prochaines années, nous devrons produire autant de nourriture que ce qui a été consommé au cours de toute l'histoire de l'humanité", pour citer Megan Clark, qui dirige l'Organisation de recherche scientifique et industrielle du Commonwealth, en Australie. Elle ajoute que "cela signifie qu'au cours de la vie active de mes enfants, nous produirons plus de grain que tout ce qui a été produit depuis les Égyptiens, plus de poisson que nous n'en avons mangé jusqu'ici, plus de lait que tout ce que les vaches nous ont fourni pour alimenter les petits déjeuners de tous les matins de l'humanité." Même si la technologie nous a permis de doubler la production mondiale de nourriture entre 1960 et 2000, nous faisons face à des défis inédits tels que le changement climatique et l'extinction de l'Anthropocène.

Le physicien Michio Kaku affirme que notre civilisation pourrait accéder au stade de civilisation de Type 1 sur l'échelle de Kardachev au cours des 100 prochaines années. Une civilisation de Type 1 se distingue par sa capacité à exploiter toute l'énergie disponible sur sa planète (y compris les radiations électromagnétiques émises par son soleil), et même peut-être à contrôler la météo, les tremblements de terre et les volcans. Le philosophe Nick Bostrom dresse même un parallèle tacite entre une civilisation de Type 1 et la condition posthumaine de "maturité technologique", qu'il décrit comme "le fait d'être capable d'atteindre un niveau de productivité économique et de contrôle de la nature proche du maximum que l'on puisse imaginer."

À l'heure actuelle, la civilisation humaine est plutôt de Type 0, même si "des technologies de transformation du monde" émergentes pourraient changer la donne dans les prochaines années, en donnant à notre espèce les moyens de manipuler et modifier le monde physique de manière toujours plus importante. Mais Kaku craint que le passage d'une civilisation de Type 0 à Type 1 ne menace fortement notre survie. Comme il le dit, "le danger c'est maintenant, car nous sommes toujours des sauvages. Nous sommes toujours animés par de violentes passions. Des idées sectaires et fondamentalistes circulent partout. Mais nous possédons aussi des armes nucléaires. Nous possédons des armes chimiques et biologiques capables de supprimer toute vie sur Terre." Autrement dit, comme je l'ai déjà écrit, des visions archaïques de ce que devrait être le monde vont entrer en conflit avec des technologies néotériques capables de transformer la planète en un vaste cimetière.

C'est l'un des objectifs majeurs de la plupart des transhumanistes, qui voient le vieillissement comme une horreur absolue coupable de la mort de quelque 55,3 millions d'individus chaque année. Pour eux, mourir de vieillesse devrait être aussi involontaire que de succomber à une leucémie.

Les technologies anti-vieillissement ont connu un certain écho médiatique ces dernières années grâce aux travaux d'Aubrey deGrey, co-fondateur de la Methuselah Foundation. Selon le généticien George Church, les scientifiques pourraient être en mesure d'inverser les effets du vieillissement d'ici une dizaine d'années. On parle ici concrètement de faire rajeunir les vieux, pas seulement de stabiliser les gens d'une vingtaine d'années. Comme le dit Church, le but ultime n'est pas "d'arrêter ou de guérir, mais d'inverser les effets." L'un des moyens possibles d'y parvenir consisterait à utiliser la technologie d'édition génétique révolutionnaire CRISPR/Cas9, comme l'expliquait Oliver Medvedik lors d'une conférence TED en 2016.

Selon un article publié en 2012 dans Nature, nous pourrions bien nous diriger tout droit vers un effondrement brutal, irréversible et catastrophique de l'écosystème planétaire, qui se déroulerait en l'espace d'une petite décennie. Cette catastrophe engendrerait des conditions atmosphériques rendant la vie impossible. À vrai dire, des études confirment que notre société industrielle est en train de provoquer la sixième extinction massive des 3,8 derniers milliards d'années, et d'autres études indiquent que la population mondiale de vertébrés sauvages a décliné de 58% entre 1970 et 2012. Les causes de ce désastre mondial ? La pollution industrielle, la fragmentation des écosystèmes, la destruction des habitats, la surexploitation des ressources, la surpopulation, et bien sûr le réchauffement climatique.

Déforestation. Image: Dikshajhingan/Wikimedia

La seule fois où les armes nucléaires ont été utilisées dans le cadre d'un conflit, c'était à la fin de la Seconde guerre mondiale, quand les Etats-Unis ont largué deux bombes atomiques sur le Japon. Mais il y a de bonnes raisons de croire qu'une autre bombe sera utilisée dans les prochaines années ou décennies, ou peut-être dans un siècle. D'abord, les Etats-Unis semblent être à nouveau pris dans une "Guerre Froide" avec la Russie, comme l'affirme le Premier ministre russe Dmitri Medvedev. Ensuite, la Corée du Nord continue de développer ses capacités nucléaires, et menace régulièrement d'employer des armes nucléaires contre ceux qu'elle perçoit comme ses ennemis. Par ailleurs, quand Donald Trump a été élu président des Etats-Unis, le vénérable Bulletin of the Atomic Scientists a avancé l'horloge de la fin du monde de 30 secondes, en partie à cause des "déclarations inquiétantes de M. Trump au sujet de la prolifération et de l'utilisation des armes nucléaires."

Et enfin, les terroristes cherchent plus que jamais à se procurer et à faire exploser une arme nucléaire en occident. Dans un numéro récent de son magazine de propagande, l'Etat islamique fantasme ouvertement à l'idée de se procurer une bombe nucléaire auprès du Pakistan et de la faire détonner dans une grande ville américaine. Selon l'expert et fondateur de NuclearRisk.org Martin Hellman, la probabilité qu'une bombe nucléaire explose est d'environ 1% pour chacune des prochaines années, ce qui signifie que "d'ici à 10 ans, cette probabilité est de presque 10%, et de 40% d'ici 50 ans si rien ne change." Comme me l'avait affirmé Lawrence Krauss dans une interview pour Motherboard, à moins que l'humanité ne détruise toutes les armes nucléaires existant sur la planète, il est quasiment inévitable que l'une d'entre elles soit utilisée un jour.

Les Homo sapiens sont actuellement l'espèce la plus intelligence de la planète, si l'on définit "l'intelligence" comme la capacité à déployer les moyens adéquats pour parvenir à des fins spécifiques. Mais cela pourrait changer rapidement si des scientifiques parvenaient à doter des machines d'une intelligence supérieure à celle de l'Homme. Comme le soulignent les chercheurs depuis des décennies, il s'agirait de l'événement le plus important de notre histoire, dans la mesure où cela signifierait que notre sort dépendrait alors davantage de la superintelligence que de la nôtre, tout comme le sort des gorilles dépend désormais plus de nos actions que des leurs. L'intelligence confère du pouvoir à celui qui la détient, et une intelligence supérieure à la nôtre aurait donc logiquement un pouvoir exorbitant sur le futur de notre espèce et celui de la biosphère dans son ensemble.

Lors d'un récent sondage réalisé auprès d'experts en intelligence artificielle, presque tous ont déclaré être convaincus qu'au moins une superintelligence artificielle existerait sur Terre d'ici la fin du siècle. Même si les spécialistes de l'IA ne se sont pas toujours distingués jusqu'ici par leur clairvoyance - que l'on songe, par exemple, à Marvin Minsky, qui déclarait en 1967 que "D'ici une génération… le problème de la création d'intelligences artificielles sera résolu" - les derniers développements en matière d'IA indiquent que nous réalisons des progrès importants et que ces progrès pourraient nous mener rapidement jusqu'aux machines superintelligentes.

Dans leur célèbre manifeste de 1955, Bertrand Russell et Albert Einstein écrivaient :

De nombreux avertissements ont été émis par d'éminents hommes de science et par des autorités militaires de premier ordre. Aucun d'eux ne dit que le pire est certain. En revanche, ils affirment qu'il est possible, et que nul ne peut assurer qu'il ne se produira pas… Il apparaît que ceux qui en savent le plus sont les plus pessimistes.

C'est à peu près la situation que décrivent les chercheurs spécialisés en "risque existentiel", ce risque étant celui d'une catastrophe susceptible de causer la "perte permanente d'une large partie de nos capacités créatrices." Ceux qui étudient ce type de risques estiment très probables qu'une catastrophe de très grande ampleur se produise dans un futur relativement proche.

Selon une étude informelle réalisée en 2008, les chercheurs présents à une conférence à l'Université d'Oxford estimaient que l'humanité avait 19% de chances de s'éteindre avant 2100. Et le célèbre professeur d'astronomie Lord Martin Rees écrivait en 2003, dans son livre Our Final Hour, que notre civilisation n'avait que 50% de chances de survivre au siècle en cours. D'autres chercheurs affirment que les humains auront probablement disparu avant 2100 (Frank Fenner) et que la probabilité d'une catastrophe existentielle est d'au moins 25% (Bostrom). Dans la même veine, le biologiste canadien Neil Dawe déclare qu'il "ne serait pas surpris si la génération suivante assistait à l'extinction de l'espèce humaine." Même Stephen Hawking semble être d'accord avec ces estimations quand il affirme, comme dit précédemment, que l'humanité s'éteindra si nous ne colonisons pas l'espace dans les 100 prochaines années.

Au bout du compte, on s'aperçoit donc que le cliché des "promesses et des périls" a de quoi peser dans nos esprits - et tout particulièrement au moment d'effectuer des choix politiques. Si l'humanité parvient à donner le meilleur d'elle-même, le futur pourrait être plus radieux que jamais ; mais si le tribalisme, l'ignorance et le court-termisme continuent à dominer le débat, alors la dernière génération d'humains est peut-être déjà née.

Phil Torres est directeur et fondateur du X-Risks Institute. Il a publié plusieurs ouvrages sur le terrorisme apocalyptique, les nouvelles technologies, et les risques de catastrophes mondiales. Son prochain livre s'intitule Morality, Foresight, and Human Flourishing: An Introduction to Existential Risks.