Le concept de "singularité technologique" décrit un instant qui inscrit une rupture d’échelle dans l’évolution de notre progrès technologique.
Par Thierry Berthier.
Le développement exponentiel des nouvelles technologies (information, nano-, quanto-, bio-…) et leur rapide convergence, réactivent les concepts profonds et anciens de transhumanisme ou posthumanisme et nous interrogent sur nos capacités d’accès à un événement essentiel que l’on nomme "Singularité Technologique"
Qu’entend-t-on par singularité ?
Ce terme fait clairement référence à la singularité gravitationnelle engendrée par un trou noir en cosmologie et à la notion connexe de déformation puis de discontinuité de l’espace-temps aux abords immédiats de ce trou noir.
À compter de cette date ou de cet événement, notre croissance technologique changera brusquement d’échelle, de plusieurs ordres vers le haut, le progrès, les découvertes scientifiques seront le fruit de forces et d’énergies non humaines ou posthumaines, issues de l’intelligence artificielle (IA).
Cette notion de singularité a été introduite au début des années 1950 par le mathématicien John Von Neumann[1] puis développée durant les années 1960 par Alan Turing[2] et Irving John Good[3]. Elle a inspiré de nombreux scientifiques comme Carl Sagan[4] et de nombreux auteurs de science-fiction durant ces trente dernières années. Elle se réactive régulièrement lors d’annonces d’innovations technologiques majeures (robotiques, biotechnologiques ou autres).
Entre débats sérieux et projets insensés
Aujourd’hui, cette notion de singularité alimente débats, fantasmes sectaires et projets, des plus insensés aux plus sérieux. En 2008, une Université de la Singularité a été créée en Californie par Ray Kurzweil[5] et Peter Diamantis avec le soutien massif de Google, Nokia, Cisco, Autodesk, de la NASA, et de l’administration américaine. L’esprit de cette université tient en un tweet : " Be prepared to learn how the growth of exponential and disruptive technologies will impact your industry, your company, your career, and your life ". Ses moyens financiers sont presque sans limite, à l’image de la puissance des lobbies qui agissent à l’origine de cette création…
Deux questions principales s’imposent alors :
1 – La singularité surviendra-t-elle un jour ?
2 – Si oui, en sommes-nous loin, ou au contraire tout proche ?
La première question est évidemment la plus profonde des deux. Elle se reformule, tantôt comme une prophétie positive et argumentée, tantôt comme une interrogation formelle indécidable par nature. Pour l’aborder sereinement, il faut en premier lieu évoquer une nouvelle singularité, symétrique de la première qui pourrait s’appeler " singularité d’extinction " ou régressive en termes de progrès. Elle représente l’instant potentiel à partir duquel notre civilisation effectue un bond en arrière majeur à l’échelle planétaire : ce brusque saut peut se produire par exemple à la suite d’un impact météoritique avec un géocroiseur massif (non détourné par l’homme et sa technique) de l’orbite terrestre.
Au-delà d’une certaine masse, il est prouvé que cet impact serait totalement destructeur pour la vie humaine et animale, nous ramenant ainsi quelques millions d’années en arrière… et repoussant d’autant la date de notre seconde singularité ; le " nous " employé étant celui des bactéries ou insectes survivants. Il est illusoire de discuter d’une singularité sans évoquer sa forte dépendance à la réalisation ou non de sa symétrique. (Ceci revient d’ailleurs à ne pas oublier le septième terme dans l’équation de Drake : celui indiquant la durée de vie moyenne d’une civilisation.)
Un argument classique pouvant être objecté ici, consiste à penser qu’au-delà d’un certain niveau de maturité technologique, les risques d’extinction de l’espèce s’éloignent, sachant que l’IA saura mettre en œuvre les contre-mesures appropriées et efficaces pour dissiper les menaces futures. Je pense qu’il s’agit plus d’un optimisme béat que d’une bienveillance naturelle du système…
L’homme, depuis sa naissance, baigne dans "l’aléatoire sauvage" et de ce fait subit constamment l’assaut des événements rares, imprévisibles et surpuissants. Ces événements rares, imprévisibles, inédits et surpuissants sont appelés " cygnes noirs " par Nassim Nicholas Taleb[6], écrivain et philosophe des sciences du hasard (très lu par les financiers en quête de modèles nouveaux et distincts de l’obsolète standard gaussien). Une des idées phares de Taleb est que l’expérience passée n’apporte malheureusement aucune information exploitable concernant la réalisation ou non d’événements inédits a priori très peu probables mais d’impact majeur sur l’évolution du système.
Taleb a construit et calibré sa théorie à partir de son expérience de trader des marchés financiers durant les années 1980-90 et de son enfance puis adolescence marquée par la guerre du Liban. Les crachs boursiers (celui de 1929, de 1987, puis la crise que l’on connaît aujourd’hui) sont ses premiers cygnes noirs, les conflits armés, insurrections, révoltes, attentats en sont d’autres à ses yeux, obéissant aux mêmes fluctuations du hasard. Cette vision de la force de l’aléatoire est un frein considérable à la construction de prévisions ou de prédictions fondées. Les cygnes noirs de Taleb nous mettent en garde contre toute arrogance prédictive et nous réduisent de fait aux simples techno-prophéties…
On comprend alors que pour étudier l’éventualité de l’émergence d’une singularité technologique, il est nécessaire d’y inclure l’aléa des cygnes noirs : cette dose d’aléatoire présente à toute échelle, imprégnant chacune des strates poreuses de notre évolution technologique. C’est elle qui est à l’origine des bonds et discontinuités ou des périodes de pause constatées tout au long de notre marche vers le progrès. Enfin, c’est peut-être elle qui constituera l’amorce ou le germe de notre singularité vue à son tour comme le cygne noir essentiel de notre évolution.
Les arguments en faveur de la singularité
Maintenant que le paysage aléatoire est en place, il est possible " d’empiler " certains arguments en faveur de l’avènement d’une singularité technologique :
◾Le caractère exponentiel de l’évolution technologique est un premier indicateur d’accélération systémique : il suffit de mesurer et comparer les acquis humains à l’échelle du millénaire, du siècle, puis sur dix ans et de constater le gradient !
◾La convergence rapide de grands territoires de la pensée humaine : mécanique quantique, théories de l’information et de la complexité, intelligence artificielle, astrophysique, sciences cognitives, biologie, philosophie, sociologie, économie et finance. La partition initiale n’existe plus : les savoirs spécifiques circulent et se diffusent, d’un domaine vers un autre, interagissant et modifiant sans cesse les lignes de perception des thématiques classiques.
◾Le web en tant qu’émergence d’une structure globale issue d’une multitude d’interactions locales : Internet peut être vu comme un graphe dynamique dont les sommets sont les pages web et les arêtes, les liens html liant ces pages. Ce graphe planétaire évolue en temps réel ; à chaque instant, des pages disparaissent, d’autres sont créées, des liens apparaissent, d’autres s’effacent, des topologies se forment et se transforment à l’image d’une entité biologique et des cellules qui la composent. Le transfert massif de l’information humaine vers internet, son stockage, son traitement, sa hiérarchisation via les moteurs de recherche constituent certainement les premiers pas vers notre singularité, si elle doit avoir lieu.
◾La fusion homme-machine ou le concept de transhumanisme (qui a débuté dès 1958 avec le premier pacemaker implanté) modifie profondément notre rapport au corps[7]. Que ce soit dans un but de simple remplacement de l’organe malade ou dans celui d’augmentation des capacités de l’organe sain, la manipulation nous interroge sur notre propre identité : à partir de quel niveau de transformation passe-t-on du statut d’homme à celui de trans-humain ? Est-il légitime de retarder notre vieillissement et notre mort? Peut-on "s’augmenter sans se perdre?" Là encore, cette thématique renforce au premier rang le concept de singularité.
Imaginons maintenant la convergence et l’évolution des quatre arguments que l’on vient de déployer. Nous nous situons bien sûr dans un futur qu’il n’est pas possible de préciser davantage.
L’homme a maîtrisé depuis longtemps la mécanique atomique, il sait construire des bio-calculateurs à l’échelle moléculaire, il sait les connecter en réseaux multi-couche, les activer chimiquement ou physiquement afin de constituer un ordinateur optimal à cette échelle atomique. L’architecture du cerveau humain est également bien explorée : des programmes de simulation cérébrale (utilisant les mêmes échelles de connexions que celles de l’homme) permettent de créer une entité de calcul équivalente en nombre d’instruction par unité de temps et en espace mémoire à celle de notre machinerie cérébrale.
Les sentiments humains (joie, bien-être, douleur, peur, tristesse, envie…) sont représentés par un magma algorithmique efficace.
Le test de Turing[8] a été passé avec succès depuis longtemps par différents types d’algorithmes.
La créativité est un caractère que l’on parvient à faire émerger de codes évolutifs intégrant l’aléatoire (on retrouve ici les cygnes noirs de Taleb).
La totalité de l’information humaine est stockée et accessible sur le descendant de l’internet.
La connexion "homme-machine" a été optimisée et autorise des transferts massifs d’informations dans les deux sens.
Enfin, l’ensemble de ces évolutions technologiques a modifié et guidé l’esprit humain vers une "sagesse d’évolution", ceci via une modération des instincts primitifs et nuisibles à la communauté humaine (dans cet exercice, on est autorisé à rêver…). L’instant de la singularité semble alors établi : une entité de calcul globale intégrant l’humanité et ses représentations externes produit des " connaissances trans-humaines " et accélère de façon exponentielle la vitesse du progrès. L’homme, dépassé par l’IA qu’il a su engendrer, se contente de comprendre et de capitaliser les découvertes produites. Il doit veiller à conserver le pouvoir sur cette production et son emprise sur le monde.
La seconde question évoquait la proximité dans le temps de cette singularité. "Entre trente et cinquante ans!" répondent en cœur certains scientifiques, technoprophètes ou philosophes des sciences cognitives. "Nous en sommes si proches que l’on peut en ressentir aujourd’hui les manifestations préliminaires " avancent les chercheurs de l’université de la singularité. Cette forme d’arrogance intellectuelle motive et justifie les investissements importants engagés mais elle transgresse aussi totalement le principe du hasard sauvage et sous-estime la longueur du chemin à parcourir.
Qui peut raisonnablement prédire que, proche du but (construire un code doué d’un pouvoir de création et de découverte surpassant l’inventivité humaine), nous ne serons pas confrontés à une obstruction de type Indécidabilité mathématique de Gödel[9] ?
Ce théorème, ultime dans le sens qu’il contient, nous force à la mesure et à la prudence lors de toute prédiction : il fixe des limites dont l’au-delà nous échappe irrémédiablement. Objectivement, personne ne peut apporter une réponse acceptable en termes de date. Il faut juste laisser le temps se déployer, faire son œuvre et se tenir à l’écoute des signes et des cygnes que l’information nous renvoie.
1.John von Neumann, 1903-1957, mathématicien – physicien américain à l’origine de nombreux résultats en analyse fonctionnelle, informatique théorique, mécanique quantique, armement atomique.
2.Alan Turing, 1912-1954, père fondateur de l’informatique, mathématicien britannique.
3.Irving John Good, 1916-2009, statisticien britannique, père des méthodes bayésiennes en probabilités.
4.Carl Sagan, 1934-1996, scientifique, astronome américain, père du programme Seti.
5.Ray Kurzweil, 1948-, informaticien américain, précurseur dans le développement de la reconnaissance optique de caractères, fondateur du courant transhumaniste.
6.Nassim Nicholas Taleb, 1960-, écrivain, philosophe des sciences du hasard; Le cygne noir, La puissance de l’imprévisible, Les belles lettres, 2008; Le hasard sauvage, Des marchés boursiers à notre vie: le rôle caché de la chance, Les belles lettres 2005.
7." L’homme 2.0, réparé, transformé, augmenté, jusqu’où?", Pour La Science, décembre 2012
8.Le test de Turing : en 1950, Alan Turing a proposé le jeu de l’imitation appelé " test de Turing ". La règle de ce jeu est la suivante : Un juge dialogue par écrit avec un interlocuteur ; à l’issue de ce dialogue, il doit reconnaître si celui-ci est une machine ou un être humain. Le juge ne voit pas son interlocuteur qui doit quant à lui toujours répondre aux questions du juge. La machine essaie de se faire passer pour un être humain et l’être humain tente de se faire reconnaître comme humain. Lorsque le juge se trompe dans 50% des cas ou plus, alors on considère que la machine présente une forme d’intelligence, qu’elle pense à sa façon, et que le test de Turing est réussi. À titre d’illustration, on pourra aller discuter avec Alice ici et ici.
9.Kurt Gödel, 1906-1978, mathématicien-logicien austro-américain est à l’origine du théorème d’incomplétude que l’on peut résumer par la phrase suivante : Dans n’importe quelle théorie récursivement axiomatisable, cohérente et capable de "formaliser l’arithmétique", on peut construire un énoncé arithmétique qui ne peut être ni prouvé ni réfuté dans cette théorie.
https://www.contrepoints.org/2014/09/19/181284-singularite-technologique-lavenir-de-lhumanite