La chose est inquiétante car pendant que l'homme en est de plus réduit à vivre plutôt qu'à fonctionner et s'assimile par là à la machine, on met dans la bouche du robot des paroles où il prétend pouvoir s'élever jusqu'à l'homme et même le dépasser. La trajectoire de l'homme est descendante, celle du robot est ascendante. Elles vont inévitablement se croiser.
Erewhon de Samuel Butler
L'intérêt de ce livre tient au fait que l'auteur, Samuel Butler, était un lecteur attentif et critique de Charles Darwin, son compatriote et son contemporain. Là où, à première vue, nous est présentée une simple attitude vis-à-vis des machines, il faut voir souvent un argument pour ou contre tel ou tel aspect de la théorie darwinienne de l'évolution. Et en plus d'être un penseur et un amateur éclairé de biologie, Samuel Butler est un humoriste, ce qui complique encore les choses. On ne sait pas toujours à laquelle de ces trois identités il faut attribuer tel ou tel passage.
Erewhon est un anagramme de Nowhere. Ce nulle part, Butler le situe par-delà les montagnes en Nouvelle-Zélande. Après avoir franchi une passe dangereuse, on débouche sur une terre habitée par des humains d'une extraordinaire beauté, mais aux mœurs étranges. Ils semblent avoir lu Darwin. Ils considèrent, par exemple, la maladie et la pauvreté comme un crime, ce qui dans la perspective darwinienne de la survivance du plus apte n'est pas dénué de sens. S'avouer malade dans ce pays, c'est plaider coupable. C'est la solution la plus efficace que les Erewhoniens ont trouvée pour échapper aux méfaits encore plus graves de la médicalisation. Ils ont pour les mêmes raisons interdit la pratique de la médecine et si quelques médecins continuent à oeuvrer, au noir, dirons-nous, ils le font à leurs risques et périls. On les a mis à l'écart pour éviter qu'ils n'aient trop de pouvoir sur les familles et les villes entières auprès desquelles ils interviendraient.
C'est dans un court chapitre intitulé "Le livre des machines" que Butler expose ses idées sur le progrès technique, par la bouche de sages Erewhoniens. Le premier discours nous aide à comprendre pourquoi les Erewhoniens ont détruit toutes leurs machines. À son arrivée dans leur pays, le narrateur portait une montre, ce qui lui valut la prison. C'était un crime en effet que de rester attaché à un tel symbole d'un passé honni.
Darwin avait adopté le modèle mécaniste. L'évolution résultait à ses yeux du fait que mécaniquement, au hasard des mutations, tel animal était doté d'un caractère nouveau présentant pour lui un avantage dans la lutte pour la survie. Telle était l'interprétation de Butler et de bon nombre de ses contemporains.
Cet aspect de la doctrine darwinienne, Butler le rejetait toutefois énergiquement. Comment, se demandait-il, la conscience a-t-elle pu apparaître dans ces conditions? Bien des auteurs ayant cru depuis pouvoir répondre à cette question, elle n'est plus aujourd'hui a priori une objection majeure. Mais pour Butler, c'en était une. Et c'est ici qu'intervient l'humoriste. Pourquoi les Erewhoniens ont-ils détruit toutes leurs machines? Parce que, s'il est vrai que dans une première évolution purement mécanique la conscience a pu apparaître, elle devrait apparaître aussi à une étape donnée de l'évolution des machines.1 Et alors qu'adviendrait-il de l'humanité si, ayant pris conscience de leur nombre et de leur force, les machines, aujourd'hui esclaves des hommes, se révoltaient contre leurs maîtres? (Capek décrira cette révolte dans R.U.R).
"Ou bien, précise le sage Erewhonien, un grand nombre d'actions considérées comme purement mécaniques et inconscientes contiennent plus d'éléments de conscience qu'on ne l'a admis jusqu'ici, ou bien l'être humain descend de choses qui n'ont aucune espèce de conscience. Dans ce cas, il n'y a aucune improbabilité a priori que des machines conscientes, et plus que conscientes, descendent des machines qui existent actuellement."
Raisonnement impeccable. Aujourd'hui, on invoquerait l'argument de l'auto organisation pour expliquer l'évolution des machines vers la conscience. N'ayant pas cet argument à sa disposition, Butler est obligé de reconnaître que ce sont les hommes qui président à l'évolution des machines, ce qui donne lieu à l'exposition d'une seconde thèse, contredisant la première, où les machines apparaissent comme pouvant être utiles et sans danger aussi longtemps qu'elles sont bien conçues et bien utilisées.
C'est l'envers de ce tableau toutefois qui est le plus intéressant : ces machines qui les servent si bien, les hommes ne les servent-ils pas encore mieux? Suit un passage éloquent sur le mal que les hommes se donnent pour fabriquer et faire fonctionner les locomotives et les bateaux à vapeur.
On se demande ce que Butler aurait fait et dit s'il avait su que le charbon produisait des gaz à effet de serre et provoquait ainsi le réchauffement de la planète. Peut-être un nouveau sage erewhonien, émigré dans l'humanité se lèverait-il aujourd'hui parmi les hommes pour soutenir qu'il faudrait, logiquement, soit détruire les machines comme ses ancêtres l'ont fait chez eux, soit en fabriquer de nouvelles qui assumeraient toutes les tâches ingrates.
C'est ce qu'on fait aujourd'hui dans l'ensemble de l'humanité, mais en faisant courir à tous de nouveaux risques dont celui d'abandonner tout le pouvoir aux ingénieurs programmeurs. Leur profession, l'informatique (dont la robotique et la domotique sont des branches), est en effet devenue une méta profession réduisant les autres, toutes sont sous son influence, réduites à un rôle secondaire. Un robot pourrait aujourd'hui pratiquer la médecine, depuis le diagnostic fondé sur des tests et des systèmes experts, jusqu'à la chirurgie où les robots jouent un rôle de plus en plus important. Presque toutes les professions se vident de leur substance dans le nouveau contexte.
Il y a quelques décennies, quand un touriste entrait dans Rome en voiture, il pouvait facilement recruter un guide qui le pilotait en le précédant en motocyclette. Le GPS a fait tomber les métiers de ce genre en désuétude, ce qui a fait apparaître un nouveau danger pour l'humanité : la substitution de la machine à l'homme dans les tâches les plus humaines.
C’est le retour en gloire de Samuel Butler. Il faut relire son chef d’œuvre, Erewhon. Cet ouvrage futuriste du XIXème siècle jette un éclairage singulier sur cette question de l'émergence de la conscience, qui vient de quitter la science-fiction pour faire une entrée remarquée sur la scène scientifique
"C'est dans un court chapitre intitulé ‘’Le livre des machines’’ que Butler expose ses idées sur le progrès technique, par la bouche de sages Erewhoniens. Le premier discours nous aide à comprendre pourquoi les Erewhoniens ont détruit toutes leurs machines. À son arrivée dans leur pays, le narrateur portait une montre, ce qui lui valut la prison. C'était un crime en effet que de rester attaché à un tel symbole d'un passé honni.
Darwin avait adopté le modèle mécaniste. L'évolution résultait à ses yeux du fait que mécaniquement, au hasard des mutations, tel animal était doté d'un caractère nouveau présentant pour lui un avantage dans la lutte pour la survie. Telle était l'interprétation de Butler et de bon nombre de ses contemporains.
Cet aspect de la doctrine darwinienne, Butler le rejetait toutefois énergiquement. Comment, se demandait-il, la conscience a-t-elle pu apparaître dans ces conditions? Bien des auteurs ayant cru depuis pouvoir répondre à cette question, elle n'est plus aujourd'hui a priori une objection majeure pour une majorité d’auteurs. Mais pour Butler, c'en était une.(Il importe ici préciser que Butler était aussi un humoriste. Pourquoi les Erewhoniens ont-ils détruit toutes leurs machines? Parce que, s'il est vrai que dans une première évolution purement mécanique la conscience a pu apparaître, elle devrait apparaître aussi à une étape donnée de l'évolution des machines.1 Et alors qu'adviendrait-il de l'humanité si, ayant pris conscience de leur nombre et de leur force, les machines, aujourd'hui esclaves des hommes, se révoltaient contre leurs maîtres? (Capek décrira cette révolte dans R.U.R).
"Ou bien, précise le sage Erewhonien, un grand nombre d'actions considérées comme purement mécaniques et inconscientes contiennent plus d'éléments de conscience qu'on ne l'a admis jusqu'ici, ou bien l'être humain descend de choses qui n'ont aucune espèce de conscience. Dans ce cas, il n'y a aucune improbabilité a priori que des machines conscientes, et plus que conscientes, descendent des machines qui existent actuellement."