Commentaire sur :

Jean-Michel Truong, Totalement inhumaine, Les empêcheurs de penser en rond, 2002

20 mars 2002

Truong pense que le logiciel succèdera à l'homme comme véhicule de la conscience. Cette perspective le réjouit : après Auschwitz, Pol Pot et le 11 septembre 2001, l'homme ne lui semble pas être le meilleur support de l'intelligence. Truong se range ainsi parmi les misanthropes, nous y reviendrons. 

Suivons les étapes de son raisonnement :  

1) Turing a dit que le code informatique était analogue au code génétique. Truong nomme "e-gène" le morceau de code qui s'exprime pour obtenir un comportement d'une machine. Certes le code tolère mal la mutation (une erreur dans la copie d'un bit rend le plus souvent le code inopérant), mais il peut évoluer s'il est modulaire et structuré en un ensemble d'agents capables de communiquer. Le logiciel peut alors acquérir une "sexualité" en désignant par ce terme l'aptitude à combiner des gènes d'origine différente. Il devient ainsi un être biologique qui fournit le "génotype". Le matériel fournit le "phénotype", machine de survie des e-gènes. 

Truong indique ici une piste intéressante : au lieu de produire de gros programmes informatiques, dit-il, il serait plus efficace de faire de petits logiciels, embryons auxquels on donnerait le temps d'évoluer. Cependant cette évolution ne peut avoir lieu que si l'être humain oriente par ses choix la reproduction et la mise en oeuvre des e-gènes. Pour Truong, ces choix seront dictés par les "mèmes". 

2) Les mèmes sont les idées stéréotypées, unités élémentaires du discours que les médias répandent dans l'esprit des êtres humains. Exemples : "CRS = SS", "il y a une vie après la mort" sont des mèmes banals ; un paradigme scientifique est un mème complexe. La "guerre des étoiles", l'"Internet" sont des mèmes à la fois banals dans leur expression médiatique et complexes dans leur déclinaison technique. Ils ont orienté d'importantes ressources financières vers la production d'e-gènes. Supposer que l'évolution des e-gènes est totalement orientée par des stéréotypes est une hypothèse pessimiste (on peut supposer que la volonté intelligente a elle aussi une influence), mais c'est celle que fait Truong. 

3) La "pompe mème - e-gène" est la troisième pièce de sa construction : les mèmes incitent à produire des e-gènes, les e-gènes une fois produits confortent les mèmes. Ainsi l'Internet facilite l'échange de matériel génétique, le croisement et la multiplication des e-gènes, et le succès de ceux-ci renforce le mème Internet.

4) Alors émerge, dit Truong, une nouvelle forme de vie : le "Successeur". Le Successeur nous aveugle par des mèmes pour se reproduire ; il fait de nous son "cheptel". Truong utilise une analogie avec des vers qui parasitent les crevettes. Ces vers secrètent une drogue qui opacifie la cornée des crevettes ; elles remontent vers la lumière et sont alors à la portée des canards qui les mangent puis rejettent les vers sur la rive où ceux-ci se reproduisent. L'humanité, véhicule temporaire de l'intelligence, est grâce au mécanisme de la pompe mème - e-gène à la fois tutrice et nourricière de son Successeur.

Que reste-t-il en effet de l'être humain, dit Truong, une fois que le logiciel a imité et reproduit en mieux toutes ses fonctions naturelles ? un résidu. Truong effleure là, me semble-t-il, une idée profonde. En effet, on ne peut pas définir l'humanité, pas plus qu'il n'est possible de décrire un visage avec des mots. Ce "résidu", que chacun découvre en soi après avoir éliminé les accidents de son individualité, mais qui ne s'expérimente cependant que sous forme individuelle, s'offre à une méditation qui peut conduire à la sagesse. Cependant si Truong aperçoit ce chemin il ne le choisit pas. Il voit l'humanité se répartir entre trois catégories : les Imbus qui font marcher la pompe mème - e-gène ; le cheptel, qui la subit ; et "epsilon", résidu humain, écart à l'asymptote voué à disparaître pour faire place au Successeur.

Truong s'exprime dans une langue agréable et simple. Il est brillant. Reste à savoir s'il est profond. La première qualité d'un essai, c'est de nourrir un dialogue : le lecteur lit, s'interroge et trouve un peu plus loin la réponse à sa question. Or Truong ne répond pas aux questions que son texte suscite. En voici trois :

1) L'être humain s'est déjà accommodé de plusieurs "successeurs" potentiels : le langage, qui a une existence propre depuis que des hommes se sont mis à parler ; l'écriture, support de la mémoire ; l'impression, support de la diffusion des textes. Des machines remplacent nos jambes (bateau, bicyclette, automobile, avion), des prothèses assistent nos sens (lunettes, appareils acoustiques). L'élevage, l'agriculture pratiquent depuis 10 000 ans, par la sélection des espèces, la manipulation génétique. La bionique, l'intelligence artificielle s'ajoutent maintenant au catalogue des prothèses qui assistent nos activités physiques ou mentales. N'avons nous pas tendance, par défaut de perspective historique, à exagérer leur nouveauté ?

2) Du point de vue poétique toute parole qui éveille l'intuition et suscite la rêverie est légitime, car la poésie relève d'une démarche mentale antérieure au raisonnement. Mais le but d'un essai est de susciter la réflexion, non la rêverie. Or certaines phrases sont impropres au raisonnement parce qu'elles ne sont pas "falsifiables", pour utiliser le vocabulaire de Popper. "Y a-t-il une vie après la mort ?" La réponse peut être "oui" ou "non" sans que l'expérience puisse trancher, la conviction intime du croyant lui-même oscillant entre ces deux pôles. Donc si cette question est un intéressant objet de rêverie, du point de vue de la réflexion elle est futile. "L'intelligence des ordinateurs atteindra-t-elle, dépassera-t-elle celle des êtres humains ?" me semble du même type. On peut y répondre par oui, par non, ou osciller entre les deux réponses sans pouvoir trancher par l'expérience puisque celle-ci se situe dans un futur indéfini et ne peut s'appuyer sur aucun précédent.

3) Toute espèce vivante étant (par définition même de la vie) appelée à disparaître, il est probable que l'humanité, vieille de trois millions d'années, aura un successeur avant que la terre ne disparaisse dans quatre milliards d'années. Notre espèce élabore des poisons avec tant d'insouciance, que ce soit à des fins militaires ou pour le profit, qu'il se peut même qu'elle s'éteigne dans les siècles prochains. Le logiciel est-il plausible comme successeur ? Le futur support de l'intelligence ne sera-t-il pas plutôt un descendant des rats ou d'autres animaux rescapés des maladies que nous aurons déclenchées ?

Il existe en effet, entre la complexité du logiciel et celle du cerveau d'un être vivant, une différence de nature. Aussi compliqué soit-il, le logiciel est de taille finie puisqu'il s'agit d'un texte. Mais toute théorie, aussi puissante soit-elle, reste incomplète ; aucun objet naturel (et le cerveau en est un) ne peut donc être reproduit par un texte. Si un texte poétique semble nous mettre en relation avec le monde lui-même, c'est parce que notre cerveau le complète par le réseau de connotations qui enrichit l'apport des mots et, au prix d'une imprécision que le logiciel ne saurait tolérer, ouvre la perspective d'une rêverie sans limites. 

L'intuition de ceux qui vivent dans un univers de science fiction ou de dessin animé s'affranchit de l'expérience : dans cet univers toutes les métamorphoses sont possibles, toutes les chimères peuvent exister, quiconque évoquerait une impossibilité serait immédiatement démenti. Mais l'expérience distingue le possible de l'impossible et assigne des bornes à notre action. Il existe dans le monde de l'expérience des questions pertinentes, c'est-à-dire utiles à l'action, et d'autres qui ne le sont pas. Je prétends que les rêveries sur l'intelligence des ordinateurs sont impertinentes dans la mesure exacte où elles détournent des questions pertinentes. 

Nous sommes confrontés non à des ordinateurs intelligents mais à un automate programmable auquel le réseau confère l'ubiquité. Sa puissance peut aider l'être humain dans son travail et ses jeux, mais le cerveau lui reste supérieur dans l'analyse (sélectionner, observer, interpréter les données relatives à un domaine nouveau) et la synthèse (expliquer à un autre ce que l'on a compris), ainsi que dans la décision et la conception (pour lesquelles, certes, l'ordinateur peut nous assister utilement mais non nous remplacer). Nous qui savons tant bien que mal parler, lire, écrire, compter, domestiquer plantes et animaux, fabriquer produits et outils, communiquer, déposer et retrouver notre mémoire collective dans des encyclopédies etc., nous devons maintenant apprendre à tirer parti de l'automate programmable. Pour voir clair dans les questions de savoir-faire et de savoir-vivre, d'organisation collective et personnelle que cela pose, il importe de percevoir la frontière qui nous sépare de lui, de discerner ce qu'il sait faire de ce que nous savons faire, de sorte que son insertion dans notre action, dans nos processus, puisse être judicieuse. Il faut pour tracer cette frontière un outil conceptuel aussi précis que le scalpel du chirurgien.  

Or les rêveries sur l'intelligence de l'ordinateur, sur un "successeur" logiciel hypothétique de l'être humain, brouillent cette frontière. On ne peut pas penser la relation entre deux êtres dont on a postulé l'identité, fût-elle asymptotique. L'intelligence de la machine s'actualisant dans un futur indéfini, l'intuition s'évade des contraintes de l'action et tourne le dos à des questions qui sautent pourtant aux yeux : comment assister nos processus opérationnels ; tirer parti de la conjugaison des données et du commentaire ; fonder la solidité des référentiels ; articuler les médias ; faire interopérer les SI de diverses entreprises ; assurer la dialectique du SI et de la stratégie, etc.  

Ceci n'est pas sans conséquences. La rêverie poétique délasse le praticien expert : il  n'est pas dupe des illusions qu'elle comporte et il est rattaché à l'expérience par un ressort de rappel. Mais les personnes qui décident en matière de système d'information ne sont pas des praticiens experts. La diffusion médiatique de rêveries comme celle de Truong risque de les placer sur une orbite mentale d'où il leur sera impossible de revenir vers le sol. 

Ce n'est pas de rêveries impertinentes que nous avons besoin dans ce domaine si difficile à maîtriser, mais de réalisme scientifique et de méthode expérimentale. 

Quelques mots enfin sur la misanthropie de Truong. Tous ceux qui portent un jugement négatif sur l'espèce humaine en tirant argument de ses crimes et atrocités témoignent d'une souffrance qui mérite la compassion. Je crois cependant que les faits qu'ils évoquent (Auschwitz etc.) sont des alibis pour exprimer un mal plus profond encore, le mal métaphysique (cf. "mise en perspective" dans "e-conomie"), souffrance que provoque l'imperfection de la personne humaine dès lors qu'elle s'incarne dans un individu. 

Truong n'est pas seul à appeler de ses vœux la guérison qu'apporterait la fin de l'humanité et son remplacement par une machine devenue intelligente. Il y a là une orientation analogue à celle qui voit dans le suicide la réponse à un malheur personnel. Pourtant la méditation sur le mal métaphysique (ou sur le Mal tout court) pourrait être, tout comme la méditation sur notre humanité, source de sagesse.