|
L’intelligence artificielle m’a
toujours été suspecte. Ses inventeurs disaient qu’il n’existe aucune différence
entre l’ordinateur et le cerveau humain. Mais c’est contredit par l’expérience.
Alors ils disent que s’il existe aujourd’hui une différence, demain elle aura
disparu. Mais demain étant hors de portée de l’expérience que l’on peut
faire aujourd’hui, et qui seule pourrait invalider une hypothèse, cette
affirmation relève non de la science mais de la croyance.
Une croyance ne peut pas faire
l’objet d’une démonstration. Cela ne nous empêche pas de fonder nos valeurs, de
définir le but de nos vies, sur des croyances. On ne peut donc pas se contenter
de les rejeter en disant qu’elles ne sont pas scientifiques.
C’est pourquoi j’ai lu la
biographie de Herbert Simon (1916-2001). Quand on veut comprendre un penseur, il ne suffit pas de
livre les ouvrages où il expose le résultat de ses recherches ; il faut
chercher, en amont de ses affirmations, contre quoi il a voulu
polémiquer.
Simon a combattu le postulat de
la rationalité des agents économiques sur lequel s’appuie la théorie
néoclassique, et développé la théorie (féconde) de la rationalité limitée ; il a
combattu le behaviorisme en psychologie qui, considérant le cerveau comme une
boîte noire, ne veut connaître que des couples « stimulus – réponse ».
Dans les deux cas, Simon exige
de regarder de près « comment cela marche », comment les décisions se prennent,
comment la pensée fonctionne. C’est pour ouvrir la boîte noire dans laquelle les
behavioristes enfermaient la pensée qu’il s’est intéressé à l’ordinateur.
En programmant les règles de la
démonstration et les procédés heuristiques qui facilitent sa découverte, il a pu
faire écrire des démonstrations par l’ordinateur et il est arrivé que l’une
d’elles soit plus élégante que celle qu’avaient produite des mathématiciens. Il
a par ailleurs montré qu’un ordinateur pouvait jouer aux échecs.
Ainsi Simon ouvrait la boîte
noire de la pensée : s’il est pratiquement difficile de suivre les processus qui
se déroulent dans un cerveau on peut les observer, dit-il, lorsqu’on les simule sur un
ordinateur.
Il a décrit son programme de
recherche dans une lettre à sa fille : « Mon travail scientifique, ainsi que
celui des autres chercheurs en intelligence artificielle, vise à délimiter ceux
des processus de pensée de l’être humain que l’ordinateur peut simuler. Je crois
qu’il pourra finalement les simuler tous, mais je ne ressens pas le besoin de le
démontrer à ceux qui pensent autrement. Dans le domaine de la science, c’est
l’expérience qui répond en définitive ».
Simon pèse toujours exactement ses mots.
Il croit que l’ordinateur saura, finalement, penser comme un être
humain ; mais comme cela relève de la croyance, il n'en fait pas un sujet
de discussion et l’expérience tranchera. Dans l’immédiat – et là il rejoint le
terrain de la science – il s’agit d’identifier ceux des processus de pensée que
l’ordinateur est capable de simuler.
Or de tels processus existent.
Nous n’utilisons pas en effet notre cerveau seulement pour imaginer, créer,
synthétiser, expliquer etc. : nous l’utilisons pour classer, calculer, garder en mémoire et
– par exemple aux échecs – explorer la combinatoire de plusieurs hypothèses. Or
ce sont là des tâches que l’ordinateur remplit aussi bien que nous, ou même
mieux.
Lorsque Simon invente
l’intelligence artificielle, à la fin des années 50, personne ne savait où se
trouvait la limite des possibilités de l’ordinateur. Des préjugés d’inspiration
humaniste ou religieuse s’opposaient à ce que l’on envisageât l’articulation
entre l’automate et la pensée. La réflexion sur de telles articulations ne manque pas de précédents,
mais ils étaient oubliés.
A cette époque-là, et confronté
à ces préjugés, il était normal que Simon embrassât une opinion extrême -
tout comme les Grecs qui, lorsqu’ils découvrirent le monde de la pensée
conceptuelle, furent pris d’une telle ivresse qu’ils crurent, avec Platon,
que la réalité réside dans les Idées.
Après quelques décennies de
cohabitation avec l'ordinateur, l’opinion la plus raisonnable (et la plus
répandue), rejette la croyance
à laquelle Simon avait adhéré : nous postulons, comme l’a fait von Neumann,
une différence de nature entre l’automate programmable et le cerveau humain,
résultat de milliards d’années de mutations et de sélections qui se sont, durant
les derniers millions d’années, encore accélérées chez les chasseurs-cueilleurs.
Il faut d’ailleurs, pour bien articuler l’automate et l’être humain dans
l’organisation, pouvoir clairement définir ce qui fait leur différence.
Cela ne rend que plus
nécessaire la poursuite du programme scientifique de Simon, la délimitation des
processus de pensée que l’automate est capable de simuler.
Il faut d'ailleurs, pour
prendre sa démarche à la racine, se rappeler le dogmatisme étroit des
économistes néo-classiques et des psychologues behavioristes qu’il a combattus.
Simon était sensible aux
drames qui peuvent survenir dans le monde de la pensée, comme en
témoigne le compte rendu de sa conversation avec Karl Menger : « Il
avait commencé sa
carrière en s'intéressant à la logique et aux fondements des mathématiques. La
publication du fameux théorème d'impossibilité de
Gödel en 1931 lui porta un coup dont il ne se remit jamais. S’il est
impossible, comme Gödel l’a montré, de fonder les mathématiques de façon
parfaitement rigoureuse, que devenait la certitude en mathématiques ? Y penser
le déprimait et, en me racontant cette histoire, il se renferma peu à peu dans
un silence sombre qui dura jusqu'à la fin du repas » (p. 101).
|
