Karl Popper et le pari de Turing

26 juillet 2002

Dans un article publié en 1950 et qui a eu une immense influence[1], Alan Turing a soutenu qu'il était possible de concevoir une expérience prouvant que l'intelligence de l'ordinateur ne pouvait pas être distinguée de celle d'un être humain. Le pari de Turing a éveillé l'ambition de l'intelligence artificielle.

Pour pouvoir répondre à la question « est-ce que les machines peuvent penser ? », il faut bien sûr faire abstraction de l’apparence physique. Turing propose donc d’y répondre en jouant au « jeu de l’imitation » qu’il définit ainsi :

« On y joue à trois : un homme (A), une femme (B) et un examinateur (C) de l’un ou l’autre sexe. L’examinateur se tient dans une pièce à part, séparé des deux autres personnes. Le but du jeu est de faire décider par l’examinateur qui est l’homme et qui est la femme. Il désigne les deux joueurs par les lettres X et Y et à la fin du jeu il dit soit "X est A et Y est B", soit "X est B et Y est A" (…) Que va-t-il se passer si une machine prend le rôle de A dans ce jeu ? L’examinateur se trompera-t-il plus souvent que si le jeu est joué avec un homme et une femme ? Ces questions remplacent la question initiale, "est-ce que les machines peuvent penser ?" (…) Je crois que dans cinquante ans environ il sera possible de programmer des ordinateurs disposant d’une capacité de stockage de 10⁹ et de les faire jouer tellement bien au jeu de l’imitation qu’un examinateur moyen n’aura pas plus de 70 chances sur cent de faire une identification exacte après cinq minutes d’interrogation. (…) La seule preuve satisfaisante que l’on puisse donner pour cette hypothèse, c’est d’attendre la fin du siècle et de faire alors l’expérience que j’ai décrite[2]. »

Observons que le test est peu exigeant : il ne dure pas plus de cinq minutes et le seuil d’efficacité est modeste (l’examinateur doit prendre l'ordinateur pour un être humain dans au moins 30 % des cas). Il est donc audacieux de dire qu’une telle expérience, si elle réussit, suffise pour affirmer que des machines peuvent penser.

Quoi qu'il en soit, Turing a formulé à la fois un pari et le test qui permet de le vérifier. Nous pouvons faire maintenant le test, puisque la fin du siècle est passée. Certes l’ordinateur s’est révélé redoutable au jeu d’échecs ; mais dans un travail aussi « simple » que la traduction d’un texte littéraire il fournit un résultat tellement médiocre que l’examinateur moyen le distinguera immédiatement du travail d’un traducteur humain. Si nous prenons Turing au mot, nous pouvons donc dire que son pari a été perdu. 

Mais ce serait là une réfutation peu satisfaisante : quelqu’un d’autre pourrait prendre la relève et parier de nouveau en fixant comme échéance la fin du XXI^e siècle, ou du troisième millénaire etc. Mieux vaut donc, pour réfuter Turing, s'appuyer sur la définition de l’ordinateur qu'il fournit lui-même : « On peut définir l’ordinateur en disant que cette machine est destinée à réaliser toutes les opérations qui pourraient être faites par un calculateur humain. Un calculateur humain est supposé suivre des règles fixes dont il n’a pas le droit de s’écarter en quelque façon que ce soit. On peut supposer ces règles écrites dans un livre qui sera modifié chaque fois que l'on affecte le calculateur à une nouvelle tâche. Il dispose pour faire ses calculs d’une quantité illimitée de papier. Il peut aussi utiliser une machine à calculer pour faire ses additions et multiplications, mais c’est sans importance. Le “livre de règles” que notre calculateur humain est censé utiliser est bien sûr une fiction commode. En fait les vrais calculateurs humains se rappellent ce qu’on leur a demandé de faire. Si l'on veut faire imiter par une machine le comportement d’un calculateur humain dans une opération complexe, on n’a qu’à demander à celui-ci comment il fait, puis transcrire sa réponse sous la forme d’une table d’instructions. Il est d’usage de nommer "programmation" la construction des tables d’instruction. "Programmer une machine pour réaliser l’opération A" signifie d’introduire dans la machine la table d’instruction appropriée pour qu’elle fasse A [3] ».

Si Turing définit ainsi l’ordinateur, puis affirme par ailleurs qu’il sera difficile de distinguer au « jeu de l’imitation » un ordinateur d’un être humain, cela implique qu’il serait tout aussi difficile de distinguer un calculateur humain, assujetti au respect de règles fixes consignées dans un cahier, d’un être humain ordinaire qui, n’étant pas assujetti à de telles règles, est libre de prendre des initiatives et de s’adapter à l’imprévu. Il s'agit alors de savoir si l’on considère l'adaptation à l’imprévu comme quelque chose de négligeable ou non : c’est tout le débat entre les écoles de pensée qui s’inspirent de Jomini et Clausewitz. 

Il est possible de rédiger le cahier de règles de sorte que le calculateur dispose de consignes lui permettant de faire face à une grande diversité de situations (c’est ainsi que l’ordinateur peut jouer aux échecs), mais la typologie de ces situations est nécessairement finie alors que l’imprévu potentiel que comporte le rapport d’un être humain au monde est indéfini : et il faut bien que l'être humain sache « se débrouiller » là où l’ordinateur (ou le calculateur humain, pur exécutant) ne disposera plus de règles et ne saura donc plus que faire ou commettra des erreurs (c’est ce type de difficulté que l’ordinateur rencontre en traduction automatique). La plupart des êtres humains, ceux du moins qui n'ont pas renoncé à vivre, éprouvent un grand plaisir lorsqu'ils sont surpris, interloqués par une expérience qui, les confrontant à quelque chose d'inattendu, leur permet d'apprendre des choses nouvelles tout en exerçant leur ingéniosité. 

C’est le sens de la réfutation de Turing par Popper[4] : « Turing a affirmé qu'il était impossible, par principe, de distinguer les hommes des ordinateurs à partir de leurs activités observables (leurs comportements), et il a défié ses adversaires de spécifier une activité ou un comportement humain observable quelconque qu'un ordinateur fût, par principe, incapable de réaliser. Mais ce défi est un piège intellectuel : spécifier un type de comportement reviendrait à établir une spécification pour la construction d'un ordinateur. En outre, si nous utilisons et construisons des ordinateurs, c'est parce qu'ils sont capables de faire beaucoup de choses que nous ne savons pas faire ; tout comme je me sers d'un crayon ou d'un stylo pour calculer une addition que je suis incapable de faire de tête. "Mon stylo est plus intelligent que moi", disait souvent Einstein. Mais ceci ne prouve pas qu'il soit impossible de le distinguer de son stylo. »  

*  *

Turing fut un génie et aussi un être humain dont les souffrances suscitent la compassion[5]. Il a contribué à la naissance de l'informatique, bouleversement dont nous n'avons pas fini d'explorer les conséquences. Il est naturel que le témoin d’un événement d’une telle importance ait du mal à en circonscrire la portée. Constatant la rapide croissance des possibilités de l'ordinateur, Turing a extrapolé et il s'est trompé.

Les Grecs avaient découvert la puissance de l'abstraction ; ils en ressentaient l’ivresse intellectuelle et l’orgueil qui se lisent dans l’Anabase de Xénophon. Platon a été jusqu’à affirmer que seules les idées sont réelles : « l'idée de cheval est plus réelle que le cheval qui gambade dans le pré, tout comme l'idée de cercle est plus réelle que le cercle que je trace avec un compas ». L'idéalisme platonicien a inspiré la philosophie de Plotin et de Saint Augustin, la théologie catholique, les hommes de la Renaissance italienne et bien d'autres : ce n'est pas parce qu'une représentation est inexacte ou incomplète qu'elle n'a pas d'impact.

Le pari de Turing a eu en pratique des effets contrastés. Le parallèle entre le cerveau électronique et le cerveau humain a suscité des recherches fécondes, mais les travaux en intelligence artificielle ont donné des résultats décevants. L'inconvénient de ce pari, c'est qu'en focalisant l'attention sur l'intelligence de l'ordinateur et donc sur la similitude entre celui-ci et l'être humain, il incite à ne pas se soucier de leurs différences : or elles existent, comme le montre l’exemple de la traduction automatique.

Voir "la question de l'intelligence des ordinateurs"