Je reprends et termine ici ma lecture de l’article de Turing « Théorie des nombres calculables, suivie d’une application au problème de la décision ».
Nous nous étions arrêtés la dernière fois sur la description que Turing fait de sa fameuse machine.

Théorie des machines

Turing définit ensuite les a-machines, et les c-machines, pour préciser qu’il ne s’intéressera qu’aux premières. Les a-machines sont des machines automatiques n’ayant donc nul besoin d’intervention extérieure d’un opérateur pour fonctionner. Les c-machines sont des machines à choix « dont le comportement ne dépend que partiellement de sa configuration […] un opérateur extérieur doit intervenir et faire un choix arbitraire pour que la machine puisse continuer son travail. »1

Au sein des a-machines, il y place les machines à calculer, et au sein de ces dernières, il définit enfin les machines cycliques et acycliques. Les machines cycliques sont les machines qui finissent en gros par tourner en rond, et ne sont pas en mesure de calculer un nombre réel dont les décimales sont infinies. « Une machine qui n’écrit jamais qu’un nombre fini de symboles de la première famille [cette première famille de symboles est constituée des 0 et des 1 et compose les chiffres du nombre réel à calculer] est dite cyclique. Dans le cas contraire, elle est dite acyclique. »2

Cette bipartition des machines, cycliques et acycliques, permet ainsi à Turing de redéfinir ce qu’il appelle une séquence calculable et un nombre calculable. « Une séquence est dite calculable s’il existe une machine acyclique qui la calcule. Un nombre est dit calculable s’il existe une machine acyclique qui calcule sa partie décimale. »3

Comme on l’a déjà écrit, Turing a proposé l’idée de « nombre calculable » en prenant effectivement comme champ de recherche les nombres réels. « Le point crucial était que tout ‘nombre calculable’ régi par une loi définie pouvait être calculé par une de ses machines. Ainsi il y aurait une machine capable de calculer l’expansion décimale de π, car cela ne requérait en fait qu’un ensemble de règles pour additionner, multiplier, recopier, etc.»4. Même si dans le cas de π la machine ne s’arrêtera pas, (nous sommes alors dans le cas d’une machine acyclique) étant donné que son nombre de décimale est infini. La machine peut cependant être parfaitement définie dans une table, avec un nombre fini de règles.

Turing continue son article en présentant des exemples de machines à calculer, c’est-à-dire en faisant « tourner » littéralement le fonctionnement des machines abstraites qu’il vient de nous présenter. Car d’une part, il ne faut pas oublier que la machine que Turing vient de concevoir n’est en rien une machine concrète, matérielle. C’est une machine « de papier » comme l’écrira Turing lui-même, avec une mémoire infinie, ce qui est d’ailleurs matériellement impossible. C’est finalement une « Machine mathématique dont l’aspect infini introduit à tout jamais une rupture par rapport aux machines matérielles finies comme celles dont nous avons pris l’habitude d’être environnés. »5

Nulle part dans l’article Turing ne précisera comment cette machine pourrait être construite, comment s’agenceraient matériellement les différentes pièces qui pourraient la composer. C’est une « boîte noire » appelée à transformer des symboles. « Une machine de Turing est en effet une machine qui transforme des symboles d’entrée en symboles de sortie en traversant une succession d’états discrets qui sont tous définissables à l’avance. »6

D’autre part, comme le souligne encore Jean Lassègue, Turing a bien conscience que si l’on veut saisir son concept, il faut en passer par l’expérience cette fois très concrète de faire fonctionner la machine, d’effectuer soi-même les différentes étapes, c’est-à-dire finalement d’être soi-même la machine pendant le temps du calcul. « Le passage de la notion informelle de calcul à une notion formelle ‘mécanique’ s’opère par un travail du lecteur sur lui-même qui doit adopter le ‘bon’ point de vue, celui du mécanisme, pour réussir à apprécier la portée du concept présenté. »7

Cela peut ressembler à l’argument du retrait de l’échelle présenté par Wittgenstein à la fin de son Tractatus Logicus-Philosophicus (Turing rencontrera d’ailleurs le philosophe un peu plus tard dans sa vie, à Cambridge). Il n’existe pas de métalangage pour la logique, il faut s’y exercer. Pour comprendre sa machine, il faut donc jouer avec. « En conséquence, l’aspect finitaire de la procédure de calcul est rapporté à un agent mécanique de la pensée et il n’y a pas d’autre moyen de vérification de l’aspect en question que l’effectuation de celle-ci. »8

Des machines particulières aux machines universelles ou de l’infini des calculs à la finitude de la machine

Une fois ses machines définies et présentées via des exemples, Turing peut ainsi poser l’équivalence entre une séquence calculable et la description d’une machine au travers de la description de sa table d’instructions. «En fait toute séquence calculable peut être décrite au moyen d’une table de ce genre.»9.  Cette étape lui permet d’introduire l’idée essentielle de machine universelle.

En effet, jusqu’à présent, pour chaque calcul, il fallait définir une machine particulière avec sa table d’instructions permettant d’effectuer ledit calcul. La machine universelle va permettre de « calculer n’importe quelle séquence calculable. »10.  En fait, cette machine universelle décrit mécaniquement le procédé qui permet au calculateur humain de trouver la bonne machine particulière relativement au calcul particulier à effectuer. Le concept de cette machine universelle permet ainsi à Turing de cerner un peu mieux le champ même du calculable, « dans la mesure où elles [les machines universelles] réduisent tout calcul à la construction de la table d’instruction d’une seule machine. Grâce à l’usage d’une machine universelle, il devient possible de réutiliser l’intégralité des tables d’instructions d’autres machines. »11  Turing va ensuite présenter la table de fonctionnement d’une machine universelle.12

On peut ainsi concevoir que les machines de Turing particulières sont les ancêtres des futurs programmes informatiques, tandis que les machines universelles seraient les précurseurs des futurs ordinateurs capables de faire tourner des programmes.
Et c’est là que l’on observer comment Turing retrouve la démarche gödelienne à travers le fait de coder les machines particulières en leur attribuant un entier naturel, un index en somme, qui permet ainsi de « combiner en une table d’instructions de plus en plus complexe des tables d’instructions effectuant des calculs plus simples en réduisant tout calcul à n’être qu’une partie d’un calcul plus vaste. »13  La machine universelle est alors chargée de retrouver à partir de l’index, la table correspondante contenant les instructions des machines particulières, puis d’exécuter ces dernières. « Ainsi non seulement chaque calcul, de longueur arbitraire, est-il réduit au point de vue du fini mais l’infinité des calculs elle-même est aussi réduite au point de vue du fini […] »14.

Calculabilité et problème de la décision, l’Entscheidungsproblem

Turing parvient ainsi à redéfinir la notion de calculabilité. Ce n’est pas le seul mathématicien qui le fait à cette époque. Comme on l’a vu Gödel, mais aussi Church, auront produit finalement tous les trois une définition de la calculabilité équivalente. Mais l’un des intérêts de la définition de Turing, est, comme le précise Cassou-Noguès, de garder un lien évident avec la notion intuitive de calcul.

Turing l’aura cependant fait d’une manière singulière (et c’est par ailleurs cette manière singulière qui autorisera toute une somme de réflexion sur les rapports entre l’esprit et la machine), en montrant que le travail qu’effectue un calculateur humain est une succession d’étapes, une composition d’éléments qui vont s’articuler pour devenir finalement un algorithme pris en charge par son concept de machine. Comme on l’a dit, Turing ne suit pas les canons d’un article théorique classique. A travers une sorte d’opération cartésienne de division du problème, Turing écrit que « le travail du calculateur est divisé en une suite d’’opérations élémentaires’, tellement simples qu’il serait difficile de les diviser encore. »15  Il a posé désormais les bases de son concept de machine à calculer.

Il décrit en effet à présent le travail qu’effectue un calculateur humain dans les termes même de son concept de machine. « […] c’est l’état mental du calculateur et les symboles qu’il observe qui déterminent l’opération à effectuer, et en particulier le nouvel état mental dans lequel il se retrouve après exécution de ladite opération. »16

Ainsi la description du travail effectué par l’humain devient fidèle à son concept de machine, dont nous avons parlé dans l’épisode 8. La machine est ce dispositif à deux propriétés principales : 1) une machine n’a effectivement qu’un nombre fini d’états qui lui sont propres. 2) ce qu’effectue la machine à l’instant T ne dépend que de l’état de la machine à l’instant T et des données qui lui parviennent via un dispositif quelconque. Le calculateur humain est ainsi devenu une machine universelle au sens de Turing.

Il lui reste à présent à s’atteler à la seconde partie de son article, contenue dans le titre « … l’application au problème de la décision ».
Comme nous l’avons précisé, une fois défini ces a-machines, Turing avait présenté les machines cycliques et les machines acycliques, ce qui lui avait permis de redéfinir la calculabilité en fonction des machines acycliques. Le problème de la décision autrement nommé, problème de l’arrêt, peut ainsi s’énoncer de cette manière : « peut-on savoir à l’avance si tout calcul aura ou non une fin ? »17

Et Turing va y répondre par la négative en démontrant qu’une fois que l’on aurait produit une liste infinie des machines acycliques capables de produire les séquences calculables, c’est-à-dire de calculer la partie (infinie) décimale des nombres réels, il faudrait supposer l’existence d’une autre machine capable cette fois de « décider » elle-même si elle doit s’arrêter ou non, ce qui apparaît impossible. Turing le démontre à l’aide du formalisme de sa machine qu’il vient d’inventer.

Vous pouvez trouver ici un cours très intéressant sur la calculabilité et la complexité qui présente le modèle de la démonstration de ce problème de l’arrêt dans l’informatique :

Quelques rudiments de calculabilité et de complexité, par Paul Gastin

Cette vidéo présente ainsi ce problème d’indécidabilité au travers des limites intrinsèques de la puissance de calcul des machines informatiques.
Turing va user de la méthode diagonale que Cantor avait utilisée dans un article datant de 1891 pour démontrer que l’ensemble des nombres réels était non dénombrable.18

Turing utilise le même procédé pour s’interroger cette fois sur le caractère dénombrable des nombres calculables qu’il a cette fois lui-même redéfinis à l’aide de son concept de machine.
« On peut définir sommairement les nombres ‘calculables’ comme étant les réels dont l’expression décimale est calculable avec des moyens finis. […] Selon ma définition, un nombre est calculable si sa représentation décimale peut être décrite par une machine. »19

Reprenant l’argument de Cantor, combiné avec son concept de machine, Turing montrait qu’il pouvait ainsi exister des nombres définis, mais non calculables. Une machine universelle est en effet censée tester chaque index correspondant à une machine particulière calculant une séquence calculable, ce qui revenait à mécaniser le procédé de Cantor. Mais Turing montrait finalement qu’il était impossible de déterminer mécaniquement si une table d’instructions particulière, une machine selon son concept, allait produire une suite infinie ou non, c’est-à-dire si telle machine particulière allait boucler ou non ; autrement dit par Turing, « […] ce problème d’énumération des séquences calculables est équivalent à celui qui consiste à déterminer si un nombre donné est le ND [le Nombre Descriptif, c’est-à-dire l’entier qui désigne une machine particulière via la méthode de Gödel] d’une machine acyclique, et il n’existe pas de procédure générale pour faire cela en un nombre fini d’étapes ».20

En somme, le procédé de Cantor, la méthode de la diagonale, ne peut être mécanisé.
Comme l’écrit Guillaume Watier : « Remarquons que le théorème de l’arrêt est à l’algorithmique ce que le théorème de Gödel est à la démonstration mathématique de théorème. »21
Après les résultats de Gödel, c’est donc un nouveau coup à l’optimisme d’Hilbert, Turing montrant d’une part qu’il ne peut exister de méthode pour décider si telle ou telle assertion de l’axiomatique peut être considérée comme vraie ou fausse, et d’autre part qu’il existe des problèmes insolubles. Gödel dira que les travaux de Turing donnait ainsi une véritable définition de ce qu’était finalement un système formel « dont la propriété est qu’en son sein, et en principe, le raisonnement peut être entièrement remplacé par des règles mécaniques. »22

Comme nous l’avons dit Turing redéfinit ainsi la notion de calculabilité, comme Church et Gödel. Mais l’un des intérêts de la définition de Turing, est, comme le précise Cassou-Noguès, de « garder un lien évident avec la notion intuitive. »  Sa définition de la calculabilité en passe en effet dans cet article par une sorte de « psychologie du calcul » lors de la comparaison calculateur mécanique et calculateur humain.

Enfin, Turing vient avec son article de distinguer deux choses : la démonstration et la vérité, car il montre combien « démontrer revenait à calculer et non pas à établir la vérité d’un théorème puisque démontrabilité et vérité se trouvaient au contraire dissociés. »

Le style, c’est l’homme…

Répétons-le, même si le déploiement futur des calculateurs numériques s’origine dans les trouvailles de Turing, le problème auquel il s’est attaqué ici était un problème de mathématique pure. Et pourtant, le style de cet article théorique qui complète les travaux de Gödel reste tout à fait surprenant. On a vu combien son biographe Hodges avait noté que Turing présentait depuis son enfance différents traits d’originalité dans ses conduites, notamment sociales. Cette fois, on peut dire que l’originalité de Turing se manifeste dans le contenu dans son article : il produit un concept novateur.

Mais l’originalité se manifeste également dans la forme, c’est-à-dire sa façon de conceptualiser et de résoudre ce problème mathématique, ce que Cassou-Noguès nomme « la psychologie du calcul » de Turing. En effet, ce dernier se met à analyser le travail d’un sujet humain qui calcule, ce qu’il nomme le « computer » dans le texte original que vous pouvez trouver ici :

ON COMPUTABLE NUMBERS, WITH AN APPLICATION TO THE ENTSCHEIDUNGSPROBLEM By A. M. TURING

On peut y remarquer qu »il y a en effet deux occurrences dans le texte original où Turing compare « l’homme-qui-calcule » à « la-machine-qui-calcule » : dans sa présentation de la machine à calculer23  et dans sa discussion sur la pertinence de la notion de calculabilité24.

C’est dans la seconde que Turing va d’ailleurs définir sa notion d’ « état mental ». Il la redéfinit cependant encore une fois à l’aide d’une analogie. « Notre calculateur peut toujours interrompre sa tâche, quitter son lieu de travail et oublier tout ce qui s’y rapporte, pour revenir plus tard et reprendre son calcul là où il l’avait laissé. Pour ce faire, il doit conserver une notice où se trouvent consignées (sous une forme canonique quelconque) un certain nombre d’instructions indiquant comment  reprendre son calcul. C’est cette notice qui remplace l’état mental dont nous parlions en (I). […] »25

Conséquences …

Avec cet article, nous avons certes comme le souligne Dupuy, « les prolégomènes d’une nouvelle science de l’esprit »26, même si Turing n’en avait pas conscience bien entendu. Mais il faut se rappeler un point important par rapport aux autres directions qui seront prises dans cette nouvelle science de l’esprit et qui favoriseront la naturalisation complète du concept d’esprit, ce qui n’est pas du tout le cas de Turing.

Comme le remarque la psychanalyste Christiane Alberti, Turing « prend donc appui sur la représentation que l’on peut se donner d’un être humain en train de calculer […] »27.

Tout comme Cassou-Noguès, Alberti souligne ainsi que Turing fonde ses résultats dans l’imaginaire, et que son assertion « Un homme en train de calculer la valeur d’un nombre réel peut être comparé à une machine susceptible de se trouver dans un nombre fini d’états q1, q2, …, qR, que nous appellerons ses m-configurations » fonctionne effectivement, non pas grâce à un réductionnisme (qui associerait un état mental à un état physique) dont Turing serait le thuriféraire, mais finalement grâce à la nature de l’acte de calculer lui-même situé sur un plan logique. Turing s’intéressera quelques années plus tard à la façon de rendre concrète sa machine, avec par exemple son projet de « construire un cerveau » à la fin de la seconde guerre mondiale. Mais comme l’écrit Hodges « Pour notre mathématicien, quoi que fasse un cerveau, il le faisait en vertu de sa structuration logique et non parce qu’il se trouvait à l’intérieur d’un crâne humain ou parce qu’il était constitué de manière spongieuse composée d’une espèce particulière de formation cellulaire biologique. Sa structure logique devait parfaitement être réplicable dans un autre milieu, matérialisée par une autre espèce de mécanisme physique. C’était une conception matérialiste, qui avait le mérite de ne pas confondre les systèmes logiques et les relations avec les substances physiques et les choses elles-mêmes, selon une erreur trop souvent commise. […] Lorsqu’il parlait de ‘construire un cerveau’, il ne pensait pas que les éléments de sa machine devaient ressembler à ceux du cerveau, ni que leurs connexions devaient en imiter les différentes régions.»28

Turing nous montre ainsi simplement en quoi une partie de notre activité mentale peut être mécanisable, car l’acte de calculer opéré par un être humain peut effectivement être externalisé dans une machine. La question de savoir si toute l’activité mentale d’un être humain est calcul est une toute autre question, et semble beaucoup plus compliquée à démontrer….

Au sujet de l’autonomie de la machine, Jean Lassègue est très clair. « Croire en l’autonomie de la machine et en conséquence, à sa supériorité , conduit à une anthropomorphisation regrettable du concept de machine. »29Selon lui, même si Turing réussit cette « mise en rapport du concept de machine universelle de Turing avec la notion d’esprit humain », la machine ne peut en aucun cas produire une décision, c’est à dire être « indépendante de la pensée humaine qui l’a produite. »30

Cassou-Noguès rappelle une boutade de Lacan qui résumerait selon lui la différence entre la machine et l’homme31 dans le sens où avec Turing (et ce que l’on vient de voir au sujet de la méthode de la diagonale et du problème de l’arrêt) on pourrait dire qu’une machine de Turing ne peut établir la liste de toutes les machines de Turing.
Lacan lors de son séminaire sur les quatre concepts fondamentaux de la psychanalyse, est en train d’introduire son concept d’inconscient via les apports de Levi-Strauss. Il parle de l’enfant qui compte le nombre de ses frères et qui s’y compte, avant de s’y reconnaître dans le comptage.

 » Je prends d’abord le concept de ‘l’inconscient’. […] pour l’illustrer par quelque chose qui est matérialisé assu¬rément sur un plan scientifique, je l’illustrerai par exemple par ce champ […] qu’explore, structure, élabore et qui se montre déjà infiniment riche, ce champ que Claude Lévi-Strauss avait épinglé du titre de Pensée sauvage. Avant toute expérience, toute déduction individuelle, avant même que s’y inscrivent les expériences collectives qui ne sont rapportables qu’aux besoins sociaux, quelque chose organise ce champ, en inscrit les lignes de force initiales, qui est cette fonction que Claude Lévi-Strauss, dans sa critique du totémisme, nous montre être sa vérité, et vérité qui en réduit l’apparence, de cette fonction du totémisme, à savoir une fonction classificatoire primaire : ce quelque chose qui fait [que], avant que les relations s’organisent, qui soient des relations proprement humaines, déjà s’est organisé ce rapport d’un monde, à un autre monde de certains rapports humains qui sont déterminés par une organisation, aux termes de cette organisation qui sont pris dans tout ce que la nature peut offrir comme support, qui s’or¬ganisent dans des thèmes d’opposition. La nature, pour dire le mot, fournit des signifiants, et ces signifiants organisent de façon inaugurale les rapports humains, en donnent les structures et les modèlent.

L’important est ceci, c’est que nous voyons là le niveau où, avant toute formation du sujet (d’un sujet qui pense, qui s’y situe), ça compte, c’est compté, et dans ce compté, le compte, déjà, y est! Il a ensuite à s’y recon¬naître, et à s’y reconnaître comme comptant. Disons que l’achoppement naïf où le mesureur de niveau mental s’esbaudit de saisir le petit homme, quand il lui propose l’interrogation : «J’ai trois frères, Paul, Ernest et moi, qu’est-ce que tu penses de ça ? » — Le petit n’en pense rien pour la bonne raison, c’est que c’est tout naturel! D’abord sont comptés les trois frères Paul, Ernest et moi, et tel je suis moi, au niveau de ce qu’on avance que j’ai à réfléchir : ce moi… c’est moi! et que c’est moi qui compte.

C’est cette structure, affirmée comme initiale de l’inconscient, aux temps historiques où nous sommes de formation d’une science, d’une science qu’on peut qualifier d’humaine, mais qu’il faut bien distinguer de toute psychosociologie. D’une science dont le modèle est le jeu combi¬natoire que la linguistique nous permet de saisir dans un certain champ, opérant dans sa spontanéité et tout seul, d’une façon présubjective, c’est ce champ-là qui donne, de nos jours, son statut à l’inconscient. C’est celui-là, en tout cas, qui nous assure qu’il y a quelque chose de quali¬fiable sous ce terme qui est assurément accessible d’une façon tout à fait objectivable. »

Le débat sur l’infériorité ou la supériorité de la machine est pour Lassègue une question qui n’a que peu d’importance. Mais par contre, il estime que le résultat de Turing, mais aussi celui de Gödel, en pointant les limitations internes de l’axiomatique formelle telle que la souhaitait Hilbert, engagerait un questionnement sur les rapports entre le conscient et l’inconscient (Il pense à une sorte d’inconscient mécanique en deça de l’intuition) dans la pensée humaine, du fait de leur mise en valeur de l’impossible recouvrement total du domaine de la pensée humain par la pensée algorithmique. « Chaque processus mental mis sous forme algorithmique manifeste la présence d’une générativité algorithmique de la pensée qui suit la générativité de l’intuition comme son ombre. »32

Cela rejoint il me semble l’objet du livre de Michel Bourdeau, Pensée symbolique et intuition33 qui cherche à élaborer une théorie de l’intuition, à partir d’un cheminement philosophique sur ce qu’est d’abord la pensée symbolique et ses succès (dont le programme de Hilbert est une sorte d’exacerbation ou de tentative de la rendre hégémonique), ceci afin de mieux en cerner les limites.

Dans une intervention au colloque « Le réel en mathématiques – Psychanalyse et mathématiques », la mathématicienne, Marie-Françoise Roy, spécialiste des algorithmes de la géométrie algébrique réelle, rappelle ce que nous avons dit lors de l’épisode précédent, à savoir qu’avec l’informatique, « l’histoire du calcul entre dans une phase radicalement nouvelle. »

Elle cite également Lacan, dans son séminaire sur le moi dans la théorie de Freud et dans la technique de la psychanalyse qui a beaucoup travaillé sur la cybernétique cette année-là, parlant souvent de la différence entre l’homme et la machine, tentant d’ouvrir des pistes, mais sans jamais fermer le débat. Lacan tente d’expliquer quelque chose au sujet de la répétition, concept par lequel il introduira à celui d’inconscient dans le séminaire que nous avons déjà cité, à savoir les quatre concepts fondamentaux de la psychanalyse. Il parle de Kierkegaard et de son écrit La répétition, puis il en vient à la machine à calculer.

« Mais à la suite de ça, il nous mène sur le chemin de notre problème, à savoir, comment et pourquoi tout ce qui est d’un progrès essentiel pour l’être humain doit passer par la voie d’une répétition obstinée.
J’en viens au modèle sur lequel je veux vous laisser aujourd’hui pour vous permettre d’entrevoir ce que veut dire chez l’homme le besoin de répétition. Tout est dans l’intrusion du registre symbolique. Seulement, je vais vous l’illustrer.
C’est très important, les modèles. Non pas que ça veuille dire quelque chose-ça ne veut rien dire. Mais nous sommes comme ça – c’est notre faiblesse animale -, nous avons besoin d’images. Et, faute d’images, il arrive que des symboles ne viennent pas au jour. En général, c’est plutôt la déficience symbolique qui est grave. L’image nous vient d’une créa¬tion essentiellement symbolique, c’est-à-dire d’une machine, la plus moderne des machines, beaucoup plus dangereuse pour l’homme que la bombe atomique, la machine à calculer. »

Marie-Françoise Roy se demande ainsi quel est la nature de ce danger ? Peut-être est-ce la croyance que tout le registre qualitatif pourrait être « transféré » dans le registre du quantitatif, ce qui est une des craintes actuelles ?

Son intervention est intéressante en ce qu’elle montre le mathématicien aux prises avec cet objet qu’est l’ordinateur, dans une relation étrange, où l’homme peut produire un algorithme, le maîtriser le visualiser de l’intérieur, et rester pourtant totalement surpris, agréablement ou désagréablement d’ailleurs, des résultats que cet algorithme peut produire. « Les mathématiques accèdent alors à un véritable statut de sciences expérimentale, l’ordinateur jouant le rôle de l’appareil expérimental en physique. »34 Mais elle cite également le mathématicien et informaticien Doron Zeilberger qui prévoit que l’informatique et les ordinateurs tiendront un rôle de plus en plus important dans la création et la recherche en mathématiques, jusqu’à supplanter complètement les sujets humains.

Comme le disait Lacan, idée que reprend M-F Roy, « Dans une machine, le symbolique fonctionne tout seul. » Avec cet article, Turing s’est installé au cœur de ce symbolique mécanique pour en montrer certains rouages, mais aussi, certains de ses aspects que l’on nomme indécidables. Cette révolution n’a pas fini de produire ses effets sur nous…

1. Alan Turing, « Théorie des nombres calculables, suivie d’une application au problème de la décision », in La machine de Turing, Alan Turing, Jean-Yves Girard, Seuil, 1995, p. 52
2. Alan Turing, « Théorie des nombres calculables, suivie d’une application au problème de la décision », in La machine de Turing, Alan Turing, Jean-Yves Girard, Seuil, 1995, p. 53
3. Alan Turing, « Théorie des nombres calculables, suivie d’une application au problème de la décision », in La machine de Turing, Alan Turing, Jean-Yves Girard, Seuil, 1995, p. 54
4. Andrew Hodges, Alan Turing ou l’énigme de l’intelligence, Payot, 1983, 1988, p. 94
5. Jean Lassègue, Turing, Les Belles Lettres, 1998, p. 73
6. Jean Lassègue, Turing, Les Belles Lettres, 1998, p. 75 et 76
7. Jean Lassègue, Turing, Les Belles Lettres, 1998, p. 75
8. Jean Lassègue, Turing, Les Belles Lettres, 1998, p. 75
9. Alan Turing, « Théorie des nombres calculables, suivie d’une application au problème de la décision », in La machine de Turing, Alan Turing, Jean-Yves Girard, Seuil, 1995, p. 63
10. Alan Turing, « Théorie des nombres calculables, suivie d’une application au problème de la décision », in La machine de Turing, Alan Turing, Jean-Yves Girard, Seuil, 1995, p. 66
11. Jean Lassègue, Turing, Les Belles Lettres, 1998, p. 81
12. Alan Turing, « Théorie des nombres calculables, suivie d’une application au problème de la décision », in La machine de Turing, Alan Turing, Jean-Yves Girard, Seuil, 1995, p. 68
13. Jean Lassègue, Turing, Les Belles Lettres, 1998, p. 81
14. Jean Lassègue, Turing, Les Belles Lettres, 1998, p. 81 et 82
15. Alan Turing, « Théorie des nombres calculables, suivie d’une application au problème de la décision », in La machine de Turing, Alan Turing, Jean-Yves Girard, Seuil, 1995, p. 78 et 79
16. Alan Turing, « Théorie des nombres calculables, suivie d’une application au problème de la décision », in La machine de Turing, Alan Turing, Jean-Yves Girard, Seuil, 1995, p. 80
17. Jean Lassègue, Turing, Les Belles Lettres, 1998, p. 82
18. Lire à ce sujet : Argument_de_la_diagonale_de_Cantor
19. Alan Turing, « Théorie des nombres calculables, suivie d’une application au problème de la décision », in La machine de Turing, Alan Turing, Jean-Yves Girard, Seuil, 1995, p. 49
20. Alan Turing, « Théorie des nombres calculables, suivie d’une application au problème de la décision », in La machine de Turing, Alan Turing, Jean-Yves Girard, Seuil, 1995, p. 73
21. Guillaume Watier, Le calcul confié aux machines, Ellipses, 2001, p.57
22. Gödel cité par Lassègue, Turing, Les Belles Lettres, 1998, p. 85
23. Alan Turing, « Théorie des nombres calculables, suivie d’une application au problème de la décision », in La machine de Turing, Alan Turing, Jean-Yves Girard, Seuil, 1995, p. 51
24. Alan Turing, « Théorie des nombres calculables, suivie d’une application au problème de la décision », in La machine de Turing, Alan Turing, Jean-Yves Girard, Seuil, 1995, p. 78 à 84
25. Alan Turing, « Théorie des nombres calculables, suivie d’une application au problème de la décision », in La machine de Turing, Alan Turing, Jean-Yves Girard, Seuil, 1995, p.84
26. Jean-Pierre Dupuy, Aux origines des sciences cognitives, La découverte, 1999, p.22
27. Christiane Alberti, « Alan Turing et sa A-machine : le moment de la logique », in Le traumatisme de la langue – études cliniques, Association Himeros, 2007, p. 74
28. Andrew Hodges, Alan Turing ou l’énigme de l’intelligence, Payot, 1983, 1988, p. 248
29. Jean Lassègue, Turing, Les Belles Lettres, 1998, p. 88
30. Jean Lassègue, Turing, Les Belles Lettres, 1998, p. 88 et 89
31. Pierre Cassou-Noguès, Gödel, Les Belles Lettres, 1998, p. 90
32. Jean Lassègue, Turing, Les Belles Lettres, 1998, p. 90
33. Michel Bourdeau, Pensée symbolique et intuition, PUF, 1999
34. Marie-Françoise Roy, « Le réel du calcul » in Le réel en mathématiques – Psychanalyse et mathématiques, Agalma, 2004, p. 200

Rappelons encore une fois que 2012 sera l’année anniversaire de la naissance de Turing. Et j’invite donc ceux qui ne le connaissent pas encore à lire les premiers articles que j’ai postés sur sa vie :

Alan Mathison Turing, sur les traces de l’Intelligence Artificielle : Introduction

Beaucoup d’hommages auront assurément lieu. Citons par exemple celui-ci, car il concerne un autre domaine qui m’importe, à savoir la place grandissante des machines et des robots dans nos vies :

Un robot pourrait porter la flamme olympique

Ainsi donc, cet article de Turing, écrit en 1936, « Théorie des nombres calculables, suivie d’une application au problème de la décision », s’inscrit dans les travaux de recherches sur la théorie des fonctions calculables, et plus largement comme nous l’avons vu, dans les recherches autour du programme de Hilbert. Encore une fois, je ne pourrai entrer dans les détails des démonstrations de Turing du fait de mes propres limitations et lacunes en Mathématiques.

Pour lire l’article en anglais : ON COMPUTABLE NUMBERS, WITH AN APPLICATION TO THE ENTSCHEIDUNGSPROBLEM

Nous avions vu que Turing s’était intéressé à la physique et surtout à la chimie. Des disciplines où la notion de déterminisme est importante.

La psychanalyste Christiane Alberti nous rappelle dans un article très intéressant « Alan Turing et sa A-machine : le moment de la logique » que Turing s’était senti porter vers « un questionnement sur la cohérence logique de la théorie mais aussi sur la signification de la notion de vérité absolue. »[1] Nous avions effectivement vu avec son biographe Hodges que Turing avait découvert en 1933 avec grand intérêt les écrits de John von Neumann sur la mécanique quantique (Les fondements mathématiques de la mécanique quantique). Il avait probablement déjà lu également les ouvrages de Schrödinger et de Heisenberg. Et il semble que l’intérêt de Turing ait été stimulé durant cette période par le fait que von Neumann « travaillait sur la cohérence logique de la théorie et non sur ses résultats expérimentaux. » La même année, Turing avait également lu l’ouvrage de Russel, Introduction à la philosophie mathématique. Cela lui avait permis d’approcher le problème de la signification de la vérité, à partir du moment où « les mathématiques devaient être considérés comme un jeu soumis à des règles arbitraires dans le maniement de ses symboles […] »[2].

On peut rapprocher la question du déterminisme en mathématiques du problème dit de la décidabilité dans un système formel (un système tel que l’arithmétique de Peano). Ce problème peut s’énoncer comme le fait d’être capable de savoir si telle assertion (tel théorème) ou sa négation peuvent être démontrées (ou encore dérivées) au sein de ce système formel. S’inscrivant dans le programme de Hilbert, et au courant des résultats de Gödel via les enseignements du mathématicien Newman, Turing va finalement réussir avec à sa découverte, à « abstraire cette qualité d’être déterminé pour l’appliquer à la manipulation de symboles. »

Retour sur Gödel…

Dans l’épisode précédent, j’ai cherché à montrer comment le problème de Hilbert concernant la décision (le fameux dixième problème de Hilbert en 1900, qui concernait la décision des équations diophantiennes) pouvait être compris comme la recherche d’un algorithme. J’ai également cherché à montrer comment ce problème de la décision s’était articulé au problème dit de la calculabilité, tout d’abord avec les résultats de Gödel.

Avec Gödel, on peut énoncer que si un système formel (tel qu’il serait capable de formaliser l’arithmétique des entiers, comme celui de Peano donc) est cohérent ou consistant (autrement dit, sans contradiction), alors il existe au moins un énoncé dans ce système tel qu’il n’est pas possible de le dériver dans ce système. Le système est donc dit incomplet. Il y existe un reste qui échappe à la démonstration au sein de ce système formel.

Puis, l’on peut également dire que si ce système formel (toujours comme celui de l’arithmétique de Peano) est cohérent (c’est-à-dire encore une fois, que l’on ne peut y démontrer une proposition P et sa négation non-P), et que si l’on y applique le premier résultat, à savoir qu’il existe au moins une proposition impossible à démontrer (c’est-à-dire à dériver des axiomes) alors la proposition au sein de ce système formel qui démontrerait la cohérence de ce dernier est impossible à dériver au sein de ce même système.

« Grossièrement, le théorème d’incomplétude affirme que tout langage consistant, susceptible d’être compris par une machine et suffisamment riche pour exprimer les nombres entiers avec les opérations d’addition et de multiplication, permet de formuler des propositions indécidables, qui ne sont ni démontrables, ni réfutables dans ce langage, des propositions que l’on sait devoir être vraies bien que l’on ne puisse pas les démontrer dans ce langage. De ce premier théorème, on déduit qu’il est impossible d’établir la consistance, la non-contradiction, d’un tel langage au moyen de raisonnements qui pourraient s’exprimer dans ce langage. »[3]

En d’autres termes, il n’est pas possible de démontrer la complétude d’un système formel consistant, à l’intérieur de ce même système. Et en vertu de ce résultat, il n’est pas possible de prouver, toujours à l’intérieur de ce même système formel consistant, sa propre consistance. Par exemple, au sein de ce système formel qu’est l’arithmétique de Peano, il n’est pas possible de déduire syntaxiquement des axiomes posés au départ (c’est-à-dire de dériver simplement de ces axiomes) l’ensemble des propositions vraies.

Pour arriver à ses fins, Gödel s’est proposé d’« arithmétiser la syntaxe ». C’est un point important de la démonstration de Gödel, et Turing va emprunter cette même démarche. Gödel se propose en effet de coder les formules du système formel sur lequel il effectue sa démonstration. « L’idée maîtresse, dans la démonstration de Gödel, est de représenter par des formules arithmétiques les propriétés métamathématiques, qui ont pour objets des formules arithmétiques. »[4]

« Il ne faut pas se méprendre sur le sens de ce résultat imposant de l’analyse de Gödel : il n’exclut pas la possibilité d’une démonstration métamathématique de la consistance de l’arithmétique. Ce qu’il exclut, c’est la possibilité de refléter cette démonstration dans les déductions formelles de l’arithmétique. »[5] Ce qui n’est pas la même chose… Ce à quoi le théorème de Gödel invite en effet, c’est à produire de nouveaux principes de démonstration étant donné que « l’on ne peut pas axiomatiser entièrement les ressources de l’intelligence humaine […] Les propositions mathématiques qui ne peuvent être établies par une déduction formelle à partir d’un ensemble donné d’axiomes peuvent l’être néanmoins par un raisonnement métamathématique non formalisé.»[6]

Rappelons que le mathématicien Alonzo Church (1903 – 1995), qui a beaucoup œuvré également concernant les bases théoriques de l’informatique, proposa une thèse (c’est-à-dire qu’il n’a pas totalement prouvé le résultat) quasiment au même moment où Turing parlait de sa découverte à Newman ; thèse que l’on appelle parfois Thèse de Church-Turing (car c’est seulement avec le concept de machine de Turing  que le concept de mécanique prend véritablement sens) et qui pose l’équation « calculable = récursif »[7]. Mais la notion de fonction récursive n’est pas simple à manier. Et c’est pourquoi elle n’aura pas la postérité des machines de Turing.

Lecture de l’article de Turing

Afin d’avancer sur une définition de la notion de calcul, Turing donne d’emblée, dès le début de son article, une définition de ce qu’est selon lui un nombre calculable : « On peut définir sommairement les nombres ‘calculables’ comme étant les réels dont l’expression décimale est calculable avec des moyens finis. […] Selon ma définition, un nombre est calculable si sa représentation décimale peut être décrite par une machine. »[8] Et il différencie les « nombres définissables » des « nombres calculables ». Selon Lassègue, « L’étude des nombres réels pour la délimitation de ce qui est accessible au calcul s’impose donc puisque l’on est assuré a priori que certains nombres réels y échapperont toujours : c’est donc au sein de cet ensemble de nombres qu’il sera le plus facile de tracer des limites à la calculabilité. »[9]

En fonction de cette première définition, Turing va introduire dans son article sa notion de machine à calculer, via l’analogie suivante : « Un homme en train de calculer la valeur d’un nombre réel peut être comparé à une machine susceptible de se trouver dans un nombre fini d’états q1, q2, …, qR, que nous appellerons ses m-configurations ». C’est un point extrêmement important car Turing imagine donc ici que l’esprit humain peut être décrit dans les termes d’une machine. Cela n’est pas rien. Il fait appel à l’imaginaire de son époque.

Qu’est-ce que cela veut dire ? D’une part, que Turing commence par nous emmener finalement assez loin d’une démonstration logique. Il le dit lui-même. Il pose d’emblée sa thèse et l’analogie censée la démontrer, et dit ensuite qu’il va détailler le fonctionnement de ses machines pour défendre son point de vue sur ce qu’est un nombre calculable. Il reprendra son analogie calculateur humain un peu plus loin dans son article comme on va le voir.

Comme le dit ailleurs Pierre Cassou-Noguès dans son « histoire de machines, de vampires et de fous », l’article de Turing finit par nous donner une définition de la calculabilité comme « résultat logique fondé dans l’imaginaire. »[10] Qu’est-ce qu’une machine finalement ? C’est un dispositif avec deux propriétés principales : 1) une machine n’a effectivement qu’un nombre fini d’états qui lui sont propres. Et c’est pourquoi la machine de Turing est équivalente à la table de fonctionnement de la dite machine. 2) ce qu’effectue la machine à l’instant T, ne dépend que de l’état de la machine à l’instant T (son qR dans les termes de Turing) et des données qui lui parviennent via un dispositif quelconque. (Dans la machine de Turing, inspiré de la machine à écrire comme on le verra plus loin, ce sera le ruban découpé en cases contenant des symboles à déchiffrer. Dans le cas d’un ordinateur, ce sera un humain qui tape sur son clavier. On peut remarquer qu’une horloge est également une machine, mais qu’elle ne reçoit pas d’information de l’extérieur, son fonctionnement est donc entièrement déterminé par son état à l’instant T).

Aussi, dire qu’un homme en train de calculer, un calculateur humain, peut être comparé à une machine suppose que les différents états mentaux de l’esprit humain soient en nombre fini d’une part. Et d’autre part, cela suppose que cet homme n’agit qu’en fonction de son état mental à l’instant T, associé aux données extérieures qui lui parviennent par ses sens, et suppose enfin qu’il agira toujours de la même façon s’il se trouve dans tel état qR, avec les mêmes données extérieures.

Qu’un corps, ou plutôt, qu’un organisme biologique soit réductible à la notion de machine, il est possible de le concevoir. Mais concevoir que les différents états mentaux soient en nombre finis n’est pas si aisé il me semble, en raison même de l’expérience que nous avons de notre propre esprit, qui nous pousserait plutôt à concevoir celui-ci comme une expérience du continu. Enfin de quelle nature sont ces états mentaux, c’est encore une autre grande question…

Et pourtant, cette analogie nous paraît plausible d’un point de vue imaginaire. Elle fonctionne même plutôt pas mal…

Dans cette perspective, imaginaire, il serait possible à chaque instant de déterminer dans quel état (parmi un certain nombre déterminé et fini), dans quelle configuration se trouve la machine mentale. « Le couple (qn, S(r)) est appelé la configuration de la machine, et c’est donc cette configuration qui détermine l’évolution possible de la machine […] »[11] où qn désigne pour Turing l’état de sa machine à l’instant T, et S(r) le symbole inspecté par la tête de lecture de sa machine.

De la machine à écrire à la machine de Turing

Turing s’inspire de la machine à écrire, qui manipule aussi des symboles. « Qu’est-ce qui faisait qu’une machine à écrire était ‘mécanique’ ? Cela était lié au fait qu’à une action de l’opérateur correspondait de façon certaine une réponse de la machine dont on pouvait décrire à l’avance le comportement dans tous les cas de figure. […] la réponse dépendra de l’état en cours de la machine, de sa ‘configuration’, dira Alan, pensant aux positions majuscule et minuscule ; une idée qu’il reprit sous une forme plus générale.»[12]

Le modèle de la machine à écrire apparaît cependant trop limité, notamment à cause du fait que la machine à écrire ne peut qu’écrire et non lire des symboles. Sa machine doit être capable d’écrire (write), mais aussi de lire (d’inspecter dans ses termes : scan), d’effacer (delete), et enfin de se déplacer à gauche ou à droite.

Turing reprend ainsi du fonctionnement de la machine à écrire le fait que sur cette dernière on ne peut effectuer qu’un nombre fini d’opérations, et que l’on peut dresser « un compte rendu détaillé et définitif du comportement intégral de la machine. »[13] Autre élément important, sa machine reprend l’idée du déplacement du point de frappe sur la page. Il simplifia ce point en imaginant « des machines n’opérant que sur une seule ligne d’écriture. […] Dans son idée, le point de frappe de sa super-machine à écrire pouvait se déplacer indéfiniment vers la gauche ou la droite. »[14] Le ruban de papier, support de cette ligne d’écriture, sera pensé comme infini, mais également divisé en cases. On peut également imaginer que ce soit le ruban qui se déplace et non la tête d’écriture/lecture.

A chaque étape, son fonctionnement est donc déterminé par sa configuration du moment, son état, ainsi que par le symbole déchiffré, lu, par la tête de lecture de la machine. C’est ce qu’il appelle le couple (qn, S(r)), encore appelé la configuration de la machine. Une table de fonctionnement peut être écrite, qui définira complétement la machine. « D’un point de vue abstrait, la table était la machine elle-même. »[15]

L’idée est donc que sa machine doit être entièrement automatisée, sans qu’un opérateur n’ait à agir ou prendre de décision, et qu’elle devait être en mesure de déchiffrer « toute assertion mathématique qui lui serait présentée pour juger si elle était démontrable ou non. Mais il fallait impérativement que ce verdict soit rendu sans la moindre interférence avec l’intelligence, l’imagination ou le jugement humains. »[16]

Cette machine doit donc être capable de faire des additions, des multiplications, d’être finalement capable de savoir, ou plutôt de décider par exemple (c’est-à-dire de dérouler un algorithme comme on l’a vu précédemment) si un nombre est divisible par un autre, ou encore si un nombre est premier.

Les élements importants de la machine

On a donc :

-          Un ruban « avec une extrémité gauche, infini à droite, divisé en cases de même taille […] »[17]

-          Un ensemble fini de symboles, qui vont servir à la description et au fonctionnement de la machine. Ils seront imprimés sur le ruban.

-          Le ruban, qui sera donc la mémoire. Il permet de stocker temporairement les symboles, car il permet l’écriture et la lecture.

-          La tête de lecture/écriture. Elle peut rester sur place, ou se déplacer vers la gauche ou la droite. Enfin, elle peut lire ou écrire un symbole dans une case du ruban.

-          Un ensemble fini d’états sachant que « ces états permettent de distinguer plusieurs comportements possibles […] »[18]

-          « Un ensemble fini d’instructions : à chaque étape, en fonction du symbole c que la tête lit dans la case sondée et en fonction de son état courant  S, elle écrit un nouveau symbole c’ […], elle passe dans un nouvel état S’ […] et elle effectue un déplacement […] »[19]

L’idée est qu’avec cette machine, on puisse normalement simuler n’importe quel algorithme.

Mais comment ce type de machine, décrite par une table quelconque, est censé finalement résoudre le fameux problème de décidabilité d’Hilbert ?

Après avoir présenté brièvement sa machine à calculer, Turing va affirmer que les opérations que peut effectuer sa machine « englobent toutes celles qui peuvent être utilisées pour calculer la valeur d’un nombre. »[20] Et il propose ensuite de présenter sa « théorie des machines » afin de défendre ce point de vue. Son article est ainsi écrit d’une manière plutôt originale pour un article théorique en mathématique.

Nous terminerons sa lecture au prochaine épisode.

La machine de Turing est un concept. Ce n’est donc en rien le plan d’une machine concrète. Voici cependant une vidéo qui me paraît donner une figuration du concept de « machine de Turing » que vous pouvez regarder ici :

Vidéo d’une « machine de Turing« 

[1] Christiane Alberti, « Alan Turing et sa A-machine : le moment de la logique », in Le traumatisme de la langue – études cliniques, Association Himeros, 2007, p. 62

[2] Andrew Hodges, Alan Turing ou l’énigme de l’intelligence, Payot, 1983, 1988, p. 77.

[3] Pierre Cassou-Noguès, Gödel, Les Belles Lettres, 2008, p.60

[4] Pierre Cassou-Noguès, Gödel, Les Belles Lettres, 2008, p.62

[5] Ernest Nagel, James N. Newman, « La démonstration de Gödel », in Le théorème de Gödel, p. 91

[6] Ernest Nagel, James N. Newman, « La démonstration de Gödel », in Le théorème de Gödel, p. 94

[7] Jean-Yves Girard, « La machine de Turing : de la calculabilité à la complexité », in La machine de Turing, Alan Turing, Jean-Yves Girard, Seuil, 1995, p. 13.

[8] Alan Turing, « Théorie des nombres calculables, suivie d’une application au problème de la décision », in La machine de Turing, Alan Turing, Jean-Yves Girard, Seuil, 1995, p. 49

[9] Jean Lassègue, Turing, Les Belles Lettres, 1998, p. 71

[10] Pierre Cassou-Noguès, Une histoire de machines, de vampires et de fous, Vrin, 2007, p.160

[11] Alan Turing, « Théorie des nombres calculables, suivie d’une application au problème de la décision », in La machine de Turing, Alan Turing, Jean-Yves Girard, Seuil, 1995, p. 51

[12] Andrew Hodges, Alan Turing ou l’énigme de l’intelligence, Payot, 1983, 1988, p. 91.

[13] Andrew Hodges, Alan Turing ou l’énigme de l’intelligence, Payot, 1983, 1988, p. 91.

[14] Andrew Hodges, Alan Turing ou l’énigme de l’intelligence, Payot, 1983, 1988, p. 91.

[15] Andrew Hodges, Alan Turing ou l’énigme de l’intelligence, Payot, 1983, 1988, p. 92.

[16] Andrew Hodges, Alan Turing ou l’énigme de l’intelligence, Payot, 1983, 1988, p. 92.

[17] Jean-Yves Girard, « La machine de Turing : de la calculabilité à la complexité », in La machine de Turing, Alan Turing, Jean-Yves Girard, Seuil, 1995, p. 31.

[18] Jean-Yves Girard, « La machine de Turing : de la calculabilité à la complexité », in La machine de Turing, Alan Turing, Jean-Yves Girard, Seuil, 1995, p. 31

[19] Jean-Yves Girard, « La machine de Turing : de la calculabilité à la complexité », in La machine de Turing, Alan Turing, Jean-Yves Girard, Seuil, 1995, p. 31 et p.32

[20] Alan Turing, « Théorie des nombres calculables, suivie d’une application au problème de la décision », in La machine de Turing, Alan Turing, Jean-Yves Girard, Seuil, 1995, p. 52

Le concept d’imaginaire et son lien avec la science

Nous avons vu que Cassou-Noguès cherchait des modes d’analyse philosophique de nos positions de sujet. Rejouant d’une certaine manière le geste cartésien, il le transfert pourrait-on dire dans un espace fictionnel, censé donner ce qu’il appelle « le possible », qui serait la matière sur laquelle on peut philosopher, c’est-à-dire un ensemble de figures subjectives fictionnelles, sur lesquelles, ou plutôt à l’intérieur desquelles il va analyser notre rapport à la réalité, comment nous nous représentons nous-mêmes, les autres, comment nous tentons de faire avec le fait que, spontanément, nous nous pensons comme à la fois des corps et des esprits. Sachant finalement, que la structure imaginaire, autrement dit les figures que nous pouvons convoquer pour nous penser, ne sont plus les mêmes qu’à l’âge classique par exemple. Et c’est vers ce dernier point que j’aimerais avancer.

« La méthode est une analyse de l’imaginaire intérieure à l’imaginaire. Il s’agit de jouer sur les images, d’utiliser leurs ressorts propres, dans la fiction par conséquent, pour mettre en lumière leur structure.»[1] Le concept d’imaginaire auquel fait référence Cassou-Noguès est nous dit-il, emprunté à Bachelard. Il s’en explique dans les « compléments » dans son livre Une histoire de machines, de vampires et de fous, et qui sont deux textes d’une autre facture, plus classique, placés après la fiction.

« […] nous dirons que l’imaginaire est en mouvement et se transforme avec les techniques, la littérature et les sciences. A chaque époque, il y a des images qui viennent de la littérature et entrent dans les sciences, des images sur lesquelles les sciences s’appuient et dont elles ne se détachent pas mais qu’elles ne font que transformer. Prenons l’exemple des machines de Turing. […] avec le texte de Turing, l’image de la machine, déjà présente dans littérature et de façon plus diffuse dans d’autres textes logiques, dès Frege, prend une portée à l’intérieur même de la science. […] ici la ‘machine’, le caractère ‘mécanique’, intervient bien comme une image, qui prends son sens d’elle-même, un sens irréfléchi. Il y a bien sûr une description rigoureuse des machines de Turing, un concept si l’on veut. Mais celui-ci ne se dessine qu’a posteriori. »[2]

Pour Cassou-Noguès, l’article de Turing finit même par nous donner une définition de la calculabilité comme « résultat logique fondé dans l’imaginaire. »[3] Vous pouvez lire sur Turing ici.

« La thèse de Turing s’appuie sur cette comparaison raisonnée mais elle s’appuie également sur l’image de la machine. Les textes logiques qui précèdent Turing, les textes de Frege, von Neumann, Gödel, qualifient en un sens vague les procédures calculables, ou formelles, de « mécaniques ». Il y a aussi toute une littérature qui, depuis le XIXe siècle, associe la notion de raisonnement à celle de machine. Ce sont des images diffuses que Turing fixe dans un concept logique. La thèse de Turing ne peut avoir lieu que dans un contexte qui fait déjà place à l’idée de machine. L’article de 1937 ne peut voir le jour que dans une société qui utilise des machines et des machines, qui, comme les métiers à tisser Jacquart dont s’inspire Babbage, peuvent être programmées, c’est-à-dire peuvent réaliser différentes tâches selon les instructions qu’on leur donne. Ces machines sont d’abord passées dans la littérature et Turing les a introduites en logique. »[4]

Dans Une histoire de machines, de vampires et de fous, nous avons bien affaire à une sorte de construction fictionnelle dans laquelle le lecteur est invité à se promener et où les éléments qui construisent le monde décrit lui paraissent plausibles, crédibles, quand bien même ils ressortent d’un espace fictionnel. Car selon Cassou-Noguès, ni la philosophie, ni les sciences ne sont imperméables à l’imaginaire.

Il précise cette thèse, et cherche à mieux la cerner dans « le livre complément » à Une histoire de machines, de vampires et de fous, Les démons de Gödel, où il montre comment Gödel lui-même a cherché à « extrapoler » sur ses propres résultats en logique, d’une manière qui pourrait d’ailleurs tomber sous le coup de la fameuse accusation des Sokal et Bricmont.[5]

Il décrit ainsi l’autre face de son exploration dans Les démons de Gödel : « Le problème qui m’occupe est de savoir ce que l’on peut légitimement tirer d’un énoncé scientifique. […] Ma thèse, de façon très générale, serait que les énoncés scientifiques sont toujours pris dans un contexte qui leur donne une signification plus large que leur simple usage dans la théorie à laquelle ils appartiennent. Il n’y a pas de science, et il n’y a pas de logique sans un tel contexte. »[6] On a donc, avec Les démons de Gödel , un livre qui explore comment un des scientifiques les éminents du 20^ème siècle a cherché à « extrapoler » ses résultats, pour s’interroger sur ces rapports, houleux parfois, entre les résultats scientifiques, et le contexte, en partie imaginaire, dans lequel ils s’inscrivent.

« […] la discussion sur la légitimité d’une interprétation philosophique est elle-même philosophique et doit porter sur le contexte, les principes extrascientifiques qui sont associés à l’énoncé scientifique : leur validité ou, dans le cas de Gödel, leur pertinence. On peut bien relever des erreurs chez les philosophes mais l’existence d’un contexte et, par conséquent, l’interprétation extrascientifique des théories scientifiques, qui leur donne un sens plus large que leur usage technique, est intrinsèque à la visée des sciences. »[7]

Cassou-Noguès insiste donc sur le fait, que Turing et Gödel par exemple, logiciens exemplaires, d’une part utilisent en quelque sorte des ressources imaginaires pour asseoir leurs démonstrations logiques, et d’autre part, avec l’exemple du travail philosophique de Gödel, cherchent eux-mêmes à donner un sens plus large à leurs découvertes scientifiques. C’est pour cette raison qu’il s’est intéressé au travail philosophique de Gödel, et qu’il tente dans Les démons de Gödel d’articuler l’analyse proprement logique et mathématique, à l’analyse de la structure de l’imaginaire. Alors qu’il tente dans Une histoire de machines, de vampires et de fous de partir de la fiction et de philosopher à l’intérieur même de l’imaginaire, en faisant varier certaines propriétés aux limites du possible, afin d’éclairer nos figures subjectives.

Il précise cependant que l’imaginaire dont il parle n’est pas à rapporter à l’imaginaire défini par Lacan, mais plutôt aux images de la littérature, aux images portées par une sorte d’imaginaire collectif d’une époque.

« Je parle d’un contexte imaginaire dans la mesure où ces « images », ces « peurs » ou, disons, ces thèmes diffus dans la vie et l’oeuvre du logicien sont de l’ordre de ceux qui, lorsqu’ils sont collectifs et non simplement individuels, s’expriment avant tout dans la littérature. J’emploie donc le terme « imaginaire » en un sens vague (qui ne recoupe pas la distinction lacanienne entre le symbolique et l’imaginaire). »[8]

Le travail des logiciens serait donc « fondé » dans ce contexte imaginaire d’une époque. Mais en quel sens exactement ?

Le problème pour Cassou-Noguès serait que ce contexte imaginaire est particulièrement difficile à cerner tant nous en sommes imprégnés. L’intérêt du travail philosophique de Gödel qui « grossirait » en quelque sorte les images utilisées dans son travail purement logique, serait de présenter un imaginaire si décalé par rapport aux images qui nous sont familières qu’il nous apparaitrait en retour plus « visible », plus manifeste.

« Il faut admettre que notre logique s’enracine également dans un imaginaire mais que nous ne voyons pas ces images comme telles, précisément parce que nous les utilisons, nous les associons aux notions logiques à ce point que nous les confondons avec elles. En fait, l’imaginaire de notre logique ne peut se montrer que négativement par le rapport ambigu des logiciens « fous » à nos images auxquels ils n’adhèrent pas totalement. Leur « folie » vient de ce que l’imaginaire qui sous-tend leur logique comme leur philosophie est décalé par rapport à notre imaginaire ou, pour reprendre l’expression de Gödel,  l’imaginaire de l’esprit du temps : décalé et, manifestement, moins solide. »[9]

Cette position quant au travail logique permet également de montrer pourquoi certaines inventions, certaines découvertes sont retenues dans l’histoire de telle ou telle science, ici en logique. Car Turing ne fut pas le seul logicien à proposer certaines définitions du calcul. Un autre logicien comme Emil Post en avait également proposé une autre, une définition qui empruntait à l’image du travailleur à la chaîne. Mais ce furent les machines de Turing qui l’emportèrent. Cassou-Noguès en conclue que l’imaginaire joue là un rôle important, un rôle de sélection des définitions théoriques.

Pour conclure sur la relation entre les théories scientifiques et le contexte imaginaire de leur époque, Cassou-Noguès pense cette articulation comme une « détermination par un écho imaginaire » qui viendrait orienter les intérêts des logiciens ou des mathématiciens, vers telle ou telle recherche. Ces recherches permettant en conséquence de répondre à des questions de l’époque qui dépassent le cadre des théories scientifiques elles-mêmes. Ces questions de l’époque étant par ailleurs travaillées dans la littérature qui accompagne chaque époque.

« La thèse qui m’occupe actuellement est plus faible que celle à laquelle l’exemple de la calculabilité pouvait me conduire dans Les démons de Gödel. Il serait en effet impossible de soutenir, de façon générale, que les principes d’une théorie, comme les axiomes de la théorie des ensembles, sont déterminés en référence à un contexte imaginaire. Ma thèse serait plutôt que l’intérêt des notions et, par conséquent, les directions du travail des mathématiciens (les mathématiciens ne s’intéressent pas à toutes les notions ou ne cherchent pas à démontrer tous les théorèmes mais seulement des théorèmes « intéressants ») sont déterminés par un écho imaginaire : par ceci que ces notions, ces énoncés reprennent une préoccupation plus large et que l’on rencontre avant tout dans la littérature. Il s’agirait d’étudier cette thèse sur différents domaines mathématiques et, par exemple, la théorie des ensembles. »[10]

Pour le philosophe, notre fascination pour la machine, pour l’idée d’être des machines viendrait ainsi par exemple orienter l’idée de validation de théorèmes en logique.

« Ainsi, la notion de machine de Turing se trouve fixer le mode de validation des énoncés mathématiques et, par là, ancrer à nouveau les mathématiques dans l’imaginaire. La question, au fond, serait de savoir pourquoi nous voulons qu’un théorème puisse être déduit mécaniquement de la théorie des ensembles. Et une réponse serait parce que nous sommes fascinés par l’image de machine, ou l’idée d’être des machines. »[11]

[1] Pierre Cassou-Noguès, Une histoire de machines, de vampires et de fous, Vrin, 2007, p.157.

[2] Pierre Cassou-Noguès, Une histoire de machines, de vampires et de fous, Vrin, 2007, p.159-160.

[3] Pierre Cassou-Noguès, Une histoire de machines, de vampires et de fous, Vrin, 2007, p.160.

[4] http://stl.recherche.univ-lille3.fr/seminaires/philosophie/macherey/macherey20072008/Cassou_reponseamacherey13032008.html

[5] « L’unité entre ‘folie’, philosophie et logique pose alors au moins deux problèmes. Le premier concerne l’interprétation de la logique. Que peut-on faire dire à un théorème logique ?  On connaît la dénonciation – par A. Sokal et J. Bricmont dans les Impostures intellectuelles, par J. Bouveresse également dans son livre sur Gödel, Vertiges et prodiges de l’analogie – des usages de concepts, ou d’énoncés scientifiques en philosophie. Or il se trouve d’abord que Gödel emploie par avance le terme même que J. Bouveresse stigmatise, « l’extrapolation ». La philosophie, pour Gödel, est tirée d’une « extrapolation » de la science : une extrapolation, c’est-à-dire non pas une lecture rigoureuse et stricte des énoncés scientifiques mais bien une interprétation qui dégage des idées, des tendances dans les théories actuelles et les prolonge au-delà de ce que celles-ci montrent. […]  Certaines rejoignent d’assez près les conclusions des auteurs que critiquent J. Bouveresse ou A. Sokal et J. Bricmont. Ainsi, Gödel a une interprétation politique de son théorème d’incomplétude qui n’est pas sans rappeler celle de R. Debray »

[6] http://stl.recherche.univ-lille3.fr/seminaires/philosophie/macherey/macherey20072008/Cassou_reponseamacherey13032008.html

[7] http://stl.recherche.univ-lille3.fr/seminaires/philosophie/macherey/macherey20072008/Cassou_reponseamacherey13032008.html

[8] http://stl.recherche.univ-lille3.fr/seminaires/philosophie/macherey/macherey20072008/Cassou_reponseamacherey13032008.html

[9] http://stl.recherche.univ-lille3.fr/seminaires/philosophie/macherey/macherey20072008/Cassou_reponseamacherey13032008.html

[10] http://stl.recherche.univ-lille3.fr/seminaires/philosophie/macherey/macherey20072008/Cassou_reponseamacherey13032008.html

[11] http://stl.recherche.univ-lille3.fr/seminaires/philosophie/macherey/macherey20072008/Cassou_reponseamacherey13032008.html

Le livre : « Une histoire de machines, de vampires et de fous »

L’auteur : Pierre Cassou-Noguès est né en 1971, il est philosophe et chercheur au CNRS. Il enseigne à l’université Lille III. Il a travaillé en philosophie des sciences et s’intéresse actuellement aux rapports entre science et littérature notamment autour du thème de la machine.

L’insolite au détour d’une rencontre…

Un homme rencontre une femme dans un bar. Il la suit, et va prendre un verre chez elle. Quoi de plus ordinaire, si ce n’est que…

L’insolite est la rupture, l’échappée hors de l’ordre des choses, « qui, en conséquence, étonne, déconcerte, surprend […] » et échappe « au banal, à l’ordinaire», mais aussi au spectaculaire[1]. C’est « l’intrusion dans l’univers banal d’une réalité située sur un plan différent »[2]. Dans cet essai de philosophie-fiction, l’entrée dans l’insolite commence par une morsure.

Car la femme est un vampire… d’un genre un peu spécial. Ceci n’étant que le début d’une aventure un peu spéciale pour ce pauvre homme. En effet cette morsure aura un effet étrange.

On s’écarte donc ici du mythe traditionnel du vampire, et on va commencer à cheminer « phénoménologiquement ».

« […] c’est comme cela que j’explique que ce vampire, en réduisant mon corps n’ait laissé de moi qu’une image. […] La morsure du vampire a eu ceci d’étrange qu’elle a défait mon corps sans interrompre mon existence. Celle-ci s’est seulement repliée sur l’autre terme, l’image, qui accompagnait ma vie corporelle. Déplacée dans un autre corps, un corps en peinture.»[3]

Cette morsure a donc eu l’effet suivant. L’homme se retrouve dans un tableau incarné dans le corps, vide, d’un homme peint sur une toile. Et c’est à partir de cette situation, peu banale, que Cassou-Noguès va s’amuser littéralement à essayer de décrire ce que peut vivre cet homme, dans sa nouvelle condition, et par là interroger la façon dont nous vivons au quotidien le fait d’être nous-mêmes incarnés dans un corps physique.

« Il me semble évident que le corps, dans l’existence humaine, se vit d’abord de l’intérieur. C’est une sorte de lieu obscur, sans lumière et peuplé d’une multitude de sensations […] »[4]

Qu’est-ce qu’une existence lorsqu’on a un corps vivant, fait d’organe et de fluides, ou plutôt, comment peut-on décrire, de l’intérieur, le fait de vivre dans un corps qui possède un intérieur ? Telle est la question de départ de Cassou-Noguès, qui va, de questionnements en interrogations, et telle une enquête policière (Sherlock Holmes fera partie des figures littéraires convoquées d’ailleurs), emprunter le chemin de l’imaginaire pour justement explorer les méandres de ce dernier.

Comment savons-nous que ce corps est bien le nôtre ? Que ce visage dans la glace est le nôtre ? Sachant qu’ « il n’y a pas de rapport immédiat entre ce que je vis de l’intérieur, ce corps morcelé par des sensations différentes, et cette image que je saisis dans le miroir. »[5] On pense ici évidemment au stade du miroir de Lacan, que Cassou-Noguès dramatise au travers de cette fiction d’un homme peint, et pourtant toujours vivant, à travers laquelle il cherche à nous montrer combien l’identification à des images est au cœur de notre subjectivité.

Je n’irai pas plus loin dans la description de sa fiction, et vous laisse le soin d’y goûter par vous-mêmes. Les références, tant à la littérature, qu’aux mathématiques et à la logique, y sont nombreuses et hétéroclites. Elles vont de Borgès, Conan Doyle, ou encore le film Matrix, en passant par Turing, Lacan donc, mais aussi Gödel, dont Cassou-Noguès écrivait une biographie au moment même où il écrivit ce texte fictionnel : Les démons de Gödel, logique et folie[6]. Ces deux écrits, quoique de constructions fort différentes, forment en effet une sorte de diptyque.

On continuera plus tard sur « la méthode » et la thèse de ce livre de philosophie-fiction…

[1] insolitus provient du participe solere qui désigne la coutume de faire quelque chose, l’être habituel. Editorial de la revue  « Recherches en Esthétique » sur le thème de l’insotlite

[2] Vocabulaire d’esthétique, Paris, PUF, coll. « Quadrige », 1999, p. 889.

[3] Pierre Cassou-Noguès, Une histoire de machines, de vampires et de fous, Vrin, 2007, p.16.

[4] Pierre Cassou-Noguès, Une histoire de machines, de vampires et de fous, Vrin, 2007, p.14.

[5] Pierre Cassou-Noguès, Une histoire de machines, de vampires et de fous, Vrin, 2007, p.15.

[6] Pierre Cassou-Noguès, Les démons de Gödel, logique et folie, Seuil, 2007.

Paris, le 22/08/2011

Dans cet épisode, on va essayer d’avancer vers l’article de 1936, « Théorie des nombres calculables, suivie d’une application au problème de la décision »[1].

(Je me rends compte par ailleurs que plus j’essaie « d’avancer » vers cet article, plus j’ai l’impression d’être Achille tentant de rattraper la tortue…)

Pour ce faire, je voudrais revenir sur ce que j’ai écrit précédemment. Car en relisant ma précédente présentation du programme de Hilbert, je me suis rendu compte qu’il était aisé de finir par la concevoir de façon simplifiée.

J’ai écrit que ce que l’on nomme consistance de l’axiomatique formelle c’est le fait qu’aucune formule contradictoire ne peut y être engendrée à partir des axiomes.

Et il est vrai que, à certains moments, Hilbert a distingué deux activités, celle du mathématicien, qui raisonne principalement sur des signes, en excluant la signification, et celle du métamathématicien, qui, cette fois, réintroduit le contenu, autrement dit, le sens. « Dans cette métamathématique, à l’opposé de ce qui se fait dans les procédés de raisonnement purement formels de la mathématique proprement dite, on applique un raisonnement doué de contenu, et cela pour établir la consistance des axiomes. »[2]

Mais, comme l’écrit Girard, « Une simplification outrancière du point de vue de Hilbert nous donne : les mathématiques sont une activité purement formelle, sans plus de signification que le jeu d’échecs. Pour démontrer, nous utilisons des axiomes et de la logique, mais notre intuition de ces entités est douteuse. Il faut donc objectiver ce qui se passe, en se contentant d’analyser le jeu formel de signes sous-jacent, de façon à démontrer sa consistance c’est-à-dire le fait qu’il ne mène pas à contradiction. Cette formulation sombre immédiatement dans le ridicule : il serait en effet absurde de dire d’une part que les énoncés mathématiques n’ont aucun sens, pour d’autre part mettre l’accent sur la propriété métamathématique de consistance, qui est aussi un énoncé mathématique. »[3] Ainsi, Hilbert ne faisait que séparer de manière rigoureuse deux façons de raisonner, selon que l’on raisonnait dans le système, ou sur le système des mathématiques. Mais il est impossible d’évacuer au final l’intuition et le sens des mathématiques, y compris dans la conception hilbertienne de ces derniers.

Consistance et complétude

Une autre formulation de la consistance pourrait être de dire qu’un système formel est consistant si, de deux formules contradictoires, A et ­­­­­­­­­non-A, l’une au moins n’est pas démontrable, et qu’il n’est donc pas possible de prouver A et non-A simultanément dans ce système.

Une autre formulation de la complétude serait alors de dire qu’un système formel est complet si, de deux formules contradictoires, A et non-A, l’une au moins est démontrable, et qu’il est alors nécessaire de pouvoir prouver ou A, ou non-A, dans ce système.

Rappelons-nous qu’en 1900 Hilbert avait soumis aux mathématiciens 23 problèmes. Gottlob Frege (avec qui Hilbert avait correspondu et était justement en opposition sur la nature de ce qu’était un axiome) s’était attaqué aux fondements des mathématiques dans son livre homonyme de 1884. Il abordait le problème d’un point de vue logique, et pour lui, « l’arithmétique découlait des relations logiques entre les entités de ce monde, et dont la consistance était assurée par une relation avec la réalité. »[4]

Le second problème de Hilbert portait sur cette même consistance des « axiomes de Peano » dont il faisait dépendre toute la rigueur des mathématiques. On pourrait dire que la préhistoire de la métamathématique de Hilbert était en effet une reprise de l’axiomatique telle qu’elle avait été proposée par Euclide, puis une autre reprise portant cette fois sur la tentative de fonder l’objet nombre de manière mathématique.

Dans une autre orientation, Bertrand Russel avait introduit l’idée d’ensemble dans l’orientation théorique ouverte par Frege, notamment avec sa tentative de définir le nombre UN, comme « l’ensemble de tous les ensembles à un élément »[5]. Mais l’on connait les paradoxes qui surgissent lorsqu’on manipule ces ensembles de tous les ensembles… Russel et Alfred North Whithead (1861 – 1947) travaillèrent longuement sur leur Principia Mathematica, précisément pour élaborer certaines solutions inhérentes à l’utilisation des ensembles dans ce cadre. Il en ressortit ce que l’on appelle « la théorie des types », qui sera critiquée par Wittgenstein par ailleurs dans ses travaux de logique. Pour tente d’éviter de faire surgir ces paradoxes, Russel et Whitehead définissaient des types d’ensembles. Turing s’intéressa par ailleurs à « L’introduction à la philosophie mathématique » de Russel.

Mais c’est en 1928, alors que le programme de Hilbert était à son apogée, lors du congrès de Bologne, que Hilbert signala « quatre problèmes encore à résoudre et demandait en particulier de démontrer : la complétude sémantique du calcul des prédicats, la consistance et la complétude syntactiques de l’arithmétique formelle. »[6]

En 1930, le jeune logicien viennois Gödel apportera une réponse positive à la complétude sémantique du calcul des prédicats. Mais il allait par contre l’année suivante mettre un coup d’arrêt à l’optimisme du programme de Hilbert, en montrant les limites de la formalisation dans un mémoire devenu célèbre, et qui allait tracer la voie à des recherches sur l’indécidabilité. Nous reviendrons sur ce point un peu plus loin.

Sautons quelques années pour nous retrouver fin 1933. Sur la scène mondiale, la montée du nazisme provoque l’exil de nombreux scientifiques vers l’Angleterre et les Etats-Unis. C’est alors le déclin de la fameuse université de Göttingen, le fief de Hilbert. Einstein émigre vers Princeton. Von Neumann part également pour les Etats-Unis. Turing, sans être directement politisé, a des affinités avec le mouvement anti-fasciste. Il passe ses examens, et ses résultats lui valent une bourse de recherche au King’s College de Cambridge. Ainsi, en novembre 1934, il termine son mémoire et en mars 1935, il est reçu premier de son année. A 22 ans, il obtient alors une bourse de 300 livres par an, pendant 3 ans. Et au même moment, il publie son premier article dans le London Mathematical Society. « Il s’agissait d’une petite découverte touchant à la théorie des groupes, qu’il annonça le 4 avril à Philip Hall […] », qui est un spécialiste de la théorie des groupes. « Les recherches d’Alan complétaient un article de von Neumann […] », qui était de passage à Cambridge en avril 1935, et que Turing rencontra peut-être.

Démontrabilité

Comme je l’ai précisé en fin d’épisode 6, Kurt Gödel (1908 – 1978) s’est attaqué au programme de Hilbert, pour l’ébranler sérieusement avec son fameux article de 1931, « Sur les propositions formellement indécidables des Principia Mathematica et des systèmes apparentés I» (le II n’a jamais été crit). C’est sur le plan de la complétude de l’axiomatique formelle, mais également sur celui de la consistance, que Gödel travailla. Il démontra ainsi « qu’une axiomatique formelle susceptible de servir de réplique à l’arithmétique des entiers est structurellement incomplète : on peut montrer qu’il y a un « reste » arithmétique qui échappe à l’axiomatique formelle quels que soient les aménagements axiomatiques ultérieurs susceptibles de se produire. Il fallait en conclure que la démontrabilité d’un énoncé n’était pas strictement équivalente à sa vérité puisqu’un théorème (un énoncé vrai) pouvait être vrai sans être déductible des axiomes : il devenait nécessaire de dissocier la déductibilité de nature syntaxique et la vérité de nature sémantique au sein de l’axiomatique formelle.»[7]

Et, même si c’est sur un autre plan, celui de la décidabilité, que Turing va œuvrer, c’est d’une certaine manière, dans l’ombre du génial logicien Gödel, qu’il va publier son article sur la théorie des nombres calculables. Nous allons voir pourquoi.

Pour tenter d’approcher l’article de Turing, il me semble qu’il faut retracer à grands traits la notion de calcul, avant de l’articuler à celle de décidabilité (car pour résoudre le problème de la décision, tel énoncé est-il décidable, il faut finalement savoir ce qu’est un calcul), pour parler enfin de la démarche, similaire à celle de Gödel, qu’emprunta Turing (l’arithmétisation de la métamathématique). Au final, retenons le fait que « le problème de la décision est ainsi ramené à celui de savoir si une fonction est calculable. »[8]

La notion de calcul : de la fonction à l’algorithme

C’est seulement dans les années 1920 que l’on commença à s’interroger de manière approfondie sur ce qu’est cette notion de calcul, « outil de la démarche mathématique, elle n’était pas devenue objet mathématique. »[9]

Au 18^ème siècle, eu lieu l’émergence de la théorie des fonctions. Et dès lors, « la notion de calcul fut associée à la notion de fonction […] à une valeur numérique de x correspondait, par une transformation effectuée par la fonction f, une valeur  f(x).»[10].

Puis au cours du 19ème siècle, sous l’avancée des recherches en théorie des ensembles, c’est la notion de fonction qui va elle-même évoluer, « jusqu’à signifier une correspondance quelconque entre éléments d’un ensemble de départ vers un ensemble d’arrivée sans que fut envisagée une procédure effective de calcul. »[11]

Une fois cette définition de la fonction acquise, le problème va être de savoir si effectivement il existe une procédure de calcul pour telle ou telle fonction particulière. On va pouvoir ainsi définir une classe générale de fonctions, et une sous-classe qui sera celle des fonctions dites calculables, lorsque l’on peut trouver effectivement une procédure de calcul. Mais à présent, comment cerner concrètement cette sous-classe des fonctions calculables ? On retombe ainsi sur le problème de ce qu’est véritablement une « procédure de calcul ».

Et c’est à ce point que l’on peut faire entrer la notion d’algorithme. « Le terme ‘algorithme’ dérive du nom d’un mathématicien de langue arabe originaire d’Asie Centrale – Al Khowarismi – qui vivait dans cette capitale scientifique qu’était Bagdad au IXème siècle et à qui l’on doit notamment d’avoir transmis des mathématiciens indiens la numération de position et d’avoir écrit l’un des premiers traités d’algèbre […] »[12]. Un algorithme est ainsi une sorte de recette, de méthode, de procédure systématique qui nous donne « la liste d’instructions que l’on doit suivre pour réussir à atteindre un résultat après un nombre fini d’étapes. »[13]

Si vous souhaitez écouter une bonne émission sur ce sujet : http://radiofrance.saooti.com/fr/broadcast/36_Genese_dun_algorithme

Lorsqu’on manipule les propriétés de certains ensembles, du type entier naturel, et que l’on s’en tient à des cas précis, ou lorsqu’on veut rechercher les occurrences d’un nom donné dans un fichier, et répondre, soit oui, le nom s’y trouve, soit non, il ne s’y trouve pas, il n’y a pas vraiment de problème. On touche là à la question de la décision. Si l’on s’en tient à des ensembles finis, pas de problème particulier. On peut par exemple dresser des listes.

Mais si l’on commence à travailler sur des ensembles infinis, on va commencer à se heurter à certains soucis. Par exemple, si l’on veut s’assurer que certains énoncés peuvent être applicables sur tous les nombres entiers naturels, ou bien tester sur tous les noms possibles, les difficultés commencent.

Lacan et la logique de la cure selon Miller

Pour faire un parallèle avec la psychanalyse orientée par Lacan. Certains lacaniens se sont posés la question si l’ensemble des signifiants essentiels pour un sujet était un ensemble fini ou infini par exemple. En effet, si l’on voulait définir « une logique de la cure » qui tenterait de formaliser non pas la structure du sujet, mais de formaliser les transformations qui s’opèrent au sein de cette structure du sujet au cours de la cure, la question pouvait se poser. Selon Jacques-Alain Miller, le Séminaire IV de Lacan, La relation d’objet, proposerait en effet une tentative « d’utiliser le schéma L au moins pour formaliser le changement de position subjective d’un point de vue clinique. »[14] En tentant ainsi de penser les transformations dans la cure, comme des permutations de termes au sein d’un jeu de place au sein de la structure, on se trouve devant le fait qu’il faille poser au préalable un nombre fini de signifiants essentiels. La conclusion de cette logique de la cure pensée ainsi, sera alors obtenue au terme d’un certain nombre de permutations. Cette logique par permutation s’oppose à une logique linéaire, c’est-à-dire à une déduction qui démarre des prémisses pour arriver à une conclusion. Enfin, si l’on suit Miller lisant Lacan dans « L’instance de la lettre dans l’inconscient ou la raison depuis Freud » où ce dernier résume sa recherche sur le petit Hans dans son séminaire IV de la même année 1957, ce serait également une démonstration par l’absurde, et non une démonstration positive. « Lacan dit là que ‘le petit Hans […] développe, […] sous une forme mythique, toutes les permutations possibles d’un nombre limité de signifiants’. Ce que l’on obtient est la solution de l’impossible, à savoir que la démonstration qu’apporte la cure conçue à partir de la logique de la cure relève de la démonstration par l’absurde ; elle se conclut par un ‘il n’y a pas’, par un ‘ce n’est pas le cas posé dans l’hypothèse’. Telle est l’orientation fondamentale de Lacan depuis son étude de la cure du petit Hans. La transformation de l’impuissance en impossibilité, comme il le formulera dans les années soixante-dix, est déjà présente dans ce Séminaire IV. On y trouve aussi inscrite la formulation de la fin de l’analyse comme perception, subjectivation du ‘il n’y a pas de rapport sexuel’.»[15] Nous essaierons peut-être de creuser cela dans notre lecture de ce séminaire, La relation d’objet.

Mais revenons à la notion d’algorithme et à son rapport avec le calcul et le problème de la décision. Car c’est là que la notion d’algorithme est censée permettre de répondre à tous les cas possibles, et non plus au cas par cas. Soit dans le cas des entiers naturels, être capable de répondre par exemple si n est vraiment un nombre premier. D’où le fait qu’un algorithme est aussi une procédure de décision.

Dans ce cadre, et pour en revenir au problème de la décidabilité de l’axiomatique formelle, c’est la question « de savoir s’il existe une méthode algorithmique qui puisse décider si une formule quelconque est ou non déductible des axiomes de l’axiomatique formelle. »[16]

La méthode : arithmétisation de la métamathématique

Afin de s’attaquer à la complétude, ainsi qu’à la consistance de l’axiomatique formelle, Gödel avait opéré une stratégie que l’on nomme arithmétisation de l’axiomatique formelle. Et c’est la même stratégie que Turing utilisera.

En quoi cela consiste-t-il ? Nous avions montré que l’axiomatique formelle se distinguait des axiomatiques à contenu justement par le fait que la première était censée se substituer à toutes les secondes. Hilbert voulait précisément remplacer le détour par l’expérience comme preuve, par un détour qui reste interne aux mathématiques, ce qui revenait, pour tester la non-contradiction d’une axiomatique, à la remplacer par une autre axiomatique plus fondamentale, et ainsi de suite. Pour ce faire, nous avions montré que Hilbert avait distingué deux sortes d’axiomatiques. « L’axiomatique à contenu – celle qui s’était toujours pratiquée, chez Euclide pour la géométrie ou chez Peano pour l’arithmétique – et l’axiomatique formelle. » L’axiomatique formelle est alors censée offrir un espace où l’on peut répliquer les axiomatiques à contenu dont il était difficile de prouver la non-contradiction.

Mais alors pourquoi revenir à l’arithmétique ? Car « […] l’instrument de cette fidélité [entre l’axiomatique à contenu et l’axiomatique formelle] peut précisément être le nombre. […] une fois constituée l’axiomatique formelle, celle-ci peut, précisément parce qu’elle n’a plus de signification, être recodée de façon rigoureuse sous forme de nombres. L’arithmétique des entiers subit donc une double transformation : on en abstrait tout d’abord l’aspect formel au moyen d’une axiomatique sans contenu et on recode ces signes ininterprétés, simples signes sur le papier, sous forme de nombres. […] C’est par ce biais que l’axiomatique formelle peut devenir un calcul formel et qu’une passerelle peut être construite entre la théorie de la démonstration et la théorie de l’arithmétique.»[17]

Turing et la notion de calcul

A Cambridge, en 1935, Turing avait suivi les cours du mathématicien Newman, chef de fil britannique de la topologie à l’époque. Celui-ci avait suivi le congrès de Bologne de 1928, et son cours était donné dans l’esprit du programme de Hilbert. Les cours de Newman marquèrent Turing, et notamment sur la question de Hilbert concernant la démontrabilité.

En effet, « les résultats de Gödel n’éliminaient pas la possibilité qu’il existât une manière de distinguer les assertions démontrables de celles qui ne l’étaient pas. Y avaient-il une méthode définie, ou, comme le dit Newman, un procédé mécanique permettant de déterminer si une proposition mathématique était démontrable ou non ? »[18] Et c’est ce « procédé mécanique » qui va stimuler l’esprit de Turing.

Gödel avait donc arithmétisé l’axiomatique formelle en transformant les formules en nombre, et en présentant le calcul arithmétique comme la procédure qui permettait au final de décider, de démontrer. Turing allait en quelque sorte redéfinir la notion intuitive de calcul, dans le cadre de la métamathématique, en utilisant le concept de machine infinie et abstraite, et en s’attaquant au problème de la calculabilité des nombres réels. En somme, Turing proposait une autre solution que Gödel (qui dira d’ailleurs que celle de Turing est plus élégante) en apportant un concept de la calculabilité au travers de sa machine. Sa machine va permettre ainsi rendre palpable, de manière simple, ce qu’est le calcul.

Ainsi, « l’équivalent formel donné par Turing à la notion intuitive de ‘calculable par algorithme’ peut s’exprimer sous la forme suivante : toute fonction pour laquelle on a réussi à trouver un algorithme doit être calculable par une ‘machine’ d’un certain type, dite ‘de Turing’. »[19]

Conclusion sur l’indécidabilité et l’intelligence artificielle

C’est par le biais du problème de la décision que le programme de Hilbert a finalement préparé l’intelligence artificielle. « Il n’y a en effet qu’un pas de l’idée de procédure finie, explicite, effective, à celle de procédure mécanique […] »[20] Et nous verrons la prochaine fois comment Turing a pensé et conceptualisé cette idée de procédure mécanique. Mais plus précisément, j’espère avoir montré également comment peut se nouer le développement de cette métamathématique selon Hilbert, avec cette idée importante du raisonnement sur des signes, des symboles, avec le développement de cette idée de machine intelligente. Un rêve qui, en se concrétisant de manière partielle durant la seconde guerre mondiale, va finir par alimenter les rêves les plus fous…

[1] Alan Turing, « Théorie des nombres calculables, suivie d’une application au problème de la décision », in La machine de Turing, Alan Turing, Jean-Yves Girard, Seuil, 1995.

[2] Hilbert, Nouvelle fondations des mathématiques, 1922, in Intuitionnisme et théorie de la démonstration, Vrin, 1992.

[3] Jean-Yves Girard, « Le champ du signe ou la faillite du réductionnisme », in Le théorème de Gödel, Ernest Nagel, James R. Newman, Kurt Gödel, Jean-Yves Girard, Seuil, 1989, p. 150 et 151.

[4] Andrew Hodges, Alan Turing ou l’énigme de l’intelligence, Payot, 1983, 1988, p. 79.

[5] Andrew Hodges, Alan Turing ou l’énigme de l’intelligence, Payot, 1983, 1988, p. 80.

[6] Michel Bourdeau, Pensée symbolique et intuition, PUF, 1999, p.41.

[7] Jean Lassègue, Turing, Les Belles Lettres, 1998, p. 55.

[8] Michel Bourdeau, Pensée symbolique et intuition, PUF, 1999, p.42.

[9] Jean Lassègue, Turing, Les Belles Lettres, 1998, p. 58.

[10] Jean Lassègue, Turing, Les Belles Lettres, 1998, p. 58 et p.59.

[11] Jean Lassègue, Turing, Les Belles Lettres, 1998, p. 59.

[12] Jean Lassègue, Turing, Les Belles Lettres, 1998, p. 60.

[13] Jean Lassègue, Turing, Les Belles Lettres, 1998, p. 59.

[14] Jacques-Alain Miller, « La logique de la cure du Petit Hans selon Lacan », in La Cause Freudienne n°69, p. 97.

[15] Jacques-Alain Miller, « La logique de la cure du Petit Hans selon Lacan », in La Cause Freudienne n°69, p. 99.

[16] Jean Lassègue, Turing, Les Belles Lettres, 1998, p. 61.

[17] Jean Lassègue, Turing, Les Belles Lettres, 1998, p. 57.

[18] Andrew Hodges, Alan Turing ou l’énigme de l’intelligence, Payot, 1983, 1988, p. 88.

[19] Jean Lassègue, Turing, Les Belles Lettres, 1998, p. 70.

[20] Michel Bourdeau, Pensée symbolique et intuition, PUF, 1999, p. 40.

Nous avons dit à la fin de l’épisode 4, que les travaux de Turing étaient une étape importante dans l’histoire de la manipulation des signes. Nous essaierons de poursuivre une autre fois cette piste avec l’ouvrage de Clarisse Herrenschmidt, Les trois écritures, langue, nombre, code, dans lequel elle interprète les premiers travaux de Turing comme les débuts d’une troisième révolution dans le domaine de l’écriture, « celle de l’écriture informatique et réticulaire »[1], après celle qui aurait consisté en « l’invention de l’écriture des langues », et celle que fut « l’écriture monétaire arithmétique ».

Et nous étions arrivés à la fin de l’épisode 5 sur le fait que cette histoire avait été bouleversée en amont par les travaux du grand mathématicien, Hilbert.

Je voudrais tenter ici de donner quelques points de repères quant au contexte mathématique dans lequel Turing va se former, puis produire ses premiers travaux. Je m’excuse d’emblée du fait que ce qui suit me semble après-coup un peu flou. Cela est dû à mes propres lacunes en mathématiques.

David Hilbert

David Hilbert (1862 – 1943) était un grand mathématicien allemand, qui fonda en Allemagne, à Göttingen, une école de pensée autour de ce qu’on a appelé « l’axiomatique formelle ».

On pourrait dire que la formalisation est le processus qui consiste à mettre en forme un contenu, tandis que le formalisme serait, lui, l’exclusion même de ce contenu, au profit de la seule forme. Ainsi, dans le formalisme, et dans cette « axiomatique formelle », on cherche idéalement à ne démontrer uniquement qu’à partir de signes, c’est-à-dire, que l’on détache totalement les entités des objets réels (une droite, un point, un nombre, une chaise ou une table, etc.), qu’ils sont supposés désigner. C’est par ailleurs ce que Frege, autre logicien de génie contemporain de Hilbert, redoutait, car il y voyait  quant à lui l’élimination de toute référence possible à la vérité.

Afin de mieux saisir Hilbert et son fameux programme, on se reportera également au travail de Cassou-Noguès[2] sur le mathématicien. Cassou-Noguès commence en effet son ouvrage sur la vie et l’œuvre de Hilbert avec cette phrase : « Avant tout, l’œuvre de Hilbert est le développement de la méthode abstraite, qui caractérise les mathématiques modernes ».[3] En effet, en poussant cette méthode, Hilbert a également lancé « un programme de fondement » : le formalisme en mathématiques, qui a également une portée philosophique.

Nous avons vu la dernière fois que les recherches de Lacan sur des mathèmes qui seraient capables d’écrire certains concepts psychanalytiques, et ainsi de soutenir une transmission théorique de la psychanalyse, n’étaient peut-être pas si éloignées des recherches en mathématiques qui aboutirent au formalisme.

Cassou-Noguès écrit que « les mathématiques comportent des raisonnements qui ne relèvent pas de l’évidence immédiate. Ils exigent une autre garantie, une autre justification. Ainsi se pose le problème des fondements des mathématiques. »[4] J’ai le sentiment que l’on pourrait dire la même chose de la psychanalyse. Qu’est-ce que l’évidence en psychanalyse… Comment fonder l’existence de l’inconscient, qui précisément déjoue la plupart du temps nos évidences intuitives immédiates ? On pourra répondre que la garantie ou la justification que l’on a à apporter n’est peut-être pas la même ? Et pourtant, pourquoi Lacan a-t-il associé logique et réel…

Pour en revenir à Hilbert, à la fin du 19ème siècle, mu par un souci de généralisation toujours plus grande en vue d’une économie croissante dans les raisonnements, le développement de la théorie des ensembles amène les mathématiciens à s’interroger sur les fondements de leur discipline. « […] la théorie des ensembles énonce pour la première fois l’unité de principe des mathématiques. Le fait de pouvoir – en principe seulement, mais c’est énorme – ramener toutes les mathématiques à des constructions ensemblistes, nous permet d’utiliser indifféremment des méthodes d’analyses ou d’algèbre […] pour résoudre un problème : elles ne se contrediront pas. »[5]

A ce sujet, on peut distinguer deux voies dans ces recherches. La première, représentée par Poincaré et Brower, va viser le raisonnement mathématique avec une réflexion engageant des questions sur la conscience, en somme sur le mathématicien en tant que sujet qui raisonne en mathématique. Cette réflexion amènera par exemple Poincaré à des développements philosophiques qui peuvent être finalement considérés comme extérieurs aux mathématiques.

La seconde, dont Hilbert est le représentant, vise cette fois une solution interne aux mathématiques. Hilbert va donc essayer de créer une « théorie de la démonstration » qui va tenter de proposer « une théorie mathématique du raisonnement mathématique et un fondement pour les mathématiques relevant des mathématiques. »[6] C’est le point de départ du programme de Hilbert, le programme que l’on nommera après lui, formaliste (C’est d’ailleurs Brouwer qui proposera ce terme, par opposition à ses propres recherches qui s’appuient sur l’intuitionnisme en mathématique), et que Hilbert va développer dans les années 1920. Ce programme va se développer également à partir de ses travaux sur ce qu’on appelle « la méthode abstraite », et qui deviendra l’axiomatisation.

L’axiomatique formelle

L’axiomatisation n’appartient pas à Hilbert. On pourrait dire qu’elle prend sa source dans les « Eléments » d’Euclide, qui cherchent à « présenter la totalité des connaissances selon une organisation déductive et unifiée. »[7] Lassègue en donne par exemple une définition : c’est un « groupe de propositions [ce sont ces propositions qui seront nommées axiomes] suffisant pour engendrer de façon logique toutes les autres propositions du domaine en question. »[8] Ce groupe est constitué de deux sous-groupes, dont le premier contient les « notions logiques contenues dans toutes les sciences (par exemple, que le tout est plus grand que la partie) »[9], et le second « des propositions non démontrées ou postulats propres au domaine de la géométrie […] »[10]. Longtemps la géométrie euclidienne restera LE modèle d’axiomatique non-contradictoire.

Si vous souhaitez une histoire précise de cette axiomatisation de la géométrie, l’ouvrage de Cassou-Noguès sur Hilbert est tout à fait clair.[11] Je vais tenter d’en donner les grandes articulations.

La méthode abstraite de Hilbert est fait issue d’une partie des travaux de Dedekind qui avaient eux-mêmes porté sur la reconstruction génétique de l’algèbre. L’axiomatisation selon Hilbert va consister « à poser entre des objets, dont on ne précise pas la nature, des relations possédant certaines propriétés. Ces propriétés sont explicitées dans les axiomes. Les axiomes ont le même rôle que les énoncés qui, en algèbre, fixent les lois que vérifient les opérations arithmétiques […] L’axiomatisation exprime, comme l’algèbre, un primat de la structure.»[12] Et la place de cette structure est encore plus importante dans l’axiomatisation.

Les théories mathématiques ne deviennent ainsi que des enchaînements de formules, elles-mêmes composées de purs symboles, vidés de signification, régies par des règles définies et explicites, dont on s’assure finalement qu’il n’existe pas de contradiction interne possible.

Mais c’est à l’époque moderne et donc à partir des travaux d’Hilbert sur la géométrie, que cette méthode va largement s’imposer. Hilbert publia en 1899, Les fondements de la géométrie. La géométrie est en effet un domaine important dans l’histoire des mathématiques. Chez les Grecs, avec Thalès, ce fut le domaine de référence, « la mesure de la Terre », inventée a priori pour les besoins de l’arpentage, donc pour des problèmes pratiques d’urbanisme et d’architecture. Au milieu du XIXème siècle, elle a perdu son statut de référence, au profit des travaux sur le nombre. La géométrie fut en effet « malmenée », et sa cohérence, sa consistance, fut remise en question à partir de l’examen du cinquième postulat d’Euclide, connu sous cette forme : « Une droite et un point étant donnés, il passe par le point une parallèle et une seule à la droite. »[13]

En quoi l’axiomatique de Hilbert se différencie-t-elle par exemple de l’axiomatique d’Euclide ?

L’axiomatique d’Euclide fut considéré en effet comme un modèle jusqu’au XIXème siècle. Mais l’axiome des parallèles finit par poser un problème aux mathématiciens, dans le sens où ils n’arrivent pas à la déduire des autres axiomes. Dans cet effort, des géométries non-euclidiennes (les géométries elliptiques ou encore hyperboliques) sont ainsi définies par Gauss, Lobatchevski, Riemann et finalement définitivement établies par Klein. Enfin, on doit à Moritz Pasch, et ses Leçons sur la nouvelle géométrie, d’introduire la problématique logique de la déduction, dans une réflexion qui mixte cependant encore un certain empirisme au formalisme. « Pasch n’explicite pas les règles logiques, nécessaires à la déduction des théorèmes à partir des axiomes. Mais il précise que la déduction est formelle, de sorte que l’on peut faire abstraction du sens des termes contenus dans les propositions. »[14] Car, en effet, la grande différence entre l’axiomatisation de Hilbert et les précédentes tient au fait qu’Hilbert abandonne la référence à l’expérience, autrement dit, « […] est rompu le lien, problématique, entre le système et l’expérience. Fonder un système d’axiomes, ce n’est pas mettre en relation les notions du système avec des objets de l’expérience, ce n’est pas justifier l’évidence des axiomes, c’est d’abord démontrer que les axiomes sont consistants. »[15]

Hilbert voulait en somme remplacer le détour par l’expérience comme preuve, par un détour qui reste interne aux mathématiques, ce qui revenait, pour tester la non-contradiction d’une axiomatique, à la remplacer par une autre axiomatique plus fondamentale, et ainsi de suite. D’où les travaux sur l’arithmétique et le nombre, qui sont considérés comme la base. Pour ce faire, Hilbert distinguera deux sortes d’axiomatiques. « L’axiomatique à contenu – celle qui s’était toujours pratiquée, chez Euclide pour la géométrie ou chez Peano pour l’arithmétique – et l’axiomatique formelle. » L’axiomatique formelle est alors censée offrir un espace où l’on peut répliquer les axiomatiques à contenu dont il était difficile de prouver la non-contradiction.

Et, d’un point de vue philosophique, cela modifie évidemment l’abord de notions telles que la vérité ou celle d’existence mathématique. « Un axiome est vrai non pas en tant qu’il traduit un fait d’expérience mais en tant qu’il s’insère dans un système consistant. Un objet, ou une notion, existe non pas en tant que donné dans une intuition mais en tant que défini par des axiomes consistants.»[16] Hilbert finit donc par articuler la notion d’existence en mathématiques à la notion de non-contradiction. Et c’est un point essentiel dans le sens où les mathématiciens vont alors pouvoir s’engager dans des réflexions épistémologiques sur ce qui fonde leur activité même, soit en gardant un lien avec l’expérience en tant qu’activité intellectuelle du mathématicien, soit, et ce sera la cas de Hilbert, en transformant ce souci de fonder les mathématiques en une question purement logique « susceptible d’une solution par démonstration. »[17]

Mais comment s’est opéré le passage de la méthode axiomatique au programme formaliste à proprement parler ?

Je ne peux suivre ici pas à pas les étapes qui ont mené Hilbert de ses travaux sur la méthode abstraite, vers ce programme formaliste. Mais ce passage est lié à la mise en évidence de trois paradoxes, qui vont secouer l’édifice qu’avaient construit les mathématiciens dans le sens où ils mettent d’une certaine façon en question la façon de raisonner, c’est-à-dire le raisonnement mathématique lui-même. Le premier est le paradoxe de Burali-Forti en 1897. Le second est plus connu et a été avancé par Russel. Il a été vulgarisé par la fameuse version : « Dans un village, le barbier rase les hommes qui ne se rasent pas eux-mêmes. Se rase-t-il lui-même ? »[18] Enfin, le troisième a été découvert par Richard en 1905.

René Roussillon a montré tout l’intérêt de l’étude des paradoxes pour les psychanalystes dans son recueil d’articles, Paradoxes et situations limites de la psychanalyse[19]. Et comme le souligne Jean-Luc Donnet dans sa préface, « […] si le conflit apparaît comme l’axe de la relation d’objet, le paradoxe se donne comme celui du narcissisme. »[20] Roussillon étudie en effet le paradoxe du point de vue logico-mathématique, du point de vue pragmatique au sens de Bateson et de l’école de Palo Alto, pour aboutir à son approche psychanalytique des paradoxes.

Pour revenir à Hilbert, ces paradoxes ont d’une certaine manière ouvert le champ à des tentatives de mise en œuvre de la méthode axiomatique dans le but d’essayer de rendre plus consistantes les théories mathématiques (comme celle de la théorie des ensembles ou encore l’arithmétique), afin de pouvoir éviter de créer des contradictions du type des trois paradoxes cités. C’est également dans un débat avec les mathématiciens rattachés à l’intuitionnisme développé par Brouwer que s’est constitué le formalisme d’Hilbert. Et au cœur de ce débat, se trouve entre autres la question de l’infini.

Vers l’infini et au-delà…

Pour tenter de mieux saisir la nécessité de ce programme, il nous faut faire un détour, en passant par les notions d’infini et d’ensemble.

Une des particularités des mathématiques est de considérer des ensembles d’objets, et surtout, des ensembles d’objets infinis, comme celui par exemple des entiers naturels N = { 0,1,2,…}. Manipuler des ensembles infinis, donc arriver en quelque sorte à penser ces ensembles infinis n’est pas évident précisément.

La notion d’ensemble abstrait est née en mathématiques au XIXème siècle, avec Bolzano (1781 – 1848) et Riemann (1826 – 1866) notamment. Elle est devenue le centre des recherches théoriques via les travaux de Dedekind (1831 – 1916), élève de Riemann, qui visait à essayer de fonder les mathématiques à l’aide de cette notion d’ensemble. Ces recherches ont finalement abouti à certains paradoxes, aujourd’hui bien connus, comme les paradoxes de Russel (1872 – 1970). Dedekind, avec ce qu’on considère comme le premier exposé d’un traité de théorie élémentaire des ensembles, « Que sont et à quoi servent les nombres ? », influencera par la suite son contemporain et ami, Cantor, mais aussi Peano (1858 – 1932), Zermalo (1871 -1953) et enfin Hilbert. Peano axiomatisera par exemple l’arithmétique en 1889, grâce aux travaux de Dedekind. Hilbert fera de même, en 1905, et s’inscrira complètement dans la conception des mathématiques qu’avait Dedekind. L’ouvrage « Que sont et à quoi servent les nombres ? », présente en effet une théorie de l’arithmétique « où l’ensemble des entiers naturels est défini par des conditions qui en caractérisent la structure, dans un style qui anticipe celui d’Hilbert. »[21]

Revenons maintenant à la notion d’infini.

Dans la théorie des ensembles, il existe deux façons de considérer l’infini :

1) L’infini potentiel

L’infini potentiel est finalement assez « intuitif », car il possède une sorte d’évidence. On peut arriver à se le représenter par exemple lorsqu’on imagine une suite d’objets qui se déroulerait de façon à ce que chaque objet arrive et se place à la suite des autres. On peut se figurer ainsi une sorte de « processus indéfini », qui survient par exemple lorsqu’on essaie de construire une suite de nombre, comme une suite d’entiers naturels. Cassou-Noguès prend l’exemple du genre humain : « écarté le risque de quelques cataclysme, les descendants de Lucie, la première femme, constituent une suite infinie. »[22]

2) L’infini actuel

L’infini actuel est un infini « en tant que totalité achevée ». On le dit en acte, car on considère cette fois qu’il existe bel et bien, comme une entité manipulable. Contrairement à l’infini potentiel, qui, lui, n’est, par définition, jamais achevé. On pourrait prendre l’exemple des étoiles. Mais pour poursuivre l’exemple de Cassou-Noguès sur le genre humain, « […] en second lieu, nous pouvons considérer l’infini comme une totalité achevée, une collection d’objets réalisée et existant en soi à la façon d’une collection finie. »[23] Cet infini actuel pose des soucis, car il ne nous est pas possible de nous assurer d’une façon quelconque de son existence réelle. Finalement, « nous ne pouvons l’appréhender que comme infini potentiel ». Ce ne peut être qu’une hypothèse en fin de compte, donc une hypothèse que l’on peut tout aussi bien refuser d’admettre.

Les problèmes en mathématiques commencent donc lorsqu’on se met à raisonner et à tenter de démontrer quelque chose grâce à l’existence en acte de l’infini.

Par exemple, lorsqu’on effectue certaines démonstrations sur les entiers, on peut, à certains moments supposer que tous les entiers possèdent telle propriété P, et ensuite démontrer que cette hypothèse était fausse, en concluant qu’il existe tel entier qui ne possède pas cette propriété P. Et bien, pendant ce type de raisonnement, qui semble aller de soi, « nous admettons que les entiers forment une collection existant en soi, analogue aux collections finies et possédant des propriétés déterminées, P ou non P. Autrement dit, nous pensons comme actuel l’infini de la suite des entiers. Notre raisonnement par l’absurde repose sur l’hypothèse, problématique, d’un infini actuel. De tels raisonnements sont dits transfinis. » [24]

Pourquoi est-ce problématique ?

Car il faut bien, à un moment ou à un autre, s’assurer, pour l’exigence du raisonnement mathématique, de la validité de cette hypothèse de l’existence en acte d’un infini. Ce qui n’est pas possible… Car seul l’infini potentiel possède un caractère d’évidence immédiate, comme nous l’avons vu.

Ainsi, ce sont ces types de raisonnement qui ont conduit des mathématiciens comme Hilbert, à s’interroger finalement sur les fondements des mathématiques.

En effet, certains mathématiciens, comme Hilbert, voulaient continuer à utiliser l’infini actuel et les possibilités qu’il offre pour les démonstrations, ce qui revient à la question : comment « trouver le moyen de contrôler le transfini à partir de règles finies. »[25]

Autrement dit, « le programme de Hilbert est de justifier les raisonnements qui supposent un infini actuel au moyen d’autres raisonnements appartenant à la théorie de la démonstration et n’utilisant qu’un infini potentiel. »[26] Le but étant donc de se passer de cette hypothèse problématique, non évidente d’un infini auquel il faudrait accorder une existence en soi, une réalité ontologique. « Cela permettrait de conduire des raisonnements transfinis, sans reconnaître l’existence en acte de l’infini. »[27]

Ce programme formaliste, qui est aussi un programme de fondement, apparaît à la fin de l’œuvre de Hilbert. Il vise finalement à recréer l’édifice des théories mathématiques sur des raisonnements purement symboliques, qui lui permettent de faire intervenir la notion d’infini de manière simplement fictive, sans lui accorder de réalité ontologique. « On peut accorder que l’expérience ne contient pas de totalités infinies et que nulle part n’est réalisé en acte un infini. On se contente de représenter les propositions, qui font référence à des totalités infinies, par des formules vides de sens et enchaînées selon des règles explicites. »[28]

Ce programme comporte deux niveaux :

1)      D’une part, il vise à axiomatiser les théories mathématiques. Autrement dit, à isoler des propositions fondamentales à partir desquelles, dans un second temps, on construit par induction les théorèmes. Mais il vise également à « exploiter les règles de la déduction, qui figurent un point aveugle dans l’axiomatisation. Ainsi, la formalisation énonce les axiomes, les prémisses, et les règles de la déduction. »[29]

En formalisant de la sorte, on évite ainsi de faire appel à toute interprétation des termes eux-mêmes, ou des notions que l’on mobilisera. Ces termes, ou notions, ne seront donc plus considérés que comme des signes, et les démonstrations, des manipulations sur ces signes, « selon des règles convenues ». Celles-ci « indiquent comment transformer une formule pour en déduire une autre formule. »[30] Tout se joue à présent à l’aide d’un jeu de signes. Les règles du jeu permettent ainsi à chacun de saisir comment on passe d’une étape de la démonstration à la suivante, sans se soucier du sens. « Toute théorie mathématique est transformée en un stock de formules enchaînées selon des règles explicites. »[31]

2)      Le second niveau est celui de la vérification qu’à aucun moment de la démonstration, il n’y ait contradiction. Autrement dit, pour arriver véritablement à une théorie formalisée, on ne doit pas avoir, à l’intérieur de ce jeu de transformation de signes, de propositions qui viendraient contredire un des axiomes. Et c‘est un point particulièrement important pour notre recherche sur les travaux de Turing, c’est ce que l’on nomme la consistance des théories formalisées.

Dans ce but, « Hilbert met en place une théorie de la démonstration, dont les objets sont les dessins de démonstration à l’intérieur des théories formalisées, et dont les raisonnements n’utilisent qu’un infini potentiel, ce qui leur donne une évidence immédiate. »[32]

Là où l’on peut déjà faire un pont avec les travaux de Turing, c’est avec la nécessité pour Hilbert de « […] maîtriser l’infini par le biais du formel entendu au sens de la métamathématique […] »[33]. Hilbert veut utiliser en quelque sorte l’axiomatique formelle pour continuer à utiliser des raisonnements sur l’infini actuel, tout en s’assurant qu’il existe un nombre fini d’étapes dans ces raisonnements. En usant des axiomatiques formelles au lieu des axiomatiques à contenu, il déplace ainsi le problème. Mais il en arrive à la nécessité de poser « la thèse philosophique selon laquelle l’esprit humain fonctionne de façon effective, ‘finitiste’ […] C’est ce finitisme de la pensée […] qui fait le fond de la pensée formaliste de Hilbert. […] la racine de l’identification de l’esprit à une procédure effective ‘finitiste’ est une conséquence nécessaire de la stratégie métamathématique telle qu’elle a été définie par Hilbert.»[34]

Turing et l’axiomatique formelle

Les espoirs de Hilbert quant à l’axiomatique formelle se situaient au niveau de trois questions :

1)      La complétude de l’axiomatique formelle, autrement dit « toute formule peut y être démontrée ou réfutée »[35].

2)      La consistante de l’axiomatique formelle, « au sens où aucune formule contradictoire ne peut y être engendrée à partir des axiomes »[36].

3)      La décidabilité de l’axiomatique formelle, « au sens où il existe une méthode effective pour décider si une formule quelconque est vraie ou fausse »[37].

Turing, mais aussi Gödel, se sont attaqués à ces questions, car c’est sur ce système formel qu’est l’axiomatique selon Hilbert, et non plus directement sur les axiomatiques à contenu comme celui d’Euclide, qu’il fallait désormais raisonner, pour ensuite répercuter les résultats. « […] la stratégie de Hilbert consistait à tenter de produire une preuve d’impossibilité : on supposait l’existence d’une contradiction entre les axiomes du système formel et on montrait que cette supposition était elle-même contradictoire. C’est justement par des preuves d’impossibilité que deux jeunes mathématiciens, chacun à peine âgé d’à peine vingt-cinq ans, Gödel et Turing, mirent à mal les buts ultimes de la stratégie métamathématique […] »[38].

La prochaine fois, nous aborderons la méthode employée par Turing pour répondre à la troisième question, celle de la décidabilité. Ce qui nous amènera à la fameuse machine de Turing.

[1] Clarisse Herrenschmidt, Les trois écritures, langue, nombre, code, Gallimard, 2007.

[2] Pierre Cassou-Noguès, Hilbert, Les Belles Lettres, 2001.

[3] Pierre Cassou-Noguès, Hilbert, Les Belles Lettres, 2001, p.11.

[4] Pierre Cassou-Noguès, Hilbert, Les Belles Lettres, 2001, p.13.

[5] Jean-Yves Girard, « Les fondements des mathématiques », in Université de tous les savoirs, Les Mathématiques, Odile Jacob, 2002.

[6] Pierre Cassou-Noguès, Hilbert, Les Belles Lettres, 2001, p.14.

[7] Georges Barthélémy, 2500 ans de Mathématiques, l’évolution des idées, Ellipses, 1999, p.33.

[8] Jean Lassègue, Turing, Les Belles Lettres, 1998, p. 47.

[9] Jean Lassègue, Turing, Les Belles Lettres, 1998, p. 47.

[10] Jean Lassègue, Turing, Les Belles Lettres, 1998, p. 47.

[11] Pierre Cassou-Noguès, Hilbert, Les Belles Lettres, 2001, p.54 à 58 : « l’axiomatisation de la géométrie au XIX ème siècle ».

[12] Pierre Cassou-Noguès, Hilbert, Les Belles Lettres, 2001, p.59.

[13] Georges Barthélémy, 2500 ans de Mathématiques, l’évolution des idées, Ellipses, 1999, p.85.

[14] Pierre Cassou-Noguès, Hilbert, Les Belles Lettres, 2001, p.57.

[15] Pierre Cassou-Noguès, Hilbert, Les Belles Lettres, 2001, p.66.

[16] Pierre Cassou-Noguès, Hilbert, Les Belles Lettres, 2001, p.66.

[17] Pierre Cassou-Noguès, Hilbert, Les Belles Lettres, 2001, p.67.

[18] Pierre Cassou-Noguès, Hilbert, Les Belles Lettres, 2001, p.68.

[19] René Roussillon, Paradoxes et situations limites de la psychanalyse, PUF, 2005.

[20] René Roussillon, Paradoxes et situations limites de la psychanalyse, PUF, 2005, p.9.

[21] Jean-Pierre Belna, Histoire de la théorie des ensembles, Ellipses, 2009, p.56.

[22] Pierre Cassou-Noguès, Hilbert, Les Belles Lettres, 2001, p.12.

[23] Pierre Cassou-Noguès, Hilbert, Les Belles Lettres, 2001, p.12.

[24] Pierre Cassou-Noguès, Hilbert, Les Belles Lettres, 2001, p.13.

[25] Jean Lassègue, Turing, Les Belles Lettres, 1998, p. 46.

[26] Pierre Cassou-Noguès, Hilbert, Les Belles Lettres, 2001, p.14.

[27] Pierre Cassou-Noguès, Hilbert, Les Belles Lettres, 2001, p.14.

[28] Pierre Cassou-Noguès, Hilbert, Les Belles Lettres, 2001, p.107.

[29] Pierre Cassou-Noguès, Hilbert, Les Belles Lettres, 2001, p.50.

[30] Pierre Cassou-Noguès, Hilbert, Les Belles Lettres, 2001, p.50.

[31] Pierre Cassou-Noguès, Hilbert, Les Belles Lettres, 2001, p.50.

[32] Pierre Cassou-Noguès, Hilbert, Les Belles Lettres, 2001, p.50 et 51.

[33] Jean Lassègue, Turing, Les Belles Lettres, 1998, p. 53.

[34] Jean Lassègue, Turing, Les Belles Lettres, 1998, p. 53 et 54.

[35] Jean Lassègue, Turing, Les Belles Lettres, 1998, p. 54.

[36] Jean Lassègue, Turing, Les Belles Lettres, 1998, p. 54.

[37] Jean Lassègue, Turing, Les Belles Lettres, 1998, p. 54.

[38] Jean Lassègue, Turing, Les Belles Lettres, 1998, p. 54.