Aux marches du palais

Aux marches du palais. Dans En Attendant Nadeau . 31 août 2022.

par Pascal Engel

26 août 2022

Récoltes et semailles est un livre étonnant, à la fois autobiographie fleuve d’un mathématicien de légende au destin hors du commun, exposé de ses théories qui ont révolutionné les mathématiques et dérouté ses pairs, et confession psychanalytico-philosophique d’un rêveur rationnel. Pour le mathématicien, comme le montre Dominique Pradelle dans une relecture passionnante de Husserl, les objets mathématiques sont des idéalités. Mais Grothendieck demande : est-ce que ce sont vraiment des objets ?

 

Alexandre Grothendieck, Récoltes et semailles. Gallimard, coll. « Tel », Fondation Cartier et IHES, 2 vol., 717 p. et 1 212 p., 13 € et 16,50 €

Dominique Pradelle, Intuition et idéalités. Phénoménologie des objets mathématiques. PUF, coll. « Épiméthée », 552 p., 29 €

 

G. H. Hardy, dans sa célèbre Apologie d’un mathématicien (Cambridge, 1940 ; Belin, 1985, pour la traduction française), dit que les mathématiciens détestent parler des mathématiques et de leur métier : ils en font, simplement, dans leurs palais de raison. Et quand on pratique la reine des sciences, pourquoi faudrait-il la justifier et sortir du palais pour l’expliquer à ceux qui ne l’entendent pas ? Il suffit d’en faire.

 

Pourtant, les mathématiciens en parlent. Mais à quoi peuvent bien servir les livres dans lesquels ils racontent leurs découvertes ? Mis à part les anecdotes précieuses qui éclairent les mécanismes de l’invention, comme on en trouve dans le livre de Jacques Hadamard (Essai sur la psychologie de l’invention dans le domaine mathématique, Princeton, 1945), que peuvent-ils apprendre à ceux qui ne savent pas les mathématiques ? Poincaré découvre les fonctions fuchsiennes en montant sur le marchepied d’un train en gare de Caen. Mais quel intérêt si on ne sait pas ce qu’est une fonction fuchsienne (1) ? Hardy nous raconte que, rendant visite à Ramanujan, le génial Indien dont il était le mentor, il mentionna le numéro de son taxi, 1729, le trouvant sans intérêt. Ramanujan réagit immédiatement : « C’est le plus petit nombre qui peut être exprimé comme la somme de deux cubes positifs de deux manières différentes ». En effet : 1729 = 13 + 123 = 93 + 103.

L’autobiographie de Laurent Schwartz (Un mathématicien aux prises avec le siècle, Odile Jacob, 1997) est passionnante quand il nous raconte ses engagements politiques, mais qui sait ce qu’est la théorie des distributions ? Cédric Villani a attiré l’attention des foules grâce à sa lavallière et sa broche-araignée, mais son roman Théorème vivant est insipide, mis à part ce qu’il dit de l’équation de Boltzmann, que personne ne comprend sauf quelques initiés. Des stars hollywoodiennes incarnent à l’écran John Nash ou Alan Turing, mais les jeunes gens et jeunes filles ont-ils jamais eu envie de faire des mathématiques en contemplant les muscles de Russell Crowe et l’élégance de Benedict Cumberbatch, ou même (rêvons) si Sophie Germain ou Emmy Noether étaient incarnées par Gemma Arterton et Cate Blanchett ? Dans un pays comme la France, où l’analphabétisme mathématique atteint des sommets, les quelques génies mathématiques et médailles Fields sont les arbres qui cachent la forêt de l’ignorance générale.

Le lecteur du monumental Récoltes et semailles d’Alexandre Grothendieck a toutes les raisons, quand il n’est pas mathématicien, de se sentir lui aussi un imposteur. Quand Grothendieck énonce les douze idées maitresses de son œuvre et nous dit que les plus importantes sont celles des motifs, de la géométrie algébrique anabelienne et du yoga de Galois-Teichmüller, le lecteur sérieux aura beau se reporter au cours de géométrie algébrique de Dieudonné (PUF, 1974), s’il n’a jamais entendu parler du théorème de Bézout en géométrie (deux courbes algébriques projectives planes de degré m et n ont exactement mn points d’intersection), il n’aura pas plus la possibilité de se demander quelles conséquences on peut en tirer pour la théorie des faisceaux. Le présent lecteur a beau habiter près de la rue Bézout à Paris, il n’est qu’un snob. Qu’est-ce qui fait cependant que ce livre fait pour les mathématiciens peut attirer le lecteur ordinaire et ignorant ?

C’est d’abord que la biographie de ce génie est aussi, voire plus, romanesque que celle de Srinivasa Ramanujan, exfiltré par Hardy de son milieu brahmane de Madras. Alexander Grothendieck était le fils d’un anarchiste juif russe – qui avait participé aux révolutions de 1917 puis à la guerre civile espagnole, était entré dans la résistance en France avant d’être déporté et de mourir à Auschwitz – et d’une juive allemande, Hanka Grothendieck. Après avoir vécu sans ses parents en Allemagne, il fut caché pendant la guerre au Chambon-sur-Lignon dans cette communauté protestante devenue légendaire. Il fit des études à Montpellier, avant de se faire repérer par les plus grands mathématiciens et d’être admis comme l’un de leurs pairs, devenir l’un des chercheurs les plus prolifiques des années 1950-1970, obtenir la médaille Fields, pour finalement quitter brutalement la communauté mathématique à quarante-deux ans en fondant un groupe écologiste, « Survivre et vivre », revenir à l’enseignement à Montpellier dans une relative obscurité, refusant toutes les décorations, pour finir par vivre une vie d’ermite dans l’Ariège (pas très loin du camp de concentration où son père avait été interné) d’où il envoya les deux mille pages de ces Récoltes et semailles, écrites entre 1983 et 1993, petite partie de l’énorme somme de manuscrits qu’il a laissés à sa mort en 2014 (2).

L’autre attrait de ce livre étonnant est que Grothendieck nous présente avec beaucoup de pédagogie et un grand talent d’écriture ses principales idées, si bien que, même si l’on n’y comprend rien, on a l’impression d’effectuer avec lui un voyage merveilleux. Il raconte les mathématiques non seulement comme des semailles, mais comme des épousailles. « Le point de vue des faisceaux, nous dit-il, a été le guide silencieux et sûr, la clef efficace (et nullement secrète) me menant sans atermoiements ni détours vers la chambre nuptiale au vaste lit conjugal. Un lit si vaste en effet (telle une vaste et paisible rivière très profonde…) que “Tous les chevaux du roi / y pourraient boire ensemble” ».

 

La géométrie, puis la topologie, de Riemann à Thom, ont envisagé des notions de plus en plus générales d’espace, dotées de structures de plus en plus abstraites et rapprochées de celles de l’algèbre. Grothendieck a suivi, comme les mathématiciens du groupe Bourbaki, cette voie structurale en mathématiques, mais en approfondissant encore plus les moyens d’explorer ces espaces, et de résoudre les fameuses conjectures de Weil, sorte d’Himalaya mathématique. Souvent Grothendieck nous raconte ses découvertes comme si l’on se trouvait dans un épisode de la Théogonie d’Hésiode, où les Titans affrontent les dieux, et où des myrmidons dotés d’armes fantastiques gagnent des batailles épiques. Le paysage qu’il décrit est en fait celui qu’il a largement contribué à recomposer, où la théorie des ensembles, qui fut au début du XXe siècle la grande théorie unificatrice des mathématiques, a été élargie par la théorie des catégories, dont les topoi de Grothendieck sont une pièce maitresse. Il y a dans les mathématiques de Grothendieck une sorte d’appel à une théorie absolument générale de Tout l’Univers des Nombres et des Espaces. Comme le dit la mathématicienne Claire Voisin : « Tout se passe comme s’il y avait un objet mystérieux, une raison unique, centrale qui permette d’expliquer toutes les autres ».

Grothendieck a aussi des métaphores frappantes pour expliquer son travail. Il nous dit qu’il n’entend pas résoudre un problème comme on craque une noix, mais plutôt par une méthode de submersion ou de noyage du terrain, qui, devenant un ensemble d’îles, fait surgir un nouveau paysage. Cette méthode englobante explique à la fois l’ambition de ses travaux, mais aussi les difficultés qu’il a rencontrées. Plutôt que de s’attaquer frontalement à une question, il préférait en aborder plusieurs, pour passer ensuite à autre chose qui semblait au départ sans rapport, mais qui en fait se reconfigurait ensuite – ou pas ! C’est ainsi qu’il semble avoir travaillé avec son élève Pierre Deligne, qui démontra des résultats qu’il avait, nous dit-il, anticipés, mais laissés pour ainsi dire en jachère. Pourtant, en mathématiques, le crédit va à ceux qui démontrent les théorèmes au moins autant qu’à ceux qui les énoncent sans les démontrer (c’est pourquoi, même si Fermat est génial en ayant vu son théorème, Andrew Wiles ne l’est pas moins).

Grothendieck n’avait rien, au début, d’un mathématicien solitaire. Il travailla avec les plus grands de son époque comme Jean Dieudonné, Claude Chevalley, Jean-Pierre Serre, Laurent Schwartz et bien d’autres. C’est ici que ce livre d’un Docteur Jekyll des mathématiques rencontre son Mister Hyde. Les rapports avec ses collègues ne furent pas toujours très bons, et le récit des Semailles se fait très amer quand, dans de multiples notes, il détaille « l’enterrement » dont son œuvre a été victime, et laisse entendre que cet enterrement a été organisé. Ici le récit enchanté laisse place à des litanies paranoïaques où le grand mathématicien se dit dépossédé de ses résultats. Tout le livre se fait l’écho d’une « cérémonie funèbre » que les mathématiciens amis, devenus ennemis, auraient ordonnancée autour de lui. Ces passages souvent très ad hominem expliquent en partie le refus par Grothendieck de publier son manuscrit et son retrait du monde. Cet exil physique allait-il de pair avec un exil mental, quand il se met à nous détailler ses théories fumeuses sur le Yin et le Yang, quand il élabore des théories abracadabrantes et quasi kabbalistiques sur le sexe, le moi, le songe (sans parler de ses spéculations philosophiques) qui font ressembler bien des pages de ce livre à une vaste confession psychanalytique et à une spéculation quelque peu New Age? Les mathématiciens mystiques ne manquent pas (3), mais la grande affaire de Grothendieck a surtout été l’écologie et l’antimilitarisme (4).

Le style littéraire de Grothendieck, même quand il est quelque peu délirant, truffé de notes, d’incises et de retours en arrière, est superbe. Que dire de son style mathématique ? Le lecteur ignorant le trouvera plutôt dogmatique. Hardy disait au sujet de Ramanujan : « Ces théorèmes doivent être vrais, car s’ils n’étaient pas vrais, personne n’aurait assez d’imagination pour les inventer ». L’imagination semble la première vertu de Grothendieck. Parmi les règles du Discours de la méthode, il ne suit pas celle qui consiste à aller du simple au composé ni celle qui consiste à diviser le complexe en éléments simples. Il n’a pas de goût non plus pour les « dénombrements si entiers » qu’il fût « assuré de ne rien omettre ». Il préfère partir du complexe et souvent y rester. On peut qualifier son entendement mathématique d’holistique : il tire des plans sur la comète, préférant envisager de vastes paysages avant de se pencher sur les détails. Il semble que ce soit ce style qui ait dérouté ses élèves et ses amis.

Quelle est la philosophie des mathématiques de Grothendieck ? Elle n’est pas, comme celle de Frege, de Hardy, et de tant de mathématiciens du XXe siècle, centrée sur la théorie des nombres, ni même sur les espaces et la géométrie. On n’y a plus affaire à des objets, ni même à des ensembles d’objets, mais à des formes, des morphismes dont on étudie les isomorphismes (voir l’essai de Pierre Schapira, « Les catégories, du zéro à l’infini ». Comme traditionnellement le réalisme admet l’existence d’objets mathématiques (les nombres, les ensembles), on pourrait être tenté, à l’inverse, de situer Grothendieck plutôt du côté constructiviste. Mais ses métaphores favorites restent platoniciennes : il ne parle que de paysages, de terres inconnues, et d’univers qu’il faut découvrir. Ses collègues bourbakistes seraient tentés de parler de structures, mais Grothendieck va plus loin encore dans l’abstraction : les catégories émergent de morphismes et de relations entre eux.

 

Sur le plan épistémologique, il reste très classique : il décrit tous ces morphismes comme évidents et a spontanément tendance, comme tous les grands mathématiciens, à dire qu’il s’agit de vision et d’intuition, et non de démonstration. Alain Connes et Laurent Lafforgue ont suggéré que Grothendieck aurait pris ses distances avec la notion de vérité en mathématiques, voire l’aurait liquidée. Il semble qu’ils veuillent dire que dans la perspective des topoi le tiers exclu (une proposition est vraie ou fausse, il n’y a pas d’autre possibilité) ne vaut plus. À supposer que ce soit le cas, en quoi cela menace-t-il la notion de vérité ? Les intuitionnistes refusent le tiers exclu, mais refusent-ils la notion de vérité ? Non, ils l’assimilent à la démontrabilité. Manifestement, ce n’est pas le point de vue de Grothendieck, qui n’a pas d’intérêt particulier pour la théorie de la preuve. Mais cela veut-il dire qu’il rejette la notion même de vérité et qu’il y aurait quelque chose de postmoderne dans sa mathématique ?

J’avoue pour ma part que je ne vois pas ce que seraient des mathématiques sans recherche de la vérité, et celle qu’a menée Grothendieck est exemplaire. La recherche de la vérité et la valeur qu’on lui accorde sont une chose, le concept de vérité requis pour tel type de théorie mathématique en est une autre. Il est plus correct de dire que Grothendieck n’a pas une grande sympathie pour la formalisation au sens classique, et que la question du fondement des mathématiques au sens traditionnel de ce terme ne l’intéressait pas beaucoup, même si son œuvre a une visée fondationnelle manifeste. Il refuse de traiter ses morphismes et catégories comme des objets, mais il faut bien que ces entités rendent vrais ses théorèmes, et en ce sens qu’elles constituent une ontologie. Peut-être est-ce, comme l’ont suggéré les bourbakistes, une ontologie de structures. Mais les structures sont des relations, et si deux choses sont en relation il faut bien que la relation elle-même existe. La réponse implicite de Grothendieck me semble être réaliste au sens traditionnel : les schémas, les faisceaux, les morphismes et le palais nuptial du mathématicien sont des réalités, auxquelles il accède grâce à des évidences intuitives. Sans passer, comme Gödel, par des considérations métamathématiques, Grothendieck semble bien être un platonicien robuste, bien que la question de savoir comment réconcilier l’épistémologie et l’ontologie des mathématiques semble ne l’avoir guère intéressé (5).

Dans un texte éclairant (6), Jean-Jacques Szczeciniarz a suggéré d’utiliser, pour comprendre Grothendieck, la notion husserlienne d’idéalité et celle, utilisée par Cavaillès, de thématisation. Il y a deux notions d’idéal, celle d’une certaine sorte de structure algébrique, et celle, kantienne, d’idéal de la raison. L’intérêt de l’analyse de Jean-Jacques Szczeciniarz est qu’il les réunit pour présenter les mathématiques de Grothendieck comme des structures qui s’engendrent progressivement, par montée de l’abstraction et par une série de synthèses qui engendrent des structures de plus en plus complexes. Comme le note Szczeciniarz à la suite de Cavaillès, cette montée vers l’abstrait n’est pas sans rappeler le projet de Husserl, des Recherches logiques (1901) à Logique formelle et logique transcendantale (1929).

On peut essayer de compléter cette perspective avec la lecture que donne Dominique Pradelle dans son livre important, Intuition et idéalités. Cette lecture est hétérodoxe par rapport à celles que l’on fait habituellement de Husserl à deux titres au moins ; d’une part, Pradelle dissocie le projet de Husserl d’une notion de sujet transcendantal ; de l’autre, il rejette l’idée qu’il n’ y aurait qu’une seule forme d’intuition, valable aussi bien pour la perception ordinaire que pour les entités mathématiques. Il montre que l’objectivité mathématique se constitue par une hiérarchie d’idéalités qui ont chacune sa modalité propre d’évidence. En d’autres termes, l’intuition dont relèvent les nombres, les ensembles, les espaces et les autres structures étudiées par le mathématicien n’est pas la même que celle qui vaut pour le temps et la perception.

Pradelle entend ainsi faire de Husserl un réaliste en philosophie des mathématiques, mais sans une ontologie d’entités spéciales et éternelles qu’on pourrait, pour reprendre la formule de Russell, rencontrer « dans les cieux ». Les entités mathématiques ne sont pas là « pour une conscience », mais elles ne sont pas non plus des choses : leur objectivité est idéale. Je ne suis pas sûr que cette position, qui refuse aussi bien le réalisme que l’idéalisme, soit très stable, mais elle pourrait être une manière d’interpréter les structures au sens de Grothendieck.

On décrit toujours les grandes mathématiques comme des quêtes héroïques d’un monde inaccessible, et leurs auteurs comme des héros. Mais ce qui frappe surtout chez Grothendieck, jusque dans ses renoncements et ses abandons, c’est combien il est humain.

 
  1. J’ai moi-même beaucoup pratiqué la gare de Caen, et suis souvent monté sur le marchepied du train. Aucune illumination n’en est résultée.
  2. L’histoire du manuscrit, qui fut longtemps sur Internet, est à elle seule une odyssée. Sans la ténacité de Stéphane Deligeorges, qui soutint d’emblée l’entreprise chez Christian Bourgois, et de plusieurs mathématiciens comme Pierre Lochak, il n’aurait pas pu voir le jour.
  3. Voir Jean-Michel Kantor et Loren Graham, Au nom de l’infini. Une histoire vraie de mysticisme religieux et de création mathématique, Pour la science, 2010.
  4. Voir son texte « Allons-nous continuer la recherche scientifique ? » (1972), Écologie & politique 2016/1 (n° 52), p. 159-169.
  5. Sur ces questions, on consultera Marco Panza et Andrea Sereni, Introduction à la philosophie des mathématiques, Flammarion, 2013.
  6. « Prolégomènes à une étude philosophique de l’œuvre de Grothendieck », in Lectures grothendieckiennes. Sous la direction de Frédéric Jaëck, Spartacus, Société mathématique de France, 2021.