Singularités de la mathesis universalis

par Paola Cantù
, le 28 janvier 2010

On connaît la mathesis universalis comme projet lié au grand rationalisme du XVIIe siècle : celui d’une mathématisation intégrale de la nature. David Rabouin revient sur l’histoire et les enjeux de ce concept, et montre notamment ce que la philosophie doit à la pratique des mathématiques.

Recensé : David Rabouin, Mathesis universalis – L’idée de « mathématique universelle » d’Aristote à Descartes, PUF, coll. Epiméthée. 405 p., 35 euros.

La mathesis universalis est sans doute un problème pour l’historien de la philosophie et des sciences : le terme a été utilisé par Descartes dans les Regulae pour indiquer sa méthode, mais ce texte étant resté longtemps inconnu, la notion de mathesis universalis a été employé entre les XVIIe et XVIIIe siècles pour indiquer autre chose : ou bien la géométrie analytique de Descartes, ou bien une mathématique générale comme sciences des quantités, ou bien encore la characteristica universalis de Leibniz. L’ambiguïté du terme et l’association générique avec la philosophie de Descartes et de Leibniz ont favorisé une conception de la mathesis universalis en tant que projet typique du rationalisme classique, fondée sur l’idée qu’il y a un ordre universel totalement accessible à la raison. Mais cette association avec le rationalisme cartésien et leibnizien a aussi permis des reprises de ce projet aux XIXe et XXe siècles dans des perspectives très différentes : par exemple, celle de Husserl, avec l’idée d’une mathesis universalis comme logique externe aux mathématiques, ou celle de Peano, Frege, Russell, Carnap développant l’idée d’une mathesis universalis comme logique proprement mathématique. La tâche de l’historien est alors la découverte des différents signifiés du terme et l’analyse de leurs relations. Mais on doit avant tout, selon David Rabouin, bouleverser une histoire monumentale du terme qui est devenue dominante au XXe siècle : le concept de mathesis universalis, suggère-t-il, est trop souvent, et presque exclusivement, associé au débat sur la naissance de la science moderne – et aussi à l’échec des grands programmes rationalistes de Descartes ou de Leibniz, ou bien à leur reprise critique dans la phénoménologie husserlienne et dans la logistique de Couturat. Le but du livre est précisément de déconstruire cette image préalable, en montrant que le concept a ses origines dans la pensée grecque, particulièrement dans la philosophie d’Aristote, mais surtout chez Proclus (philosophe du Ve siècle de notre ère, recteur de l’école néoplatonicienne d’Athènes). Ce dernier aurait reconnu là un problème authentiquement philosophique, bien que posé par une pratique mathématique, et il aurait essayé de le résoudre en s’appuyant sur une notion gnoséologique d’imagination mathématique.

Autrement dit, l’histoire du concept commence selon David Rabouin bien avant l’utilisation du terme par Descartes dans les Regulae. Et si nous voulons comprendre la signification acquise par le terme dans les projets de Leibniz et de Descartes, nous devons oublier les philosophes ultérieurs et porter notre attention sur la philosophie antique. Mais l’intérêt du livre ne se limite pas à une reconstruction historique détaillée du développement du concept d’Aristote à Descartes, reconstruction très convaincante et qui a le mérite de donner une représentation unifiée du rôle de l’imagination en mathématiques, même si elle arrive presque à tracer une « préhistoire » du schématisme, en décrivant de façon plutôt linéaire le développement des concepts mathématiques. Le texte de David Rabouin a le mérite de s’interroger sur les raisons pour lesquelles le concept de mathesis universalis est aussi un problème philosophique, qui peut avoir un très grand intérêt pour l’épistémologie contemporaine. Mais on doit avant tout reconnaître que c’est seulement à partir de la redécouverte de la relation entre la mathesis universalis et les problèmes internes aux sciences mathématiques qu’on peut arriver à découvrir l’intérêt philosophique du concept. Car l’idée d’une mathesis universalis n’est pas ainsi réduite au projet de mathématiser la nature, ou de créer une langue symbolique universelle. Il s’agit au contraire d’aborder une tâche philosophique par excellence : comment peut-on catégoriser le réel, quels sont les rapport entre genres différents et quelle place doit-on attribuer à l’universel dans le savoir scientifique et philosophique ?

Pour bien comprendre le livre, on devrait donc plutôt le commencer par la fin, où est analysée la notion de mathesis universalis présentée par Descartes dans les Regulae. C’est en effet à partir de la façon dont la question est posée dans l’œuvre de Descartes et de Leibniz qu’on arrive à comprendre pourquoi l’auteur développe une reconstruction historique qui a la tâche de vérifier si la mathesis universalis est une logique interne ou externe aux mathématiques. Est-elle le résultat d’un problème mathématique ou métaphysique ? Et c’est exactement parce que l’auteur se pose des questions historiques claires et qu’il a un but théorique déterminé – la revitalisation du projet rationaliste classique – qu’il parvient à mettre en question la représentation non continuiste de la naissance de la science moderne : il résiste ainsi à la lecture néo-kantienne de la rupture méthodologique et mathématique qui aurait eu lieu au XVIIe siècle, grâce à la substitution de l’approche substantielle et catégorielle d’Aristote par une approche relationnelle qui aurait donné lieu au mécanisme et au formalisme.

Ce qui reste à comprendre est comment une question technique et interne à l’exégèse de quelques auteurs de l’âge classique pourrait conduire à mettre en question l’auto-représentation que la science se serait construite à la fin du XIXe siècle, et même à formuler des questions qui ressortissent aux mathématiques actuelles, et qui ne sont certainement pas les mêmes qu’au temps de Descartes ou de Leibniz. À nouveau, c’est à partir d’une défense de la philosophie de Descartes et de son concept d’intuition que l’auteur arrive à questionner l’image standard de la certitude déductive à l’âge classique, et à l’associer à l’obsession de la pensée contemporaine pour la question des fondements des mathématiques en tant que réduction à un ensemble des principes logiques purement formels. C’est ainsi une thèse originale que suggère David Rabouin quand, s’appuyant sur la distinction entre logique des mathématiques et logique de l’imagination mathématique, il la présente comme le problème central de la métaphysique en tant que philosophie première par rapport aux sciences. Cette insistance sur le fait qu’il ne s’agit pas d’une question exclusivement interne aux mathématiques est essentielle à la démarche du livre, qui se fonde sur l’idée que l’histoire de la philosophie, loin d’être un obstacle à l’individuation des questions théoriques, est au contraire essentielle à l’épistémologie et au débat analytique contemporain. Si la reconstruction d’une histoire pré-moderne de la mathesis universalis avait été déjà proposée dans quelques études historiques, y compris le travail de Crapulli sur lequel Rabouin appuie sa reconstruction de la réception de Proclus dans la Renaissance, elle avait été centrée plutôt sur une analyse purement historique de la réception du texte Euclidien. Surtout on n’était pas arrivé à en tirer comme conséquence qu’on peut parler presque de la même notion de mathesis universalis dans les textes de Descartes et de Proclus.

C’est à Proclus qu’on devrait la première formulation de la mathesis universalis en tant que problème en même temps philosophique et mathématique : il aurait été le premier à comprendre l’aporicité de la conception d’Aristote, en partageant soit une conception de la philosophie prime comme science universelle qui ne soit pas restreinte à un genre d’objets, soit un intérêt descriptif pour les théories mathématiques de son époque, y compris la théorie des proportions d’Euclide. Proclus aurait aussi suggéré une solution du problème, en soulignant que ce qui caractérise l’unité des mathématiques n’est pas un genre commun incluant le nombre et la grandeur, mais un élément gnoséologique, c’est-à-dire l’imagination productrice qui permet une définition génétique des concepts mathématiques fondés sur le mouvement de l’esprit. Proclus aurait donc été le premier à comprendre et à formuler le problème, mais il l’aurait fait dans une perspective d’intégration entre pratique mathématique et théorie philosophique, puisqu’il était capable de modifier l’une selon les exigences de l’autre. Ainsi son commentaire d’Euclide aurait été le texte de référence le plus important des auteurs de la Renaissance, qui auraient seulement posé à nouveau le problème d’une façon plus explicite. Ils auraient souligné la matrice gnoséologique du problème déjà tracé par Proclus, soit quand ils reliaient l’analyse de la mathesis universalis à la question de la certitude mathématique soit quand ils dérivaient deux solutions opposées du même texte : une solution externe (la mathesis comme logique ou comme méthode universelle qui ne s’applique pas à un seul genre d’objets) ou une solution interne aux mathématiques (la mathesis comme élaboration de la théorie euclidienne des proportions).

Proclus, dans la version reconstruite par l’auteur à travers les différentes lectures qu’on avait faites de lui à la Renaissance, présenterait donc plusieurs caractéristiques qu’on attribue d’habitude à la science de l’âge classique : la capacité de modifier une théorie héritée (le platonisme) selon les exigences des données scientifiques, la capacité de proposer une solution gnoséologique fondée sur l’imagination à un problème qui avait été conçu jusqu’alors d’un point de vue catégoriel, l’association des trois traits fondamentaux du rationalisme cartésien exprimés dans les Règles : certitude mathématique, logique et méthode, science mathématique commune. Si c’est donc sur l’analyse du texte de Proclus, pas encore suffisamment étudié de ce point de vue, qu’on devrait tester la plausibilité de la reconstruction générale, la thèse historique de l’auteur est en partie confirmée par les résultats obtenus dans des études qui traitent des questions tout à fait différentes, mais qui suivent une méthode également centrée sur la question des domaines d’objets mathématiques. L’investigation de l’origine de la définition des mathématiques en tant que science des grandeurs, définition standard dans les encyclopédies au XVIIIe siècle, a conduit exactement au même point, c’est-à-dire aux élaborations – proposées par les auteurs de la Renaissance – de la théorie des proportions d’Euclide et de son interprétation philosophique repérée dans les textes de Proclus et d’Aristote.

L’attention de l’auteur pour l’imagination productrice de Proclus ne découle pas seulement de son intérêt historique pour l’analyse de Descartes, mais aussi de son espoir de vivifier le rationalisme classique. Surtout l’insistance de l’auteur sur l’interaction féconde entre problème philosophique et pratique mathématique nous semble apte à éviter une critique qu’on a justement reprochée à l’application de la méthode géométrique dans la philosophie des XVIIe et XVIIIe siècles, où l’approche mathématique était seulement un ornement lourd, ou un revêtement fictif qui ne pouvait pas garantir, par soi-même, la certitude des conclusions philosophiques. Au contraire, bien qu’il ne le dise pas d’une façon tout à fait explicite, D. Rabouin semble vouloir redonner aux mathématiques la faculté d’interférer avec la philosophie sur un autre plan. Ce n’est pas du tout la question de la certitude qui vient au premier plan, mais plutôt un domaine qu’on croyait réservé à la philosophie : la catégorisation du réel. En vivifiant une image plus charnelle des mathématiques, qui attribue à l’imagination la fonction de tracer la logique des concepts, et en admettant la possibilité d’un traitement imaginatif des domaines d’objets non homogènes, l’auteur suggère la possibilité d’une nouvelle catégorisation du réel qui soit interne aux mathématiques elles-mêmes : c’est sur ce plan que les mathématiques viennent s’opposer frontalement à la philosophie, car est assumée la possibilité de fonder les mathématiques et la connaissance scientifique sans les réduire aux principes logiques ou philosophiques externes.

C’est ainsi que nous interprétons l’opposition suggérée par Rabouin entre la théorie des ensembles du XIXe siècle, qui renforcerait la position dominante de la logique par rapport aux mathématiques, et la théorie des catégories, qui serait capable de parler de n’importe quel genre d’objets sans besoin d’avoir recours à la méthode de la philosophie (même pas à la logique), mais en s’appuyant sur une notion essentielle d’imagination spatiale. Et c’est aussi pour cette raison qu’on peut convenir que la reconstruction proposée dans ce livre ne montre pas seulement que la mathesis universalis a été tenue comme importante pour la philosophie en général – comme le dit l’auteur même dans son Introduction – mais qu’elle pourrait encore être un problème pour la philosophie, car elle suggère que les mathématiques peuvent donner des contributions indépendantes à la catégorisation du réel.