Depuis son Introduction à la philosophie analytique (Leclercq, Reference Leclercq2008) on connaissait la capacité de Bruno Leclercq à présenter de manière à la fois synthétique, claire et complète une séquence de l’histoire de la philosophie. Le présent ouvrage en offre à nouveau un très bel exemple. Celui-ci est consacré à la crise des fondements des mathématiques, recoupant ainsi partiellement le texte de 2008.
Stricto sensu, la crise des fondements en question s’étend de 1902 à 1931, c’est-à-dire de la découverte de paradoxes dans le cadre de la théorie des ensembles de Cantor (1902 pour le paradoxe de Russell) à la démonstration des théorèmes d’incomplétude de Gödel (1931), qui sont venus mettre le holà aux projets fondationnalistes tels qu’ils se formulaient alors, accusant le retour d’une période de crise à une période de «science normale» (p. 253) où la question des fondements des mathématiques et de la logique se voit secondarisée. Cette riche période de crise a vu s’opposer pas moins de trois écoles concurrentes, le logicisme, le formalisme et l’intuitionnisme, écoles elles-mêmes en constante évolution et traversées par divers projets et tendances.
L’ouvrage se veut une étude non pas de l’accomplissement technique des différents programmes — en quoi ce livre très pédagogique ne présuppose pas du lecteur une connaissance mathématique particulière —, mais des enjeux proprement philosophiques soulevés par ces débats. En effet, les recherches consacrées aux fondements de la rationalité logico-mathématique posaient plus généralement la question de l’origine et de la légitimité de toute pensée ou de tout discours rationnel et ont, ce faisant, marqué en profondeur la philosophie contemporaine. Par là, c’est à un découpage historique original que procède Bruno Leclercq. Remontant au paradigme intuitif de Kant et à la critique logique de celui-ci par Bolzano puis par Frege, l’auteur montre que dès le tournant des XVIIIe et XIXe siècles, un partage épistémologique s’opère entre construction intuitive et déduction logique, et que naît alors un vif désaccord quant au procédé auquel accorder la primauté dans la production du savoir mathématique. Ces distinctions allaient déterminer en profondeur les débats postérieurs.
D’un point de vue méthodologique, cette étude entend «donner au maximum la parole aux auteurs eux-mêmes» (p. 13). Les citations sont ainsi nombreuses et bien choisies, et les références à la littérature secondaire plus rares. Le propos insiste également, textes à l’appui, sur les dialogues et les influences réciproques qui s’établissent entre les trois écoles susmentionnées. Il met aussi en évidence les travaux des auteurs qui font en quelque sorte le pont entre deux traditions : Carnap pour le logicisme et le formalisme, Weyl pour l’intuitionnisme et le formalisme.
L’originalité de l’ouvrage tient par ailleurs à la présentation d’une quatrième tendance, le psychologisme ou le naturalisme qui, à la suite de Hume et jusqu’à Brentano, court sur tout le XIXe siècle (et même bien au-delà avec des auteurs comme Durkheim, Lorenz et Piaget, chez qui les questions mathématiques se voient toutefois marginalisées), et qui allait servir de repoussoir aux trois écoles s’opposant durant la période de la crise des fondements. L’intérêt en est, d’une part, de mettre en évidence «toute la force et la pertinence que conserve la position psychologique en logique un siècle après les arguments antipsychologiques développés par Kant» (p. 85). Ainsi, de nouvelles thèses psychologiques appelaient de nouveaux arguments antipsychologiques, cette fois plus de type bolzanien que kantien. D’autre part, il est important de comprendre les arguments psychologistes, dans la mesure où l’ombre du psychologisme resurgira à des moments cruciaux des débats sur les fondements des mathématiques, notamment chez l’intuitionniste Heyting (p. 202) et chez le formaliste Hilbert (p. 223).
Après la présentation du psychologisme vient l’exposition, brève mais sans raccourci, des trois tendances rivales. Le logicisme, résolument anti-kantien et représenté par Frege, Russell et (au moins le premier) Carnap, affirme que les mathématiques sont à fonder sur la logique et entend donc «réduire entièrement la rationalité mathématique à la rationalité logique» (p. 117). Les concepts fondamentaux de la mathématique, comme les nombres, sont alors définis dans les termes d’une logique des ensembles ou des classes. La logique est vue, à la suite de Leibniz, comme une langue (lingua caracteristica) capable d’exprimer de manière univoque des concepts possédant une signification, des contenus de pensée, constituant ainsi les lois absolues de la Raison et exprimant la seule vérité possible. Toutefois, la découverte de paradoxes par Russell et les solutions ad hoc qui leur sont apportées viendront relativiser cette prétention à l’unicité et à l’exactitude, tendant ainsi la perche au formalisme, le parcours de Carnap étant révélateur de ce problème.
L’intuitionnisme, représenté notamment par Brouwer, pense au contraire que «le langage mathématique est second par rapport aux significations qu’il exprime» (p. 184). Autrement dit, il existe dans la mathématique une part constructive et intuitive irréductible à la logique, qui peut tout au plus formaliser celle-ci après coup. On reconnaît ici une certaine filiation kantienne. Prenant notamment appui sur les paradoxes qui naissent de la considération d’ensembles infinis, l’intuitionnisme exige que les concepts mathématiques soient ramenés, directement ou indirectement, aux constructions qui les supportent. De telles thèses amènent toutefois, d’une part, à limiter sérieusement le champ des mathématiques considérées comme légitimes, et, d’autre part, à perdre une partie de la rigueur logique qui faisait la force du projet logiciste. Heyting, l’élève de Brouwer, entendra ainsi rompre avec certains des postulats «philosophiques» de son maître et formaliser les principes intuitionnistes. Par là, le projet fondationnel initial se trouve largement affaibli et ouvre encore une fois vers le formalisme.
Troisième courant, le formalisme, associé au nom de Hilbert, relativise à son tour l’ancrage intuitif des mathématiques. Toutefois, Hilbert oppose dans le même temps à Frege l’idée voulant que «la logique et les mathématiques sont moins une langue qu’une pure syntaxe» (p. 208-209). Ainsi, il entend ramener l’édifice mathématique à un système d’axiomes formels arbitraires, répondant seulement aux exigences logiques basiques de consistance, de simplicité et de complétude. Les concepts mis en jeu n’y possèdent pas une signification préalable et univoque qui devrait guider l’axiomatisation, ce sont au contraire les concepts qui sont uniquement définis par les structures et relations formelles dans lesquelles ils entrent en jeu. Une interprétation, c’est-à-dire le choix d’un modèle, d’un domaine d’objet vérifiant les axiomes, constitue alors une étape seconde. L’une des forces d’un tel projet est aussi d’autoriser un conventionnalisme linguistique à la Carnap, qui permet de formuler à la fois les exigences logiques des mathématiques classiques et celles des intuitionnistes.
Malgré les failles apparues dans les projets logiciste et intuitionniste et les succès permis par le programme de Hilbert, Bruno Leclercq, ainsi que nous l’avons déjà signalé, refuse de voir la fin de la crise des fondements comme la victoire d’une école sur les autres. En somme, les questions n’ont pas été définitivement tranchées. C’est d’ailleurs le projet hilbertien que les théorèmes de Gödel viennent particulièrement problématiser. En évoquant des penseurs plus contemporains, tels Ryle et Tarski, l’auteur montre encore que des critiques fortes à l’égard du formalisme ont été formulées et que certaines questions ouvertes durant ces trente années ont pu continuer à inspirer des recherches philosophiques postérieures dans une perspective renouvelée.
Pour conclure, nous pouvons saluer la parution de ce livre synthétique, bien construit et accessible, qui offre un panorama complet de la problématique abordée et constitue de la sorte une introduction de qualité.
