Ce livre entend remettre à l’honneur l’œuvre de Leopold Kronecker, qui a été mal comprise et globalement oubliée, excepté par les mathématiciens. Le grand mathématicien André Weil, dont les conseils ont inspiré le travail d’Yvon Gauthier, estimait ainsi que le travail de Kronecker sur les fonctions elliptiques (qui sont devenues, sur la scène contemporaine, les courbes elliptiques et les formes modulaires) est à l’origine de la géométrie arithmétique et algébrique contemporaine. Le rêve de jeunesse de Kronecker — la construction d’une arithmétisation de l’algèbre —, a en effet inspiré deux des plus grandes entreprises théoriques des mathématiques contemporaines : le programme de Langlands — qui articule la théorie des nombres avec la théorie des représentations, la théorie des groupes et la théorie des formes automorphes —, et le programme de Grothendieck.

Au début du Séminaire de géométrie algébrique du Bois-Marie (1960-1961), Alexandre Grothendieck (dont la notion de schéma est une généralisation du concept kroneckerien de système modulaire), débute ainsi son programme de nouvelle fondation de la géométrie algébrique en adoptant explicitement un point de vue kroneckerien :

Mais plus qu’un simple hommage à Kronecker, le livre d’Y. Gauthier poursuit un projet théorique ambitieux : proposer une fondation mathématique et non philosophique des mathématiques, en adoptant le point de vue constructiviste de Kronecker.

L’arithmétisation de l’analyse opérée par Cauchy et Weierstrass a été poursuivie par Dedekind et Cantor avec l’introduction de méthodes non constructives en théorie des nombres. Or, la méthode de diagonalisation utilisée par Cantor en 1892 pour démontrer la non-équipotence de l’ensemble des entiers et de l’ensemble des réels a conduit à des paradoxes (paradoxe de Burali-Forti, paradoxe de Russell, paradoxe de Richard, etc.) en théorie des ensembles. La découverte de ces paradoxes a incité nombre de mathématiciens, dont Poincaré et Weil, à douter de la validité de la théorie cantorienne de l’infini actuel. Dans la continuité de ces théoriciens, Y. Gauthier rejette l’infini actuel pour lui substituer un infini seulement potentiel. Il retrouve ainsi le point de vue de Kronecker, pour qui la notion d’infini actuel relève plus de la philosophie ou de la théologie que des mathématiques, et qui s’est violemment opposé à Cantor sur ce point.

Y. Gauthier estime que le programme fondationnel de Hilbert, développé entre 1917 et 1930, s’inscrit dans la continuité de Kronecker, dans la mesure où il engage une métamathématique finitiste. Hilbert est le premier à définir la métamathématique comme la théorie des systèmes formels destinée à capturer la logique interne de l’arithmétique, ce que l’auteur appelle tout au long de l’ouvrage la «logique arithmétique». Une telle arithmétisation de la logique est au cœur de la théorie de la démonstration et de la théorie informatique.

Certes, ce programme s’est heurté au théorème d’incomplétude de Gödel (1931), qui travaille avec l’arithmétique de Peano et utilise la diagonalisation de Cantor. Toutefois, l’axiomatisation de l’arithmétique par Dedekind et Peano repose elle-même sur la théorie des ensembles de Cantor. Peano introduit en effet un axiome d’induction qui correspond à l’axiome de l’infini dans l’axiomatique ZF (Zermelo-Fraenkel) de la théorie des ensembles. Si l’on pouvait substituer à l’arithmétique de Peano une autre arithmétique ne reposant pas sur un tel axiome, il serait alors possible de produire une preuve de la non-contradiction de l’arithmétique qui soit compatible avec le projet (révisé) de Hilbert.

Pour atteindre cet objectif, Y. Gauthier s’appuie sur la méthode de la descente infinie de Fermat, qui est une généralisation de l’algorithme d’Euclide, et l’une des méthodes privilégiées par André Weil. Il s’agit d’une preuve par réduction à l’absurde : si une propriété implique une suite indéfiniment décroissante de nombres entiers, alors elle est fausse, car une telle suite ne peut exister pour les entiers. La descente infinie de Fermat est donc un procès fini qui commence avec un nombre fini arbitraire et stoppe à 0. L’idée centrale d’Y. Gauthier est de proposer une nouvelle approche du problème de la non-contradiction de l’arithmétique en substituant à l’arithmétique de Peano une arithmétique de Fermat (ou de Fermat-Kronecker) où l’induction de Peano est remplacée par la méthode de la descente infinie de Fermat, laquelle, d’un point de vue constructif intuitionniste, n’est pas équivalente à l’induction infinie. En effet, l’induction infinie opère une double négation sur l’ensemble infini des entiers naturels, ce qui correspond à une procédure interdite pour un constructiviste.

Par extension de l’isomorphisme de Curry-Howard, il propose une interprétation arithmétique, plus précisément polynomiale, des formules logiques. L’avantage principal de cette interprétation polynomiale consiste à produire une interprétation de la logique dans une syntaxe purement arithmétique. La traduction proposée procède de la façon suivante. L’expression numérique «1» réfère à l’univers arithmétique illimité; la négation de a, ¬a, est traduite par (1 – a); (a ∧ b) devient le produit (a . b); (a ∨ b) devient la somme (a + b); (a → b) devient (¬a + b); ∃x = Σ(a ₁, a ₂, a ₃, ………, a _n); ∀x = Π(a ₁, a ₂, a ₃, ………, a _n). Y. Gauthier use d’un nouveau quantificateur Ξ, qu’il nomme «effini», pour exprimer la quantification illimitée sur une séquence arbitraire de nombres naturels — mais pas un ensemble infini —, et qui est traduit par Ξx = Π(a ₁, a ₂, a ₃, ………, a _n, ….).

Gödel a opéré une traduction de ce genre pour l’arithmétique de Peano. Mais l’induction infinie de Peano se prête à la diagonalisation de Cantor, ce qui conduit à la démonstration par Gödel de l’incomplétude de l’arithmétique de Peano. Or, tel n’est plus le cas de l’arithmétique de Fermat. La logique arithmétique construite sur cette arithmétique se révèle ainsi complète et décidable. Elle permet de réaliser le programme de Hilbert et d’opérer une fondation constructive des mathématiques, du moins dans le cadre strict d’un point de vue intuitionniste.

La démarche démonstrative d’Y. Gauthier est d’une grande rigueur. Cependant, en reprenant la critique de Cantor par Kronecker, il n’est jamais conduit à penser la fécondité de la théorie de Cantor. Le lecteur n’est pas ici obligé de le suivre. On peut ainsi noter que si le programme fondationnel de Hilbert privilégie effectivement les procédures finitistes et constructives, il est plutôt à penser comme une tentative de synthèse entre Kronecker et Cantor, Hilbert étant profondément persuadé de l’importance exceptionnelle de la théorie des ensembles de Cantor, sur laquelle il lui semblait possible de reconstruire l’édifice entier des mathématiques.

Il en va de même du programme de Grothendieck : même s’il se réclame initialement de Kronecker, Grothendieck est loin de rejeter l’apport de Cantor et théorise des univers non dénombrables qui fournissent des modèles de la théorie des ensembles. Comme le reconnaît Y. Gauthier,

Peut-on et doit-on «éradiquer» (p. 176) l’infini actuel de la pensée mathématique et logique comme le recommande le constructivisme radical? On peut en douter. De même que l’on peut douter qu’une entreprise fondationnelle puisse prétendre valoir pour les mathématiques dans leur «totalité» (p. 177).

Ces réserves ne retirent toutefois rien au résultat théorique atteint par l’approche finitiste d’Y. Gauthier, pourvu qu’il soit réinscrit dans les limites du point de vue qu’il adopte. Ce résultat théorique est d’autant plus intéressant que les mathématiques finitistes connaissent actuellement un renouveau réel, lié au développement majeur de la théorie informatique, laquelle travaille à l’aide d’algorithmes, donc de façon constructive. La perspective constructiviste de Kronecker, longtemps injustement négligée par les philosophes, s’en trouve très clairement réactualisée.