D’entrée de jeu, il faut dire que cet ouvrage ne relève pas de la philosophie des mathématiques, ni de la discipline des fondements des mathématiques. Il s’agit plutôt d’une chronique de la vie mathématique, comme on dit vie littéraire, du point de vue d’un observateur extérieur qui jette un regard sociologique — et anthropologique, d’après le mot de Wittgenstein cité en exergue — sur le travail du mathématicien. Si l’auteur tente de justifier l’intérêt du philosophe pour le travail du mathématicien, c’est pour des raisons de psychologie sociale ou de psychologie cognitive, et non pour satisfaire les motivations du chercheur qu’il soit philosophe, logicien ou mathématicien. Ian Hacking ne s’implique pas dans le débat philosophique ou la critique fondationnelle, se contentant du rôle de spectateur qui présente ou représente la scène mathématique sans intervenir — pour rappeler son titre de 1983, Representing and Intervening. Le philosophe des sciences généraliste doublé d’un historien qu’est Ian Hacking s’est intéressé au cours des années à l’histoire des concepts dans les sciences exactes et les sciences humaines, de l’histoire de la notion de probabilité à la folie à la suite de Foucault ou encore à l’ontologie sociale à la suite de Bourdieu. C’est donc dans une perspective psychosociale qu’il faut aborder cet ouvrage qui touche à mille sujets, et l’auteur nous avertit qu’il papillonne ou plane sur bien des thématiques. Mais voyons ce qu’il en retourne dans les rubriques de cette chronique de la vie mathématique dont les sources principales sont des comptes rendus et des conférences de l’auteur destinées à un large public. Pour le dire en un mot, il s’agit d’un ouvrage populaire écrit dans un style informel qui n’a pas la prétention d’être savant. On ne pourra donc trop lui reprocher certaines de ses faiblesses.
Le livre est divisé en sept chapitres qui vont de Descartes à Platon et les anti-platonismes («counter-platonisms») en philosophie des mathématiques, en passant par les questions touchant les applications et les preuves en mathématiques. On ne trouve aucune discussion détaillée de ces questions, mais plutôt près de deux cents instantanés, capsules ou mélanges («miscellanies», écrit l’auteur) où ces thèmes sont évoqués. Il est bien difficile de voir la continuité ou l’unité de cette liste disparate de sujets, liste qui est émaillée d’entrées de dictionnaires et d’une nomenclature incomplète des prix Nobel de physique et des médaillés Fields en mathématiques — il lui en manque quelques-uns chez les Français, notamment René Thom et, plus récemment, Cédric Villani. La chronique se termine sur un appendice de notes de divulgation («disclosures») de nature personnelle et presque confidentielle concernant des personnes-ressources ou des personnages que l’auteur a connus. Heureusement, l’ouvrage comprend un index exhaustif permettant de se retrouver dans ce dédale assez complexe de noms propres et de substantifs (de substance hétéroclite!), dans cette histoire des mathématiques et de leur philosophie circonstancielle. On connaît le penchant de Hacking pour l’histoire concrète et la chronologie des faits historiques — il y a un bel exemple sur le cholestérol (p. 61) —, et on se demande en quoi il contribue à la philosophie des mathématiques, mais c’est là un des traits marquants de cet ouvrage dont le style syncopé de mélanges ou «miscellanies» (ou «mixtures») tient davantage de la rhapsodie que de l’analyse suivie. Au-delà de la culture mathématique de l’auteur, qui est essentiellement de seconde main puisqu’il s’en remet constamment à des textes, échanges ou discussions informelles, il faut noter une connaissance plus précise de l’histoire des mathématiques classiques, disons de Descartes à Dedekind. Manquent néanmoins quelques précisions utiles sur Fermat ou Kronecker, entre autres : Hacking consacre quelques pages à ce dernier, dont il faudra relever les inexactitudes. Notons aussi un excellent compte rendu des réflexions de Wittgenstein sur les fondements des mathématiques et un emploi pertinent de thèses centrales de la philosophie analytique du langage. Je m’attacherai à ces trois volets de l’ouvrage.
Le but de l’auteur, comme il l’annonce modestement dans le chapitre 1 intitulé «A Cartesian Introduction», est de ramasser quelques pailles dans la moisson dense de la production mathématique. Il se limitera le plus souvent, précise-t-il, à des observations d’ordre historique ou sociologique. Hacking mentionnera ainsi une querelle de terminologie disciplinaire — qu’il qualifie de «Luddite» (corporatiste) — entre physiciens et mathématiciens du dix-huitième siècle, époque où l’on devait être mathématicien pour être reconnu comme physicien de plein droit, citant d’ailleurs à cet effet un texte du sociologue et historien des sciences québécois Yves Gingras «What Did Mathematics Do to Physics?» (History of Science, vol. 39 [2001], p. 383-416, cité p. 48). Mais après plusieurs épisodes anecdotiques tirés de l’histoire des mathématiques, l’auteur en arrive à Wittgenstein, dans la section «Proofs», avec quelques soubresauts historiques de Leibniz à Kant. Hacking connaît bien Wittgenstein et, s’appuyant sur l’expertise des Dummett, Baker et Hacker, il épilogue sur le terme «Übersichtlichkeit», que l’on trouve dans les Remarks on the Foundations of Mathematics, traduit ici par «perspicuity» (p. 26 et 262). Ce que semble vouloir dire Wittgenstein à ce sujet, c’est qu’une preuve doit être circonscriptible, qu’on doit pouvoir en faire le tour dans une sorte de regard synoptique. Ni Hacking ni les commentateurs qu’il cite ne renvoient toutefois à l’usage du terme fait par Hilbert dans son texte classique de 1927, «Über das Unendliche» («Sur l’infini»), que Wittgenstein connaissait sans doute, lui qui était un finitiste radical, mais ne connaissait guère les mathématiciens finitistes comme Kronecker. Dans le texte de Hilbert, «unübersichtlich», que je traduis par inconscriptible ou non-conscriptible, signifie que la logique classique (aristotélicienne) ne parvient pas à faire la distinction entre le fini et l’infini et qu’il faut donc introduire des éléments idéaux («ideale Elemente») au-delà du fini pour rendre compte de la césure entre le fini et l’infini (le transfini cantorien). Il n’y a pas de trace de cet usage chez Hacking. Par ailleurs, une remarque pertinente de l’auteur concerne la maxime que l’on attribue à Georg Kreisel, un élève de Wittgenstein : «Le problème n’est pas l’existence des objets mathématiques, mais l’objectivité des énoncés mathématiques» — maxime reprise par de nombreux philosophes depuis, Hilary Putnam entre autres. Hacking révèle que Kreisel lui-même attribue la maxime à Wittgenstein dans son compte rendu de 1958 des Remarks on the Foundations of Mathematics. S’appuyant encore sur Wittgenstein et sa philosophie du langage qui distingue usage, signification ou connotation, dénotation ou référence d’un terme, Hacking critique judicieusement les travaux d’un collègue de Toronto, Jim Brown (p. 251-253), à propos du platonisme et des preuves picturales, c’est-à-dire des preuves qui utilisent des diagrammes. L’auteur rappelle que l’usage d’un terme ou d’un diagramme ne comporte pas la référence à un objet ou à une structure; il aurait été intéressant ici de discuter de la théorie des catégories en mathématiques, où l’usage des diagrammes commutatifs devient un véritable art diagrammatique des structures abstraites, capable de justifier le structuralisme en philosophie des mathématiques. Encore une fois, l’ouvrage de Hacking ne fait pas mention de la théorie des catégories.
J’en viens maintenant à une critique plus sérieuse des pages consacrées à Kronecker (p. 118, 153, 159, 197, 201, 225 et 241), qui témoignent d’une belle superficialité en capsules. S’attachant à décortiquer le mot attribué à Kronecker : «Dieu à créé les entiers, l’homme a fait tout reste», l’auteur note avec justesse qu’il s’agit d’un ouï-dire rapporté par un ami de Kronecker, Heinrich Weber. Mais Hacking ne se contente pas de cette anecdote et soutient que si Kronecker a effectivement admis la totalité des entiers ou l’ensemble infini des nombres naturels dans son univers mathématique, alors il ne peut pas être le constructiviste radical et l’initiateur du finitisme en fondements des mathématiques qui a influencé Hilbert et, par delà, le Gödel de l’interprétation Dialectica de 1958, «Über eine bisher noch nicht benütze Erweiterung des finiten Standpunktes» («Sur une extension non encore utilisée jusqu’ici du point de vue finitiste») — titre qui n’est pas mentionné par l’auteur. Sur Kronecker, Hacking renvoie bien sûr à Harold Edwards, historien des mathématiques et défenseur de Kronecker après des mathématiciens majeurs comme Hermann Weyl et André Weil, mais il ne propose aucune analyse des textes de Kronecker, qui a toujours soutenu que les entiers étaient une création de l’esprit humain et que son arithmétique générale («allgemeine Arithmetik») ne comportait que le support fini des polynômes homogènes qu’on appelait aussi à l’époque formes («Formenlehre»). Je me permets de renvoyer ici à des travaux récents pour corriger le tir sur le programme de Kronecker et les programmes qu’il a inspirés, notamment ceux de Grothendieck et de Langlands évoqués par l’auteur et le programme de Hilbert, qui n’est que mentionné1. Hacking ne fait qu’effleurer ces matières en seconde main, ou «legerdemain», comme on dit en anglais. Il faut peut-être souligner dans ce contexte le flottement dans l’emploi du lexique élémentaire des mathématiques : Hacking parle souvent (p. 201-202 et suivantes) de «whole number series» ou de «natural number series», alors qu’il faut dire «sequence», (en français «suite» et non pas «série»), ce qui suppose l’addition des termes d’une suite. Hacking se pique aussi de traduire l’allemand «ganze Zahl» par «whole number» (p. 224) plutôt que par «integer» — pour «nombre entier» qu’on abrège en «entier» — sans se demander comment on rend l’anglais «integer» en allemand, si ce n’est par «ganze Zahl»!
Hacking avoue à plusieurs reprises qu’il n’a pas de position fixe («location», p. 238) en philosophie des mathématiques, ou de posture fondationnelle en mathématiques, si ce n’est un occamisme d’occasion (p. 256), ce qui correspond au mieux à une espèce de constructivisme timoré, pour s’en tenir aux étiquettes; à moins qu’il ne fasse comme Descartes qui voulait s’avancer masqué selon son mot «larvatus prodeo», pour mieux débusquer le savoir contemporain? Ce n’est certainement pas le cas dans cet ouvrage, et il s’agit plutôt d’une prudence épistémique liée à une fréquentation minimale des mathématiques et à une connaissance toute relative des enjeux de la recherche logico-mathématique et de la critique de la pratique mathématique. La seule leçon que l’on peut tirer de l’ouvrage, c’est qu’il y a une activité mathématique ou une vie mathématique, et que la philosophie est elle aussi une activité qui doit réfléchir là-dessus comme sur les autres activités humaines... Ce constat est-il suffisant pour justifier une philosophie des mathématiques, qu’elle soit d’inspiration purement philosophique, simplement historique ou encore sociologique, ou même anthropologique? Ce ne l’est certainement pas pour la recherche fondationnelle qui va au-delà de la simple chronique de la scène mathématique passée ou actuelle et qui relève elle-même d’une analyse à la fois logique, mathématique, historique et philosophique du discours mathématique. L’ouvrage de Hacking, s’il peut intéresser un lecteur néophyte à la philosophie des mathématiques, ne peut servir d’introduction à la discipline, si tant est que la philosophie des mathématiques doive être prise au sérieux par les philosophes et peut-être par les mathématiciens.
L’ouvrage, d’une lecture agréable et destiné à un large public, sera utile quand ce ne serait que pour ses vertus pédagogiques, pour les références à un monde bigarré de philosophes et de mathématiciens, pour l’histoire anecdotique de personnages et d’acteurs de la scène philosophique et mathématique et le récit de leurs propos anodins. Il s’agit donc d’un ouvrage populaire d’un philosophe sérieux représentant ou mettant en scène une philosophie des mathématiques dans laquelle il n’ose pas intervenir. On pourrait se demander à la fin : «Pourquoi un ouvrage sur le pourquoi de la philosophie des mathématiques?»
