LE SENS D'UN TEXTE MATHÉMATIQUE :
À PROPOS DU LIVRE
UN THÉORÈME DE FERMAT ET SES LECTEURS
DE CATHERINE GOLDSTEIN

Alain Herreman
Université de Rennes 1

(NB : ce texte est une version modifiée d'un article à paraître dans la Revue d'histoire des sciences)

1. Introduction

Le livre de Catherine Goldstein, Un théorème de Fermat et ses lecteurs (Presses Universitaires de Vincennes, Saint-Denis, 1995) est d'abord une contribution à l'historiographie et à l'histoire des mathématiques, et en particulier à l'histoire de la théorie des nombres et de l'algèbre. Il m'a néanmoins semblé qu'il pouvait être pertinent de le présenter ici puisque l'auteur propose une approche historique fondée sur la notion de lecture. Plus précisément, pour faire l'histoire d'un théorème elle prend en compte la diversité des lectures qu'en ont proposé aussi bien les mathématiciens que les historiens en tirant parti du caractère nécessairement historique de celles-ci. Ainsi, la diversité des lectures devient un moyen d'investigation historique et une notion relevant de la sémantique des textes est ainsi détachée de son domaine d'origine pour être appliquée à l'histoire des mathématiques.


2. Le sens d'un texte mathématique

La première particularité de ce livre est de considérer que la détermination du sens d'un texte mathématique ne va pas de soi. L'auteur entend faire de la question du sens d'un texte, de l'identité de celui-ci et du réseau de relations dans lequel il peut être inscrit un des nerfs des études historiques : le sens que les historiens donnent aux textes est intriqué aux histoires qu'ils proposent, de même que le sens que leur donnent les mathématiciens est intriqué aux développements qu'ils proposent (généralisations, nouvelles preuves, autres théories, etc.). Le problème du sens n'est pas, en particulier, réduit ici à celui de la compréhension d'un texte mathématique, à laquelle l'historien aurait un accès privilégié par sa connaissance des mathématiques et de leurs sources. Le caractère élémentaire du théorème choisi (“l'aire d'un triangle rectangle en nombres ne peut être un carré”) doit, à cet égard, être souligné puisqu'il permet de faire pleinement ressortir le problème de la construction du sens des textes, sans que celui-ci puisse être confondu avec celui de la compréhension des énoncés ou de leurs démonstrations : l'auteur a en effet vite fait de lever ici les éventuelles difficultés de compréhension que nous aurions pu avoir. Ainsi, là où les études qui s'en tiennent à un rapport spontané au sens seraient vite démunies faute d'avoir quoi que ce soit à expliquer, Catherine Goldstein nous montre tout ce qu'il est encore possible de déployer.

Pour montrer que l'attribution d'un sens aux textes ne va pas de soi, l'auteur considère deux textes contemporains, l'un de Fermat (1601-1665), l'autre de Frenicle (1605-1675), dans lesquels le théorème sur l'aire d'un triangle rectangle en nombres est énoncé et démontré. En considérant plusieurs travaux d'historiens et de mathématiciens qui y font référence, elle peut mettre en évidence la variété des lectures qui ont effectivement été faites de ces deux textes.


3. Lectures mathématiciennes

L'auteur présente un panorama des travaux sur les triangles rectangles en nombres avant Fermat et Frenicle qui permet déjà de montrer la diversité des traitements des problèmes se rattachant à ces triangles chez quelques mathématiciens antérieurs (Euclide, Fibonacci, Diophante, Girard, Viète et Bachet). Il est l'occasion de rappeler quelques distinctions (nombres plans semblables, nombres congrus etc.) et permet de dégager quelques points de comparaisons possibles entre les textes des deux mathématiciens. Ainsi, l'intérêt pour les méthodes paraît, chez eux, l'emporter sur celui des théorèmes ou sur les résultats qu'elles permettent d'obtenir, ces derniers semblant plutôt des faire-valoirs de celles-ci. Autre point commun, aucun des deux textes sur le théorème ne recourt aux expressions symboliques de l'algèbre. Le rapport à l'algèbre apparaît néanmoins différent chez les deux mathématiciens : Frenicle l'ignore tout à fait alors que Fermat l'utilise dans d'autres travaux.

Ces quelques traits, qui ressortent de l'analyse des oeuvres des deux mathématiciens, conduisent déjà à relativiser, au moins pour Frenicle et Fermat, l'importance que nous aurions pu spontanément accorder à l'énoncé même du théorème, à son rapport à la résolution d'équations et, en particulier, à son rapport au “Grand théorème de Fermat”.

La comparaison de la réception de l'édition de Diophante par Bachet annotée par Fermat et du livre de Frenicle, dans lesquels leurs preuves sont présentées, fait ressortir un intérêt de leurs contemporains plus marqué pour Frenicle, auteur pour nous bien moins prestigieux que Fermat (pour ne pas dire inconnu…), et inversement, un Fermat qui n'est guère reconnu au XVIIe siècle pour ses travaux en théorie des nombres. Ce sont maintenant d'autres caractéristiques qui ressortent (éventuellement contradictoires avec celles dégagées précédemment) : le livre de Frenicle apparaît apprécié pour la nouveauté de quelques-uns de ses théorèmes comparés à ceux des livres d'arithmétiques d'Euclide et pour quelques preuves algébriques plus claires que celles de Viète. L'examen des essais de démonstrations que d'autres mathématiciens, parmi lesquels Leibniz, ont proposé du théorème met encore en évidence différents recours au modèle euclidien et une maîtrise inégale des raisonnements arithmétiques, utilisés couramment par Fermat et Frenicle. Pour Leibniz, par exemple, ce théorème est surtout un test pour mettre en cause l'efficacité de la méthode cartésienne et comme il met l'accent sur les étapes de la démonstration, le “théorème de Fermat” doit, selon lui, être attribué à Frenicle… Mais cet examen de la réception montre surtout que l'algèbre est devenu le cadre naturel dans lequel le théorème est traité par ces mathématiciens, au point que la référence aux triangles de nombres disparaîtra complètement dans les travaux d'Euler et de Lagrange.


4.
Lectures historiennes

Un des intérêts essentiels du recours au concept de “lecture”, aussi peu explicité soit-il, est qu'il conduit à considérer non seulement les lectures des mathématiciens, sur lesquelles se concentrent d'ordinaire les historiens, mais aussi les lectures des historiens eux-mêmes et cela, sans introduire de hiérarchie entre ces deux groupes de lecteurs. L'auteur peut ainsi montrer que les critères de lecture influent cette fois sur les chronologies, sur les filiations reconnues entre les textes, sur les rapprochements effectués, sur le choix des textes pris en compte et sur l'importance attribuée à chacun.

Ainsi, suivant que l'historien met l'accent sur la méthode utilisée par Fermat (appelée “descente infinie”), sur l'énoncé du théorème, qu'il recourt à une transcription algébrique ou birationnelle (étude des solutions rationnelles des équations à partir de leur représentation sur des courbes elliptiques), suivant l'importance accordée à la distinction entre solutions entières ou rationnelles etc., les textes de Fermat et de Frenicle peuvent être ou ne pas être tenus pour identiques, l'originalité peut se déplacer, l'un ou l'autre peut ne plus être considéré, les filiations retenues peuvent changer ; c'est ainsi que certains historiens inscrivent Fermat (Frenicle n'ayant pas autant retenu leur attention…) dans une tradition qui va d'Euclide à Bachet, alors que d'autres en font le descendant de Diophante et de Viète.

La mise en évidence de la diversité des interprétations que les mathématiciens et les historiens ont donné de ces deux textes conduit à relativiser les identifications spontanées et univoques sur lesquelles sont fondées ces travaux. Le problème du sens donné à ces textes et, par conséquent, de leur identité, n'est donc pas ici l'effet d'un relativisme a priori : il est établi à partir de l'étude et de la comparaison de ces travaux.

Ce serait néanmoins manquer le projet essentiel de ce livre que de le réduire à cette dimension critique, aussi minutieusement menée soit-elle. Car, bien que le problème du sens et de l'identité d'un texte soient posés de manière aussi radicale, l'auteur ne s'abandonne pas à ce “relativisme paresseux” qu'elle ne manque pas de dénoncer : c'est, au contraire, une thèse historique forte qui est défendue et mise en oeuvre dans ce livre. L'auteur ne se contente pas de mettre en évidence la variété des interprétations, des chronologies, des filiations, des choix des textes et de l'importance qui est accordée à chacun d'eux selon les mathématiciens et les historiens : prenant acte de ce que “toutes les lectures sont historiques”, elle découvre dans l'analyse de leurs différences un accès aux changements qui se manifestent à travers elles. Catherine Goldstein s'empare ainsi du caractère inéluctable de ce lieu commun pour en faire le principe d'une analyse historique rigoureuse.

On remarquera, en particulier, que les études historiques (Zeuthen, Dickson, Weil, Mahoney etc.) ne sont pas considérées ici comme des sources dans lesquelles l'auteur peut puiser des indications bibliographiques, biographiques ou des analyses qu'elle peut reprendre ou à partir desquelles elle peut faire valoir les siennes ; c'est un usage plus systématique de ces sources qui est fait ici. L'un des coups de force de l'auteur est d'avoir réussi à suspendre son jugement sur ces études, y compris celles qu'elle a pu elle-même proposer, et de les considérer sans chercher à déterminer laquelle serait la meilleure. C'est de cette exigence maintenue que résulte un des aspects les plus féconds de cette étude. Si l'auteur considère toutes ces lectures comme se valant, c'est que toutes ont effectivement été proposées : on n'invente pas aisément des lectures, qu'elles soient du XVIIIe, du XIXe ou du XXe siècles ; c'est cette historicité qui est saisie et exploitée. Sans ces lectures, on serait d'ailleurs certainement démunis pour en découvrir nous même une telle variété sur deux textes aussi élémentaires que ceux de Fermat et de Frenicle.


5. A propos des lectures algébriques

Les résultats parmi les plus intéressants qui sont obtenus dans ce livre concernent peut-être l'histoire de l'algèbre. Rappelons que l'absence de tout symbolisme algébrique est manifeste dans les textes de Fermat et de Frenicle et que les autres mathématiciens ont immédiatement repris ces travaux en recourant à celui-ci. Or, cela est tout aussi vrai des historiens et, en particulier, les comparaisons qu'ils ont proposées des deux preuves ont toujours été faites à partir de leurs transcriptions algébriques. Mais au lieu de dénoncer le caractère anachronique de ces transcriptions ou d'y recourir elle-même sans critique, Catherine Goldstein prend acte du recours à l'algèbre dans ces études historiques et, en les comparant à une lecture qu'elle propose, elle peut mettre en évidence quelques-uns des effets de ces lectures algébriques.

Plus précisément, et pour ce qui concerne le problème de l'identité d'un texte, Catherine Goldstein montre que les transcriptions algébriques tendent, d'une part, à identifier entre elles les démonstrations de Fermat et de Frenicle et qu'elles induisent, d'autre part, un découpage particulier du texte de la démonstration de Fermat. En effet, la permanence des lettres utilisées dans la transcription de la preuve conduit à considérer celle-ci comme un raisonnement portant, du début à la fin, sur les mêmes quantités. Or, l'auteur montre qu'il est aussi possible de donner plus d'autonomie à certaines assertions du texte et, leur reconnaissant ainsi une plus grande généralité, d'y voir, plutôt que des étapes, d'authentiques propositions. Ce découpage différent de l'enchaînement des propositions permet un autre éclairage sur une remarque récurrente dans la plupart des lectures de ces historiens. Ces derniers remarquent en effet souvent que Fermat aurait pu amorcer sa descente infinie plus tôt qu'il ne le fait, puisqu'un triangle de côtés plus petits et ayant les propriétés du triangle initial apparaît avant celui qu'il retient. Avec le nouveau découpage, ce triangle n'intervient plus dans la construction de la descente mais dans une proposition autonome à l'intérieur de celle-ci et ainsi, cette négligence de Fermat peut apparaître comme un artefact dû à certaines caractéristiques du symbolisme utilisé dans ces transcriptions. Inversement, cet exemple montre que la formulation dans la langue naturelle, exclusivement utilisée par Fermat dans ce texte, permet des “assignations de variables” différentes de celles introduites par une transcription algébrique.

La comparaison de ces lectures permet donc de mettre en évidence certains traits de ces formulations (naturelle vs algébrique) et d'apprécier quelques-unes de leurs conséquences.

L'intervention du symbolisme algébrique dans les lectures des historiens est ainsi considérée comme une indication sur la réception de l'algèbre dans ce milieu lié à celui des mathématiciens et surtout, la comparaison avec d'autres lectures permet de mettre en évidence certaines des transformations induites par le recours à ce symbolisme.


6. Lectures et configurations

Le projet central de ce livre n'est donc pas de faire l'histoire du théorème de Fermat ou de la descente infinie ; il est de montrer que les conditions, les contextes, ou plus exactement les configurations sont, pour l'histoire des mathématiques, un objet d'étude bien défini, pertinent et accessible. Ce sont ces configurations qui interviennent dans la cohérence des textes produits par les mathématiciens ou les historiens : elles interviennent dans le repérage et la sélection du corpus, dans la compréhension d'un texte, dans la production de nouveaux textes et leurs transformations déplacent les relations entre les textes, changent leur découpage etc. L'étude du théorème de Fermat, ou plutôt du couple formé par les textes de Fermat et de Frenicle, sert surtout à mettre en évidence la diversité des relations dans lesquelles ils ont été inscrits et cela, afin de révéler les configurations auxquelles ces changements peuvent être rapportés : l'intérêt au XVIIe siècle pour les méthodes, pour l'étude “concrète” des nombres, le développement de l'algèbre, puis la résolution des équations diophantiennes ou plus tard encore l'étude des courbes de genre 1. La liste des configurations considérées est en elle-même intéressante et il importerait d'ailleurs de la compléter. C'est aussi aux configurations qu'est rapportée la question du sens d'un texte. Car, en définitive, Catherine Goldstein ne considère pas le sens d'un texte, mais uniquement des lectures de ce texte, et ces lectures sont en partie déterminées par les configurations dans lesquelles s'inscrivent leurs auteurs. L'analyse du sens d'un texte se fait ainsi de l'“extérieur”, sans qu'un sens immanent à celui-ci n'intervienne. La description des configurations dans lesquelles ont été inscrites les différentes lectures remplace l'analyse du sens du texte. Le livre n'entend donc pas nous faire progresser dans notre compréhension du texte de Fermat, et s'il peut malgré tout y contribuer, c'est en nous aidant à apprécier les transformations que notre lecture peut produire.

Cette manière d'aborder le problème de la signification d'un texte nous semble avoir fait ici la preuve de sa cohérence et de sa fécondité, ce qui ne veut pas dire que la détermination des configurations épuise l'analyse du sens du texte considéré.

7. Conclusion

Dans ce livre, Catherine Goldstein nous semble avoir abordé pleinement la question de l'accès à la signification des textes mathématiques et elle a réussi à considérer les textes de Fermat et de Frenicle sans leur attribuer de sens immanent. Elle est allée, notamment, au-delà des réserves d'usage en histoire des mathématiques sur la transcription algébrique et sur l'ancrage historique de toute production auquel il est courant de s'en tenir. A partir de la comparaison de travaux d'historiens et de mathématiciens prenant en compte le théorème sur l'aire d'un triangle rectangle en nombres, elle a pu établir que l'identité d'un texte n'était pas une question qui allait de soi, et qu'elle avait donc besoin pour être abordée d'un cadre théorique précis. L'auteur a mis ici l'accent sur le caractère historique de cette identité. En en montrant les variations au cours du développement des mathématiques, l'analyse des lectures mathématiciennes et historiennes permet de mettre en évidence certaines des transformations induites, en l'occurrence, par le recours au langage algébrique ou à celui de l'arithmétique géométrique. Ainsi, à partir de l'histoire de ce théorème, l'auteur a pu saisir certains des effets d'une évolution des mathématiques sur le long terme et développer une analyse dont les conséquences vont en fait au-delà de l'histoire du théorème considéré, de l'histoire de la théorie des nombres ou de l'algèbre.


Vous pouvez adresser vos commentaires et suggestions à : alain.herreman@univ-rennes1.fr

© septembre 1997 pour l'édition électronique.

Référence bibliographique : HERREMAN, Alain. Le sens d'un texte  mathématique : à propos du livre "Un théorème de Fermat et ses lecteurs" de Catherine Goldstein. Texto ! septembre 1997 [en ligne]. Disponible sur : <http://www.revue-texto.net/Inedits/Herreman_Elements.html>. (Consultée le ...).