Le grand théorème de Fermat

Peu de problèmes mathématiques ont un énoncé aussi simple et une histoire aussi longue. Une note griffonnée dans la marge d’un livre vers 1637 a tenu en échec les plus grands mathématiciens pendant plus de 350 ans, avant d’être démontrée par l’Anglais Andrew Wiles au terme de sept années de travail solitaire, grâce à des outils que Fermat ne pouvait pas imaginer.

De Pythagore à Fermat

Pour n = 2, l’équation x² + y² = z² a une infinité de solutions entières : ce sont les triplets pythagoriciens, longueurs des côtés de triangles rectangles (voir théorème de Pythagore).

Les Babyloniens en connaissaient déjà, comme en témoigne la tablette Plimpton 322 (vers 1800 av. J.-C.). Fermat affirme que, dès que l’exposant dépasse 2, il n’existe plus aucune solution : aucun cube n’est la somme de deux cubes, aucune puissance quatrième la somme de deux puissances quatrièmes, et ainsi de suite.

La note dans la marge

Pierre de Fermat (né au début du XVIIe siècle, mort en 1665 à Castres) est magistrat au parlement de Toulouse et mathématicien amateur de génie. Il lit l'Arithmétique de Diophante, mathématicien grec du IIIe siècle, dans l’édition latine de Claude-Gaspard Bachet de Méziriac (1621). En marge du problème sur la décomposition d’un carré en somme de deux carrés, il écrit en latin, probablement vers 1637, une note dont le sens est le suivant : il est impossible de partager un cube en deux cubes, une puissance quatrième en deux puissances quatrièmes, ni plus généralement une puissance supérieure au carré en deux puissances de même exposant ; il a trouvé une démonstration véritablement merveilleuse, que la marge est trop étroite pour contenir.

Le livre annoté a disparu ; la note est connue par l’édition de Diophante que son fils Samuel publie en 1670, avec les observations de son père. C’est la dernière de ses affirmations à rester non démontrée, d’où le nom de « dernier théorème ».

Fermat avait-il vraiment une preuve ? Les mathématiciens en doutent fortement : la démonstration finale utilise des outils du XXe siècle, et l’on pense que Fermat a pu croire, à tort, disposer d’un argument général.

Trois siècles et demi d’efforts

Ces tentatives ont été extraordinairement fécondes : la théorie des idéaux de Kummer et une grande partie de la théorie algébrique des nombres sont nées de la recherche d’une preuve.

La démonstration d’Andrew Wiles

Le lien avec les courbes elliptiques

Le déblocage vient d’un domaine en apparence éloigné. Dans les années 1950, les Japonais Yutaka Taniyama et Gorō Shimura conjecturent que toute courbe elliptique (courbe d’équation y² = x³ + ax + b) est modulaire, c’est-à-dire liée à un autre type d’objets aux symétries très riches, les formes modulaires.

• 1984-1985 : l’Allemand Gerhard Frey remarque qu’une hypothétique solution de l’équation de Fermat permettrait de construire une courbe elliptique très étrange, qui ne devrait pas être modulaire.
• 1986 : l’Américain Kenneth Ribet démontre que cette « courbe de Frey » ne peut effectivement pas être modulaire. Dès lors, démontrer la conjecture de Taniyama-Shimura (au moins pour une classe de courbes) suffit à démontrer le théorème de Fermat.

Sept ans de travail

Andrew Wiles, fasciné par le problème depuis qu’il l’a découvert à dix ans dans une bibliothèque, se lance alors dans cette entreprise, en secret, à Princeton. En juin 1993, lors d’une série de conférences à Cambridge, il annonce une démonstration pour les courbes dites semi-stables, ce qui suffit.

Lors de la vérification, une lacune est découverte dans un argument central. Après plus d’un an d’efforts, avec l’aide de son ancien étudiant Richard Taylor, Wiles la comble en septembre 1994. La démonstration, d’une centaine de pages, est publiée en 1995 dans la revue Annals of Mathematics.

La reconnaissance

• Wiles reçoit le prix Wolfskehl en 1997 et une plaque d’argent spéciale de l’Union mathématique internationale en 1998 (il avait dépassé l’âge limite de 40 ans pour la médaille Fields).
• Il obtient le prix Abel en 2016.
• La conjecture de Taniyama-Shimura complète, appelée aujourd’hui théorème de modularité, est démontrée en 1999 par Christophe Breuil, Brian Conrad, Fred Diamond et Richard Taylor.

À ne pas confondre : le « petit » théorème de Fermat

Le petit théorème de Fermat (1640) est un tout autre résultat, démontré depuis longtemps : si p est un nombre premier et a un entier non divisible par p, alors aᵖ⁻¹ − 1 est divisible par p. Par exemple, avec p = 5 et a = 2 : 2⁴ − 1 = 15, divisible par 5. Ce théorème est aujourd’hui au cœur de la cryptographie, notamment du chiffrement RSA.

Questions fréquentes

Que dit le grand théorème de Fermat ?

Qu’il n’existe aucun triplet d’entiers strictement positifs x, y, z vérifiant xⁿ + yⁿ = zⁿ lorsque n est un entier supérieur ou égal à 3.

Qui a démontré le théorème de Fermat ?

Le mathématicien britannique Andrew Wiles, avec un complément décisif obtenu avec Richard Taylor. La preuve, annoncée en 1993 et corrigée en 1994, a été publiée en 1995.

Fermat avait-il une démonstration ?

C’est très improbable. La démonstration connue repose sur des théories développées au XXe siècle, et Fermat n’a jamais publié de preuve générale. Il a seulement démontré le cas n = 4.

Pourquoi ce théorème était-il si difficile ?

Parce qu’il porte sur une infinité d’exposants et de nombres, et qu’aucune méthode élémentaire ne permet de les traiter tous. Sa solution a demandé de relier l’arithmétique à la géométrie des courbes elliptiques.