Ce que l’IA apporte à la démonstration mathématique, et ses limites

Les démonstrations mathématiques ont longtemps été l’affaire exclusive de quelques esprits patients, penchés sur une feuille et un tableau noir. Les outils d’intelligence artificielle s’invitent désormais dans ce travail : ils proposent des pistes, vérifient des étapes, parcourent des cas que personne n’aurait le courage d’énumérer. Reste à comprendre ce qu’ils apportent vraiment, et ce qui continue de dépendre du jugement humain.

Ce que l’IA apporte à la démonstration

Le premier atout est l’endurance. Une démonstration comporte souvent une longue suite de calculs ou de cas particuliers, et une seule erreur d’inattention suffit à ruiner l’ensemble. Un système automatique ne se fatigue pas, ne saute pas une ligne et peut examiner en parallèle un très grand nombre de configurations. Cela permet de tester rapidement une hypothèse, de trouver un contre-exemple ou de repérer qu’une idée prometteuse mène à une impasse.

Le deuxième atout est la recherche de motifs. Face à des objets mathématiques complexes, les modèles d’apprentissage savent détecter des régularités qui échappent à l’œil. Ils ne prouvent rien par eux-mêmes, mais ils suggèrent des relations à explorer, un peu comme un collègue qui inviterait à regarder de ce côté, là où quelque chose se passe. Le chercheur transforme ensuite cette intuition en énoncé précis, puis en argument rigoureux.

Enfin, ces outils aident à la littérature : retrouver un résultat connu proche du problème traité, rappeler une technique oubliée, reformuler un énoncé dans un autre cadre. Ce gain de temps paraît modeste, mais il pèse beaucoup dans une discipline où la bibliographie est immense et dispersée.

Pourquoi une démonstration produite par une machine doit être vérifiée

Un modèle de langage produit un texte plausible, pas un texte garanti exact. Il peut enchaîner des étapes qui ont l’air convaincantes, avec le bon vocabulaire et le bon ton, tout en glissant un pas invalide au milieu du raisonnement. En mathématiques, une apparence de rigueur ne vaut rien : la démonstration est correcte ou elle ne l’est pas.

C’est ici qu’intervient la vérification formelle. Elle consiste à écrire l’argument dans un langage où chaque étape est contrôlée mécaniquement par un programme, qui n’accepte que des déductions autorisées par des règles explicites. Si le programme valide l’ensemble, la démonstration est correcte, quelle que soit la façon dont elle a été trouvée. L’association est séduisante : l’IA propose, le vérificateur tranche. Une preuve issue d’un modèle et validée de cette manière n’a plus besoin qu’on lui fasse confiance.

La difficulté est de traduire les mathématiques usuelles dans ce langage rigoureux. Beaucoup de résultats récents reposent sur des notions sophistiquées qui n’ont pas encore été entièrement formalisées. Écrire une preuve dans ce cadre peut demander un effort considérable, parfois supérieur à celui de la découverte initiale. Même une preuve vérifiée doit enfin être relue pour s’assurer que l’énoncé formalisé correspond bien à la question posée : on peut démontrer très proprement un résultat qui n’est pas celui que l’on visait.

L’intuition et la compréhension restent humaines

Une démonstration n’est pas seulement un certificat de vérité. Elle sert aussi à comprendre pourquoi un résultat est vrai, et cette compréhension nourrit les travaux suivants. Une preuve très longue, impossible à suivre même pour des spécialistes, convainc sans éclairer. Les mathématiciens attachent du prix aux arguments courts, élégants, qui révèlent une structure cachée et ouvrent de nouvelles questions.

Le choix des problèmes relève lui aussi du chercheur. Savoir quelle question mérite d’être posée, quelle généralisation sera féconde, quel cas particulier mérite l’attention : ce sens du goût mathématique se construit par des années de pratique et de discussions. Un outil peut accélérer l’exploration, il ne dit pas encore ce qui est intéressant. Il hérite d’ailleurs des biais de ses données d’entraînement, ce qui l’incite à répéter des chemins déjà balisés plutôt qu’à en inventer de radicalement neufs.

Un partage du travail à inventer

Le scénario le plus réaliste n’est donc pas celui d’un remplacement, mais d’une collaboration. Le chercheur formule le problème, l’outil explore, génère des variantes et rédige des ébauches, le vérificateur formel contrôle, et l’humain relit, simplifie et interprète. Pour que cela fonctionne, quelques habitudes s’imposent :

• traiter toute suggestion de la machine comme une hypothèse à examiner, jamais comme un résultat acquis ;
• exiger, chaque fois que c’est possible, une vérification formelle indépendante de la source de la preuve ;
• conserver la trace des étapes, des essais et des échecs, pour que d’autres puissent reproduire le raisonnement ;
• faire relire les résultats importants par des spécialistes, car la validation par la communauté reste la référence ;
• garder la main sur l’interprétation : ce que le résultat signifie, et à quoi il sert, relève du chercheur.

Cette évolution pose aussi des questions de méthode et d’honnêteté intellectuelle. Que signifie signer une démonstration que l’on n’a pas conçue seul ? Comment reconnaître la part de chacun, et comment former les jeunes chercheurs à une discipline où la machine fait une partie du travail ? Ces débats sont ouverts, et ils se tranchent progressivement par les usages.

L’intelligence artificielle élargit ce que l’on peut explorer et vérifier, elle ne dispense pas de comprendre. Dans cette discipline qui repose sur la preuve, la confiance se gagne par la vérification, pas par l’autorité de celui qui annonce, qu’il soit humain ou machine.

Photo à la une. Source : Wikimedia Commons. Photographe : Zeete. Licence : CC BY-SA 4.0.