Le plus grand nombre… est égal à 1
Vertige de l'infini : supposons qu'il existe un entier strictement positif N qui soit le plus grand nombre entier naturel. Alors N est égal à 1. En effet, le carré de tout nombre non nul est supérieur à ce nombre, excepté le carré du nombre 1, qui est égal à 1. Donc N2 doit être supérieur ou égal à N. Mais N étant le plus grand entier, par définition, son carré ne peut lui être supérieur ! Il lui est donc égal : N2 = N, donc N = 1.
Cette démonstration paradoxale montre qu'il est indispensable de prouver l'existence d'une solution à un problème avant d'essayer de la calculer (ici, s'assurer qu'il existe un plus grand nombre entier naturel… ce qui est faux). Dans le cas contraire, on raisonne comme sur la jument de Roland (du Roland furieux de Ludovico Ariosto, dit l'Arioste) : elle possède toutes les qualités… sauf celle d'exister !
Comme il n'existe pas de plus grand nombre entier, il n'existe pas non plus d'ensemble ayant plus d'éléments que tous les autres (dont le cardinal serait plus grand que celui de tout autre ensemble), ni d'ensemble qui contienne tous les ensembles. Dommage pour l'argument de saint Anselme sur l'existence de Dieu : « Il est évident qu'il existe un être tel qu'on n'en peut penser de plus grand. » Dans le même ordre d'idée, comment évaluer la fortune (ou l'âge…) de Dieu, qui doivent être les plus grandes possibles ?
Des nombres qui n'existent… pas vraiment !
Les conjectures sur les nombres sont inépuisables : « Une des conjectures les plus remarquables sur les nombres de Mersenne est que le nombre de conjectures sur les nombres de Mersenne sera toujours supérieur au nombre de nombres de Mersenne connus » a dit le mathématicien Waclaw Sierpinski. Avec David Hilbert, intéressons-nous à un nombre très particulier : soit n le plus petit nombre entier qui n'aura pas été mentionné durant le XXIe siècle. Maintenant, définissons un autre nombre m en suivant Max Black : soit m le plus petit nombre entier qui n'est défini nulle part dans ce hors-série. Ces deux nombres, n et m, sont parfaitement définis, mais ne relèveraient pourtant plus de leur définition si on les explicitait !
En 1905, quand les fondements des mathématiques semblent vaciller sous les paradoxes de la logique ensembliste, Jules Richard expose un paradoxe dit du plus petit entier. Martin Gardner l'évoque sous son nom anglo-saxon, le paradoxe de Berry. En voici une autre version : le nombre quatre-vingt-dix-sept mille deux cent quatre-vingt-dix-sept est curieux, en ce sens qu'il peut être défini comme un « nombre non spécifiable en moins de dix mots ». Cependant, cette définition comporte elle-même strictement moins de dix mots et elle spécifie, par conséquent, un nombre qui ne devrait être spécifié que par une définition comportant dix mots ou plus…
Rendons à Épiménide…
On assimile les paradoxes ensemblistes à des paradoxes du langage, dont le prototype est celui d'Épiménide. « Je mens » signifie « je mens toujours », donc aussi « l'ensemble des phrases que j'émets sont toutes fausses ». Or, cette phrase est elle-même un élément de cet ensemble. Celui qui prononce cette phrase ment, et le paradoxe commence par la confusion d'un ensemble (celui des phrases) avec l'un de ses éléments (la phrase « Je mens »).
Selon Ludwig Wittgenstein, tout langage possède une structure sur laquelle, dans ce langage même, on ne peut rien dire, mais il existe un autre langage ayant pour objet la structure du premier langage. Carnap et Tarski précisent ces niveaux : au premier niveau, le langage traite des objets ; le langage de second niveau (ou métalangage) traite à son tour du langage, et ainsi de suite. Reprenons la phrase « Cette phrase est fausse » : le premier niveau est ce que dit simplement la phrase, et le second ce que dit la phrase sur elle-même. Mais la phrase ne peut être à la fois objet et sujet, de même qu'on ne peut être simultanément élément et ensemble.
Faire une victoire d'une défaite
Gödel a étudié les concepts de propositions décidables ou indécidables, de complétude ou d'incomplétude, de consistance ou d'inconsistance des théories, de leur réductibilité éventuelle l'une à l'autre, et de « métamathématique ». Russell et Whitehead ont élaboré la théorie des types logiques, laquelle aura ultérieurement une retombée inattendue en… psychiatrie, en inspirant les travaux de Gregory Bateson et de l'École de Palo Alto, fondée sur les injonctions paradoxales du type : « Désobéissez-moi ! » ou « Soyez naturel ! ». Autant de preuves du grand intérêt heuristique des paradoxes.
En utilisant les apories de la logique ensembliste comme tremplins vers de nouvelles connaissances, logiciens et mathématiciens ont donc fini par « faire une victoire d'une défaite ». André Weil a écrit : « Dieu existe parce que les mathématiques sont cohérentes, et le diable existe car nous ne pouvons pas le prouver. »