monstre mathématique

Prenez un segment, retirez son tiers central, puis recommencez sur chacun des morceaux restants. L'ensemble de Cantor ainsi approché conserve toujours des points, alors que sa longueur totale restante devient aussi petite que l'on veut. Ce comportement heurte l'image ordinaire d'une ligne faite de morceaux mesurables.

Un « monstre mathématique » est ce genre d'objet déroutant. Il respecte des définitions précises, mais déjoue une attente formée à partir des exemples familiers. Le mot ne signale donc ni une erreur ni une contradiction : il invite à remplacer l'intuition seule par une vérification rigoureuse.

L'expression « monstre mathématique » n'est pas le nom d'une classe définie par une liste universelle de propriétés. Elle qualifie un objet ou une fonction construit selon des règles valides, mais dont le comportement contredit une intuition courante. Le décalage dépend du contexte : l'attente trompée peut concerner la régularité d'une courbe, la taille d'un ensemble ou la façon dont une ligne occupe le plan.

Les exemples classiques cités dans la définition de référence illustrent plusieurs ruptures. Une fonction peut être continue en tout point sans posséder de dérivée en aucun point. L'escalier du diable et l'ensemble triadique de Cantor montrent que variation, longueur et présence de points ne suivent pas toujours les images ordinaires. Une courbe de Peano est, quant à elle, une courbe continue dont l'image remplit un carré.

À partir du XIX^e siècle, l'étude sérieuse de tels objets accompagne le renforcement des fondements des mathématiques. Leur rôle est méthodologique : ils testent la portée exacte des définitions, révèlent les hypothèses cachées d'un raisonnement et fournissent des contre-exemples aux généralisations trop rapides.

Construisons les premières étapes de l'ensemble triadique de Cantor à partir du segment [0 ; 1]. Les données sont un segment initial de longueur 1 et une règle unique : à chaque étape, retirer le tiers central ouvert de chaque segment conservé.

Étape 1. Le retrait de ]1/3 ; 2/3[ laisse deux segments. Chacun mesure 1/3, donc la longueur totale conservée vaut 2/3.

Étape 2. On retire le tiers central de chacun des deux segments. Il reste quatre segments de longueur 1/9, pour une longueur totale de 4/9. La figure détaille les quatre premières étapes de cette même construction.

Étape générale. Après le numéro d'étape noté n, il reste 2ⁿ segments de longueur 1/3ⁿ. La longueur totale vaut alors ${\left(\frac{2}{3}\right)}^n\backslash left(\backslash frac\{2\}\{3\}\backslash right)^n$. Elle tend vers 0 quand n augmente, sans que tous les points disparaissent. Pour contrôler, avec n = 2, la formule redonne (2/3)² = 4/9.

Face à une affirmation qui paraît « évidente », un monstre sert de test. Au lieu de prolonger une propriété observée sur des courbes lisses, on cherche un objet qui respecte les hypothèses annoncées tout en faisant échouer la conclusion. Si un tel objet existe, il faut renforcer les hypothèses.

Pour étudier une fonction, le bon geste consiste à vérifier séparément continuité et dérivabilité. Une courbe sans rupture visible ne suffit pas à garantir l'existence d'une tangente : les fonctions continues nulle part dérivables imposent précisément cette séparation.

Dans l'ensemble de Cantor, les approximations finies permettent de contrôler nombres de segments, longueurs et retraits. Lorsque l'intuition visuelle hésite, la règle de construction et les quantités calculées sont plus fiables que l'apparence du dessin.

Un monstre mathématique et une contradiction logique. Le monstre satisfait les définitions retenues ; c'est une attente intuitive qui échoue. Si les mêmes hypothèses permettent de démontrer une proposition et sa négation, il s'agit au contraire d'une contradiction dans le cadre considéré.

Un monstre et une simple exception interdite par les hypothèses. Une fonction continue nulle part dérivable réfute l'idée que la continuité suffirait à assurer une dérivée. Une fonction discontinue ne tranche pas cette affirmation, puisqu'elle ne remplit pas l'hypothèse de continuité.

Le mot « monstre » n'est pas un critère formel. Un même objet peut sembler pathologique dans un cours élémentaire et devenir un exemple structurant dans une théorie plus avancée. Il faut donc toujours nommer la propriété exacte qui surprend.

Une étape finie n'est pas l'ensemble de Cantor. Après n étapes, il subsiste une réunion de 2ⁿ segments. L'ensemble de Cantor est obtenu en poursuivant la règle sans fin ; attribuer au résultat final l'épaisseur d'une approximation finie fausse la lecture.

Continuité ne signifie pas aspect lisse. Une fonction continue nulle part dérivable n'a pas de rupture, mais elle ne possède de dérivée en aucun point. Pour éviter le piège, il faut contrôler la définition de chaque propriété au lieu de conclure à partir du tracé.

« Remplir un carré » concerne l'image de la courbe. La courbe de Peano passe par tous les points du carré, mais cette propriété ne doit pas être déduite d'une simple approximation dessinée. Elle appartient à la construction limite.

L'ensemble de Cantor prolonge l'exemple pas à pas et permet d'étudier précisément sa construction limite.

La courbe de Peano présente un autre défi à l'intuition : l'image continue d'une courbe peut remplir un carré.

L'Escalier du diable ouvre sur une fonction dont la variation se concentre d'une manière très éloignée d'un escalier ordinaire.

La fonction continue aide à isoler ce que la continuité garantit réellement avant d'aborder l'absence de dérivée.