théorème de Baire

Prenons la droite réelle. On peut y retirer un point, puis un autre, et ainsi de suite en suivant une liste infinie dénombrable. À chaque étape, ce qui reste est encore présent dans tout intervalle, aussi petit soit-il.

Le théorème de Baire affirme qu'un espace complet ne peut pas être épuisé par une telle succession de retraits minces. Même après une infinité dénombrable de contraintes ouvertes et denses, il reste des points dans chaque zone ouverte. Dans l'exemple conducteur, retirer un à un tous les rationnels laisse les irrationnels, encore denses dans la droite.

Un espace topologique est appelé espace de Baire lorsque toute intersection dénombrable d'ouverts denses y est dense. Un ensemble est dense si toute partie ouverte non vide de l'espace le rencontre. Si X désigne l'espace et si U_n désigne, pour chaque entier n ≥ 1, un ouvert dense de X, la propriété s'écrit : ${\bigcap }_{n=1}^{\mathrm{\infty }}{U}_n\text{ est dense dans }X\backslash bigcap\_\{n=1\}^\{\backslash infty\}\; U\_n\; \backslash text\{\; est\; dense\; dans\; \}\; X$.

Le théorème de Baire garantit cette propriété lorsque X est muni d'une métrique complète : toute suite de Cauchy de X y possède une limite. Il s'applique donc à tout espace de Banach, puisque celui-ci est un espace vectoriel normé complet. Une autre version du résultat assure aussi que tout espace localement compact séparé est un espace de Baire, sans supposer qu'une métrique soit donnée.

En passant aux complémentaires, on obtient la formulation équivalente suivante : une réunion dénombrable de fermés d'intérieur vide a elle-même un intérieur vide. Pour un fermé, avoir un intérieur vide revient à être nulle part dense. Cette forme sert souvent dans les preuves par contradiction : si des fermés recouvrent un espace de Baire, au moins l'un d'eux possède un intérieur non vide.

Soit X un espace métrique complet. Si, pour chaque entier n ≥ 1, l'ensemble U_n est une partie ouverte et dense de X, alors leur intersection dénombrable est dense dans X : $\overline{{\bigcap }_{n=1}^{\mathrm{\infty }}{U}_n}=X\backslash overline\{\backslash bigcap\_\{n=1\}^\{\backslash infty\}\; U\_n\}=X$. En particulier, cette intersection rencontre tout ouvert non vide de X ; elle n'est donc pas vide lorsque X ne l'est pas.

Forme fermée équivalente : si chaque F_n est fermé et d'intérieur vide, alors la réunion de tous les F_n est d'intérieur vide.

Dans la version métrique, il faut vérifier trois points : l'espace X est muni d'une métrique ; cette métrique est complète ; la famille des ensembles considérés est dénombrable et chacun est à la fois ouvert et dense. La conclusion porte sur la densité de l'intersection, pas sur son ouverture. Dans la version par complémentaires, chaque ensemble doit être fermé et d'intérieur vide.

La version topologique s'applique aussi à un espace localement compact séparé. Elle constitue une autre hypothèse suffisante et ne demande pas de choisir une métrique complète.

Contre-cas : l'ensemble ℚ des rationnels, muni de la distance usuelle, n'est pas complet. Il est la réunion dénombrable de ses singletons, qui sont fermés et d'intérieur vide dans ℚ. On ne peut donc pas lui appliquer la version métrique du théorème ; il faut d'abord disposer d'un cadre complet pertinent ou employer un autre argument.

Considérons la droite réelle ℝ avec sa distance usuelle, qui est complète. Énumérons les rationnels sous la forme q₁, q₂, q₃, …, en choisissant par exemple q₁ = 0, q₂ = 1 et q₃ = −1. Pour chaque entier n ≥ 1, posons U_n = ℝ privé du point q_n.

1. Chaque U_n est ouvert : son complémentaire est le singleton fermé contenant q_n.
2. Chaque U_n est dense : tout intervalle ouvert contient d'autres réels que q_n.
3. Le théorème de Baire s'applique à la famille dénombrable des U_n.
4. Leur intersection contient exactement les réels qui ne sont égaux à aucun q_n, donc les irrationnels.

Le schéma matérialise les trois premiers retraits. Chaque ligne reste dense malgré son point manquant ; poursuivre le procédé pour toute l'énumération ne détruit pas la densité de l'intersection.

Conclusion : l'ensemble ℝ ∖ ℚ des irrationnels est dense dans ℝ. Le contrôle est refaisable sur n'importe quel intervalle ouvert : puisque l'intersection est dense, cet intervalle contient au moins un irrationnel. L'exemple montre aussi que l'intersection dénombrable d'ouverts peut être dense sans être ouverte.

Dans une preuve d'existence, on décrit parfois les objets indésirables comme une réunion dénombrable de fermés d'intérieur vide. Si l'espace ambiant est complet, Baire montre qu'ils ne remplissent aucune zone ouverte. Pour une famille finie, un raisonnement direct suffit souvent ; le théorème devient décisif avec une infinité dénombrable de contraintes.

En analyse fonctionnelle, on vérifie d'abord que l'espace étudié est un espace de Banach. Le théorème de Baire fournit alors l'étape topologique qui fait apparaître un ouvert non vide parmi des fermés couvrants. Ce mécanisme est à la base du théorème de Banach-Steinhaus.

Le même réflexe intervient dans les démonstrations du théorème du graphe fermé entre espaces de Banach. Si la complétude manque, le signal est net : l'argument de Baire n'est plus disponible tel quel, et il faut renforcer le cadre ou choisir un résultat adapté à l'espace considéré.

Complétude et compacité. Une suite de Cauchy qui converge dans l'espace teste la complétude ; l'existence d'un sous-recouvrement fini teste la compacité. La droite ℝ est complète mais non compacte, et le théorème de Baire s'y applique pourtant.

Dense et ouvert dense. Un ensemble dense rencontre tout ouvert non vide, mais il n'est pas nécessairement ouvert. Les irrationnels sont denses dans ℝ sans être ouverts, tandis que chaque ensemble U_n de l'exemple est à la fois ouvert et dense.

Intérieur vide et nulle part dense. Un ensemble est nulle part dense lorsque l'intérieur de son adhérence est vide. Pour un fermé, les deux critères coïncident. En revanche, ℚ a un intérieur vide dans ℝ mais n'est pas nulle part dense, car son adhérence est ℝ.

Espace non complet. Le symptôme est l'existence possible d'un recouvrement dénombrable par des fermés d'intérieur vide, comme les singletons dans ℚ. Il faut vérifier la complétude de la métrique utilisée avant d'invoquer la version métrique.

Famille non dénombrable. Le théorème ne contrôle pas une intersection indexée par une famille quelconque. Dans ℝ, chaque complémentaire ℝ ∖ {x} est ouvert dense, mais l'intersection de ces ensembles lorsque x parcourt tous les réels est vide. Il faut donc contrôler l'ensemble des indices.

Conclusion trop forte. Baire donne une intersection dense, non une intersection ouverte. Dans l'exemple, l'intersection est l'ensemble des irrationnels : elle est dense, mais aucun intervalle ouvert n'est entièrement formé d'irrationnels. Il faut conserver exactement la conclusion de densité.

Formulation fermée mal étendue. L'hypothèse « intérieur vide » suffit pour les ensembles fermés de l'énoncé. Pour des ensembles quelconques, elle ne remplace pas la condition « nulle part dense ». Il faut passer par les adhérences ou revenir à la formulation par ouverts denses.

L'espace de Banach précise le cadre normé complet dans lequel le théorème de Baire alimente de nombreux résultats d'analyse fonctionnelle.

Le théorème de Banach-Steinhaus montre une application majeure du passage d'un recouvrement fermé à l'existence d'un ouvert non vide.

Le théorème du graphe fermé prolonge ce parcours vers un autre résultat fondamental dont la preuve repose sur la complétude.