Noyaux itérés

Imaginez une machine linéaire que l'on applique plusieurs fois au même vecteur. Certains vecteurs sont annulés dès le premier passage ; d'autres ne deviennent nuls qu'après deux ou trois passages. À chaque répétition, on rassemble tous ceux qui ont fini par être annulés.

Ces groupes emboîtés sont les noyaux itérés. Dans un espace de dimension finie, ils finissent par ne plus grandir : répéter encore l'endomorphisme ne révèle alors aucun nouveau vecteur voué à s'annuler.

Soit E un espace vectoriel de dimension finie et u un endomorphisme de E. Pour tout entier naturel k, le k-ième noyau itéré est le noyau de la puissance u^k. Comme u⁰ est l'identité, son noyau est réduit au vecteur nul. Si un vecteur est annulé par u^k, il l'est aussi par u^k+1 ; on obtient donc une suite croissante.

Les dimensions de ces sous-espaces ne peuvent pas croître au-delà de la dimension de E. Il existe donc un rang r, au plus égal à cette dimension, tel que les noyaux de u^r et de u^r+1 coïncident ; tous les suivants coïncident aussi. Le noyau stabilisé est la composante où u agit de façon nilpotente. Pour un tel rang, la décomposition de Fitting sépare cette composante de l'image stabilisée :

Les deux sous-espaces sont stables par u. La restriction de u au premier est nilpotente, tandis que sa restriction au second est bijective.

Dans un espace vectoriel réel de dimension 4, prenons la base (e₁, e₂, e₃, e₄). L'endomorphisme u envoie e₁ sur 0, e₂ sur e₁, e₃ sur e₂ et e₄ sur 2e₄. Sa matrice est :

1. Au premier passage, les multiples de e₁ sont annulés : ker(u) = Vect(e₁).
2. Après deux passages, ker(u²) = Vect(e₁, e₂).
3. Après trois passages, le noyau devient Vect(e₁, e₂, e₃). Le vecteur e₄ n'y entre jamais, car u^k(e₄) = 2^ke₄.

4. Le quatrième noyau est identique au troisième : la suite se stabilise au rang 3. On obtient la somme directe de Vect(e₁, e₂, e₃), où u est nilpotent, et de Vect(e₄), où u multiplie par 2 et est bijectif.

Les dimensions 0, 1, 2, 3, puis 3 confirment la stabilisation.

Pour étudier un endomorphisme nilpotent, on calcule les noyaux successifs jusqu'à ce que leur dimension cesse d'augmenter. Le premier rang stable renseigne sur la longueur maximale des chaînes de vecteurs envoyés les uns sur les autres avant d'atteindre zéro.

Pour séparer les comportements d'un endomorphisme quelconque en dimension finie, on choisit un rang où noyau et image sont stabilisés. La décomposition de Fitting isole alors la partie nilpotente de la partie bijective ; une diagonalisation ne convient pas toujours, notamment lorsque des chaînes non triviales subsistent.

Dans un calcul matriciel, le critère pratique est l'égalité de deux dimensions consécutives. Dès que dim ker(u^k) = dim ker(u^k+1), les noyaux eux-mêmes sont égaux, car le premier est inclus dans le second.

Le noyau de u et le noyau stabilisé. Le premier contient les vecteurs annulés en une application ; le second contient ceux annulés après un nombre suffisant d'applications. Dans l'exemple, e₃ appartient au noyau stabilisé, mais pas à ker(u).

Vecteur propre et vecteur propre généralisé pour la valeur propre 0. Un vecteur propre non nul vérifie u(v) = 0 ; un vecteur propre généralisé non nul vérifie u^k(v) = 0 pour un entier k au moins égal à 1. S'il n'est pas propre, le plus petit entier k qui convient est supérieur à 1. Ainsi, e₂ est généralisé sans être propre dans l'exemple.

Stabilisation trop tôt annoncée. Constater que deux noyaux ont la même dimension suffit seulement parce qu'ils sont emboîtés. Comparer des dimensions non consécutives sans avoir établi l'inclusion masquerait le raisonnement.

Rang non minimal. La décomposition reste valable avec tout rang assez grand, mais ce rang n'est pas forcément le premier rang de stabilisation. Dans l'exemple, les rangs 3, 4 ou 5 conviennent, tandis que le rang 2 ne sépare pas encore toute la partie nilpotente.

Dimension infinie. L'argument de stabilisation repose sur la dimension finie. Dans un espace de dimension infinie, une suite strictement croissante de noyaux itérés peut continuer indéfiniment ; il faut alors vérifier la stabilisation au lieu de la supposer.

Endomorphisme nilpotent. Si une puissance de u est nulle sur tout l'espace, le noyau stabilisé est l'espace entier et la composante bijective est réduite au vecteur nul. Ce cas dégénéré n'invalide pas la somme directe.

La fiche endomorphisme nilpotent approfondit le comportement de la restriction au noyau stabilisé et le rôle de la puissance qui annule cette composante.