Indice d'un endomorphisme

Imaginez une machine qui transforme un triplet de nombres, puis recommence avec son résultat. À chaque passage, de nouveaux triplets peuvent finir sur zéro. On observe donc une suite de noyaux de plus en plus grands.

Dans le sens algébrique usuel, l'indice indique le premier nombre d'applications après lequel ce groupe ne grandit plus. En analyse fonctionnelle, le même mot désigne un autre bilan : les directions perdues par le noyau moins celles qui manquent dans l'image.

Deux définitions portent le nom d'indice d'un endomorphisme. En algèbre linéaire, soit u un endomorphisme d'un espace vectoriel E. Pour chaque entier naturel r, on considère le noyau de la puissance u^r. Ces noyaux sont emboîtés. L'indice est le plus petit entier r pour lequel le noyau de u^r est égal à celui de u^r+1 : $\mathrm{ind}(u)=\min \{r\in \mathbb{N}\mid \ker (u^r)=\ker (u^{r+1})\}\backslash operatorname\{ind\}(u)=\backslash min\backslash \{r\backslash in\backslash mathbb\{N\}\backslash mid\backslash ker(u^r)=\backslash ker(u^\{r+1\})\backslash \}$. Si cet ensemble est vide, on convient que l'indice vaut l'infini. En dimension finie, cet entier existe et ne dépasse pas la dimension de E. Avec la convention où 0 appartient aux entiers naturels, un endomorphisme inversible a pour indice 0.

En analyse fonctionnelle, l'indice de Fredholm concerne généralement un opérateur linéaire continu T entre espaces de Banach. Son noyau doit être de dimension finie, son image fermée et son conoyau — l'espace quotient de l'arrivée par l'image — de dimension finie. On pose alors : ${\mathrm{ind}}_F(T)=\dim \ker (T)-\dim \mathrm{coker}(T)\backslash operatorname\{ind\}\_\{F\}(T)=\backslash dim\backslash ker(T)-\backslash dim\backslash operatorname\{coker\}(T)$. Cet entier reste inchangé sous une perturbation compacte. Cette robustesse intervient dans la théorie de l'indice, notamment dans le théorème d'Atiyah–Singer.

Dans l'espace ℝ³, considérons l'endomorphisme u qui transforme le triplet (x, y, z) en (y, z, 0). Le schéma synthétise la croissance des noyaux successifs jusqu'à leur stabilisation.

Données.
Espace : ℝ³.
Transformation : (x, y, z) devient (y, z, 0).
Convention : u⁰ est l'identité et 0 appartient aux entiers naturels.

Étape 1. Le noyau de u rassemble les triplets envoyés sur zéro. Il faut y = 0 et z = 0. On obtient donc les triplets (x, 0, 0), qui forment une droite de dimension 1.

Étape 2. Deux applications donnent u²(x, y, z) = (z, 0, 0). Son noyau est formé des triplets (x, y, 0), un plan de dimension 2.

Étape 3. Trois applications donnent u³(x, y, z) = (0, 0, 0). Le noyau est alors ℝ³, de dimension 3. Une quatrième application ne change rien.

Résultat. La première égalité entre deux noyaux consécutifs est $\ker (u^3)=\ker (u^4)={\mathbb{R}}^3\backslash ker(u^3)=\backslash ker(u^4)=\backslash mathbb\{R\}^3$. L'indice algébrique vaut donc 3. Contrôle : les dimensions successives sont 0, 1, 2, 3 puis 3 ; la première répétition apparaît bien au rang 3.

Pour étudier les vecteurs annulés après plusieurs applications d'un endomorphisme, on calcule les noyaux successifs jusqu'à obtenir deux noyaux consécutifs égaux. Si l'espace est de dimension finie, cette égalité arrête le calcul et donne l'indice algébrique.

Pour un endomorphisme nilpotent, on peut plutôt chercher la plus petite puissance qui annule tout l'espace. Ce rang coïncide avec l'indice algébrique, car le noyau devient alors l'espace entier.

Pour un opérateur entre espaces de Banach, on ne suit pas les noyaux itérés si la question porte sur la solvabilité modulo un nombre fini d'obstructions. On vérifie alors les conditions de Fredholm, puis on soustrait la dimension du conoyau à celle du noyau.

Indice algébrique et indice de Fredholm. Le premier repère la stabilisation de la suite des noyaux de u^r ; le second compare directement noyau et conoyau d'un opérateur. Dans l'exemple sur ℝ³, l'indice algébrique vaut 3, tandis que l'indice de Fredholm vaut 0, comme pour tout endomorphisme d'un espace de dimension finie.

Indice algébrique et indice de nilpotence. Ils coïncident lorsque l'endomorphisme est nilpotent. Pour l'identité, l'indice algébrique vaut 0 avec la convention adoptée, mais aucun entier strictement positif ne rend une puissance de l'identité nulle : l'identité n'a donc pas d'indice de nilpotence.

Stabilisation absente. En dimension infinie, les noyaux itérés peuvent croître à chaque rang. Aucun entier ne réalise alors l'égalité attendue ; selon la convention annoncée, on dit que l'indice algébrique est infini plutôt que de forcer un rang.

Différence indéterminée. La formule de Fredholm ne définit pas un entier lorsque le noyau et le conoyau sont tous deux de dimension infinie : le symbole « infini moins infini » n'est pas un nombre. Il faut d'abord vérifier la finitude des deux dimensions et la fermeture de l'image.

Cas charnière en dimension finie. Pour un endomorphisme d'un espace de dimension finie, le théorème du rang donne autant de dimensions au noyau que de codimensions à l'image. L'indice de Fredholm vaut donc toujours 0, même si l'indice algébrique est supérieur à 0.

Perturbation compacte. La stabilité concerne l'indice de Fredholm d'un opérateur de Fredholm sous l'ajout d'un opérateur compact. Elle ne signifie ni que les noyaux restent identiques, ni que l'indice obtenu par stabilisation des noyaux itérés est conservé.

L'article endomorphisme nilpotent approfondit le cas où une puissance annule tout l'espace et relie directement stabilisation des noyaux et nilpotence.

La décomposition de Dunford sépare, sous ses hypothèses, les comportements diagonalisable et nilpotent d'un endomorphisme et éclaire le rôle des noyaux itérés.