Irréductible (endomorphisme)

Imaginez une flèche du plan que l'on tourne d'un quart de tour. La droite qui portait cette flèche devient une autre droite. Aucune droite passant par l'origine ne reste donc en place. Dans ce plan réel, la rotation est dite irréductible : on ne peut pas isoler une droite non triviale sur laquelle elle agirait toute seule.

La même idée de bloc impossible à décomposer se retrouve ailleurs. Selon l'objet étudié, on cherche une factorisation, une sous-représentation ou une décomposition en fermés.

Soit un espace vectoriel non nul sur un corps et soit u un endomorphisme de cet espace, c'est-à-dire une application linéaire de l'espace dans lui-même. L'endomorphisme u est irréductible lorsque ses seuls sous-espaces stables sont le sous-espace nul et l'espace entier. Un sous-espace est stable si l'image de chacun de ses vecteurs par u lui appartient encore. Le corps de base fait partie des données : une même formule peut être irréductible sur les réels et ne plus l'être sur les complexes.

Le mot garde une idée commune dans d'autres cadres, mais chaque définition a ses propres objets. Un polynôme non constant sur un corps est irréductible s'il n'est pas le produit de deux polynômes de degrés strictement positifs. Dans un anneau intègre, un élément irréductible est non nul, non inversible, et toute écriture comme produit impose qu'un facteur soit inversible. Une représentation de groupe est irréductible lorsque l'espace de représentation n'a aucun sous-espace stable non nul et propre sous l'action de tous les éléments du groupe. Enfin, un espace topologique non vide est irréductible lorsqu'il n'est pas la réunion de deux fermés propres.

En dimension finie non nulle, l'irréductibilité d'un endomorphisme revient à dire que son polynôme caractéristique est irréductible sur le corps de base. Le polynôme minimal est alors égal au polynôme caractéristique. Cette caractérisation dépend donc, elle aussi, du corps choisi.

Dans le plan vectoriel réel, considérons l'endomorphisme J qui effectue une rotation d'un quart de tour. Les données sont la base usuelle du plan, le vecteur de coordonnées (x, y) et la règle qui l'envoie sur le vecteur de coordonnées (−y, x). Sa matrice dans cette base est :

1. Supposons qu'une droite réelle soit stable et choisissons sur elle un vecteur non nul v de coordonnées (x, y).
2. Comme la droite est stable, le vecteur J(v) doit être colinéaire à v.
3. Le déterminant des deux vecteurs vaut $\det (v,Jv)=x^2+y^2\backslash det(v,Jv)=x^2+y^2$.
4. Sur les réels, cette somme ne vaut zéro que si x et y sont nuls, contrairement au choix de v.
5. Aucune droite réelle n'est stable. Les seuls sous-espaces du plan étant le sous-espace nul, les droites et le plan, J est irréductible.

La figure matérialise le contrôle : un vecteur non nul et son image forment un angle droit, donc ne peuvent porter la même droite réelle.

Pour étudier un endomorphisme en dimension finie, on cherche d'abord un sous-espace stable non nul et propre. En dimension deux, une droite stable suffit à établir la réductibilité ; si aucune n'existe, l'endomorphisme est irréductible.

En dimension finie non nulle, le polynôme caractéristique fournit un autre test. S'il est irréductible sur le corps de base, l'endomorphisme l'est aussi. S'il se factorise, l'endomorphisme est réductible ; la factorisation et les noyaux de polynômes en l'endomorphisme aident alors à rechercher un sous-espace stable.

Avant de conclure, on précise toujours le corps de base et la structure étudiée. Pour la rotation d'un quart de tour, le verdict est irréductible sur les réels, mais il change après passage aux complexes.

Irréductible et indécomposable. Un endomorphisme irréductible n'admet aucun sous-espace stable non trivial. Un endomorphisme indécomposable interdit seulement une écriture de l'espace comme somme directe de deux sous-espaces stables non nuls. Un bloc de Jordan de taille deux est indécomposable, mais sa droite propre est stable : il n'est donc pas irréductible.

Élément irréductible et élément premier. Dans un anneau intègre, un élément premier divise l'un des facteurs dès qu'il divise un produit. Un élément irréductible ne garantit pas toujours cette propriété hors des anneaux où les deux notions coïncident. Le test porte donc sur la divisibilité, pas seulement sur l'impossibilité d'une factorisation en deux non-inversibles.

Fraction irréductible et endomorphisme irréductible. Une fraction est dite irréductible lorsque son numérateur et son dénominateur n'ont aucun diviseur commun non inversible. Pour un endomorphisme, le test concerne les sous-espaces stables ; réduire les coefficients d'une matrice ne répond pas à cette question.

Le corps de base change le verdict. La rotation réelle d'un quart de tour n'a aucune droite réelle stable. Sur les complexes, son polynôme caractéristique se factorise en $X^2+1=(X-i)(X+i)X^2+1=(X-i)(X+i)$ et des droites propres apparaissent. Il faut donc annoncer le corps avant de parler d'irréductibilité.

La dimension un constitue un cas charnière. Sur un espace vectoriel de dimension un, il n'existe aucun sous-espace non nul et propre. Tout endomorphisme y est donc irréductible avec cette définition, même l'endomorphisme nul. Ce constat est structurel, pas le signe d'une action particulièrement riche.

Un vecteur propre suffit à réfuter l'irréductibilité, mais son absence ne suffit pas toujours à la prouver. En dimension supérieure à deux, un sous-espace stable propre peut avoir dimension deux ou davantage sans contenir de droite propre sur le corps considéré. Il faut examiner tous les sous-espaces stables, ou utiliser un critère équivalent valable dans le cadre choisi.

Le même mot ne transporte pas le même test. Factoriser un polynôme, analyser la divisibilité dans un anneau, chercher un sous-espace stable ou décomposer un espace en fermés sont des opérations distinctes. Il faut repartir de la définition adaptée au type d'objet.

espace vectoriel. Cette notion précise le cadre dans lequel vivent les sous-espaces stables et éclaire le rôle du corps de base.

Applications linéaires : le « noyau dur » de l'algèbre… linéaire. Cet article replace endomorphismes, noyaux et sous-espaces stables dans les outils fondamentaux de l'algèbre linéaire.