sous-groupe distingué

Imaginez que l'on range les six permutations de trois objets en deux paquets : les trois permutations paires d'un côté, les trois autres de l'autre. Multiplier tous les éléments d'un paquet par une même permutation, à gauche ou à droite, conduit au même paquet.

Le paquet contenant l'identité forme ici un sous-groupe distingué. Il reste cohérent quand on change de point de vue par conjugaison. Cette stabilité autorise à manipuler les paquets comme de nouveaux éléments d'un groupe plus petit, appelé groupe quotient.

Soit G un groupe, dont la loi est notée multiplicativement, et soit H un sous-groupe de G. Le sous-groupe H est distingué dans G, ou normal, lorsque la conjugaison par chaque élément de G conserve H. Autrement dit, pour tout élément x de G et tout élément h de H, le conjugué xhx⁻¹ appartient encore à H. On note alors H ◁ G.

Cette condition admet deux formulations équivalentes. Pour tout élément x de G, l'ensemble des conjugués de H est H lui-même, et la classe à gauche de x modulo H coïncide avec sa classe à droite : $xH{x}^{-1}=H⟺xH=HxxHx^\{-1\}=H\; \backslash quad\backslash Longleftrightarrow\backslash quad\; xH=Hx$. L'égalité doit valoir pour chaque x, pas seulement pour quelques éléments choisis.

La normalité est exactement la condition qui rend bien définie la multiplication des classes : (xH)(yH) = (xy)H. L'ensemble des classes forme alors le groupe quotient G/H. Sans normalité, les classes à gauche partitionnent toujours G, mais leur produit ne définit pas nécessairement un groupe.

Quatre éléments structurent la notion. Le groupe G fournit la loi, l'identité et les inverses. Le sous-groupe H est la partie dont on teste la stabilité. La conjugaison transforme un élément h de H en xhx⁻¹, où x appartient à G. Enfin, les classes latérales xH et Hx regroupent les produits obtenus à gauche et à droite.

La loi de G détermine donc à la fois les conjugaisons et les classes. Si chaque conjugaison renvoie H sur H, les classes à gauche et à droite coïncident. Elles suffisent alors à construire le quotient G/H et sa multiplication. Dans le groupe S₃, le sous-groupe H = {e, (123), (132)} rassemble les permutations paires ; l'autre classe rassemble les trois transpositions. La figure matérialise cette partition commune.

Dans le groupe symétrique S₃ des permutations de trois objets, considérons H = {e, (123), (132)}. Les données sont les six éléments de S₃, l'identité e, les deux cycles de longueur 3 dans H et les trois transpositions (12), (13), (23) hors de H.

1. Le sous-ensemble H contient e, il est fermé par composition et par passage à l'inverse : c'est un sous-groupe de S₃.
2. Prenons la transposition x = (12). La conjugaison renomme les symboles du cycle : (12)(123)(12)⁻¹ = (132), qui appartient à H.
3. De même, conjuguer (132) donne (123), tandis que e reste e. Ainsi, xHx⁻¹ = H pour x = (12).
4. Pour le second générateur y = (23), on calcule aussi (23)(123)(23)⁻¹ = (132) et (23)(132)(23)⁻¹ = (123), donc yHy⁻¹ = H. Or (12) et (23) engendrent S₃. La propriété se transmet aux produits : si aHa⁻¹ = H et bHb⁻¹ = H, alors (ab)H(ab)⁻¹ = a(bHb⁻¹)a⁻¹ = H. Elle vaut donc pour tout x de S₃.

On conclut que H ◁ S₃. Le quotient S₃/H possède exactement deux éléments : la classe H et la classe des transpositions. Un contrôle direct consiste à calculer (12)H et H(12) ; dans les deux cas, on obtient {(12), (13), (23)}.

Pour construire un groupe quotient G/H, on commence par tester la normalité de H. Le critère xH = Hx est souvent commode lorsque les classes se calculent facilement ; le critère par conjugaison convient mieux quand on connaît des générateurs de G.

Pour prouver rapidement qu'un sous-groupe est distingué, on peut chercher s'il est le noyau d'un homomorphisme : tout noyau est distingué. Si aucun homomorphisme naturel n'apparaît, le calcul des conjugués fournit une vérification directe.

Pour montrer qu'un sous-groupe ne l'est pas, un seul contre-exemple suffit. Il faut trouver x dans G et h dans H tels que xhx⁻¹ sorte de H, ou une classe pour laquelle xH et Hx diffèrent.

Sous-groupe et sous-groupe distingué. Un sous-groupe est fermé pour la loi et les inverses, mais cela ne garantit pas sa stabilité par conjugaison. Dans S₃, {e, (12)} est un sous-groupe ; la conjugaison de (12) par (123) donne une autre transposition, donc ce sous-groupe n'est pas distingué.

Classe latérale et classe de conjugaison. La classe xH regroupe les produits xh avec h dans H. La classe de conjugaison d'un élément h regroupe les éléments xhx⁻¹. Pour H distingué, chaque classe de conjugaison d'un élément de H reste dans H, mais ces deux sortes de classes ne deviennent pas identiques.

Un seul élément x ne suffit pas. L'égalité xHx⁻¹ = H doit être vérifiée pour tout x de G. On peut toutefois la tester sur un ensemble de générateurs, à condition d'expliquer pourquoi ces éléments engendrent bien tout G.

L'inclusion doit devenir une égalité. Montrer xHx⁻¹ ⊆ H pour chaque x suffit, car appliquer la même inclusion à x⁻¹ donne l'inclusion réciproque. Une inclusion constatée pour un x isolé ne permet pas cette conclusion globale.

Les cas extrêmes ne sont pas informatifs. Le sous-groupe réduit à l'identité et le groupe G tout entier sont toujours distingués. Leur normalité est correcte, mais elle ne révèle pas la structure intermédiaire de G ; il faut chercher des sous-groupes propres non triviaux pour obtenir un quotient plus instructif.

Un quotient d'ensembles n'est pas encore un groupe quotient. Les classes à gauche existent pour tout sous-groupe. Si H n'est pas distingué, il faut conserver cette partition comme ensemble de classes et ne pas lui attribuer la loi (xH)(yH) = (xy)H.

Permutation paire — Pour approfondir la famille de permutations qui constitue le sous-groupe H dans l'exemple de S₃.

Les débuts des groupes — Pour replacer les groupes et les permutations dans le développement de la théorie.