Stabilisateur

Imaginez un triangle dont les sommets portent les numéros 1, 2 et 3. Parmi toutes les permutations des sommets, certaines maintiennent le sommet 1 à sa place : ne rien déplacer, ou échanger seulement 2 et 3. Ces transformations forment le stabilisateur du sommet 1.

Le stabilisateur rassemble donc les transformations autorisées qui préservent l'objet choisi, même si elles déplacent le reste. Plus il est grand, plus cet objet possède de symétries au sein de l'action considérée.

Soit un groupe G agissant à gauche sur un ensemble E, et soit x un élément de E. Le stabilisateur de x dans G est l'ensemble des éléments du groupe qui fixent x : ${\mathrm{Stab}}_G(x)=\{g\in G\mid g\cdot x=x\}\backslash operatorname\{Stab\}\_G(x)=\backslash \{g\backslash in\; G\backslash mid\; g\backslash cdot\; x=x\backslash \}$. On le note aussi G_x. Cet ensemble contient l'élément neutre, est stable par produit et par passage à l'inverse : c'est donc un sous-groupe de G.

L'orbite de x est l'ensemble des positions g·x obtenues lorsque g parcourt G. Regroupons les transformations qui conduisent x à une même position : chacun de ces regroupements est une classe à gauche modulo le stabilisateur. Deux éléments du groupe donnent donc la même position exactement lorsqu'ils appartiennent à une même classe, et l'orbite est en bijection avec ces classes.

Pour un groupe fini, le théorème orbite-stabilisateur donne : $\mathrm{\mid }G\mathrm{\mid }=\mathrm{\mid }{\mathrm{Orb}}_G(x)\mathrm{\mid }\mathrm{\mid }{\mathrm{Stab}}_G(x)\mathrm{\mid }|G|=|\backslash operatorname\{Orb\}\_G(x)|\backslash ,|\backslash operatorname\{Stab\}\_G(x)|$. Autrement dit, le nombre total de transformations est le nombre de positions accessibles multiplié par le nombre de transformations qui conservent x.

Le groupe S₃ des six permutations agit sur les sommets numérotés 1, 2 et 3 d'un triangle. On choisit x = 1. Les données sont donc six transformations, trois positions possibles et le sommet 1 à maintenir fixe.

1. Testons l'image de 1. L'identité le fixe, et la permutation qui échange 2 et 3 le fixe aussi. Les quatre autres permutations envoient 1 sur 2 ou sur 3.

2. Le stabilisateur est donc ${\mathrm{Stab}}_{S_3}(1)=\{\mathrm{i}\mathrm{d},(23)\}\backslash operatorname\{Stab\}\_\{S\_3\}(1)=\backslash \{\backslash mathrm\{id\},(2\backslash \; 3)\backslash \}$. Il contient exactement 2 éléments.

3. L'orbite de 1 est {1, 2, 3}, car une permutation peut envoyer 1 sur chacun des trois sommets. Elle contient 3 éléments.

4. Le contrôle donne 3 × 2 = 6, soit le nombre d'éléments de S₃. Le dessin matérialise simultanément les trois positions accessibles et les deux transformations qui préservent le sommet 1.

Pour étudier les symétries d'un objet marqué, on choisit la marque comme élément x et on teste quelles transformations la conservent. Si l'on veut au contraire toutes ses positions possibles, on calcule son orbite.

Dans un groupe fini, connaître l'orbite suffit à obtenir la taille du stabilisateur par division de l'ordre du groupe. On préfère l'énumération directe lorsque les transformations qui fixent x sont plus faciles à reconnaître que les positions accessibles.

Pour une action par conjugaison, le stabilisateur d'un élément regroupe ceux qui commutent avec lui. Ce point de vue relie les stabilisateurs aux classes de conjugaison et prépare l'équation aux classes.

Stabilisateur et orbite. Le stabilisateur est un sous-groupe de transformations ; l'orbite est un ensemble de positions dans E. Pour l'action de S₃ sur {1, 2, 3}, le premier contient id et (2 3), tandis que la seconde vaut {1, 2, 3}.

Stabilisateur et ensemble des points fixes. Le stabilisateur de x cherche les transformations qui fixent un point donné. L'ensemble des points fixes d'une transformation g cherche, à l'inverse, tous les points conservés par ce g donné.

Stabilisateur et noyau de l'action. Un élément du stabilisateur doit fixer x seulement ; un élément du noyau doit fixer chaque point de E. Dans l'exemple de S₃, (2 3) stabilise 1 mais n'appartient pas au noyau.

Groupe infini. La bijection entre l'orbite et les classes à gauche reste valable, mais la formule numérique finie ne s'emploie plus telle quelle. On écrit plutôt que la taille de l'orbite est l'indice du stabilisateur dans G.

Stabilisateur non normal. Un stabilisateur est toujours un sous-groupe, mais pas nécessairement un sous-groupe normal. Les classes à gauche décrivent alors bien l'orbite, sans former automatiquement un groupe quotient.

Cas extrêmes. Si toutes les transformations fixent x, son orbite contient un seul élément et son stabilisateur est G. Si seule l'identité fixe x, le stabilisateur est trivial et l'orbite a autant d'éléments que G lorsque celui-ci est fini.

Côté de l'action. La description par classes à gauche correspond ici à une action à gauche. Pour une action à droite, il faut adapter le côté des classes au lieu de recopier mécaniquement la même convention.

La fiche Action de groupe précise le cadre qui fait agir les transformations sur un ensemble et permet de définir orbites et stabilisateurs.

La formule de Burnside prolonge ce comptage en utilisant les points fixes de chaque transformation pour dénombrer les orbites.