Action de groupe

Prenons un carré dont les sommets sont nommés A, B, C et D dans le sens horaire. Le faire tourner d’un quart de tour envoie A sur B, B sur C, C sur D et D sur A. Chaque rotation déplace les sommets sans en perdre ni en créer.

Une action de groupe organise ces transformations compatibles. Ne rien faire joue le rôle d’identité, et enchaîner deux rotations revient à appliquer la rotation obtenue en les composant. L’orbite d’un sommet rassemble toutes les positions qu’il peut atteindre.

Soit un groupe G, d’élément neutre e, et un ensemble X. Une action à gauche de G sur X associe à chaque élément g du groupe et à chaque point x de l’ensemble un point noté $g\cdot xg\backslash cdot\; x$. Elle respecte deux conditions : l’élément neutre ne déplace aucun point, et agir successivement par deux éléments revient à agir par leur produit.

Ces conditions s’écrivent, pour tous les éléments g et h de G et tout point x de X : De façon équivalente, chaque g détermine une bijection de X vers X, et l’association de g à cette bijection est compatible avec la loi du groupe.

L’orbite d’un point x est l’ensemble des points $g\cdot xg\backslash cdot\; x$ obtenus lorsque g parcourt G ; les orbites forment une partition de X. Le stabilisateur de x rassemble les éléments qui laissent x fixe. Plus généralement, les invariants d’un sous-groupe sont les points laissés fixes par chacun de ses éléments.

Une action réunit quatre données liées. Le groupe G fournit les transformations et leur règle de composition. L’ensemble X fournit les objets transformés. Pour chaque élément g de G, une bijection de X décrit le déplacement correspondant. Enfin, les deux règles de compatibilité relient l’identité et le produit du groupe à l’identité et à la composition des bijections.

Le groupe seul ne détermine donc pas l’action : il faut préciser l’ensemble et la manière dont chaque élément agit. Ces données suffisent à construire les orbites, à rechercher les points fixes et à calculer le stabilisateur de chaque point. Le dessin choisi pour représenter X n’appartient pas à la définition.

Considérons les sommets X = {A, B, C, D} d’un carré, nommés dans le sens horaire. Le groupe G = {e, r, r², r³} contient l’identité e et la rotation r d’un quart de tour dans ce même sens. Quatre quarts de tour ramènent le carré à sa position initiale.

1. Appliquons successivement e, r, r² et r³ au sommet A : nous obtenons A, B, C et D.
2. L’orbite de A est donc {A, B, C, D}. Le cycle A → B → C → D → A montre les quatre images successives.
3. Parmi les quatre rotations, seule e fixe A. Le stabilisateur de A est donc {e}.
4. Deux quarts de tour successifs envoient A sur C, comme la rotation r² : la règle de composition est vérifiée sur ce sommet.

Le même calcul à partir de B, C ou D donne encore les quatre sommets. Il n’existe donc qu’une orbite pour cette action, et les quatre sommets ont le même stabilisateur {e}.

Pour étudier les symétries d’un objet, on choisit les transformations qui conservent l’objet et on observe leur action sur des points ou des configurations. Si l’on veut seulement composer les transformations sans suivre leurs effets, la structure de groupe suffit ; l’action devient utile dès que l’objet transformé compte.

Pour classer des positions équivalentes, on calcule leurs orbites. Deux positions appartiennent à la même orbite lorsqu’une transformation du groupe envoie l’une sur l’autre ; sinon, elles restent dans deux classes distinctes.

Pour repérer ce qui ne change pas, on fixe un point et on cherche son stabilisateur, ou l’on fixe un sous-groupe et on cherche tous ses points invariants. Le choix dépend de la question : transformations qui préservent un point, ou points préservés par plusieurs transformations.

Action et loi du groupe. La loi combine deux éléments de G et produit un nouvel élément de G. L’action combine un élément de G avec un point de X et produit un point de X. Dans l’exemple du carré, r avec r donne r², tandis que r appliquée à A donne B.

Orbite et stabilisateur. Pour l’orbite, le point de départ est fixé et la transformation varie ; pour le stabilisateur, le point reste fixé et les éléments qui le conservent sont recensés. Pour A, l’orbite vaut {A, B, C, D}, alors que le stabilisateur vaut {e}.

Une famille de transformations ne suffit pas. Si elle ne contient pas l’identité ou si la composition de deux transformations ne correspond pas au produit dans G, les axiomes d’une action échouent. Il faut vérifier les deux compatibilités avant de parler d’action de groupe.

Une action peut ne rien déplacer. Dans l’action triviale, chaque élément de G fixe chaque point de X. Les orbites sont alors des singletons et tous les points sont invariants ; la taille du groupe ne garantit donc pas de grands déplacements.

Action à gauche ou à droite. La règle écrite ici est celle d’une action à gauche. Pour une action à droite, l’ordre de composition se lit selon l’autre convention. Il faut annoncer le côté choisi avant de manipuler des produits.

Point fixe et orbite ne se lisent pas globalement de la même façon. Un point fixe sous un sous-groupe doit être conservé par chacun de ses éléments. Observer qu’une seule transformation fixe le point ne suffit pas : il faut tester tout le sous-groupe concerné.

Le stabilisateur prolonge l’étude en isolant les transformations qui conservent un point donné. Cette notion complète le calcul des orbites.

L’article Les débuts des groupes replace la théorie des groupes dans son contexte historique et éclaire l’origine de l’étude des symétries.