Cours et exercices corrigés de L3 : Théorie des Groupes II : Actions de groupes, théorèmes de Sylow et groupes symétriques

1. Actions de groupes

• Action à gauche de $G$ sur un ensemble $X$ : application $G \times X \to X$, $(g, x) \mapsto g \cdot x$, telle que $e \cdot x = x$ et $g \cdot (h \cdot x) = (gh) \cdot x$.
• Morphisme associé : se donner une action équivaut à se donner un morphisme de groupes $\rho : G \to \mathfrak{S}(X)$, $\rho(g)(x) = g \cdot x$.
• Vocabulaire : l'action est fidèle si $\text{Ker}\,\rho = \{e\}$, transitive s'il n'y a qu'une orbite, libre si tous les stabilisateurs sont triviaux.
• Exemples :

1. $G$ agit sur lui-même par translation à gauche $g \cdot x = gx$ (fidèle et transitive) : c'est le théorème de Cayley, tout groupe fini d'ordre $n$ se plonge dans $\mathfrak{S}_n$.
2. $G$ agit sur lui-même par conjugaison $g \cdot x = gxg^{-1}$.
3. $G$ agit sur $G/H$ par $g \cdot (xH) = (gx)H$ (transitive).
4. $\text{GL}_n(\mathbb{K})$ agit sur $\mathbb{K}^n$ ; le groupe des isométries d'un polygone agit sur ses sommets.

2. Orbites, stabilisateurs et relation orbite-stabilisateur

• Orbite de $x$ : $\mathcal{O}_x = \{g \cdot x \mid g \in G\}$. Les orbites sont les classes de la relation d'équivalence $x \sim y \iff \exists g, \; y = g \cdot x$ : elles partitionnent $X$.
• Stabilisateur : $G_x = \{g \in G \mid g \cdot x = x\}$, sous-groupe de $G$. Pour $y = g \cdot x$, $G_y = g G_x g^{-1}$.
• Relation orbite-stabilisateur : l'application $\Phi : G/G_x \to \mathcal{O}_x$, $g G_x \mapsto g \cdot x$ est bien définie et bijective. En effet, pour $g, h \in G$ :

$$g \cdot x = h \cdot x \iff (h^{-1}g) \cdot x = x \iff h^{-1}g \in G_x \iff g G_x = h G_x$$
(le sens $\Leftarrow$ donne la bonne définition, le sens $\Rightarrow$ l'injectivité ; la surjectivité est claire). Si $G$ est fini :
$$|\mathcal{O}_x| = [G : G_x] = \frac{|G|}{|G_x|}, \quad \text{en particulier } |\mathcal{O}_x| \text{ divise } |G|$$

3. Formule des classes et formule de Burnside

• Équation aux classes d'une action : si $X$ est fini et $x_1, \dots, x_r$ sont des représentants des orbites,

$$|X| = \sum_{i=1}^r [G : G_{x_i}]$$

• Cas de la conjugaison : les orbites sont les classes de conjugaison, les stabilisateurs les centralisateurs $C_G(x) = \{g \mid gx = xg\}$, et les orbites réduites à un point sont les éléments du centre $Z(G)$. Pour $G$ fini :

$$|G| = |Z(G)| + \sum_{i=1}^k [G : C_G(x_i)]$$
où $x_1, \dots, x_k$ représentent les classes de conjugaison non réduites à un élément (chaque indice $[G : C_G(x_i)]$ est alors $> 1$ et divise $|G|$).

• Formule de Burnside (dénombrement des orbites) : si $G$ et $X$ sont finis, avec $\text{Fix}(g) = \{x \in X \mid g \cdot x = x\}$,

$$|X / G| = \frac{1}{|G|} \sum_{g \in G} |\text{Fix}(g)|$$
(compter de deux façons les couples $(g, x)$ tels que $g \cdot x = x$, puis utiliser orbite-stabilisateur).

4. Démonstration : formule des classes et centre d'un $p$-groupe

Théorème. Soit $p$ un nombre premier et $G$ un groupe d'ordre $p^n$ avec $n \ge 1$. Alors $Z(G) \neq \{e\}$ ; plus précisément $p$ divise $|Z(G)|$.

Démonstration.
1. Formule des classes. Faisons agir $G$ sur lui-même par conjugaison. Les orbites partitionnent $G$ ; l'orbite de $x$ est réduite à $\{x\}$ si et seulement si $gxg^{-1} = x$ pour tout $g$, c'est-à-dire $x \in Z(G)$. En regroupant les orbites ponctuelles et en notant $x_1, \dots, x_k$ des représentants des autres orbites, on obtient, par la relation orbite-stabilisateur :
$$|G| = |Z(G)| + \sum_{i=1}^k [G : C_G(x_i)]$$
2. Divisibilité. Chaque $[G : C_G(x_i)]$ divise $|G| = p^n$ (Lagrange) et est $> 1$ (l'orbite de $x_i$ n'est pas ponctuelle). C'est donc une puissance $p^{a_i}$ avec $a_i \ge 1$ : $p$ divise chacun de ces indices.
3. Conclusion. $|Z(G)| = p^n - \sum_{i} [G : C_G(x_i)]$ est divisible par $p$. Comme $e \in Z(G)$, $|Z(G)| \ge 1$, donc $|Z(G)| \ge p$. $\square$

Corollaire. Tout groupe d'ordre $p^2$ est abélien. En effet $|Z(G)| \in \{p, p^2\}$ ; si $|Z(G)| = p$, alors $G/Z(G)$ est d'ordre $p$, donc cyclique engendré par une classe $gZ(G)$ ; tout élément s'écrit $g^k z$ avec $z \in Z(G)$, et deux tels éléments commutent : $G$ est abélien, d'où $Z(G) = G$, contradiction. Donc $G = Z(G)$.

5. Théorèmes de Sylow

Soit $G$ un groupe fini d'ordre $p^\alpha m$ avec $p$ premier, $\alpha \ge 1$ et $p \nmid m$.

• Définition : un $p$-Sylow de $G$ est un sous-groupe d'ordre $p^\alpha$.
• Théorème 1 (existence) : $G$ possède au moins un $p$-Sylow.
• Théorème 2 (conjugaison) : tout $p$-sous-groupe de $G$ est contenu dans un $p$-Sylow, et deux $p$-Sylow sont conjugués : $P_2 = g P_1 g^{-1}$ pour un $g \in G$.
• Théorème 3 (dénombrement) : le nombre $n_p$ de $p$-Sylow vérifie

$$n_p \equiv 1 \pmod p \quad \text{et} \quad n_p \mid m$$
De plus $n_p = [G : N_G(P)]$ où $N_G(P) = \{g \mid gPg^{-1} = P\}$ est le normalisateur.

• Corollaire : un $p$-Sylow $P$ est distingué dans $G$ si et seulement si $n_p = 1$.
• Théorème de Cauchy : si $p$ divise $|G|$, $G$ possède un élément d'ordre $p$ (prendre un élément $g \neq e$ d'un $p$-Sylow, d'ordre $p^k$, et considérer $g^{p^{k-1}}$).
• Simplicité : un groupe est simple s'il n'a pas d'autre sous-groupe distingué que $\{e\}$ et lui-même. Les théorèmes de Sylow permettent souvent de montrer qu'un groupe d'ordre donné n'est pas simple.