Cours et exercices corrigés de L2 : Réduction des endomorphismes II : Trigonalisation et Cayley-Hamilton

1. Polynômes d'endomorphismes et polynômes annulateurs

Soit $E$ de dimension finie $n$ et $u \in \mathcal{L}(E)$. Pour $P = \sum a_k X^k$, on pose $P(u) = \sum a_k u^k$ (avec $u^0 = \text{Id}_E$).

• $P \mapsto P(u)$ est un morphisme d'algèbres : $(PQ)(u) = P(u) \circ Q(u) = Q(u) \circ P(u)$.
• $\text{Ker}\,P(u)$ et $\text{Im}\,P(u)$ sont stables par $u$.
• Si $u(x) = \lambda x$, alors $P(u)(x) = P(\lambda) x$. Par conséquent, si $P(u) = 0$, toute valeur propre de $u$ est racine de $P$.
• $P$ est annulateur de $u$ si $P(u) = 0$. Il en existe toujours de non nuls : la famille $(\text{Id}_E, u, \dots, u^{n^2})$ de $\mathcal{L}(E)$, de dimension $n^2$, est liée.

2. Polynôme minimal

• Les polynômes annulateurs de $u$ forment un idéal non nul de $\mathbb{K}[X]$ ; son unique générateur unitaire est le polynôme minimal $\pi_u$. Ainsi $P(u) = 0 \iff \pi_u \mid P$.
• Les racines de $\pi_u$ dans $\mathbb{K}$ sont exactement les valeurs propres de $u$. (Une valeur propre annule tout polynôme annulateur ; réciproquement, si $\pi_u(\lambda) = 0$, on écrit $\pi_u = (X - \lambda) Q$ avec $Q(u) \neq 0$ par minimalité, et tout $y = Q(u)(x) \neq 0$ vérifie $(u - \lambda\,\text{Id})(y) = 0$.)
• Exemples : $\pi_{\text{Id}} = X - 1$ ; pour un projecteur $p \neq 0, \text{Id}$ : $\pi_p = X^2 - X$ ; pour $N = \begin{pmatrix} 0 & 1 \\ 0 & 0 \end{pmatrix}$ : $\pi_N = X^2$.

3. Lemme des noyaux et diagonalisabilité

• Lemme des noyaux : si $P_1, \dots, P_k$ sont deux à deux premiers entre eux et $P = P_1 \cdots P_k$, alors

$$\text{Ker}\,P(u) = \bigoplus_{i=1}^k \text{Ker}\,P_i(u).$$
(Pour $k = 2$ : une relation de Bézout $U P_1 + V P_2 = 1$ donne $x = (UP_1)(u)(x) + (VP_2)(u)(x)$, chaque terme étant dans le bon noyau ; on récurre ensuite sur $k$.)

• Théorème : $u$ est diagonalisable $\iff$ $u$ annule un polynôme scindé à racines simples $\iff$ $\pi_u$ est scindé à racines simples.
• Sens direct : si $\text{Sp}(u) = \{\lambda_1, \dots, \lambda_p\}$, le polynôme $\prod (X - \lambda_i)$ annule $u$ sur chaque $E_{\lambda_i}$, donc sur $E = \bigoplus E_{\lambda_i}$. Réciproque : le lemme des noyaux donne $E = \bigoplus \text{Ker}(u - \lambda_i\,\text{Id})$.
• Conséquences : un projecteur ($X^2 - X$) et une symétrie ($X^2 - 1$) sont diagonalisables ; la restriction d'un endomorphisme diagonalisable à un sous-espace stable est diagonalisable.

4. Trigonalisation

• $u$ est trigonalisable s'il existe une base dans laquelle sa matrice est triangulaire supérieure.
• Théorème : $u$ est trigonalisable si et seulement si $\chi_u$ est scindé sur $\mathbb{K}$. Sur $\mathbb{C}$, tout endomorphisme est trigonalisable (théorème de d'Alembert-Gauss).
• Dans une base de trigonalisation, la diagonale contient les valeurs propres répétées selon leur multiplicité ; d'où $\text{tr}(u) = \sum \lambda_i$ et $\det(u) = \prod \lambda_i$.
• $u$ est nilpotent $\iff$ $\chi_u = X^n$ $\iff$ $u$ est trigonalisable avec une diagonale nulle. En particulier, un nilpotent vérifie $u^n = 0$.

5. Démonstration du théorème de Cayley-Hamilton

Théorème. Pour tout $A \in \mathcal{M}_n(\mathbb{K})$, $\chi_A(A) = 0$, où $\chi_A(X) = \det(X I_n - A) = \sum_{k=0}^n c_k X^k$ ($c_n = 1$).
Démonstration.
1. Dans $\mathcal{M}_n(\mathbb{K}[X])$, la formule de la comatrice (valable sur tout anneau commutatif) donne $(X I_n - A)\, {}^t\text{Com}(X I_n - A) = \chi_A(X)\, I_n$.
2. Les coefficients de ${}^t\text{Com}(X I_n - A)$ sont des déterminants d'ordre $n - 1$, donc des polynômes de degré au plus $n - 1$ : on écrit ${}^t\text{Com}(X I_n - A) = \sum_{k=0}^{n-1} X^k B_k$ avec $B_k \in \mathcal{M}_n(\mathbb{K})$.
3. En développant et en identifiant les coefficients des puissances de $X$ (licite car $\mathcal{M}_n(\mathbb{K}[X])$ s'identifie à $\mathcal{M}_n(\mathbb{K})[X]$) :
$$B_{n-1} = I_n, \qquad B_{k-1} - A B_k = c_k I_n \ (1 \le k \le n-1), \qquad -A B_0 = c_0 I_n.$$
4. On multiplie à gauche la relation d'indice $k$ par $A^k$ et on somme : $\sum_{k=0}^n c_k A^k = A^n B_{n-1} + \sum_{k=1}^{n-1}\left(A^k B_{k-1} - A^{k+1} B_k\right) - A B_0$.
5. Cette somme est télescopique : elle vaut $0$. Donc $\chi_A(A) = 0$.
Conséquences : $\pi_u$ divise $\chi_u$, donc $\deg \pi_u \le n$ ; si $A$ est inversible ($c_0 \neq 0$), $A^{-1}$ est un polynôme en $A$.

6. Sous-espaces caractéristiques et décomposition de Dunford

On suppose $\chi_u = \prod_{i=1}^p (X - \lambda_i)^{m_i}$ scindé, les $\lambda_i$ étant distincts.

• Sous-espaces caractéristiques : $N_i = \text{Ker}(u - \lambda_i\,\text{Id})^{m_i}$. Par Cayley-Hamilton et le lemme des noyaux, $E = \bigoplus_{i=1}^p N_i$, chaque $N_i$ est stable par $u$ et $\dim N_i = m_i$.
• Décomposition de Dunford : il existe un unique couple $(d, n)$ d'endomorphismes tel que $u = d + n$, $d$ diagonalisable, $n$ nilpotent et $d \circ n = n \circ d$. De plus, $d$ et $n$ sont des polynômes en $u$ ; $d$ agit sur $N_i$ comme $\lambda_i\,\text{Id}$.
• Usage : $u^k = \sum_{j=0}^{k} \binom{k}{j} d^{k-j} n^j$, somme qui s'arrête à $j = r - 1$ si $n^r = 0$ ; de même $e^{u} = e^{d} e^{n}$.