Cours et exercices corrigés de L3 : Géométrie différentielle des surfaces : Formes fondamentales et Théorème Egregium

1. Outils : inversion locale et fonctions implicites

• Théorème d'inversion locale : soit $f : U \to \mathbb{R}^n$ de classe $\mathcal{C}^p$ ($p \ge 1$) sur un ouvert $U \subset \mathbb{R}^n$ et $a \in U$ tel que $df(a)$ soit inversible. Il existe un ouvert $V \ni a$ et un ouvert $W \ni f(a)$ tels que $f : V \to W$ soit un $\mathcal{C}^p$-difféomorphisme.
• Théorème des fonctions implicites : soit $F : U \subset \mathbb{R}^d \times \mathbb{R}^k \to \mathbb{R}^k$ de classe $\mathcal{C}^p$, $(a, b) \in U$ avec $F(a, b) = 0$ et $\partial_y F(a, b)$ (matrice $k \times k$) inversible. Il existe des voisinages ouverts $A \ni a$, $B \ni b$ et $g : A \to B$ de classe $\mathcal{C}^p$ tels que

$$\forall (x, y) \in A \times B, \quad F(x, y) = 0 \iff y = g(x)$$
et $dg(x) = -\left(\partial_y F(x, g(x))\right)^{-1} \circ \partial_x F(x, g(x))$.

• Vocabulaire : $f : U \subset \mathbb{R}^n \to \mathbb{R}^k$ est une submersion en $x$ si $df(x)$ est surjective (rang $k$) ; $\varphi : V \subset \mathbb{R}^d \to \mathbb{R}^n$ est une immersion en $u$ si $d\varphi(u)$ est injective (rang $d$).

2. Sous-variétés de $\mathbb{R}^n$ : définitions équivalentes

Soit $M \subset \mathbb{R}^n$ et $d \in \{0, \dots, n\}$, $k = n - d$ (codimension). $M$ est une sous-variété de dimension $d$ et de classe $\mathcal{C}^p$ ($p \ge 1$) si tout $x_0 \in M$ admet un voisinage ouvert $U$ dans $\mathbb{R}^n$ vérifiant l'une des propriétés équivalentes :
1. Équations : il existe une submersion $f : U \to \mathbb{R}^k$ de classe $\mathcal{C}^p$ telle que $M \cap U = f^{-1}(\{0\})$.
2. Graphe : après permutation des coordonnées, $M \cap U$ est le graphe d'une fonction $\mathcal{C}^p$ de $d$ variables à valeurs dans $\mathbb{R}^k$, définie sur un ouvert de $\mathbb{R}^d$.
3. Paramétrage : il existe un ouvert $V \subset \mathbb{R}^d$ et une immersion $\varphi : V \to \mathbb{R}^n$ de classe $\mathcal{C}^p$ qui est un homéomorphisme de $V$ sur $M \cap U$.
4. Redressement : il existe un $\mathcal{C}^p$-difféomorphisme $\Phi$ de $U$ sur un ouvert de $\mathbb{R}^n$ tel que $\Phi(M \cap U) = \Phi(U) \cap (\mathbb{R}^d \times \{0\})$.

• Exemples : sphères $\mathbb{S}^{n-1} = \{\|x\|^2 = 1\}$ ; $\text{SL}_n(\mathbb{R}) = \det^{-1}(\{1\})$ (dimension $n^2 - 1$) ; $\text{O}_n(\mathbb{R})$ (dimension $\frac{n(n-1)}{2}$) ; graphes de fonctions $\mathcal{C}^1$.
• Contre-exemples : le cône $x^2 + y^2 = z^2$ n'est pas une sous-variété au voisinage de $0$ ; le graphe de $|x|$ n'est pas une sous-variété $\mathcal{C}^1$ ; une courbe en « huit » paramétrée par une immersion injective n'est pas une sous-variété au point double (pas d'homéomorphisme sur l'image).

3. Espace tangent et espace normal

Soit $M$ une sous-variété de dimension $d$ de classe $\mathcal{C}^1$ et $x \in M$.

• Vecteur tangent : $v \in \mathbb{R}^n$ est tangent à $M$ en $x$ s'il existe $\varepsilon > 0$ et une courbe $\gamma : ]-\varepsilon ; \varepsilon[ \to M$ dérivable en $0$, avec $\gamma(0) = x$ et $\gamma'(0) = v$.
• Espace tangent $T_xM$ : ensemble de ces vecteurs ; c'est un sous-espace vectoriel de dimension $d$.
• Calcul :

1. par équations ($M \cap U = f^{-1}(0)$, $f$ submersion) : $T_xM = \text{Ker}\, df(x) = \{v \mid \langle \nabla f_i(x), v \rangle = 0, \; 1 \le i \le k\}$ ;
2. par paramétrage ($x = \varphi(u)$) : $T_xM = \text{Im}\, d\varphi(u)$ ;
3. par graphe ($y = g(u)$) : $T_xM = \{(h, dg(u)h) \mid h \in \mathbb{R}^d\}$.

• Espace normal : $N_xM = (T_xM)^\perp = \text{Vect}(\nabla f_1(x), \dots, \nabla f_k(x))$, de dimension $k$.
• Espace tangent affine : $x + T_xM$ (plan tangent, droite tangente).
• Exemple : $T_I \text{O}_n(\mathbb{R})$ est l'espace des matrices antisymétriques (noyau de $H \mapsto H + {}^tH$).

4. Démonstration : l'espace tangent est le noyau de la différentielle

Théorème. Soit $U$ un ouvert de $\mathbb{R}^n$, $f : U \to \mathbb{R}^k$ une submersion de classe $\mathcal{C}^1$ et $M = f^{-1}(\{0\})$. Pour tout $x \in M$, $T_xM = \text{Ker}\, df(x)$, et c'est un sous-espace de dimension $d = n - k$.

Démonstration.
1. Inclusion $T_xM \subset \text{Ker}\, df(x)$. Si $\gamma : ]-\varepsilon ; \varepsilon[ \to M$ est dérivable en $0$ avec $\gamma(0) = x$, alors $f \circ \gamma = 0$, donc par dérivation des fonctions composées $df(x)(\gamma'(0)) = (f \circ \gamma)'(0) = 0$.
2. Dimension du noyau. $df(x)$ est surjective de $\mathbb{R}^n$ sur $\mathbb{R}^k$ ; par le théorème du rang, $\dim \text{Ker}\, df(x) = n - k = d$.
3. Paramétrage local. La matrice jacobienne de $f$ en $x$ est de rang $k$ : on peut choisir $k$ colonnes indépendantes et, quitte à permuter les coordonnées, écrire $x = (a, b) \in \mathbb{R}^d \times \mathbb{R}^k$ avec $\partial_y f(a, b)$ inversible. Par le théorème des fonctions implicites, il existe $g$ de classe $\mathcal{C}^1$ sur un voisinage $A$ de $a$ telle que, près de $x$, $M$ coïncide avec le graphe $\{(u, g(u)) \mid u \in A\}$.
4. Construction de vecteurs tangents. Pour $h \in \mathbb{R}^d$, la courbe $\gamma_h(t) = (a + th, g(a + th))$ est à valeurs dans $M$ pour $|t|$ petit, et $\gamma_h'(0) = (h, dg(a)h)$. Donc $L = \{(h, dg(a)h) \mid h \in \mathbb{R}^d\} \subset T_xM$, et $L$ est un sous-espace de dimension $d$ (l'application $h \mapsto (h, dg(a)h)$ est linéaire injective).
5. Conclusion. On a $L \subset T_xM \subset \text{Ker}\, df(x)$ avec $\dim L = \dim \text{Ker}\, df(x) = d$. Donc $L = \text{Ker}\, df(x)$, et toutes les inclusions sont des égalités : $T_xM = \text{Ker}\, df(x)$ est un sous-espace vectoriel de dimension $d$. $\square$

Remarque. L'hypothèse de submersion est essentielle : pour $f(x, y, z) = x^2 + y^2 - z^2$, $df(0) = 0$ a pour noyau $\mathbb{R}^3$, alors que les vecteurs tangents en $0$ au cône forment le cône lui-même, qui n'est pas un sous-espace vectoriel.

5. Extrema liés : multiplicateurs de Lagrange

• Cadre : $F : U \to \mathbb{R}$ de classe $\mathcal{C}^1$ et des contraintes $g = (g_1, \dots, g_k) : U \to \mathbb{R}^k$ de classe $\mathcal{C}^1$, $M = g^{-1}(\{0\})$.
• Théorème des extrema liés : si $x_0 \in M$ est un extremum local de $F_{|M}$ et si $dg_1(x_0), \dots, dg_k(x_0)$ sont linéairement indépendantes (contraintes qualifiées), il existe des réels uniques $\lambda_1, \dots, \lambda_k$ tels que

$$\nabla F(x_0) = \sum_{i=1}^k \lambda_i \nabla g_i(x_0)$$

• Justification : près de $x_0$, $M$ est une sous-variété et, pour toute courbe $\gamma$ de $M$ avec $\gamma(0) = x_0$, $t \mapsto F(\gamma(t))$ a un extremum local en $0$, donc $dF(x_0)(\gamma'(0)) = 0$. Ainsi $dF(x_0)$ s'annule sur $T_{x_0}M = \bigcap_i \text{Ker}\, dg_i(x_0)$ ; par un lemme d'algèbre linéaire, une forme linéaire nulle sur l'intersection des noyaux de formes $\ell_1, \dots, \ell_k$ est combinaison linéaire de ces formes. Autrement dit $\nabla F(x_0) \in N_{x_0}M$.
• Usage : la condition est nécessaire, pas suffisante ; on conclut souvent par un argument de compacité (une fonction continue sur une sous-variété compacte atteint ses bornes) en comparant les valeurs aux points critiques.

6. Formes différentielles et formule de Stokes

• 1-formes sur un ouvert $U$ de $\mathbb{R}^n$ : $\omega = \sum_{i=1}^n A_i \, dx_i$. Dérivée extérieure : $d\omega = \sum_{i < j}\left(\frac{\partial A_j}{\partial x_i} - \frac{\partial A_i}{\partial x_j}\right) dx_i \wedge dx_j$.
• $\omega$ est exacte s'il existe $f$ telle que $\omega = df$ ; fermée si $d\omega = 0$. Toute forme exacte de classe $\mathcal{C}^1$ est fermée (lemme de Schwarz : $d \circ d = 0$).
• Lemme de Poincaré : sur un ouvert étoilé, toute forme fermée de classe $\mathcal{C}^1$ est exacte.
• Intégrale curviligne : si $\omega = df$ et $\gamma$ est un chemin $\mathcal{C}^1$ par morceaux de $A$ à $B$, $\int_\gamma \omega = f(B) - f(A)$ ; en particulier l'intégrale sur un lacet est nulle.
• Formule de Stokes : pour $M$ une sous-variété compacte orientée à bord de dimension $k$ (bord muni de l'orientation induite) et $\omega$ une $(k-1)$-forme de classe $\mathcal{C}^1$ au voisinage de $M$ :

$$\int_{\partial M} \omega = \int_M d\omega$$
Cas particuliers : formule de Green-Riemann ($k = 2$ dans le plan), formule d'Ostrogradski (flux et divergence), formule de Kelvin-Stokes (circulation et rotationnel).