Cote n° 123 · pages 1–47 · Lecture modernisée · [Autour de Kostant] : tapuscrits (s.d.), notes manuscrites (s.d.), lettre (1969) — lecture modernisée du dossier entier
Datation de l’inventaire : 1969
Édition de démonstration — interprétation personnelle de l'œuvre

Résumé

1–47

Le fil du dossier, et ses conventions

Quarante-sept feuillets, dont six chemises qui ne portent qu'un titre de sa main (feuillets 3, 7, 14, 23, 36, 42) et trois blancs (20, 24, 32). Trois sortes de papier s'y mêlent : deux tapuscrits de sa main, en français, corrigés à l'encre (feuillets 1–2 et 15–19) ; une lettre dactylographiée en anglais (21–22) ; des notes manuscrites, dont plusieurs sur le verso de feuillets dactylographiés étrangers au dossier.¹ La date de l'inventaire, 1969, est celle de la lettre ; le reste est sans date, mais tout se tient autour d'elle, et plusieurs feuillets portent des reprises à l'encre brune, plus tardives.

Le dossier se lit en huit stations.

• La transformation de Coxeter (feuillets 1–2) : ce que Kostant dit des valeurs propres d'un élément de Coxeter, et les « droites cycliques » du groupe de Weyl.
• Lissification des morphismes de Kostant (3–6) : la résolution simultanée pour l'algèbre de Lie, et une liste de questions.
• Lissification des morphismes de Steinberg (7–13) : la même construction pour le groupe, avec un théorème, un lemme sur les groupes de Picard, et la preuve qu'on ne peut résoudre sans changer de base.
• Résumé des théorèmes de conjugaison de Kostant (14–19) : les sous-groupes de type \(\mathrm{SL}(2)\), les éléments de Dynkin, et leur interprétation par les filtrations du foncteur fibre.
• La lettre à Kostant (21–22).
• Diagrammes d'espaces homogènes (23–35) : éléments de Kostant et de Coxeter, tores en apposition, droites cycliques, rigidifications.
• Liste d'espaces homogènes remarquables (36–41), suivie de « Résultats de Kostant ».
• Résumé de quelques résultats de Kostant (42–47), mis au propre : homomorphismes principaux, homomorphismes de Kostant \(\mu_{h}\to G\), graduation de \(\mathfrak{g}\), droites cycliques.

Les deux premières stations « géométriques » (3–13) et les autres « combinatoires » ne se citent presque pas l'une l'autre ; ce qui les lie est Kostant, dont les deux articles sont nommés dans la lettre : The principal three-dimensional subgroup and the Betti numbers of a complex simple Lie group (Amer. J. Math., 1959) et Lie group representations on polynomial rings (Amer. J. Math., 1963). Le dossier contient deux résumés de Kostant, le tapuscrit des feuillets 15–19 et le manuscrit des feuillets 43–47 : ce sont deux moutures distinctes, sur des sujets voisins mais non identiques, et l'édition les garde séparées.

Conventions, valables pour tout le dossier. \(G\) est un schéma en groupes réductif sur une base \(S\), le plus souvent semi-simple adjoint ; \(\mathfrak{g}=\operatorname{Lie}(G)\) ; \(T\) est un tore maximal, \(\mathfrak{t}=\operatorname{Lie}(T)\), \(W\) le groupe de Weyl ; \(r\) est le rang, \(N\) le nombre de racines positives, \(n=\dim G=2N+r\). On note \(h\) le nombre de Coxeter, \(\psi\) la plus grande racine, \(\Sigma\) l'ensemble des racines simples, \(\mathfrak{z}\) un groupe isomorphe au centre du revêtement simplement connexe \(\widetilde{G}\) et \(z\) son ordre, \(\varphi\) l'indicatrice d'Euler. On écrit \(X^{*}(T)\) et \(X_{*}(T)\) pour les réseaux des caractères et des cocaractères.²

Trois homonymies sont à fixer dès maintenant.

• \(\mathrm{Bor}\) désigne partout le schéma des sous-groupes de Borel. Les feuillets 8 à 13 l'appellent \(D\) ; à partir du feuillet 21, \(D\) est une droite cyclique. L'édition réserve \(D\) aux droites.
• Le « Borel universel » des feuillets 4 et 8, vu comme schéma des couples \((g,B)\) avec \(g\in B\), est noté \(\widetilde{G}\) ; son analogue pour l'algèbre de Lie, le schéma des couples \((x,\mathfrak{b})\) avec \(x\in\mathfrak{b}\), est noté \(\widetilde{\mathfrak{g}}\).³
• Principal a deux sens. Au feuillet 15 et au feuillet 40, le cocaractère attaché à un sous-groupe principal \(\mathrm{SL}(2)\to G\) est le cocaractère de Dynkin, qui vaut \(2\) sur chaque racine simple : c'est \(2\rho^{\vee}\). Au feuillet 43, un « homomorphisme principal » \(\mathbf{G}_{m}\to G\) vaut \(1\) sur chaque racine simple : c'est \(\rho^{\vee}\), somme des copoids fondamentaux, qui n'existe comme cocaractère que parce que \(G\) est adjoint. Le second est la « moitié » du premier.

1–2

Compléments sur la transformation de Coxeter (feuillets 1 et 2)

Deux feuillets dactylographiés, intitulés « Compléments sur transformation de Coxeter d'un système de racines irréductible (Kostant) », avec en marge un renvoi à l'article de 1959 et à son théorème 9.2.⁴ Soit \(R\) un système de racines irréductible dans un espace réel \(V\), \(W\) son groupe de Weyl, \(m_{1}\leqslant\dots\leqslant m_{r}\) ses exposants et \(h=m_{r}+1\) son nombre de Coxeter. On fait agir \(W\) sur \(V\otimes\mathbf{C}\).

a) Toute valeur propre d'un \(w\in W\) est une racine de l'unité dont l'ordre divise l'un des degrés \(m_{i}+1\), donc est au plus \(h\). Une valeur propre d'ordre exactement \(h\) existe si et seulement si \(w\) est un élément de Coxeter ; le sous-espace propre correspondant est alors une droite, et ses vecteurs non nuls sont réguliers (n'appartiennent à aucun hyperplan de réflexion).⁵

Corollaire 1. Soit \(c\) un élément de Coxeter et \(\mu=\langle c\rangle\simeq\mathbf{Z}/h\mathbf{Z}\). Alors \(\mu\) est son propre centralisateur dans \(W\), et si \(\nu\) est le normalisateur de \(\mu\), l'homomorphisme \(\nu/\mu\to\operatorname{Aut}(\mu)\simeq (\mathbf{Z}/h\mathbf{Z})^{*}\) est un isomorphisme. Autrement dit, pour tout \(n\) premier à \(h\), il existe \(w\in W\), unique modulo \(\mu\), tel que \(wcw^{-1}=c^{n}\).⁶

Démonstration. Soit \(D\) la droite propre de \(c\) pour une racine primitive \(h\)-ième de l'unité.⁷ Le centralisateur \(C_{W}(c)\) normalise \(D\), d'où un homomorphisme \(C_{W}(c)\to\operatorname{Aut}(D)=\mathbf{C}^{*}\) ; son image est un groupe cyclique fini qui contient l'image, isomorphe, de \(\mu\), donc d'ordre multiple de \(h\) ; comme ses éléments sont des valeurs propres d'éléments de \(W\), leur ordre est au plus \(h\), et l'image est d'ordre \(h\). On obtient une rétraction \(C_{W}(c)\to\mu\), dont le noyau fixe \(D\) point par point ; \(D\) étant régulière et \(W\) agissant simplement transitivement sur les chambres, ce noyau est trivial. Reste que \(c^{n}\) est conjugué de \(c\) pour \(n\) premier à \(h\), que le tapuscrit tire encore de Kostant.

Corollaire. Soit \(x\) un vecteur propre de \(c\), de valeur propre \(\lambda\). Alors \(x\) est régulier si et seulement si \(\lambda\) est une racine primitive \(h\)-ième de l'unité. La suffisance est a). Pour la nécessité, si \(h'\) est l'ordre de \(\lambda\), \(c^{h'}\) fixe \(x\), donc \(c^{h'}=1\) puisque \(x\) est régulier, et \(h'=h\).

Corollaire. Soit \(D\subset V\otimes\mathbf{C}\) une droite régulière normalisée par un élément de Coxeter \(c\).⁸ Alors le normalisateur de \(D\) dans \(W\) est \(\langle c\rangle\), et pour chaque racine primitive \(h\)-ième \(\zeta\) il existe un unique élément de Coxeter normalisant \(D\) et y agissant par \(\zeta\). Ces droites — les droites cycliques de Kostant — forment une seule orbite sous \(W\), et leur nombre est \(\operatorname{card}(W)/h\). Le groupe \((\mathbf{Z}/h\mathbf{Z})^{*}\) agit librement sur l'ensemble des droites cycliques, en commutant à \(W\) ; deux droites cycliques sont dans la même orbite de ce groupe si et seulement si elles ont même stabilisateur dans \(W\).

Ce sont, au niveau du groupe de Weyl, les objets dont les feuillets 21 à 47 construiront les relèvements dans \(G\) et dans \(\mathfrak{g}\).

3–6

Lissification des morphismes de Kostant (feuillets 3 à 6)

4–5

Les données, et le morphisme de Kostant

Le feuillet 4 est une liste de notations. \(G\) est un schéma en groupes semi-simple adjoint sur \(S\), \(\mathfrak{g}\) son algèbre de Lie, vue comme schéma vectoriel sur \(S\) ; \(T\) est « le » tore maximal abstrait, défini par descente à partir d'un couple de Killing, \(\mathfrak{t}\) son algèbre de Lie, \(W\) « le » groupe de Weyl. On pose \[ \mathfrak{J}=\mathfrak{t}/W,\qquad \mathfrak{J}'=\mathfrak{t}, \] de sorte que \(\mathfrak{J}'\to\mathfrak{J}\) est un revêtement ramifié. On note \(\mathrm{Tor}\) le schéma des tores maximaux, \(\mathrm{Kill}\) celui des couples de Killing (tore maximal, Borel le contenant), \(\mathrm{Bor}\) celui des Borels, et \(\widetilde{\mathfrak{g}}\to\mathrm{Bor}\) le fibré vectoriel des couples \((x,\mathfrak{b})\), \(x\in\mathfrak{b}\). Il porte deux morphismes : la projection \(q\colon\widetilde{\mathfrak{g}}\to\mathfrak{g}\), propre, et \(\tilde f'\colon\widetilde{\mathfrak{g}}\to\mathfrak{t}\), qui envoie \((x,\mathfrak{b})\) sur l'image de \(x\) dans \(\mathfrak{b}/[\mathfrak{b},\mathfrak{b}]\simeq\mathfrak{t}\), et qui est lisse.

Les exposants \(\mathrm{rss}\) désignent les ouverts d'éléments réguliers semi-simples. On a un isomorphisme canonique \(\widetilde{\mathfrak{g}}^{\mathrm{rss}}\simeq \mathrm{Kill}\times_{S}\mathfrak{t}^{\mathrm{rss}}\) — un élément régulier semi-simple détermine son tore centralisateur, et le Borel choisi en fait un couple de Killing — et un carré cartésien

\begin{tikzcd}
\mathfrak{g}^{\mathrm{rss}} \arrow[d] & \widetilde{\mathfrak{g}}^{\mathrm{rss}} \arrow[l] \arrow[d] \\
\mathrm{Tor} & \mathrm{Kill} \arrow[l]
\end{tikzcd}

où la flèche de gauche associe à \(x\) son centralisateur. Le groupe \(W\) opère sur \(\mathrm{Kill}\), qui est un torseur sous \(W\) au-dessus de \(\mathrm{Tor}\), d'où une opération sur \(\widetilde{\mathfrak{g}}^{\mathrm{rss}}\), diagonale sur \(\mathrm{Kill}\times\mathfrak{t}^{\mathrm{rss}}\), et \(\mathfrak{g}^{\mathrm{rss}}=\widetilde{\mathfrak{g}}^{\mathrm{rss}}/W\). On en tire un morphisme naturel \(f^{\mathrm{rss}}\colon\mathfrak{g}^{\mathrm{rss}}\to \mathfrak{J}^{\mathrm{rss}}=\mathfrak{t}^{\mathrm{rss}}/W\).

Hypothèse (L). \(W\) opère librement sur \(\mathfrak{t}^{\mathrm{rss}}\), ce qui revient à dire qu'il opère fidèlement sur les fibres géométriques de \(\mathfrak{t}\). Sous (L), le carré formé de \(f^{\mathrm{rss}}\), de \(q^{\mathrm{rss}}\), de \(\tilde f'^{\mathrm{rss}}\) et de \(\mathfrak{t}^{\mathrm{rss}}\to \mathfrak{J}^{\mathrm{rss}}\) est cartésien.⁹

Le morphisme \(f^{\mathrm{rss}}\) se prolonge (de façon unique) en un morphisme \[ f\colon\mathfrak{g}\longrightarrow\mathfrak{J}=\mathfrak{t}/W, \] le morphisme de Kostant — aujourd'hui le quotient adjoint \(\mathfrak{g}\to\mathfrak{g}/\!\!/G\). Une note marginale le dit : l'anneau de \(\mathfrak{J}\) est l'anneau des invariants de celui de \(\mathfrak{g}\). Le prolongement revient, sur un corps, à la surjectivité de la restriction de Chevalley \(k[\mathfrak{g}]^{G}\to k[\mathfrak{t}]^{W}\) ; elle est classique en caractéristique nulle.¹⁰

5–6

La résolution simultanée

On pose \(\mathfrak{g}'=\mathfrak{g}\times_{\mathfrak{J}}\mathfrak{J}'\) : c'est la famille des fibres de \(f\) rendue par le changement de base qui ordonne les « valeurs propres ». On obtient le diagramme

\begin{tikzcd}
\mathfrak{g} \arrow[d, "f"'] & \mathfrak{g}' \arrow[l] \arrow[d, "f'"] & \widetilde{\mathfrak{g}} \arrow[l, "p"'] \arrow[dl, "\tilde f'"] \arrow[r] & \mathrm{Bor} \\
\mathfrak{J} & \mathfrak{J}' \arrow[l] & &
\end{tikzcd}

où \(p=(q,\tilde f')\) est projectif et \(\tilde f'\) lisse.¹¹ Sous (L), \(p\) est birationnel : il induit un isomorphisme \(\widetilde{\mathfrak{g}}^{\mathrm{rss}}\simeq\mathfrak{g}'^{\mathrm{rss}}\). C'est la résolution simultanée : \(\tilde f'\) est une famille lisse au-dessus de \(\mathfrak{t}\), et elle résout fibre à fibre la famille \(f'\).¹²

Par réduction à la base \(\mathbf{Z}\) ou \(\mathbf{Z}[1/2]\) et par le Main Theorem de Zariski, le plus grand ouvert de \(\mathfrak{g}'\) au-dessus duquel \(p\) est un isomorphisme est formé des \(x'\) dont la fibre \(p^{-1}(x')\) est finie : c'est l'image inverse de l'ouvert \(\mathfrak{g}^{\mathrm{reg}}\) des éléments réguliers, ceux qui ne sont contenus que dans un nombre fini de sous-algèbres de Borel.¹³ D'après Springer (Publ. Math. IHÉS 30, 1966, 5.3), cet ouvert rencontre la fibre nilpotente : il existe des éléments nilpotents réguliers. Le feuillet prévoit d'en déduire qu'il rencontre toutes les fibres de \(f\), et ajoute plus tard, souligné deux fois : « Non en car. 2, cas \(A_{1}\), \(B_{2}\)… peut-être d'autres ».

Questions. Le feuillet 6 se clôt sur une liste, que le dossier ne résout pas.

1. 0)\(W\) opère-t-il fidèlement sur \(\mathfrak{t}^{\mathrm{rss}}\) ?
2. a)\(\mathfrak{J}\) est-il régulier, c'est-à-dire \(\mathfrak{J}'\) plat sur \(\mathfrak{J}\) ?
3. b)\(f\) est-il plat ? En fait, \(f\) est plat si et seulement si \(\mathfrak{J}\) est régulier et \(f\) équidimensionnel.¹⁴
4. c)Les fibres géométriques de \(f\) sont-elles intègres, adhérences d'une orbite, à complémentaire de codimension \(\geqslant 2\), normales ? Si oui, \(f'\) est normal, donc \(\mathfrak{g}'\) l'est, et \(\widetilde{\mathfrak{g}}\to\mathfrak{g}'\to\mathfrak{g}\) est la factorisation de Stein de \(q\).
5. d)Les points de lissité de \(f\) sont-ils les points réguliers ?
6. e)Définir une stratification orbitale de \(\mathfrak{g}\) sur \(\mathbf{Z}\), la comparer à celle du groupe, et aux orbites unipotentes ; questions analogues pour \(\widetilde{G}\) et \(\widetilde{\mathfrak{g}}\).
7. f)Reprendre la théorie de Kostant : l'ouvert des points réguliers a-t-il une section ?
8. g)Étudier les fibres de \(p\), c'est-à-dire la variété des sous-algèbres de Borel contenant un élément donné : quelle est sa dimension, en relation avec celle de l'orbite ?

Sur \(\mathbf{C}\), Kostant (1963) avait déjà répondu à a)–d) et f) : \(f\) est plat, ses fibres sont des intersections complètes normales et irréductibles, adhérences de l'orbite régulière qu'elles contiennent, les points lisses de \(f\) sont les points réguliers, et l'ouvert régulier admet une section — la section de Kostant. Les questions portent donc sur une base quelconque.¹⁵

7–13

Lissification des morphismes de Steinberg (feuillets 7 à 13)

8–9

Les données, et le morphisme de Steinberg

\(G\) est maintenant un schéma en groupes réductif sur \(S\), \(\mathrm{Bor}\) le schéma de ses Borels, \(\widetilde{G}\subset G\times_{S}\mathrm{Bor}\) le Borel universel, de radical unipotent \(\widetilde{G}_{u}\).¹⁶ Le tore \(\widetilde{G}/\widetilde{G}_{u}\) sur \(\mathrm{Bor}\) descend en un tore \(T\) sur \(S\), de réseau des caractères \(X^{*}(T)\), avec un groupe de Weyl \(W\) sur \(S\) qui opère sur l'un et l'autre ; on pose \(I=T/W\). Sur le schéma \(K=\mathrm{Kill}(G)\) des couples de Killing, le tore universel s'identifie à \(T\times_{S}K\) et le groupe de Weyl universel à \(W\times_{S}K\).

Il existe un unique morphisme \[ f\colon G\longrightarrow I=T/W, \] invariant par automorphismes intérieurs, dont la restriction à un tore maximal \(T_{0}\) contenu dans un Borel \(B_{0}\) est la projection \(T_{0}\to T_{0}/W_{0}\simeq I\) : c'est le morphisme de Steinberg. La marge pose la question de son existence sans hypothèse de simple connexité, et répond « Oui » en renvoyant à Steinberg.¹⁷

On définit \(G'\) par le carré cartésien de gauche ci-dessous, et un morphisme \(p\colon\widetilde{G}\to G'\) par ses deux composantes : \(h(g,B)=g\), et \(\tilde f(g,B)=\) l'image de \(g\) dans \(B/B_{u}\simeq T\).

\begin{tikzcd}
G \arrow[d, "f"'] & G' \arrow[l] \arrow[d, "f'"] & \widetilde{G} \arrow[l, "p"'] \arrow[dl, "\tilde f"] \\
I & T \arrow[l, "\pi"] &
\end{tikzcd}

L'égalité \(\pi\tilde f=fh\) se vérifie sur l'ouvert dense \(\widetilde{G}^{\mathrm{rs}}\) des \((g,B)\) avec \(g\) régulier semi-simple, où elle est évidente. Le morphisme \(h\) est propre (\(\mathrm{Bor}\) l'est sur \(S\)), donc \(p\) l'est aussi ; \(\tilde f\) est lisse. Si de plus \(f\) est normal — c'est le cas quand le groupe dérivé de \(G\) est simplement connexe — et si \(S\) est normal, alors \(f'\) est normal et \(G'\) est normal.¹⁸

On note \(G^{\mathrm{reg}}\) l'ouvert des éléments réguliers — c'est l'ouvert de lissité de \(f\) — et \(G'^{\mathrm{reg}}\), \(\widetilde{G}^{\mathrm{reg}}\) ses images inverses.

10–11

Le théorème (feuillet 10) et sa démonstration

Théorème. Sous les hypothèses précédentes (\(S\) normal, \(G'\) normal) :

1. (i)\(p\colon\widetilde{G}\to G'\) est projectif et \(\tilde f\colon\widetilde{G}\to T\) est lisse.
2. (ii)\(p\) induit un isomorphisme \(\widetilde{G}^{\mathrm{reg}}\xrightarrow{\sim}G'^{\mathrm{reg}}\), et \(G'^{\mathrm{reg}}\) est le plus grand ouvert au-dessus duquel \(p\) est un isomorphisme.
3. (iii)\(\widetilde{G}-\widetilde{G}^{\mathrm{reg}}\) est de codimension \(\geqslant 2\) fibre par fibre, et \(G'-G'^{\mathrm{reg}}\) a toutes ses composantes de codimension \(3\) fibre par fibre sur \(S\).
4. (iv)Si \(S\) est localement noethérien et normal, les restrictions donnent des isomorphismes \[ \operatorname{Pic}(\widetilde{G})\xrightarrow{\sim} \operatorname{Pic}(\widetilde{G}^{\mathrm{reg}})\xleftarrow{\sim} \operatorname{Pic}(G'^{\mathrm{reg}}), \] l'homomorphisme \(\operatorname{Pic}(\mathrm{Bor})\to \operatorname{Pic}(\widetilde{G})\) est injectif, et il est bijectif lorsque \(H^{1}(\Gamma,X^{*}(T))=0\), où \(\Gamma\) est l'image du groupe fondamental de \(S\) (en un point générique) dans \(\operatorname{Aut}X^{*}(T)\) — en particulier lorsque \(T\) est déployé. En faisceautisant pour la topologie étale, \(\underline{\mathrm{Pic}}_{\mathrm{Bor}/S}\) s'identifie au réseau \(P\) des poids, \(X^{*}(T)\to P\) étant injectif si \(G\) est semi-simple, et un faisceau inversible sur \(\mathrm{Bor}\) est ample si et seulement si son image inverse sur \(\widetilde{G}\) l'est ; le cône ample est formé des poids strictement dominants.

L'énoncé du feuillet 10 donne \(\operatorname{Pic}(\mathrm{Bor})\simeq\operatorname{Pic}(\widetilde{G})\) sans condition, avec en marge une condition rajoutée après coup ; le feuillet 12 montre que la bijectivité tombe quand \(T\) est tordu. L'édition met la condition dans l'énoncé.¹⁹

Démonstration. (i) et (iii) sont connus ; pour (iii), Steinberg (le lieu non régulier de \(G\) est de codimension \(3\), et son image inverse dans \(\widetilde{G}\), où les fibres au-dessus des éléments sous-réguliers sont des courbes, est de codimension \(2\)).

(ii) On a d'abord \(\widetilde{G}^{\mathrm{rs}}\xrightarrow{\sim} G'^{\mathrm{rs}}\) au-dessus de l'ouvert régulier semi-simple. Par Steinberg, les fibres de \(\widetilde{G}^{\mathrm{reg}}\to G'^{\mathrm{reg}}\) sont finies ; le morphisme est propre, birationnel, et \(G'^{\mathrm{reg}}\) est normal : le Main Theorem de Zariski conclut.²⁰

(iv) \(S\) étant normal, \(\widetilde{G}\) l'est, et l'injectivité de \(\operatorname{Pic}(\widetilde{G})\to\operatorname{Pic}(\widetilde{G}^{\mathrm{reg}})\) tient à la profondeur, puisque le complémentaire est de codimension \(\geqslant 2\) fibre par fibre. La surjectivité de \(\operatorname{Pic}(\mathrm{Bor})\to\operatorname{Pic}(\widetilde{G}^{\mathrm{reg}})\) se déduit de EGA IV 21.4.13, compte tenu du lemme suivant ; les deux ensemble donnent les isomorphismes annoncés.²¹

Lemme. Soit \(G\) semi-simple simplement connexe sur un corps \(k\), \(B\) un Borel, \(T=B/B_{u}\). Alors \[ \operatorname{Pic}(B)=\operatorname{Pic}(B^{\mathrm{reg}}) =\operatorname{Pic}(T)=H^{1}(\Gamma,X^{*}(T)), \] où \(\Gamma\) est le groupe de Galois d'une extension galoisienne finie \(k'\) qui déploie \(T\). En effet, \(B\to T\) est un torseur sous le groupe unipotent déployé \(B_{u}\), d'où \(\operatorname{Pic}(B)=\operatorname{Pic}(T)\) ; la suite spectrale de Hochschild–Serre pour \(T_{k'}\) déployé donne \[ 0\to H^{1}\bigl(\Gamma,\ k'^{*}\times X^{*}(T)\bigr)\to\operatorname{Pic}(T) \to H^{0}\bigl(\Gamma,\operatorname{Pic}(T_{k'})\bigr)=0, \] puisque les inversibles de \(T_{k'}\) sont \(k'^{*}\times X^{*}(T)\) ; et \(H^{1}(\Gamma,k'^{*})=0\) par le théorème 90 de Hilbert.²²

Si \(T\) est tordu, ce groupe peut être non nul ; prenant pour \(B\) la fibre générique de \(\widetilde{G}\) sur \(\mathrm{Bor}\), on voit que \(\operatorname{Pic}(\mathrm{Bor})\to\operatorname{Pic}(\widetilde{G})\) n'est alors pas surjectif. Il est toujours injectif, car \(\widetilde{G}\) a une section sur \(\mathrm{Bor}\), la section unité. Enfin, \(\widetilde{G}\to \mathrm{Bor}\) étant affine et muni d'une section, un faisceau inversible sur \(\mathrm{Bor}\) est ample si et seulement si son image inverse l'est — « indépendamment de l'hypothèse normal sur \(S\) ! », note la marge.

12–13

Remarques (feuillets 12 et 13) : aucune résolution sans changement de base

a) Si \(T\) peut être tordu et que \(S\) n'a qu'un nombre fini de composantes connexes, le conoyau de l'injection \(\operatorname{Pic}(\mathrm{Bor})\to\operatorname{Pic}(\widetilde{G})\) est fini. Pour \(S\) intègre et normal, de point générique \(\xi\), on a une suite exacte \[ 0\to\operatorname{Pic}(\mathrm{Bor})\to\operatorname{Pic}(\widetilde{G}) \to H^{1}(\Gamma,X^{*}(T)_{\bar\xi}), \] fondée sur \(\operatorname{Pic}(\widetilde{G}_{\eta})\simeq \operatorname{Pic}(T_{\eta})\simeq\operatorname{Pic}(T_{\xi})\), \(\eta\) le point générique de \(\mathrm{Bor}\). Si \(S\) est régulier, on peut compléter la suite par \(\to 0\) ; la condition \(H^{1}(\Gamma,X^{*}(T)_{\bar\xi})=0\) est alors nécessaire et suffisante pour la surjectivité.²³

b) L'injectivité de \(\operatorname{Pic}(\mathrm{Bor})\to\operatorname{Pic}(\widetilde{G})\) et la caractérisation des faisceaux amples restent vraies sans hypothèse de normalité sur \(S\).

c) Supposons \(S\) normal et \(H^{1}(\Gamma,X^{*}(T))=0\). Alors \(\operatorname{Pic}(S)\xrightarrow{\sim}\operatorname{Pic}(G')\). L'injectivité vient de la section unité de \(G'\) sur \(S\). Soit \(\mathcal{L}\in\operatorname{Pic}(G')\) trivial sur la section unité. On a \[ \operatorname{Pic}(G')\hookrightarrow\operatorname{Pic}(G'^{\mathrm{reg}}) \simeq\operatorname{Pic}(\widetilde{G}^{\mathrm{reg}}) \simeq\operatorname{Pic}(\widetilde{G}), \] la première flèche injective par profondeur ; il suffit donc que l'image inverse \(p^{*}\mathcal{L}\) soit nulle. Comme \(\operatorname{Pic}(\widetilde{G})=\operatorname{Pic}(\mathrm{Bor})\), il suffit de voir que sa restriction à la section unité \(\mathrm{Bor}\to\widetilde{G}\) est nulle ; or \(\mathrm{Bor}\to\widetilde{G}\to G'\) se factorise par la section unité de \(G'\) sur \(S\), où \(\mathcal{L}\) est trivial.²⁴ Sans hypothèse sur \(T\), le même diagramme

\begin{tikzcd}
G'^{\mathrm{reg}} \arrow[d, hook] & \widetilde{G}^{\mathrm{reg}} \arrow[l] \arrow[d, hook] \\
G' \arrow[d] & \widetilde{G} \arrow[l] \\
S \arrow[u, bend left=40] & \mathrm{Bor} \arrow[u, hook] \arrow[ul] \arrow[l]
\end{tikzcd}

donne une suite exacte \(\operatorname{Pic}(S)\to\operatorname{Pic}(G')\to H^{1}(\xi,X^{*}(T))\), de dernier terme fini.

d) Pour \(S\) normal intègre, de point générique \(\xi\), on a \(0\to\operatorname{Pic}(S)\to\operatorname{Pic}(G)\to \operatorname{Pic}(G_{\xi})\), injective grâce à la section unité, et \(\operatorname{Pic}(G_{\xi})\) est fini, nul si \(G_{\xi}\) est simplement connexe.²⁵ D'autre part \(\operatorname{Pic}(G)\to\operatorname{Pic}(G^{\mathrm{reg}})\) est injectif sans hypothèse de normalité, par profondeur, le lieu non régulier étant de codimension \(\geqslant 3\) fibre par fibre. Si \(S\) est régulier, cette flèche est bijective, et le conoyau de \(\operatorname{Pic}(S)\to\operatorname{Pic}(G^{\mathrm{reg}})\) est fini.²⁶

Voici la conclusion, qui est le point du chapitre. Une résolution \(\widetilde{X}\to G\) des singularités de \(f\) qui serait analogue à celle de \(f'\) — un isomorphisme au-dessus de \(G^{\mathrm{reg}}\), avec un lieu exceptionnel de codimension \(\geqslant 2\) fibre par fibre — aurait un groupe de Picard égal à celui de \(G^{\mathrm{reg}}\), donc de rang nul sur \(\operatorname{Pic}(S)\) ; alors que celui de \(\widetilde{G}\) contient le réseau des poids, de rang \(r\), avec son cône ample. Il n'y a donc pas de résolution simultanée de \(f\) sans toucher à \(G^{\mathrm{reg}}\) : le changement de base \(T\to T/W\) est nécessaire.²⁷

14–19

Résumé des théorèmes de conjugaison de Kostant (feuillets 14 à 19)

La chemise du feuillet 14 porte « Résumé th. de conjugaison Kostant + lettre à Kostant » ; la lettre est aux feuillets 21–22. Les feuillets 15 à 19 sont un tapuscrit de sa main, corrigé et complété à l'encre, intitulé « Résumé de quelques résultats de Kostant (sous-groupes simples de rang 1) », avec en marge les numéros de l'article de 1959 qu'il résume (3.4, 3.5, 3.6, 4.2, 9.3).²⁸

15–16

Théorème 1 : sous-groupes de type \(\mathrm{SL}(2)\)

\(G\) est semi-simple sur un corps \(k\) de caractéristique nulle, \(e\neq 0\) nilpotent dans \(\mathfrak{g}\). Pour \(x\in\mathfrak{g}\) semi-simple et \(k\in\mathbf{Z}\), on note \(\mathfrak{g}(k)\) le sous-espace propre de \(\operatorname{ad}(x)\) pour la valeur propre \(k\)²⁹ ; si \(x=\operatorname{Lie}(i)(1)\) pour un cocaractère \(i\colon\mathbf{G}_{m}\to G\), ce sont les composantes isotypiques de \(\mathfrak{g}\) sous \(\mathbf{G}_{m}\). On note \((x_{0},e_{0},f_{0})\) la base habituelle de \(\mathfrak{sl}_{2}\), \(i_{0}\) le cocaractère diagonal de \(\mathrm{SL}(2)\), et \(\operatorname{Fil}^{k}\mathfrak{g}= \sum_{j\geqslant k}\mathfrak{g}(j)\).

(i) Les conditions suivantes sont équivalentes :

1. a)\([x,e]=2e\), et \(\operatorname{ad}(e)^{k}\colon\mathfrak{g}(-k)\to \mathfrak{g}(k)\) est un isomorphisme pour tout \(k\geqslant 1\) ;
2. b)\(e\in\mathfrak{g}(2)\), \(\operatorname{ad}(e)\colon\mathfrak{g}(0)\to\mathfrak{g}(2)\) est surjectif, et \(x\) est un élément de Dynkin, de la forme \(\varphi(x_{0})\) pour un \(\varphi\colon\mathrm{SL}(2)\to G\) ;
3. c)\(e\in\mathfrak{g}(2)\) et \(x\in[e,\mathfrak{g}]\) ;
4. c')\(e\in\mathfrak{g}(2)\) et \(x\in[e,\mathfrak{g}(-2)]\) ;
5. d)il existe un homomorphisme \(\varphi\colon\mathrm{SL}(2)\to G\) tel que \(d\varphi(e_{0})=e\) et \(d\varphi(x_{0})=x\).

Ces conditions entraînent que \(x=\operatorname{Lie}(i)(1)\) pour un cocaractère \(i\) — en particulier que \(x\) est semi-simple — et le \(\varphi\) de d) est unique.³⁰

(ii) Pour tout nilpotent \(e\), il existe \(\varphi\colon\mathrm{SL}(2)\to G\) avec \(d\varphi(e_{0})=e\), ou, ce qui revient au même, avec \(\varphi(u_{0})=u\), où \(u=\exp(e)\) et \(u_{0}=\exp(e_{0})\) — c'est le théorème de Jacobson–Morozov. Pour \(e\neq 0\), ces \(\varphi\) sont déterminés par \(x=d\varphi(x_{0})\), ils sont conjugués sous \(Z=\operatorname{Cent}(e)= \operatorname{Cent}(u)\), et ils forment un torseur sous \(Z^{+}=Z\cap U\), groupe unipotent, où \(U\) est le groupe défini en (iv). L'ensemble des \(x\) correspondants est l'espace affine \(x+\bigl(\mathfrak{g}^{e}\cap\operatorname{Fil}^{1}\mathfrak{g}\bigr)\), torseur sous \(\operatorname{Lie}(Z^{+})=\mathfrak{g}^{e}\cap \operatorname{Fil}^{1}\mathfrak{g}\) pour l'addition. On a \(Z=Z_{0}\ltimes Z^{+}\), où \(Z_{0}=Z\cap L=\operatorname{Cent}(\varphi)\) est réductif.³¹

(iii) Soit \(x\neq 0\) un élément de Dynkin, de cocaractère \(i\). Les \(e\) tels que \((x,e)\) satisfasse aux conditions de (i) forment l'ouvert dense \(\mathfrak{g}(2)^{*}\) de \(\mathfrak{g}(2)\) où \(\operatorname{ad}(e)\colon\mathfrak{g}(0)\to\mathfrak{g}(2)\) est surjectif ; c'est un espace homogène — le tapuscrit corrige « torseur » — sous le groupe réductif \(L=\operatorname{Cent}(x)=\operatorname{Cent}(i)\).

(iv) Soit \(x=\operatorname{Lie}(i)(1)\) un élément de Dynkin, et \(P\), \(U\), \(L\) les sous-groupes d'algèbres de Lie \(\sum_{k\geqslant 0}\mathfrak{g}(k)\), \(\sum_{k\geqslant 1}\mathfrak{g}(k)\) et \(\mathfrak{g}(0)\). Alors \(P\) est parabolique, \(U\) son radical unipotent, \(L\) un sous-groupe de Levi. Si \(u=\exp(e)\) est adapté à \(i\), \(P\) et \(U\) ne dépendent que de \(u\) (deux \(x\) associés au même \(u\) donnent le même \(P\)), de même que \(H=i(\mathbf{G}_{m})\cdot U\) et que \(i\) modulo \(U\). L'application \(g\mapsto\operatorname{Ad}(g)x\) est un isomorphisme de \(U\) sur \(x+\operatorname{Fil}^{1}\mathfrak{g}\), et \(g\mapsto\operatorname{Ad}(g)e\) applique \(U\) sur \(e+\operatorname{Fil}^{3}\mathfrak{g}\), et \(P\) sur \(\mathfrak{g}(2)^{*}+\operatorname{Fil}^{3}\mathfrak{g}\).³²

17–19

Interprétation par les filtrations du foncteur fibre

Le tapuscrit traduit ensuite la théorie en termes de filtrations du foncteur oubli sur la catégorie des représentations de dimension finie de \(G\) — filtrations compatibles au produit tensoriel et exactes, ce qui est automatique en caractéristique nulle.³³

Une classe de conjugaison \(c\) de telles filtrations, rationnelle sur \(k\) (sans qu'elle ait nécessairement un représentant rationnel), revient à un élément de \(X_{*}(T_{0})/W\) invariant par l'image \(\Gamma\) de \(\operatorname{Gal}(\bar k/k)\) dans le groupe des automorphismes extérieurs du groupe de Chevalley \(G_{0}\) associé — autrement dit à un cocaractère dominant stable par \(\Gamma\). On a alors :

• le schéma \(\underline{\varnothing}_{c}\) des filtrations de classe \(c\), espace homogène sous \(G\) dont les stabilisateurs sont des paraboliques ; il s'identifie à l'ouvert et fermé \(\mathrm{Par}_{c'}\) de \(\underline{\mathrm{Par}}(G)\) formé des paraboliques d'un type \(c'\) ;
• le schéma \(\mathrm{ST}_{c}\) des cocaractères \(i\colon\mathbf{G}_{m}\to G\) de classe \(c\), orbite rationnelle dans \(\underline{\mathrm{Hom}}_{\mathrm{gr}}(\mathbf{G}_{m},G)\), isomorphe au schéma \((\mathrm{CL})_{c'}\) des couples de Levi \((P,L)\) avec \(P\) de type \(c'\) : à \(i\) on associe \(P\) et \(\operatorname{Cent}(i)\) ;
• le morphisme \(\mathrm{ST}_{c}\to\underline{\varnothing}_{c}\) (en termes de filtrations), qui s'identifie à \((\mathrm{CL})_{c'}\to\mathrm{Par}_{c'}\) (en termes de paraboliques).

En caractéristique nulle (« j'ignore dans quelle mesure c'est vraiment nécessaire »), soit \(\mathrm{Dyn}_{c}\) le schéma des \(\varphi\colon\mathrm{SL}(2)\to G\) tels que \(\varphi\circ i_{0}\) soit de classe \(c\). S'il est non vide et \(c\neq 1\) — \(c\) est alors une classe de Dynkin —, c'est un espace homogène sous \(G\), de stabilisateur \(Z_{0}\).³⁴ Soit \(\mathrm{Un}_{c}\) le schéma des unipotents de la classe qui correspond à \(c\). Les morphismes \(\varphi\mapsto \varphi\circ i_{0}\) et \(\varphi\mapsto\varphi(u_{0})\), et un morphisme \(\mathrm{Un}_{c}\to\underline{\varnothing}_{c}\) que « Deligne nous fournit », forment un carré commutatif d'espaces homogènes

\begin{tikzcd}
\mathrm{ST}_{c}\simeq(\mathrm{CL})_{c'} \arrow[d] & \mathrm{Dyn}_{c} \arrow[l] \arrow[d] \\
\underline{\varnothing}_{c}\simeq\mathrm{Par}_{c'} & \mathrm{Un}_{c} \arrow[l]
\end{tikzcd}

de stabilisateurs \(L\), \(Z_{0}\), \(P\) et \(\operatorname{Cent}(e)\).³⁵

Points rationnels. \(\mathrm{Par}_{c'}\) a un point rationnel si et seulement si \(\mathrm{Dyn}_{c}\) en a un. Dans un sens, un \(\varphi\) rationnel définit \(i=\varphi\circ i_{0}\), donc \(P\). Dans l'autre, \(P\) rationnel étant donné, on en choisit un Levi, c'est-à-dire un \(i\) de classe \(c\) qui le définit, et les \(e\) adaptés à \(i\) forment l'ouvert dense \(\mathfrak{g}(2)^{*}\) de \(\mathfrak{g}(2)\), qui a un point rationnel. Dans le cas principal, où \(Z_{0}\) est trivial et \(P\) un Borel, cela dit qu'un sous-groupe principal \(\mathrm{SL}(2)\) rationnel existe si et seulement si \(G\) est quasi-déployé.³⁶ L'argument vaut sur un anneau semi-local de caractéristique nulle.

Quand \(G\) n'est pas une forme intérieure, il faut vérifier que la classe \(c'\) de \(P\) provient d'une classe de Dynkin \(c\) invariante par \(\Gamma\), ce qui ne résulte pas de l'invariance de \(c'\) tant qu'on ne sait pas si \(c\mapsto c'\) est injectif sur les classes de Dynkin. Il ne l'est pas : une note marginale le dit pour \(A_{2}\) et \(A_{4}\).³⁷ D'où l'intérêt, pour l'arithmétique, de déterminer les classes de paraboliques de Dynkin–Kostant des groupes simples, et de comparer leur stabilisateur dans le groupe des automorphismes extérieurs à celui des \(c\) correspondants.

Si une filtration du foncteur oubli est définie par un unipotent, la classe de celui-ci (ou \(c\)) est déterminée. Les unipotents qui la définissent sont les \(\exp(e)\), \(e\in\mathfrak{g}(2)^{*}+\operatorname{Fil}^{3}\mathfrak{g}\) ; ils forment une seule classe de conjugaison sous \(P\) — non sous \(U\), dont les classes sont les \(\exp(a+\operatorname{Fil}^{3}\mathfrak{g})\), \(a\in\mathfrak{g}(2)^{*}\).

Cas principal. La classe de \(\varphi\) est principale au sens de Dynkin–Kostant lorsque \(e\) est régulier, ce qui équivaut à ce que \(\mathfrak{g}(0)\) soit une sous-algèbre de Cartan ; on a alors \(\mathfrak{g}(1)=0\). Le parabolique associé est un Borel — la réciproque est fausse, comme on vient de le voir —, et \(Z_{0}\) est trivial pour \(G\) adjoint : \(\mathrm{Dyn}_{c}\) est un torseur sous \(G\).³⁸

21–22

La lettre à Kostant (Massy, 22 octobre 1969)

Lettre dactylographiée, en anglais, signée de sa main.³⁹ Elle dit l'occasion de la relecture : un « joli travail » de Brieskorn sur les singularités de Klein a ramené Grothendieck aux deux articles de Kostant, qui « appellent une reconsidération soigneuse dans le cadre de la géométrie algébrique ». Suivent des questions.

Quadruplets rigidifiants. Pour \(G\) simple adjoint complexe, classer les quadruplets \((T,B,T',B')\) où \(T\) et \(T'\) sont des tores maximaux « en apposition », au sens de Kostant, et \(B\supset T\), \(B'\supset T'\) des Borels. Le nombre de classes de conjugaison est annoncé égal à \[ \frac{\operatorname{card}(W)^{2}}{h\,z\,\varphi(h)} , \] et à \(\operatorname{card}(W)^{2}/hz\) si l'on se donne en outre un générateur du groupe d'ordre \(h\), \(T\cap N(T')\). Le stabilisateur d'un tel quadruplet est \(T\cap T'=e\) : la donnée rend \(G\) entièrement « rigide », aux automorphismes extérieurs près.⁴⁰ Questions : \(B\) et \(B'\) sont-ils en position générale, c'est-à-dire \(B\cap B'\) est-il un tore maximal, pour certains ou pour tous ces quadruplets ? Y a-t-il une classe distinguée, invariante par les automorphismes extérieurs ? Quels sont les groupes d'automorphismes de ces quadruplets — isomorphes, dit-il, à des sous-groupes du groupe des automorphismes extérieurs ?

Le rang de l'application de Kostant. Dans une autre direction : comment varie le rang de la différentielle de \(\mathfrak{g}\to\mathfrak{h}/W\) (et de celle de Steinberg \(G\to T/W\)) ? Il y a des raisons de croire que sur les orbites unipotentes de dimension \(n-r-2\), juste en dessous du maximum \(n-r\), le rang est \(r-1\) quand toutes les racines ont même longueur — types \(A\), \(D\), \(E_{6}\), \(E_{7}\), \(E_{8}\), ceux des singularités de Klein — et \(<r-1\) dans les autres cas ; et que dans le premier cas il n'y a qu'une orbite de cette dimension, propriété peut-être caractéristique du cas « homogène ».⁴¹

Les fibres de Springer. Quelle est la dimension de la variété des Borels qui contiennent un élément \(g\in G\) (resp. dont l'algèbre de Lie contient \(x\in\mathfrak{g}\)) ? Si l'orbite est de dimension \(2N-2i\), il s'attend à la dimension \(i\) ; et l'inégalité \(\leqslant i\) entraînerait, en généralisant un argument de profondeur de Brieskorn, que les singularités des fibres de \(\mathfrak{g}\to\mathfrak{h}/W\) (resp. de \(G\to T/W\) pour \(G\) simplement connexe) sont rationnelles : pour une résolution \(F'\to F\) d'une fibre, \(R^{i}f_{*}\mathcal{O}_{F'}=0\) pour \(i>0\).⁴²

La lettre se clôt sur une phrase qui dit l'attitude : « Peut-être la réponse à la plupart des questions que je pose est-elle bien connue, et suis-je seulement ignorant ; pour certaines d'entre elles, il serait en vérité scandaleux que les experts ne connaissent pas la réponse ! »

23–35

Diagrammes d'espaces homogènes : éléments de Kostant, de Coxeter, points cycliques (feuillets 23 à 35)

Le titre est celui de la chemise du feuillet 23. Les notes qui suivent sont sur papier libre ou au verso de feuillets dactylographiés étrangers au dossier (27, 29, 31, 35), qu'on ne fait que signaler. Elles relèvent dans \(G\) les objets que les feuillets 1–2 décrivaient dans \(W\), sur un corps \(k\) de caractéristique nulle ou première à \(h\).

25–26

Le tableau des notions (feuillets 25 et 26)

Le feuillet 25 dresse, en trois colonnes, une liste de notions, leurs sigles, et le groupe qui les stabilise.

• Éléments de Kostant \(\kappa\colon\mu_{h}\to G\) et éléments de Coxeter \(\gamma\in G(k)\) (E Kost, E Cox) : équivalents en caractéristique nulle dès qu'on s'est donné \(\omega\in\mu_{h}^{*}(k)\), par \(\gamma=\kappa(\omega)\) ; stabilisateur \(\mathfrak{z}\cdot T\), produit semi-direct.
• Sous-groupes de Kostant et de Coxeter \(\mu\hookrightarrow G\) (SG Kost, SG Cox) ; stabilisateur extension de \((\mathbf{Z}/h\mathbf{Z})^{*}\) par \(\mathfrak{z}\cdot T\).
• Couples de Kostant \((\kappa,T')\), ou \((\kappa,D)\) avec \(D\) une droite régulière de \(\mathfrak{g}(1)\), et de Coxeter \((\gamma,T)\) (C Kost, C Cox) ; stabilisateur \(\mu_{h}\times\mathfrak{z}\).
• Précouples \((\mu\subset G,T')\), c'est-à-dire couples de tores en apposition (Toapp) ; stabilisateur extension de \((\mathbf{Z}/h\mathbf{Z})^{*}\) par \(\mu_{h}\times\mathfrak{z}\).
• Droites cycliques \(D\) (D Cy) ; stabilisateur \(\mu_{h}\cdot T'\).
• Couples de Kostant–Killing \(((B,T),T')\), équivalemment \((B,T,D)\) ; stabilisateur \(\mu_{h}\).
• Couples de Kostant normalisés (C Kost norma) ; stabilisateur \(\mathfrak{z}\).
• Couples de Kostant–Killing normalisés \(((T,B),x)\) (Kost Kill norma) ; stabilisateur trivial.

Une marge précise que ces équivalences ne valent qu'en caractéristique nulle « (ou car. \(p>h\) ?) », et une note définit la normalisation : le choix d'un élément d'une droite canonique \(\Delta\), commune aux droites cycliques modulo \(\mu_{h}\), choix privilégié au signe près.⁴³

Le feuillet 26 range les mêmes données en deux treillis — celui des stabilisateurs, de \(0\) à \(N(T)\) et \(N(T')\) en passant par \(\mathfrak{z}\), \(\mu\), \(\mu\times\mathfrak{z}\), \(\mathfrak{z}\cdot T\), \(\mu\cdot T'\), \(N(\mu)\), \(N(T)\cap N(T')\) ; et celui des espaces, de « Kost-Kill-norma » en haut jusqu'aux tores maximaux en bas — avec deux renvois : certains isomorphismes ne sont définis que sur \(\mathring{\mu}_{h}^{*}\), d'autres que si \((h,p)=1\). Une dernière ligne note que l'existence de ces objets dans le cas quasi-déployé s'obtient par descente.⁴⁴

28–30

Les groupes d'une paire de tores en apposition (feuillets 28 et 30)

Le feuillet 28 identifie les couples de tores en apposition \((T,T')\) aux sous-groupes de Coxeter \(\mu\), et le choix d'un isomorphisme \(\mu\simeq\mu_{h}\) au choix d'une droite cyclique \(D\). Puis il croise, dans une grille, les sous-groupes \(T\), \(C(\mu)\) (centralisateur de \(\mu\), que la page note, comme le centre, d'un 3 bouclé), \(N(\mu)\), \(N(T)\) avec leurs intersections par \(N(T')\), par \(N(D)\) et par \(T'\), en notant sur chaque trait le quotient (\(\mathfrak{z}\), \((\mathbf{Z}/h\mathbf{Z})^{*}\), \(T/\mu\), \(\mu\), \(T'/\mathfrak{z}\)) et en marquant les carrés cocartésiens. Il en retient trois égalités : \[ N(T)\cap N(D)=C(\mu)\cap N(D),\qquad N(T)\cap T'=C(\mu)\cap T',\qquad N(T)\cap N(T')=N(\mu)\cap N(T'), \] et une extension canonique de \((\mathbf{Z}/h\mathbf{Z})^{*}\) par \(\mu\times\mathfrak{z}\), dont les deux extensions induites, par \(\mu\) et par \(\mathfrak{z}\), se réalisent dans \(W'\) et dans \(W\).⁴⁵

Le feuillet 30 refait la grille pour un élément de Coxeter \(\gamma\) de \(N(T)\). Il y lit \(T\cap T'=0\) et \[ T'^{\gamma}\simeq P'/(1-c)P'(1)\simeq\mathfrak{z}, \] où \(P'\) est le réseau des cocaractères de \(T'\) (copoids, \(G\) étant adjoint) et \(c\) l'élément de Coxeter qu'induit \(\gamma\) : comme \(1-c\) est inversible sur \(\mathbf{Q}\), les points fixes de \(\gamma\) dans \(T'\) forment le groupe fini \(P'/(1-c)P'\), tordu à la Tate, et \((1-c)\) envoie le réseau des copoids sur celui des coracines, d'où un groupe isomorphe à \(P^{\vee}/Q^{\vee}\), d'ordre \(z\).⁴⁶ Deux justifications suivent : tout élément de \(T\) qui normalise \(D\) est neutre ; tout élément de \(W\) qui centralise \(c\) en est une puissance (le corollaire 1 des feuillets 1–2).

À prouver : tout élément de \(T\) qui normalise \(D\) est dans \(K(\mu_{h})\). La page amorce un calcul d'indice, le déterminant \[ \det\begin{pmatrix} n_{1}+1 & n_{2} & \cdots & n_{r}\\ n_{1} & n_{2}+1 & \cdots & n_{r}\\ \vdots & & \ddots & \vdots\\ n_{1} & n_{2} & \cdots & n_{r}+1 \end{pmatrix}=1+\sum_{i}n_{i}, \] qui vaut \(h\) quand les \(n_{i}\) sont les coefficients de la plus grande racine. Elle conclut que \(N(T)\cap N(D)=N(\mu)\cap N(D)\), puisque \(\mu\simeq\mu_{h}\) est formé des éléments de \(T\) qui normalisent \(D\).⁴⁷

33–33

Rappels de Kostant (feuillet 33)

a) Pour \(\mu_{h}\hookrightarrow T\hookrightarrow G\) fixé, les droites cycliques \(D\) normalisées par \(\mu_{h}\) forment un espace homogène sous \(T\), de stabilisateur \(\mu_{h}\). Elles correspondent bijectivement aux tores maximaux \(T'\) en apposition avec \(T\) par \(\mu_{h}\) — normalisés par \(\mu_{h}\), qui agit sur \(\operatorname{Lie}T'\) avec le caractère \(1\) pour valeur propre — : à \(D\) on associe son centralisateur, à \(T'\) la droite propre correspondante de \(\operatorname{Lie}T'\). On a \(T\cap N(T')=\mu_{h}\).

b) Les droites cycliques de \(\mathfrak{g}\), modulo \(\mu_{h}^{*}\), s'identifient canoniquement à une droite \(\Delta\) définie sur \(k\), obtenue par descente à partir de \(D^{\otimes h}\), ou comme l'image des lieux cycliques par le morphisme de Kostant \(\mathfrak{g}\to\mathfrak{t}/W\). On a \(\mathfrak{g}_{\psi}\simeq\Delta\), ou \(\Delta^{-1}\), car \(\Delta^{\otimes 2}\simeq\mathbf{1}\).⁴⁸

34–34

Les rigidifications de Kostant (feuillet 34)

Soit, sur une base où \((h,p)=1\), le schéma \(\mathrm{RigKos}\) des rigidifications de Kostant \((T,T',B,B')\) : \(T\) et \(T'\) tores maximaux en apposition, \(B\supset T\) et \(B'\supset T'\) des Borels. C'est un schéma lisse sur \(S\), sur lequel \(G\) opère librement, et \(\mathrm{RigKos}/G\) est fini étale de rang \(\operatorname{card}(W)^{2}/\varphi(h)hz\) — le nombre de la lettre. Le feuillet le décrit comme une représentation du groupe des automorphismes extérieurs dans un schéma fini étale sur \(\operatorname{Spec}\mathbf{Z}[1/h]\).

Dans le cas déployé, un épinglage fournit \(\kappa\colon\mu_{h}\to T\) et la droite \(D\) engendrée par \[ e=e_{\alpha_{1}}+\cdots+e_{\alpha_{r}}+e_{-\psi}, \] définie au signe près ; \(T'\) est le centralisateur de \(e\). Le schéma \(Q\) des Borels contenant \(T\) est un \(W\)-torseur trivial ; celui, \(Q'\), des Borels contenant \(T'\) est un \(W'\)-torseur « très tordu ». Le sous-groupe \(\Phi\), image de \(N(T)\cap N(T')\) dans \(W\times W'\), extension de \((\mathbf{Z}/h\mathbf{Z})^{*}\) par \(\mathfrak{z}\times\mu_{h}\), opère sur \(Q\times Q'\), et le quotient cherché est \((Q\times Q')/\Phi\) ; les automorphismes extérieurs y opèrent par leur action \(\pm 1\) sur \(\mathfrak{g}_{-\psi}\).⁴⁹

36–39

Liste d'espaces homogènes remarquables et leurs relations (feuillets 36 à 39)

La chemise du feuillet 36 précise au crayon : « liés aux sous-groupes simples principaux de rang 1 ». Le feuillet 37 dresse la liste des schémas en jeu :

• les sous-groupes simples de rang \(1\) principaux (SSP), seuls ou munis d'un épinglage (SSPEP, contenu dans \(\underline{\mathrm{Hom}}^{*}_{\mathrm{gr}}(\mathrm{SL}(2),G)\)), d'un couple de Killing, d'un tore maximal, d'un Borel, d'un Borel épinglé ;
• les tores de dimension \(1\) principaux (STP) et les homomorphismes principaux \(\mathbf{G}_{m}\to G\) (\(\mathrm{ST}_{0}\mathrm{P}\)) ;
• les sous-groupes additifs principaux (SAP), pointés (\(\mathrm{SAP}_{0}\subset\underline{\mathrm{Hom}}_{\mathrm{gr}}(\mathbf{G}_{a},G)\)), et les unipotents principaux (EUP) — canoniquement isomorphes en caractéristique nulle ;
• les éléments de Coxeter et de Kostant, isomorphes une fois choisie une racine primitive \(h\)-ième de l'unité ;
• les droites cycliques (DC), les éléments cycliques, les éléments cycliques principaux ;
• les couples de tores maximaux en apposition (CTAP), de Coxeter \((T,\gamma\in W(T))\) (CCox), de Kostant \((\kappa,D)\) (CKost), ces deux derniers isomorphes sur \(\mu_{h}^{*}\).

Le feuillet 38 dessine le diagramme de ces espaces homogènes sous \(G\), de \(\underline{\mathrm{Isom}}(G_{0},G)\simeq\mathrm{SSPEP}\) en haut à \(\mathrm{STP}\) et \(\mathrm{SSP}\) en bas, avec \(\mathrm{Kill}\simeq\mathrm{ST}_{0}\mathrm{P}\) et \(\mathrm{SAP}_{0}\simeq\mathrm{EUP}\) ; puis celui des stabilisateurs correspondants, avec les dimensions sur les traits. Les dimensions se vérifient : en partant du sous-groupe principal \(H\) (dimension \(3\)), de son tore \(t\) et de son sous-groupe unipotent \(b_{u}\) (dimension \(1\)), on monte au tore maximal \(T\) et au centralisateur \(Z(b_{u})\) (dimension \(r\)), puis au normalisateur \(N(b_{u})=Z(b_{u})\cdot t\) (dimension \(r+1\)).⁵⁰

40–41

Résultats de Kostant sur les classes remarquables (feuillets 40 et 41)

\(G\) est semi-simple adjoint sur \(\mathbf{C}\).

a) Les classes de conjugaison de sous-groupes simples de rang \(1\) (ou de sous-groupes additifs) correspondent aux classes d'unipotents de \(G\) (ou de nilpotents de \(\mathfrak{g}\)), et à certaines classes de cocaractères \(\mathbf{G}_{m}\to G\). Dans \(\operatorname{Hom}(\mathbf{G}_{m},T)\simeq \mathbf{Z}^{\Sigma}\), ces cocaractères « admissibles », pris dans la chambre dominante \(\mathbf{N}^{\Sigma}\), ont des composantes égales à \(0\), \(1\) ou \(2\) — pas toutes les combinaisons : ce sont les diagrammes de Dynkin pondérés.

b) Le cas où toutes les composantes valent \(2\) est admissible : il correspond aux unipotents principaux (réguliers), et aux homomorphismes principaux.⁵¹ Puis une série de centralisateurs et de normalisateurs : celui d'un unipotent principal est un groupe unipotent commutatif de dimension \(r\) ; celui d'un homomorphisme principal \(\mathbf{G}_{m}\to G\) est un tore maximal, d'où une bijection entre ces homomorphismes et les couples de Killing ; le normalisateur d'un tore de dimension \(1\) principal est engendré par \(T\) et un élément d'ordre \(2\) ; le stabilisateur d'un sous-groupe principal de rang \(1\), muni d'un Borel ou d'un couple de Killing, se lit dans ce sous-groupe. En marge : sur une base quelconque, il existe un sous-groupe principal de rang \(1\) déployé si et seulement si \(G\) est quasi-déployé.⁵²

c) Soit \(u\colon\mathbf{G}_{m}\to G\) un homomorphisme principal, \(h\) le nombre de Coxeter (la somme des coefficients de la plus grande racine, plus \(1\)) et \(\zeta\) une racine primitive \(h\)-ième de l'unité. Les éléments \(u(\zeta)\) sont réguliers et tous conjugués ; leur image dans le groupe de Weyl de leur tore centralisateur est un élément de Coxeter, et réciproquement les représentants d'un élément de Coxeter de \(W=N(T)/T\) sont réguliers. La marge conseille de considérer plutôt la classe de l'homomorphisme \(\mu_{h}\to G\).⁵³

d) Le groupe \(W\) opérant sur \(\mathfrak{t}\), il existe des droites propres d'un élément de Coxeter de valeur propre une racine primitive \(h\)-ième, qui sont régulières, et conjuguées sous \(W\) (\(G\) simple) : ce sont les droites cycliques des feuillets 1–2. Au feuillet 41, la phrase passe de \(\mathfrak{t}\) à \(\mathfrak{g}\) : les droites de \(\mathfrak{g}\) propres sous un élément régulier principal, de valeur propre une racine primitive \(h\)-ième, sont conjuguées ; on les appelle cycliques, et leurs points non nuls éléments cycliques. Pour un couple de Killing donné, on en construit en prenant \[ \sum_{i=1}^{r}\lambda_{i}e_{\alpha_{i}}+\lambda_{0}e_{-\psi}, \qquad\text{tous les }\lambda\text{ non nuls}. \] Le centralisateur d'un élément cyclique est un tore maximal \(T'\), et le normalisateur de la droite \(D\) qu'il engendre est un groupe \(\widetilde{T}'\), \(T'\subset\widetilde{T}'\subset N(T')\), dont l'image dans le groupe de Weyl est cyclique d'ordre \(h\), engendrée par un élément de Coxeter.⁵⁴ Pour une droite cyclique, \(D/\mu_{h}\) s'identifie canoniquement à la droite standard — ce qui se vérifie dans un cas quasi-déployé, où l'on a l'élément cyclique privilégié \(\sum_{i}e_{\alpha_{i}}+e_{-\psi}\) — ; les éléments qui y donnent \(1\) sont les éléments cycliques principaux, définis au signe près. Ils forment un espace homogène sous \(G\), de stabilisateur un tore maximal.⁵⁵

e) Considérons les couples \((T,\gamma)\) d'un tore maximal et d'un \(\gamma\in N(T)\) dont l'image dans \(W\) est un élément de Coxeter. Deux tels couples sont conjugués — et la page s'arrête là, la justification entre crochets étant illisible.

42–47

Résumé de quelques résultats de Kostant (feuillets 42 à 47)

Seconde mouture, manuscrite et mise au propre, d'un résumé de Kostant ; elle ne reprend pas le tapuscrit des feuillets 15–19, mais les objets des feuillets 21–41, sur une base. \(G\) est semi-simple adjoint sur \(S\), de type constant.

43–44

(i) Homomorphismes principaux

À tout couple de Killing \((T,B)\), on associe un cocaractère \(i\colon\mathbf{G}_{m}\to G\), par descente à partir du cas déployé : là, \(T\simeq\mathbf{G}_{m}^{\Sigma}\) par les racines simples, \(\operatorname{Hom}(\mathbf{G}_{m},T)\simeq\mathbf{Z}^{\Sigma}\), et l'on prend l'élément dont toutes les coordonnées valent \(1\) — soit \(\rho^{\vee}\). Son centralisateur est \(T\). Un homomorphisme est principal s'il est associé à un couple de Killing ; ce couple est alors unique (\(i\) est régulier), la condition est locale pour fppf, et les homomorphismes principaux correspondent bijectivement aux couples de Killing.

(i bis) Si \(i\) est principal, \(\lambda\mapsto i(\lambda^{-1})\) l'est aussi, associé au couple de Killing opposé. Le normalisateur de \(i(\mathbf{G}_{m})\) est l'image inverse \(N_{1}(T)\), dans \(N(T)\), du sous-groupe d'ordre \(2\) de \(W\) engendré par l'élément \(w_{0}\) qui envoie \(B\) sur le Borel opposé (on suppose \(r\geqslant 1\)). Un sous-tore de rang \(1\) est principal s'il est localement, pour fppf, l'image d'un homomorphisme principal ; ces sous-tores correspondent aux sections de \(\mathrm{Kill}/(\mathbf{Z}/2\mathbf{Z})\), le quotient étant pris par \(w_{0}\) : un tore maximal et une paire de Borels opposés le contenant, ces Borels n'étant pas nécessairement définis séparément sur \(S\).

44–46

(ii) Homomorphismes de Kostant, et la graduation de \(\mathfrak{g}\)

Supposons \(G\) simple.⁵⁶ Un homomorphisme principal \(i\) induit \(\mu_{h}\to G\). Un homomorphisme \(K\colon\mu_{h}\to G\) est de Kostant s'il est localement (fppf, ou étale fini, cela revient au même) obtenu ainsi. Il est alors régulier : son centralisateur connexe est un tore maximal \(T\). La \(\mathbf{Z}/h\mathbf{Z}\)-graduation de \(\mathfrak{g}\) qu'il définit a pour composante de degré \(0\) la sous-algèbre de Cartan \(\mathfrak{t}\), et pour composante de degré \(j\), \(1\leqslant j\leqslant h-1\), \[ \mathfrak{g}^{j}=\sum_{\operatorname{ht}(\alpha)=j}\mathfrak{g}_{\alpha} \;+\sum_{\operatorname{ht}(\alpha)=j-h}\mathfrak{g}_{\alpha}, \] de rang le nombre de racines dont la hauteur est congrue à \(j\) modulo \(h\).⁵⁷ En particulier \(\mathfrak{g}^{1}\), somme des espaces des racines simples et de celui de \(-\psi\), est de rang \(r+1\).

Le centralisateur \(G^{K}=N(T)^{K}\) est l'image inverse du stabilisateur \(W_{K}\) de \(K\) dans \(W\). Kostant dit que l'ordre de \(W_{K}\) est celui du centre de \(\widetilde{G}\), et Grothendieck espère qu'il soit isomorphe à \(P/R\) (poids modulo racines) ou à son dual à valeurs dans \(\mathbf{Q}/\mathbf{Z}\). C'est la seconde forme qui est juste : \(W_{K}\) est isomorphe à \(P^{\vee}/Q^{\vee}\), dual de \(P/Q\).⁵⁸

La donnée de \(K\colon\mu_{h}\to T\) équivaut à celle de l'ensemble \(\Sigma'\) des racines \(\alpha\) telles que \(\mathfrak{g}_{\alpha}\subset\mathfrak{g}^{1}\), au moins si \(h>2\) ; dans le cas déployé, \(\Sigma'=\Sigma\cup\{-\psi\}\), la base des racines affines simples. Grothendieck vérifie, dans le cas déployé, que \(W_{K}\) est le stabilisateur de \(\Sigma'\) dans \(W\), c'est-à-dire l'ensemble des \(w\) qui envoient toutes les racines simples dans \(\Sigma\), sauf au plus une, envoyée sur \(-\psi\).⁵⁹ Il reste à déterminer le normalisateur de \(K\), et l'action de \(\operatorname{Norm}(K)/\operatorname{Cent}(K)\) sur \(\mu_{h}\) : est-elle transitive sur \(\operatorname{Aut}(\mu_{h})= (\mathbf{Z}/h\mathbf{Z})^{*}\) ? Le dossier ne le dit pas.

46–46

(iii) Le théorème de Kostant sur \(\mathfrak{g}^{1}\)

Soit \(K\colon\mu_{h}\to T\) de Kostant et \(\mathfrak{g}^{1}=\sum_{\alpha\in\Sigma'}\mathfrak{g}_{\alpha}\). En caractéristique nulle (Kostant) :

1. a)une section \(\sum x^{\alpha}\) de \(\mathfrak{g}^{1}\), dont aucune composante ne s'annule, est semi-simple régulière ;
2. b)si l'une des composantes est nulle, elle est nilpotente ;
3. c)deux droites \(D\), \(D'\) du cas a) sont conjuguées par un \(t\in T\), sans unicité : le stabilisateur dans \(T\) d'une telle droite est \(K(\mu_{h})\), et les droites du cas a) forment un torseur sous \(T/K(\mu_{h})\).

Les trois points se voient sur les poids : \(T\) agit sur les \(r+1\) coordonnées \(x^{\alpha}\) par les caractères \(\alpha\in\Sigma'\), liés par la seule relation \(-\psi+\sum_{i}c_{i}\alpha_{i}=0\), où les \(c_{i}\) sont les coefficients de \(\psi\) ; les invariants de \(\mathfrak{g}\) restreints à \(\mathfrak{g}^{1}\) sont donc des polynômes en \(x^{-\psi}\prod_{i}(x^{\alpha_{i}})^{c_{i}}\), qui s'annule dès qu'une coordonnée s'annule, d'où b). Et \(t\) stabilise une droite du cas a) si et seulement si tous les \(\alpha(t)\), \(\alpha\in\Sigma'\), sont égaux à un même \(\lambda\), ce qui force \(\lambda^{1+\sum c_{i}}=\lambda^{h}=1\) et \(t=K(\lambda)\).⁶⁰

47–47

(iv) Droites cycliques

Une droite cyclique est une droite \(D\) de \(\mathfrak{g}\) qui, localement pour fppf, est propre de caractère \(\chi_{1}\) sous un homomorphisme de Kostant \(\mu_{h}\to G\) (et du cas a)). Les droites cycliques sont conjuguées. Si \(D\) est cyclique, son centralisateur connexe est un tore maximal \(T'\), et son normalisateur est un sous-groupe de \(N(T')\) contenant \(T'\), image inverse d'un sous-groupe de \(W'=N(T')/T'\) canoniquement isomorphe à \(\mu_{h}\), dont un générateur correspond à un élément de Coxeter.⁶¹

C'est, relevé dans \(G\) et sur une base, le dernier corollaire des feuillets 1 et 2 : le dossier se referme sur l'objet par lequel il s'était ouvert.