Journal of Algebra Vol.107, No. 1, April 15, 1987, pp.217–255

Foncteurs de Lusztig et caractères des groupes linéaires et unitaires sur un corps fini

François Digne et Jean Michel

École Normale Supérieure, 45 rue d’Ulm, 75005 Paris Cedex, France

Communicated by Michel Broué Received April 1, 1985

Introduction Le but de ce travail est de démontrer comment la théorie des caractères

des groupes linéaires et unitaires sur un corps fini peut être développée simplement, et avec un parallélisme total entre les deux cas, en utilisant la théorie de Deligne-Lusztig, et plus particulièrement le foncteur de Lusztig. Une inspiration pour ce travail a été la lecture de la première partie de [12] dont nous avons essayé de généraliser et systématiser les résultats.

Dans une première partie (§1 à 4), nous développons les propriétés du foncteur de Lusztig; nous exposons d’abord les résultats connus sur la “formule de Mackey”, et montrons en plus (théorème 2.6) qu’elle a lieu si toutes les fonctions centrales sont uniformes (ce qui est le cas dans les groupes linéaires et unitaires).

Aux §3 et 4 nous exposons une “formule du caractère” (proposition 3.2) pour le foncteur R_{L}^{G} ainsi que ses conséquences (Lusztig nous a signalé que Deligne connaissait la formule 3.2 (non publié)). Certains des corollaires que nous donnons semblent nouveaux, en particulier l’étude des fonctions de Green a deux variables; ces résultats ont été annoncés dans [10].

La deuxième partie (§7 à 12) contient deux résultats importants: aux §7 et 9 nous construisons (théorème 9.5) une structure d’algèbre de Hopf sur ⨁_{n≥0} R[G_{n}] où G_{n} est pour tout n le groupe Gl_{n}(𝔽_{q}) ou pour tout n le groupe U_{n}(𝔽_{q^{2}}) . Cette algèbre de Hopf est produit tensoriel de sousalgèbres de Hopf isomorphes à l’algèbre de Hopf des fonctions symétriques, qui sont les sous-algèbres engendrées par chaque représentation cuspidale dans le cas des groupes linéaires, et par chaque représentation d’un sousensemble des représentations cuspidales dans le cas des groupes unitaires.

Le cas de Gl_{n} est une nouvelle présentation d’une construction maintenant classique (cf. [19] et [23]). Le cas de U_{n} est nouveau, l’ingrédient essentiel étant le théorème 2.6 .

Aux §11 et 12 nous donnons une autre décomposition de l’algèbre ⨁_{n≥0} R[G_{n}] ⊗ ℂ en produit tensoriel de sous-algèbres de Hopf à partir des “algèbres de Hall” (théorème 12.3) (dans un travail récent de Springer et Zhelevinsky [21], la même construction est développée pour les groupes linéaires).

Enfin, dans une troisième partie (§13 et 14), nous montrons comment les résultats des §8 à 12 permettent de donner une procédure unifiée pour le calcul des caractères de Gl_{n} et U_{n}, et nous montrons que la conjecture d’Ennola (maintenant théorème de Hotta-Springer-Kawanaka) est équivalente à une propriété des constantes de structure des algèbres de Hall.

0. Notations Dans la suite, nous noterons par des lettres grasses (G,L,…) des

groupes algébriques sur le corps 𝔽, clôture algébrique du corps 𝔽_{q} à q éléments. Si ces groupes sont définis sur 𝔽_{q}, nous noterons F l’endomorphisme de Frobenius correspondant, et nous noterons par des lettres maigres (G, L, …) les groupes finis des points rationnels sur 𝔽_{q}, s’il n’y a pas d’ambiguité sur q.

Si G est un groupe algébrique défini sur 𝔽_{q}, et T un tore maximal rationnel, on note W_{G}(T) ou W (T) le groupe de Weyl du tore T, et W_{G}(T) ou W (T) le groupe des points fixes sous F de W (T). Si s est un élément semi-simple de G, on note Z_{G}^{o}(s) la composante neutre du centralisateur dans G de s, et Z_{G}^{o}(s) le groupe Z_{G}^{o}(s)^{F} . Nous appellerons sous-groupes réguliers de G les sous-groupes de Levi rationnels de sousgroupes paraboliques de G, et nous appellerons sous-groupes réguliers de G les groupes de points rationnels sur 𝔽_{q} des sous-groupes réguliers de G. Enfin, on notera ε_{G} = (−1)^{r}, où r est le 𝔽_{q}-rang de G.

Si G est un groupe fini, on note Ĝ l’ensemble des caractères irréductibles de G sur un corps algébriquement clos de caractéristique 0, et R(G) le groupe de Grothendieck de G.

Enfin, nous noterons G_{u} (resp. G_{u}) l’ensemble des éléments unipotents (resp. unipotents rationnels) du groupe algébrique G .

1. Rappels sur les correspondances (cf. [2]); foncteur de Lusztig. Dans ce paragraphe, nous rappelons dans le cadre des correspondances

(notion que nous présentons sous une forme due à M.Broué) la définition du foncteur de Lusztig.

Soit k un corps de caractéristique 0, soient G et H deux groupes finis et soit M un k[G×H^{o}]-module, i.e. un module sur lequel G opère à gauche et H opère à droite (H^{o} désigne le groupe opposé à H).

Définition 1.1. On note R_{M} le foncteur qui associe à tout k[H]-module à gauche V le k[G]-module M ⊗_{k[H]} V, l’action de G étant induite par l’action de G sur M.

Proposition 1.2. Pour tout g ∈ G, on a:

Trace(g | R_{M}(V)) = |H|^{−1} ∑_{h∈H} Trace(gh | M) Trace(h^{−1} | V).

Démonstration: Le corps k étant de caractéristique 0, l’espace des coinvariants de H dans M ⊗_{k} V est isomorphe à l’espace des invariants; donc R_{M}(V) ≃ (M ⊗_{k} V)^{H}. Or l’élément |H|^{−1} ∑_{h∈H} h⊗h^{−1} est un projecteur sur le sous-module (M ⊗_{k} V)^{H} de M ⊗_{k} V, d’où le résultat.

Rappelons encore les résultats suivants:

Proposition 1.3. Le foncteur adjoint de R_{M} est R_{M^{∗}} où M^{∗} est le dual du module M (sur M^{∗}, le groupe G opère à droite et le groupe H opère à gauche).

Proposition 1.4. Soient G, H, K trois groupes finis et M (resp. N) un k[G × H^{o}]-module (resp. un k[H × K^{o}]-module) définissant un foncteur de correspondance R_{M} (resp. R_{N} comme précédemment). Alors M ⊗_{H} N est un k[G × K^{o}]-module, et on a:

R_{M⊗_{H}N} = R_{M} ∘ R_{N}.

Exemples:

1.5 Induction:

Si H est un sous-groupe de G et si M = k[G], où G opère à gauche par translation, le foncteur R_{M} est l’induction Ind_{H}^{G}. 1.6 Induction à la Harish-Chandra:

Soit G un groupe réductif défini sur 𝔽_{q}. Soit P un sous-groupe parabolique rationnel de G et P = LU une décomposition de Levi rationnelle de P. Soit M = k[G/U]; c’est un G-module à gauche et un L-module à droite (car L normalise U). Le foncteur R_{M} associé est noté R_{L}^{G} et le foncteur adjoint ^{∗}R_{L}^{G}. Le sous-groupe parabolique P ayant servi à la construction est omis des notations car nous verrons (proposition 2.2, (a)) que R_{L}^{G} ne dépend pas de P. 1.7 Foncteur de Lusztig:

Soit G un groupe réductif défini sur 𝔽_{q}, soit P un sous-groupe parabolique de G et P = LU une décomposition de Levi de P. On suppose que L est rationnel (mais pas nécessairement P). On pose:

Y_{U} = { x ∈ G | x^{−1}^{F}x ∈ ^{F}U }

Le groupe G × L^{o} agit sur la variété Y_{U}, l’action de l’élément (g, l) étant donnée par x ↦ gxl . Donc, si on pose M = H_{c}^{∗}(Y_{U}, \overline{ℚ}_{l}), ce module est muni d’une action de G à gauche et de L à droite. On pose:

R_{L,P}^{G} = R_{M} et ^{∗}R_{L,P}^{G} = ^{∗}R_{M}

On omettra souvent l’indice P dans la notation, par abus d’écriture qui sera justifié par le fait que dans beaucoup de cas (et conjecturalement dans tous), le foncteur ne dépend pas du sous-groupe parabolique choisi pour la construction (cf. proposition 2.2, ci-dessous).

Si le sous-groupe parabolique P est rationnel, H_{c}^{∗}(Y_{U}) vaut \overline{ℚ}_{l}[G/U] concentré en degré 2 dim U. Le foncteur de Lusztig est donc égal à celui de Harish-Chandra dans ce cas.

Le formalisme des correspondances donne immédiatement les propositions suivantes (cf. [16], 1.1 et remarque après le lemme 3):

Proposition 1.8. Pour tout \overline{ℚ}_{l}[L]-module E, on a:

Trace(g | R_{L}^{G}(E)) = |L|^{−1} ∑_{l∈L} Trace((g, l) | H_{c}^{∗}(Y_{U})) Trace(l^{−1} | E).

Ce résultat est immédiat d’après 1.2 .

Proposition 1.9. Si Q ⊂ P sont deux sous-groupes paraboliques de G, et si M ⊂ L sont des sous-groupes de Levi rationnels de P et Q respectivement, on a

R_{L,P}^{G} ∘ R_{M,Q∩L}^{L} = R_{M,Q}^{G}.

Démonstration: En effet, d’après la proposition 1.4, il suffit de voir que:

H_{c}^{∗}(Y_{V}) ≃ H_{c}^{∗}(Y_{U}) ⊗_{L} H_{c}^{∗}(Y_{V∩L}),

où U et V désignent les radicaux unipotents de P et Q respectivement, ce qui, d’après le théorème de Kunneth (cf. [22], 5.9) découle de l’isomorphisme

Y_{U} ×_{L} Y_{V∩L} ≃ Y_{V}

induit par l’application (x, l) ↦ xl, d’où le résultat.

Rappelons que (cf. [5]) si T est un tore maximal de G et θ un caractère de T, le caractère de Deligne-Lusztig associé à (T, θ) est le caractère virtuel R_{T}^{G}(θ) de G. Le sous-groupe de Borel contenant T utilisé dans la construction est omis de la notation car le foncteur R_{T}^{G} n’en dépend pas (cf. 2.2, (b)).

On appelle fonctions uniformes sur G les fonctions centrales sur G qui sont combinaisons linéaires des caractères de Deligne-Lusztig. On notera U_{G} l’espace des fonctions uniformes sur G.

2. Formule de Mackey Nous appellerons “formule de Mackey” l’énoncé suivant (cf. [8], 2):

Soient L (resp. M) un sous-groupe de Levi rationnel d’un sous-groupe parabolique P (resp. Q ) de G, alors:

∗R_{M,Q}^{G} ∘ R_{L,P}^{G} = ∑_{x} ad(x^{−1}) ∘ R_{L∩^{x}M,P∩^{x}M}^{^{x}M} ∘ ^{∗}R_{L∩^{x}M,L∩^{x}Q}^{L}

où la somme porte sur un ensemble de représentants de

L\S(L, M)/M

où S(L, M) = { x ∈ G | L ∩ ^{x}M contient un tore maximal de G }.

Proposition 2.1. La formule de Mackey est vraie dans les cas suivants:

(a) Si P et Q sont rationnels (cf. [15], 2.5).

(b) Si L ou M est un tore maximal (cf. [6], 7.1).

(c) Si L et M sont quelconques, à condition que p et q soient assez grands (ce résultat, démontré par Deligne, nous a été communiqué par Lusztig).

(d) Si toutes les fonctions centrales sont uniformes (cf. 2.6 ci-dessous).

Soit L un sous-groupe régulier de G, supposons que la formule de Mackey est vraie avec P = Q = P_{1}, avec P = Q = P_{2} et avec P = P_{1}, Q = P_{2}, où P_{1} et P_{2} sont deux sous-groupes paraboliques admettant L comme sous-groupe de Levi. Alors on obtient facilement (cf. [15]): R_{L,P_{1}}^{G} = R_{L,P_{2}}^{G}. En particulier d’après 2.1 on a :

Proposition 2.2. Le foncteur R_{L,P}^{G} est indépendant de P dans les cas suivants:

(a) Si P est rationnel.

(b) Si L est un tore.

(c) Si p et q sont assez grands.

(d) Si toutes les fonctions centrales sont uniformes.

On retrouve comme conséquence immédiate de la proposition 2.1 dans le cas où L et M sont des tores la formule suivante (cf. [5], 6.8):

Proposition 2.3. Soient T et T′ deux tores maximaux et θ (resp. θ′) un caractère de T (resp. T′), alors:

⟨R_{T}^{G}(θ), R_{T′}^{G}(θ′)⟩_{G} = |T |^{−1}|{ x ∈ G | ^{x}T = T′ et ^{x}θ = θ′ }|.

On notera dans la suite (T) ⊂ G un ensemble de représentants des classes de conjugaison sous G de tores maximaux rationnels.

Corollaire 2.4. L’opérateur p_{G} défini par:

p_{G} = ∑_{(T)⊂G} |W (T)|^{−1}R_{T}^{G} ∘ ^{∗}R_{T}^{G}

est le projecteur orthogonal de l’espace des fonctions centrales sur G sur le sous-espace U_{G} des fonctions uniformes.

Démonstration: L’opérateur p_{G} est autoadjoint et son image est clairement incluse dans l’espace des fonctions uniformes. Donc p_{G} est nul sur U_{G}^{⊥} . Il suffit donc de voir que pour tout tore T et tout caractère θ de T, on a p_{G}(R_{T}^{G}(θ)) = R_{T}^{G}(θ). Comme p_{G}(R_{T}^{G}(θ)) est uniforme, il suffit de calculer ⟨p_{G}(R_{T}^{G}(θ)), R_{T′}^{G}(θ′)⟩_{G} pour tout couple (T′, θ′). On obtient:

\begin{aligned}⟨p_{G}(R_{T}^{G}(θ)), R_{T′}^{G}(θ′)⟩_{G} & = ∑_{(T′′)⊂G} |W (T′′)|^{−1}⟨R_{T′′}^{G}^{∗}R_{T′′}^{G}R_{T}^{G}(θ), R_{T′}^{G}(θ′)⟩ \\ & = ∑_{(T′′)⊂G} |W (T′′)|^{−1}⟨^{∗}R_{T′′}^{G}R_{T}^{G}(θ),^{∗}R_{T′′}^{G}R_{T′}^{G}(θ′)⟩. \end{aligned}

Or, d’après 2.1, (b) on a:

∗R_{T′′}^{G}R_{T}^{G}(θ) = \{ \begin{matrix}0 & si T et T′′ ne sont pas conjugués sous G \\ ∑_{w∈W (T)} ^{w}θ & si T = T′′. \end{matrix}

Donc on obtient:

\begin{aligned}⟨p_{G}(R_{T}^{G}(θ)), R_{T′}^{G}(θ′)⟩ & = |T |^{−1}|\{ x ∈ G | ^{x}T = T′ et ^{x}θ = θ′ \}| \\ & = ⟨R_{T}^{G}(θ), R_{T′}^{G}(θ′)⟩, \end{aligned}

d’après la proposition 2.3, d’où le résultat.

Proposition 2.5. On a: p_{G} ∘ R_{L}^{G} = R_{L}^{G} ∘ p_{L} et ^{∗}R_{L}^{G} ∘ p_{G} = p_{L} ∘ ^{∗}R_{L}^{G}.

Démonstration:: Le deuxième résultat s’obtient évidemment à partir du premier par adjonction. Pour montrer le premier résultat nous devons prouver que:

∑_{(T)⊂G} |W_{G}(T)|^{−1}R_{T}^{G} ∘ ^{∗}R_{T}^{G} ∘ R_{L}^{G} = R_{L}^{G} ∘ ∑_{(T)⊂L} |W_{L}(T)|^{−1}R_{T}^{L} ∘ ^{∗}R_{T}^{L}.

Or le deuxième membre vaut ∑_{(T)⊂L} |W_{L}(T)|^{−1}R_{T}^{G} ∘^{∗}R_{T}^{L} (cf. 1.10). Pour calculer le premier membre, on peut appliquer (2.1(b)), et on obtient:

∑_{(T)⊂G} |W_{G}(T)|^{−1}R_{T}^{G} ∘ ∑_{x∈L\S(L,T)/T} ad(x^{−1}) ∘ ^{∗}R_{^{x}T}^{L}

= ∑_{(T)⊂G} |W_{G}(T)|^{−1} ∑_{x} R_{^{x}T}^{G} ∘ ^{∗}R_{^{x}T}^{L} .

Dans la deuxième somme ci-dessus, le tore ^{x}T parcourt les classes de conjugaison de tores de L conjugués sous G à T, et on obtient |W_{G}(T)|/|W_{L}(T)| tores de chaque classe. Comme on fait la somme sur les classes de tores de G, on obtient donc:

∑_{(T)⊂L} |W_{G}(T)|^{−1}|W_{G}(T)|/|W_{L}(T)|R_{T}^{G} ∘ ^{∗}R_{T}^{L},

d’où le résultat.

Nous pouvons alors énoncer le résultat suivant sur la formule de Mackey:

Théorème 2.6. La projection sur l’espace des fonctions uniformes de la formule de Mackey est vraie, c’est-à-dire que:

p_{M} ∘ ^{∗}R_{M}^{G} ∘ R_{L}^{G} = p_{M} ∘ ∑_{x∈L\S(L,M)/M} ad(x^{−1}) ∘ R_{L∩^{x}M}^{^{x}M} ∘ ^{∗}R_{L∩^{x}M}^{L}

pour tous les sous-groupes réguliers L et M de G.

Démonstration: La proposition précédente montre qu’il suffit de vérifier qu’il y a égalité si on applique les deux membres à un caractère de la forme R_{T}^{L}(θ). Il faut donc voir que:

⟨^{∗}R_{M}^{G}R_{L}^{G}R_{T}^{L}(θ), R_{T′}^{M}(θ′)⟩ = ∑_{x}⟨ad(x^{−1})R_{L∩^{x}M}^{^{x}M}^{∗}R_{L∩^{x}M}^{L}R_{T}^{L}(θ), R_{T′}^{M}(θ′)⟩

où T, T′, θ, et θ′ sont quelconques. Le premier membre vaut ⟨R_{T}^{G}(θ), R_{T′}^{G}(θ′)⟩_{G}. Le deuxième membre se réécrit:

∑_{x}⟨^{∗}R_{L∩^{x}M}^{L}R_{T}^{L}(θ),^{∗}R_{L∩^{x}M}^{^{x}M}R_{^{x}T′}^{^{x}M}(^{x}θ′)⟩_{L∩^{x}M}  (*)

D’après la formule de Mackey (2.1(b)), on a:

∗R_{L∩^{x}M}^{^{x}M}R_{^{x}T′}^{^{x}M}(^{x}θ′) = ∑_{y} R_{L∩^{x}M∩^{yx}T′}^{L∩^{x}M}(^{yx}θ′)

où y ∈ (L ∩ ^{x}M)\S_{^{x}M}(^{x}T′, L ∩ ^{x}M)/^{x}T′

= |L ∩ ^{x}M|^{−1} ∑_{{ y∈^{x}M|^{yx}T′⊂L }} R_{^{yx}T′}^{L∩^{x}M}(^{yx}θ′)

De même:

\begin{aligned}^{∗}R_{L∩^{x}M}^{L}R_{T}^{L}(θ) & = ∑_{z} R_{L∩^{x}M∩^{z}T}^{L∩^{x}M} (^{z}θ) où z ∈ (L ∩ ^{x}M)\S_{L}(T, L ∩ ^{x}M)/T \\ & = |L ∩ ^{x}M|^{−1} ∑_{\{ z∈L|^{z}T⊂^{x}M \}} R_{^{z}T}^{L∩^{x}M}(^{z}θ) \end{aligned}

Donc l’expression (*) vaut:

∑_{x∈L\S(L,M)/M} ∑_{{ y∈^{x}M|^{yx}T′⊂L }} ∑_{{ z∈L|^{z}T⊂^{x}M }} |L ∩ ^{x}M|^{−2}

⟨R_{^{yx}T′}^{L∩^{x}M}(^{yx}θ′), R_{^{z}T}^{L∩^{x}M}(^{z}θ)⟩_{L∩^{x}M}

= ∑_{x,y,z} |L ∩ ^{x}M|^{−2}|T |^{−1}|{ t ∈ L ∩ ^{x}M | ^{z^{−1}tyx}(T′, θ′) = (T, θ) }|

Posons y_{1} = ty, on obtient:

∑_{x∈L\S(L,M)/M} |T |^{−1}|L ∩ ^{x}M|^{−1}

|{ (y_{1}, z) ∈ ^{x}M × L | ^{y_{1}x}T′ ⊂ L,^{z}T ⊂ ^{x}M,^{z^{−1}y_{1}x}(T′, θ′) = (T, θ) }|.

Posons n = z^{−1}y_{1}x, et remarquons que |L ∩ ^{x}M| = |L ∩ ^{n}M|. Si nous montrons que l’application

φ : (x, y_{1}, z) ↦ z^{−1}y_{1}x = n ∈ { n | ^{n}(T′, θ′) = (T, θ) }

a des fibres de cardinal constant égal à |L ∩ ^{n}M|, l’expression à calculer vaudra |T |^{−1}|{ n ∈ G | ^{n}(T′, θ′) = (T, θ) }|, ce qui vaut ⟨R_{T}^{G}(θ), R_{T′}^{G}(θ′)⟩_{G}, d’où le résultat. L’application φ est surjective car les éléments n sont dans S(L, M), et donc peuvent s’écrire z^{−1}x^{x^{−1}}y_{1} = z^{−1}y_{1}x où z ∈ L et y_{1} ∈ ^{x}M, et on a bien ^{yx}T′ = ^{z}T ⊂ L ∩ ^{x}M. D’autre part, l’égalité n = z^{−1}y_{1}x détermine x qui est le représentant de la double classe de n dans L\S(L, M)/M. Le cardinal de la fibre de n est donc le nombre de (z′, y′_{1}) ∈ L ∩ ^{x}M tels que ^{z′}T ⊂ ^{x}M, ^{y′_{1}x}T′ ⊂ L et z^{′−1}y′_{1} = z^{−1}y_{1}. On obtient comme seule condition zz^{′−1} = y_{1}y_{1}^{′−1} ∈ L ∩ ^{x}M. Le couple (z′, y′_{1}) est donc déterminé à L ∩ ^{x}M près, donc la fibre de n a bien le cardinal annoncé, d’où le théorème.

3. Formule du caractère pour R_{L}^{G} et fonctions de Green à deux variables. Dans ce paragraphe, nous généralisons au foncteur de Lusztig la for-

mule du caractère pour le foncteur de Deligne-Lusztig, et en tirons quelques conséquences.

Définition 3.1. Soit P = LU une décomposition de Lévi où L est un sous-groupe de Levi rationnel du sous-groupe parabolique (non nécessairement rationnel) P de G. On appelle fonction de Green (généralisée) la fonction Q_{L}^{G} : G_{u}×L_{u} → \overline{ℚ}_{l} définie par: (u, v) ↦ |L|^{−1} Trace((u, v) | H_{c}^{∗}(Y_{U})).

De même que pour R_{L}^{G}, l’omission de P dans la notation est un abus (justifié dans la plupart des cas).

Proposition 3.2 (formule du caractère pour R_{L}^{G} et ^{∗}R_{L}^{G}). Soit L un sous-groupe régulier de G et soit ψ (resp. χ) un caractère de G (resp. L), alors on a:

(i) (R_{L}^{G}χ)(g) = |L|^{−1}|Z_{G}^{o}(s)|^{−1} ∑_{{ h∈G|s∈^{h}L }} |Z_{^{h}L}^{o}(s)| ∑_{v∈Z_{^{h}L}^{o}(s)_{u}}

Q_{Z_{^{h}L}^{o}(s)}^{Z_{G}^{o}(s)}(u, v^{−1})^{h}χ(sv) si g = su est la décomposition de Jordan de g ∈ G .

(ii) (^{∗}R_{L}^{G}ψ)(l) = |Z_{L}^{o}(t)||Z_{G}^{o}(t)|^{−1} ∑_{u∈Z_{G}^{o}(t)_{u}} Q_{Z_{L}^{o}(t)}^{Z_{G}^{o}(t)}(u, v^{−1})ψ(tu) si l = tv est la décomposition de Jordan de l ∈ L .

Démonstration: Nous utiliserons le lemme suivant:

Lemme 3.3. Avec les notations de la proposition 3.1, on a:

Trace((g, l) | H_{c}^{∗}(Y_{U})) = |Z_{L}^{o}(t)||Z_{G}^{o}(t)|^{−1} ∑_{{ h∈G|^{h}t=s^{−1} }} Q_{Z_{L}^{o}(t)}^{Z_{G}^{o}(t)}(^{h^{−1}}u, v)(*)

= |Z_{G}^{o}(s)|^{−1} ∑_{{ h∈G|^{h^{−1}}s=t^{−1} }} |Z_{^{h}L}^{o}(s)|Q_{Z_{^{h}L}^{o}(s)}^{Z_{G}^{o}(s)}(u,^{h}v) (**)

Démonstration: Les deux égalités sont clairement équivalentes. Démontrons la première. D’après les propriétés générales de la cohomologie ladique, on a:

Trace((g, l) | H_{c}^{∗}(Y_{U})) = Trace((u, v) | H_{c}^{∗}(Y_{U}^{(s,t)})) (cf. [3], 3.2).

Nous allons montrer que l’application

φ : { h ∈ G | ^{h}t = s^{−1} } × { z ∈ Z_{G}^{o}(t) | z^{−1}^{F}z ∈ ^{F}U } → Y_{U}^{(s,t)}

donnée par (h, z) ↦ hz est surjective. Tout d’abord cette application est bien définie car, comme Y_{U}^{(s,t)} = { x ∈ G | x^{−1}^{F}x ∈ ^{F}U et sxt = x }, il est clair que φ(h, z) ∈ Y_{U}^{(s,t)}. D’autre part, si x ∈ Y_{U}^{(s,t)} alors sxt = x, donc s^{F}xt = ^{F}x = x(x^{−1}^{F}x), d’où s^{F}xt = sxt(x^{−1}^{F}x), ce qui s’écrit (x^{−1}^{F}x)t = t(x^{−1}^{F}x), i.e. x^{−1}^{F}x ∈ Z_{G}(t). Comme x^{−1}^{F}x est unipotent, on a même x^{−1}^{F}x ∈ Z_{G}^{o}(t). Par application du théorème de Lang dans Z_{G}^{o}(t), on peut écrire: x^{−1}^{F}x = z^{−1}^{F}z, où z ∈ Z_{G}^{o}(t). Posons alors h = xz^{−1}; on a h ∈ G,^{h}t = s^{−1} et φ(h, z) = x, d’où la surjectivité de φ.

L’application φ n’est pas injective, mais si φ(h, z) = φ(h′, z′), on a: h^{−1}h′ = zz^{′−1} ∈ Z_{G}^{o}(t), donc φ induit un isomorphisme:

{ h ∈ G | ^{h}t = s^{−1} } ×_{Z_{G}^{o}(t)} { z ∈ Z_{G}^{o}(t) | z^{−1}^{F}z ∈ ^{F}U } → Y_{U}^{(s,t)}

ce qui peut encore s’écrire:

Y_{U}^{(s,t)} ≃ ∐_{{ h∈G/Z_{G}^{o}(t)|^{h}t=s^{−1} }}{ z ∈ Z_{G}^{o}(t) | z^{−1}^{F}z ∈ ^{F}U }_{h}

où (u, v) ∈ Z_{G}^{o}(s)_{u} × Z_{L}^{o}(t)_{u} agit sur le morceau indexé par h par: z ↦ h^{−1}uzv. On obtient donc:

Trace((g, l) | H_{c}^{∗}(Y_{U})) = |Z_{G}^{o}(t)|^{−1} ∑_{{ h∈G|^{h}t=s^{−1} }} Trace((^{h^{−1}}u, v)|H_{c}^{∗}(Y_{U∩Z_{G}^{o}(t)}))

car chaque morceau de la variété Y_{U}^{(s,t)} est isomorphe à Y_{U∩Z_{G}^{o}(t)}. D’où le lemme.

Montrons alors la proposition 3.2; d’après la proposition 1.2 on a:

(R_{L}^{G}χ)(g) = |L|^{−1} ∑_{l∈L} Trace((g, l) | H_{c}^{∗}(Y_{U}))χ(l^{−1})

et

(^{∗}R_{L}^{G}ψ)(l^{−1}) = |G|^{−1} ∑_{g∈G} Trace((g, l) | H_{c}^{∗}(Y_{U}))ψ(g)

Appliquant le lemme 3.3 dans les deux sommes, et échangeant les sommations, on obtient:

(R_{L}^{G}χ)(g) = |L|^{−1}|Z_{G}^{o}(s)|^{−1} ∑_{{ h∈G|^{h^{−1}}s∈L }} |Z_{^{h}L}^{o}(s)|

∑_{v∈Z_{L}^{o}(^{h^{−1}}s^{−1})} Q_{Z_{^{h}L}^{o}(s)}^{Z_{G}^{o}(s)}(u,^{h}v)χ(^{h^{−1}}sv^{−1})

d’après (**) et

(^{∗}R_{L}^{G}ψ)(l^{−1}) = |G|^{−1}|Z_{G}^{o}(t)|^{−1}|Z_{L}^{o}(t)| ∑_{g∈G} ∑_{u∈Z_{G}^{o}(^{h}t)} Q_{Z_{L}^{o}(t)}^{Z_{G}^{o}(t)}(^{h^{−1}}u, v)ψ(^{h}tu),

d’après (*).

On obtient le résultat en prenant ^{h}v comme variable dans la somme de la première formule et en prenant ^{h^{−1}}u comme variable dans la somme de la deuxième formule.

Corollaire 3.4. Sous les hypothèses de la proposition 3.2, on a:

(R_{L}^{G}χ)(g) = |Z_{G}^{o}(s)|^{−1} ∑_{{ h∈G|s∈^{h}L }} |Z_{^{h}L}^{o}(s)||L|^{−1}R_{Z_{^{h}L}^{o}(s)}^{Z_{G}^{o}(s)}(^{h}χ)(g).

Démonstration: Dans le cas où s est dans le centre de G, le lemme 3.3 (*) donne:

|L|^{−1} Trace((g, l) | H_{c}^{∗}(Y_{U})) =

\{ \begin{matrix}|G|^{−1} ∑_{h∈G} Q_{L}^{G}(^{h^{−1}}u, v) = Q_{L}^{G}(u, v) & si s = t^{−1} \\ 0 & sinon \end{matrix}

cette dernière égalité car Q_{L}^{G} est la restriction d’une fonction centrale sur G × L. Donc d’après 1.8 :

(R_{L}^{G}χ)(g) = ∑_{v∈L_{u}} Q_{L}^{G}(u, v^{−1})χ(sv)

En appliquant cette formule à R_{Z_{^{h}L}^{o}(s)}^{Z_{G}^{o}(s)}(^{h}χ)(g) dans le deuxième membre

de l’énoncé du corollaire, on obtient bien la formule du caractère 3.2, (i). Nous donnons maintenant un énoncé “de type de Curtis” :

Théorème 3.5. Soit L un sous-groupe régulier de G, soit ψ un caractère de G, et soit l = su la décomposition de Jordan d’un élément de L. Alors:

((Res_{Z_{L}^{o}(s)}^{L} ∘^{∗}R_{L}^{G})ψ)(l) = ((^{∗}R_{Z_{L}^{o}(s)}^{Z_{G}^{o}(s)} ∘ Res_{Z_{G}^{o}(s)}^{G})ψ)(l)

Dans le cas où L est un sous-groupe de Lévi d’un sous-groupe parabolique rationnel, ce résultat a été démontré par Curtis avec l’hypothèse supplémentaire Z_{G}(l) ⊂ L (cf. [4], théorème A). Dans le cas où L est quelconque, ce résultat a été démontré par Lusztig si Z_{G}(s) ⊂ L (communication personnelle de Lusztig à Fong et Srinivasan; cf. [12], 2 où est traité le cas de Gl_{n} ou U_{n}). Voir aussi [8] §3, lemme 3. Démonstration du théorème 3.5: Il suffit de remarquer que dans la formule du caractère (3.2) pour ^{∗}R_{L}^{G}ψ, le deuxième membre ne change pas si on remplace G par Z_{G}^{o}(s) et L par Z_{L}^{o}(s) .

Notation 3.6. Dans la suite, si x est un élément d’un groupe fini H, nous noterons π_{x}^{H} la fonction qui vaut |Z_{H}(x)| sur la classe de conjugaison de x et 0 sur les autres éléments de H.

Avec cette notation, on a:

Corollaire 3.7. Soit x ∈ G et soit L un sous-groupe régulier de G contenant Z_{G}^{o}(s), alors:

R_{L}^{G}(π_{x}^{L}) = π_{x}^{G}

Démonstration: Il suffit de voir que:

⟨R_{L}^{G}(π_{x}^{L}), ψ⟩ = ⟨π_{x}^{G}, ψ⟩ pour tout ψ ∈ Ĝ

Or ⟨π_{x}^{G}, ψ⟩ = ψ(x), et ⟨R_{L}^{G}(π_{x}^{L}), ψ⟩ = ⟨π_{x}^{L},^{∗}R_{L}^{G}ψ⟩ . Et, d’après le théorème 3.5, ce dernier terme vaut ψ(x), d’où le résultat.

Donnons une autre conséquence de la proposition 3.2:

Proposition 3.8. Soit φ un caractère de G dont la valeur en x ∈ G ne dépend que de la partie semi-simple de x, alors pour tout sous-groupe régulier L de G et tout caractère π de L (resp. ψ de G), on a:

R_{L}^{G}(π. Res_{L}^{G} φ) = (R_{L}^{G}π).φ  (i)
(^{∗}R_{L}^{G}ψ). Res_{L}^{G} φ = ^{∗}R_{L}^{G}(ψ.φ)  (ii)

Démonstration: D’après la proposition 3.2, on a:

R_{L}^{G}(π. Res_{L}^{G} φ)(g) =

|Z_{G}^{o}(s)|^{−1} ∑_{{ h∈G|s∈^{h}L }} ∑_{v∈Z_{G}^{o}(s)_{u}} |L|^{−1}Q_{Z_{L}^{o}(s)}^{Z_{G}^{o}(s)}(u, v^{−1})^{h}π(sv)^{h}φ(sv)

Or ^{h}φ(sv) = φ(sv) = φ(s), d’où (i); (ii) s’en déduit immédiatement par adjonction.

Corollaire 3.9. Sous les mêmes hypothèses, on a ^{∗}R_{L}^{G}φ = Res_{L}^{G} φ

Démonstration: Il suffit de faire ψ = 1 dans la proposition précédente, et de remarquer que ^{∗}R_{L}^{G}(1) = 1, ce qui est vrai car ^{∗}R_{L}^{G}(1) est le caractère du L-module H_{c}^{∗}(Y_{U})^{G} (cf. 1.8). Ce module est isomorphe à H_{c}^{∗}(Y_{U}/G) (cf. [22], 5.10). Or Y_{U}/G est clairement isomorphe à F (U), donc a même cohomologie, à un décalage près, qu’un espace réduit à un point (cf. [22], 5.7). D’où le résultat.

Dans [16], 12 la proposition suivante est implicite comme conséquence de son corollaire 3.11 qui est cité, sans démonstration, comme dû à Deligne.

Proposition 3.10. Pour tout caractère φ de L, on a:

dim(R_{L}^{G}φ) = ε_{G}ε_{L}|G/L|_{p′}dim(φ)

Démonstration: On a φ(1) = ⟨φ, π_{1}^{L}⟩ = ⟨φ, p_{L}π_{1}^{L}⟩ = ⟨p_{L}φ, π_{1}^{L}⟩ = (p_{L}φ)(1) car la fonction π_{1}^{L} est uniforme (cf. [5], 7.5). De même (R_{L}^{G}φ)(1) = (p_{G}R_{L}^{G}φ)(1). Donc il faut démontrer que (p_{G}R_{L}^{G}φ)(1) = ε_{G}ε_{L}|G/L|_{p′} × (p_{L}φ)(1), et, comme p_{G}∘R_{L}^{G} = R_{L}^{G}∘p_{L} (cf. 2.5), on est ramené à démontrer que pour tout couple (T, θ) où T est un tore de L on a:

(R_{L}^{G}(R_{T}^{L}θ))(1) = ε_{G}ε_{L}|G/L|_{p′}(R_{T}^{L}θ)(1)

ce qui est vrai d’après [5], 7.1 car:

(R_{L}^{G}(R_{T}^{L}θ))(1) = (R_{T}^{G}θ)(1) = ε_{G}ε_{T} |G/T |_{p′} et (R_{T}^{L}θ)(1) = ε_{L}ε_{T} |L/T |_{p′}

Corollaire 3.11. Pour tout caractère φ de L (resp. ψ de G) on a:

(R_{L}^{G}φ).ε_{G}St_{G} = Ind_{L}^{G}(φ.ε_{L}St_{L})  (i)
∗R_{L}^{G}(ψ.ε_{G}St_{G}) = ε_{L}St_{L}. Res_{L}^{G} ψ  (ii)

où on a noté St_{H} le caractère de Steinberg du groupe H = G ou L .

Démonstration: D’après la proposition 3.10, pour tout φ ∈ L̂ on a:

\begin{aligned}⟨R_{L}^{G}φ, π_{1}^{G}⟩ & = ε_{G}ε_{L}|G/L|_{p′}⟨φ, π_{1}^{L}⟩ d’où: \\ ^{∗}R_{L}^{G}π_{1}^{G} & = ε_{G}ε_{L}|G/L|_{p′}π_{1}^{L}. \end{aligned}

Appliquons la formule du caractère (3.2) à ^{∗}R_{L}^{G}π_{1}^{G}, et calculons les deux membres au point 1; on obtient:

Q_{L}^{G}(1, 1) = ε_{G}ε_{L}|G/L|_{p′}  (*)

D’après (3.2), 3.11(ii) est équivalent à: Pour tout ψ ∈ Ĝ et tout élément semi-simple s ∈ L, on a:

ε_{Z_{G}^{o}(s)}|Z_{G}^{o}(s)|_{p′}^{−1}|Z_{L}^{o}(s)|ψ(s)Q_{Z_{L}^{o}(s)}^{Z_{G}^{o}(s)}(1, 1) = ε_{Z_{L}^{o}(s)}|Z_{L}^{o}(s)|_{p}ψ(s)

car, si x = su est la décomposition de Jordan de x ∈ H = G ou L, on a:

St_{H}(x) = \{ \begin{matrix}0 & si u ≠ 1 \\ ε_{H}ε_{Z_{H}^{o}(s)}|Z_{H}^{o}(s)|_{p} & sinon. \end{matrix}

L’égalité à démontrer découle immédiatement de (*) appliqué avec Z_{G}^{o}(s) pour G et Z_{L}^{o}(s) pour L, d’où (ii). Le (i) s’en déduit par adjonction.

Définition 3.12.

(i) Pour un groupe quelconque H, on définit l’opérateur t_{z}^{H} (où z est dans le centre Z(H) de H) sur les fonctions centrales sur H par:

t_{z}^{H}(χ)(x) = χ(z^{−1}x).

(ii) Soit s un élément semi-simple de G. On définit l’opérateur d_{s}^{G} des fonctions centrales sur G dans les fonctions centrales sur Z_{G}^{o}(s) par:

(d_{s}^{G}χ)(x) = \{ \begin{matrix}0 & si x n’est pas unipotent \\ χ(sx) & sinon \end{matrix}

pour tout x ∈ Z_{G}^{o}(s). (iii) On note χ_{U} la fonction caractéristique des éléments unipotents de G,

et p_{U}^{G} la projection orthogonale sur les fonctions centrales sur G nulles hors de G_{u} définie par: p_{U}^{G}(χ) = χ.χ_{U}.

Avec ces notations on a:

Proposition 3.13. Soit L un sous-groupe régulier de G. On a:

(i)  t_{z}^{L} ∘ ^{∗}R_{L}^{G} =^{∗}R_{L}^{G} ∘ t_{z}^{G}  (i′)  R_{L}^{G} ∘ t_{z}^{L} =t_{z}^{G} ∘ R_{L}^{G}

pour tout élément z de Z(G);

(ii) p_{U}^{L} ∘ ^{∗}R_{L}^{G} =^{∗}R_{L}^{G} ∘ p_{U}^{G}  (ii′) R_{L}^{G} ∘ p_{U}^{L} =p_{U}^{G} ∘ R_{L}^{G}
(iii) d_{s}^{L} ∘ ^{∗}R_{L}^{G} =^{∗}R_{Z_{L}^{o}(s)}^{Z_{G}^{o}(s)} ∘ d_{s}^{G}

pour tout élément semi-simple s de L.

Démonstration: (i’) (resp. (ii’)) se déduit par adjonction de (i) (resp. (ii)) car l’adjoint de t_{z}^{G} est t_{z^{−1}}^{G} et p_{U}^{G} est autoadjoint.

D’après 3.2 on a:

\begin{aligned}(t_{z}^{L} ∘ ^{∗}R_{L}^{G})(φ)(su) & = |Z_{G}^{o}(sz)|^{−1} ∑_{v∈Z_{G}^{o}(sz)_{u}} φ(z^{−1}sv)Q_{Z_{L}^{o}(sz)}^{Z_{G}^{o}(sz)}(v, u^{−1}) \\ & = (^{∗}R_{L}^{G} ∘ t_{z}^{G})(φ)(su) \end{aligned}

car Z_{G}^{o}(s) = Z_{G}^{o}(sz) et Z_{L}^{o}(s) = Z_{L}^{o}(sz) d’où (i).

L’assertion (ii) est conséquence de 3.8 (ii) appliqué en prenant pour φ la fonction caractéristique des éléments unipotents.

Enfin, en partant de la formule:

d_{s}^{G} = p_{U}^{Z_{G}^{o}(s)} ∘ t_{s^{−1}}^{Z_{G}^{o}(s)} ∘ Res_{Z_{G}^{o}(s)}^{G}

on obtient (iii) en utilisant successivement (ii), (i) et 3.8 (ii).

4. Fonctions de Green à une variable Si T est un tore maximal rationnel de G, nous écrirons Q_{T}^{G}(u) (ou

même Q_{T} (u) s’il n’y a pas d’ambigüité sur G) pour Q_{T}^{G}(u, 1), ce qui est la fonction de Green usuelle (cf. [5], 4.1).

On considérera parfois cette fonction comme définie sur tout G en l’étendant par 0 hors de G_{u} . La proposition 3.2, dans le cas particulier où L est un tore maximal, redonne la formule du caractère pour les foncteurs de Deligne-Lusztig R_{T}^{G} et ^{∗}R_{T}^{G} (cf. [5], 4.2 et [22] p. 86)

Proposition 4.1 (formules d’orthogonalité des fonctions de Green).

(i) Soient T et T′ deux tores maximaux rationnels de G, alors:

|G|^{−1} ∑_{u∈G_{u}} Q_{T}^{G}(u)Q_{T′}^{G}(u) =

\{ \begin{matrix}|T |^{−1}|W (T)| & si T et T′ sont conjugués sous G \\ 0 & sinon \end{matrix}

(ii) Soit u un élément unipotent tel que la fonction caractéristique de la classe de conjugaison de u dans G soit uniforme, alors, pour tout élément unipotent u′ on a:

∑_{(T)⊂G} |T ||W (T)|^{−1}Q_{T}^{G}(u)Q_{T}^{G}(u′) = \{ \begin{matrix}|Z_{G}(u)| & si u et u′ sont conjugués dans G \\ 0 & sinon \end{matrix}

Démonstration: (i) est bien connu (cf. [22], 6.15); (ii) est conséquence immédiate du lemme suivant.

Lemme 4.2. Soit f une fonction uniforme nulle en dehors des éléments unipotents, alors:

f = ∑_{(T)⊂G} |W (T)|^{−1}|T |⟨f, Q_{T}^{G}⟩_{G}Q_{T}^{G}.

Démonstration: En effet, si f est uniforme on a:

f = ∑_{(T)⊂G} ∑_{θ∈T̂/W (T)}⟨f, R_{T}^{G}(θ)⟩⟨R_{T}^{G}(θ), R_{T}^{G}(θ)⟩^{−1}R_{T}^{G}(θ).

Or l’orbite de θ sous W (T) est de cardinal |W (T)|/⟨R_{T}^{G}(θ), R_{T}^{G}(θ)⟩, donc l’égalité ci-dessus se réécrit:

f = ∑_{(T)⊂G} ∑_{θ∈T̂} |W (T)|^{−1}⟨f, R_{T}^{G}(θ)⟩R_{T}^{G}(θ).

Comme f est nulle en dehors des éléments unipotents, on a:

⟨f, R_{T}^{G}(θ)⟩ = ⟨f, Q_{T}^{G}⟩.

Donc, comme on a ∑_{θ∈T̂} R_{T}^{G}(θ) = R_{T}^{G}(π_{1}^{T}) = |T |Q_{T}^{G}, cette dernière égalité d’après la formule du caractère 3.2 (i), on obtient:

f = ∑_{(T)⊂G} |W (T)|^{−1}⟨f, Q_{T}^{G}⟩ ∑_{θ∈T̂} R_{T}^{G}(θ) = ∑_{(T)⊂G} |W (T)|^{−1}|T |⟨f, Q_{T}^{G}⟩Q_{T}^{G}.

Proposition 4.3. Pour tout (u, v) ∈ G_{u} × L_{u}, la fonction:

(u, v) ↦ Q_{L}^{G}(u, v) − |L|^{−1} ∑_{(T)⊂L} |T ||W_{L}(T)|^{−1}Q_{T}^{G}(u)Q_{T}^{L}(v)

est dans U_{G}^{⊥} ⊗ U_{L}^{⊥}.

Démonstration: Si f est une fonction sur G_{u} × L_{u}, on notera f(, v) la fonction sur G_{u} : u ↦ f(u, v) et f(u,) la fonction sur L_{u} : v ↦ f(u, v). Comme les restrictions aux éléments unipotents des caractères de Deligne-Lusztig sont les fonctions de Green à une variable, il suffit de démontrer que pour tout (u, v) ∈ G_{u} × L_{u}, et pour tout tore maximal rationnel T de G (resp. de L), on a:

⟨f(, v), Q_{T}^{G}⟩ = 0 (resp. ⟨f(u,), Q_{T}^{L}⟩_{L} = 0)

où f est la fonction de l’énoncé. En appliquant 4.1 (i) il suffit de démontrer les égalités:

⟨Q_{L}^{G}(, v), Q_{T}^{G}⟩_{G} = |L|^{−1} ∑_{{ (T′)⊂L|T′∼_{G}T }} |W_{G}(T)||W_{L}(T′)|^{−1}Q_{T′}^{L}(w)

et

⟨Q_{L}^{G}(u,), Q_{T}^{L}⟩_{L} = |L|^{−1}Q_{T}^{G}(u).

En appliquant la proposition 3.2(ii) (resp. 3.2 (i)) les membres de gauche des deux égalités valent respectivement |L|^{−1}(^{∗}R_{L}^{G}R_{T}^{G})(1)(v) et |L|^{−1} × R_{L}^{G}R_{T}^{L}(1)(u). Cette dernière expression est clairement égale à |L|^{−1}Q_{T}^{G}(u) . On démontre que l’autre expression a la valeur annoncée en utilisant la formule de Mackey (2.1 (b)).

Corollaire 4.4. Si l’une des fonctions π_{u}^{G} ou π_{v}^{L} est uniforme, alors:

Q_{L}^{G}(u, v) = |L|^{−1} ∑_{(T)⊂L} |T ||W_{L}(T)|^{−1}Q_{T}^{G}(u)Q_{T}^{L}(v).

Démonstration: Sous les hypothèses du corollaire, la fonction de la proposition 4.3 a un produit scalaire nul avec π_{u}^{G} ⊗ π_{v}^{L}, or pour toute fonction centrale f sur G × L on a: ⟨f, π_{u}^{G} ⊗ π_{v}^{L}⟩_{G×L} = f(u, v).

5. Paramétrage des sous-groupes réguliers

Proposition 5.1. Soit T_{o} un tore maximal rationnel fixé de G. Les classes de conjugaison sous G de sous-groupes réguliers rationnels de G sont en bijection avec les classes de F -conjugaison sous W (T_{o}) de classes à droite W_{1}z, où W_{1} ⊂ W (T_{o}) est un sous-groupe parabolique et où z ∈ W (T_{o}) vérifie ^{zF}W_{1} = W_{1} (cette condition ne dépend pas des représentants choisis).

Démonstration: Soit L un sous-groupe régulier rationnel et T un tore maximal rationnel de L . Alors il existe x ∈ G tel que ^{x}T_{o} = T. Soient L_{o} = ^{x^{−1}}L, W_{1} = W_{L_{o}}(T_{o}) et z = x^{−1}^{F}x ∈ N(T_{o}) (car T est rationnel). On associe W_{1}z = x^{−1}W_{L}(T)^{F}x à la classe de L. Nous allons montrer que la classe de F -conjugaison de W_{1}z est indépendante des choix faits.

a) Indépendance par rapport à x: si y est un autre élément qui conjugue T_{o} en T, alors y ∈ xN(T_{o}), et le changement de x en y revient à F -conjuguer W_{1}z.

b) Indépendance par rapport à T: si T′ est un autre tore maximal rationnel de L, alors T et T′ sont conjugués par un élément l ∈ L, et l^{−1}^{F}l ∈ N_{L}(T) car T et T′ sont rationnels. Changer T en T′ revient à remplacer W_{1}z par (lx)^{−1}W_{L}(T′)^{F}(lx), ce qui est égal à: x^{−1}W_{L}(T)l^{−1}^{F}l^{F}x, donc à x^{−1}W_{L}(T)^{F}x = W_{1}z .

c) Indépendance par rapport au choix de L dans sa classe de conjugaison: soit L′ = ^{y}L avec y ∈ G, alors, en prenant le tore T′ = ^{y}T pour faire la construction, on obtient

x^{−1}y^{−1}W_{L′}(T′)^{F}y^{F}x = x^{−1}W_{L}(T)y^{−1}^{F}y^{F}x = x^{−1}W_{L}(T)^{F}x,

car y = ^{F}y.

Nous allons définir une application en sens inverse, en associant à W_{1}z une classe de sous-groupes réguliers. Utilisons le théorème de Lang pour écrire z = x^{−1}^{F}x: le tore T = ^{x^{−1}}T_{o} est un tore rationnel. Soit L le sousgroupe régulier de G contenant T et tel que W_{L}(T) = ^{x^{−1}}W_{1}. Alors L est rationnel si et seulement si ^{F}(W_{L}(T)) = W_{L}(T), c’est-à-dire ^{zF}W_{1} = W_{1}. C’est, comme précédemment, indépendant du choix de x et du choix de W_{1}z dans sa classe de F -conjugaison. Pour voir que c’est indépendant du choix de z dans sa classe à droite, remarquons que si z′ = w_{1}z avec w_{1} ∈ W_{1}, comme L_{o} est stable par zF, on peut écrire w_{1} = l^{−1}^{zF}l avec l ∈ L_{o}, donc z′ = w_{1}z = (xl)^{−1}^{F}(xl) et le changement de z en z′ revient à changer T et W_{L}(T) en T′ et W_{L}(T′) où T′ = ^{^{x}l}(T). D’où le résultat.

Définition 5.2. Si L est un sous-groupe régulier de G correspondant à W_{1}z comme ci-dessus, on dit que W_{1}z est le type de L par rapport à T_{o}.

Remarque 5.3. En particulier, les classes de tores maximaux rationnels sont paramétrées par les classes de F -conjugaison d’éléments de W (T_{o}).

Remarque 5.4. Si T_{1} est un autre tore maximal rationnel, et si w est le type de T_{1} par rapport à T_{o}, on a T_{1} = ^{x}T_{o} où x^{−1}^{F}x = w, et on peut identifier W (T_{1}) à W (T_{o}) en utilisant la conjugaison par x. Par cette identification, un sous-groupe régulier de type W_{1}z (classe dans W (T_{o})) par rapport à T_{1} est de type W_{1}zw par rapport à T_{o} (l’action de F sur W (T_{1}) s’identifie à l’action de wF sur W (T_{o})).

Remarque 5.5. Si L est de type W_{1}z par rapport à T_{o}, alors W_{1} s’identifie au groupe de Weyl dans L d’un tore de L de type z par rapport à T_{o}, l’action de F sur ce groupe de Weyl s’identifiant à l’action de zF sur W_{1}.

6. Groupe dual; séries E(G, s) Dans ce paragraphe, nous rappelons la définition et quelques proprié-

tés du dual d’un groupe réductif, ainsi que la classification de Lusztig en séries E(G, s) des caractères de G. Si T est un tore maximal rationnel de G, il existe un unique couple, à isomorphisme rationnel près, T^{∗} ⊂ G^{∗} tel que X(T) ≃ Y (T^{∗}), cet isomorphisme envoyant les racines simples sur les coracines simples et commutant à l’action de F. Par cette construction on obtient une bijection entre les types de sous-groupes réguliers de G et de G^{∗}. Si L ⊂ G a même type par rapport à T que L′ par rapport à T^{∗}, on dit que L correspond à L′, et on a L′ ≃ L^{∗} (cf. [17], 7.3). En particulier la définition de G^{∗} ne dépend pas, à isomorphisme près, du tore choisi. Pour ces propriétés, ainsi que les suivantes, voir [5],§5.

Une fois choisi un isomorphisme i : 𝔽^{×} ≃ (ℚ/ℤ)_{p′}, on a une bijection canonique de T̂ sur T^{∗} qui est donnée par les suites exactes:

1 → X(T) →^{F −1}X(T) → T̂ → 1

1 → Y (T^{∗}) →^{F −1}Y (T^{∗})→^{α}T^{∗} → 1

où α est donné par δ ↦ N_{T^{∗}(𝔽_{q^{n}})/T^{∗}(𝔽_{q})}(δ(i^{−1}((q^{n} − 1)^{−1}))), si T est déployé sur 𝔽_{q^{n}}. Il y a donc bijection entre les classes de conjugaison sous G de couples (T, θ), où θ ∈ T̂ et les classes de conjugaison sous G^{∗} de couples (T, s) où s ∈ T^{∗}.

Définition 6.1. Si s est un élément semi-simple de G^{∗}, et si T est un tore de G correspondant à un tore T^{∗} contenant s, nous écrirons R_{T}^{G}(s) pour R_{T}^{G}(θ), si la classe du couple (T^{∗}, s) correspond à la classe du couple (T, θ) comme ci-dessus.

Remarque 6.2.

(i) Une base orthogonale de l’espace des fonctions uniformes est donc constituée par les R_{T}^{G}(s), où s parcourt les classes de conjugaison d’éléments semi-simples de G^{∗}, et où pour s fixé, T^{∗} parcourt les classes de tores maximaux rationnels de Z_{G^{∗}}(s).

(ii) Avec les notations de 6.1, la proposition 2.3 se réécrit:

⟨R_{T}^{G}(s), R_{T}^{G}(s′)⟩_{G} = \{ \begin{matrix}|W_{Z_{G^{∗}} (s)}(T^{∗})| & si (T^{∗}, s) et (T^{′∗}, s′) sont conjugués dans G^{∗} \\ 0 & sinon. \end{matrix}

Définition 6.3. Etant donnée une classe de conjugaison d’éléments semisimples de G^{∗}, on note E(G, s) (où s est un représentant de la classe) l’ensemble des composantes irréductibles des éléments de { R_{T}^{G}(s) | (T) ⊂ G }.

Par définition les caractères unipotents sont les éléments de E(G, 1).

Théorème 6.4 (Lusztig [17], 7.6). On a: Ĝ = ∐ E(G, s), où s parcourt un ensemble de représentants des classes de conjugaison d’éléments semisimples de G^{∗}.

Théorème 6.5 (Lusztig [18], 4.23). Supposons le centre de G connexe, alors il existe une bijection φ : E(Z_{G^{∗}}(s)^{∗}, 1) → E(G, s) telle que, si on prolonge φ par linéarité on ait:

φ(R_{T}^{Z_{G^{∗}} (s)^{∗}}(1)) = R_{T′}^{G}(s),

si T′ est un tore de G de même type que T^{∗} dans G^{∗}.

(Notons que si le centre de G est connexe, le groupe Z_{G^{∗}}(s) est connexe).

Il y a deux cas particuliers où la bijection φ est facile à construire:

Proposition 6.6 (cf. [17], démonstration de 7.9). Soit L′ un sousgroupe régulier de G^{∗}, soient L un sous-groupe régulier de G correspondant à L′, et s un élément semi-simple de G^{∗} tels que Z_{G^{∗}}(s) ⊂ L′; alors ε_{G}ε_{L}R_{L}^{G} est une bijection de E(L, s) sur E(G, s).

Proposition 6.7 (cf. [5], 5.11). Si s ∈ ZG^{∗}, il existe un unique caractère linéaire ŝ de G tel que pour tout tore rationnel maximal T, le couple (T, Res_{T}^{G} ŝ) corresponde à (T^{∗}, s). De plus le caractère ŝ vérifie ŝ(tu) = ŝ(t), si tu est la décompostion de Jordan d’un élément quelconque de G.

Corollaire 6.8. Si s ∈ ZG^{∗}, on a une bijection E(G, 1) → E(G, s) donnée par φ ↦ φ.ŝ. En effet, on a R_{T}^{G}(1).ŝ = R_{T}^{G}(Res_{T}^{G} ŝ) pour tout tore T, puisque ŝ ne dépend que de la partie semi-simple (cf. 3.8).

Remarque 6.9. Les caractères linéaires de la proposition 6.7 sont tous les caractères linéaires de G qui ne dépendent que de la partie semi-simple, i.e. qui se factorisent par la p′-partie de l’abélianisé de G. L’abélianisé de G n’a pas de p-éléments sauf dans les cas où G a une composante de type A_{1}(𝔽_{2}), A_{1}(𝔽_{3}), B_{2}(𝔽_{2}), ^{2}A_{2}(𝔽_{2}) ou G_{2}(𝔽_{2}) (cf. [20]). Dans les groupes des types ci-dessus, le p-sous-groupe de Sylow de l’abélianisé de G est d’ordre p, sauf dans le cas de ^{2}A_{2}(𝔽_{2}) où le 2-Sylow de l’abélianisé est isomorphe à ℤ/2ℤ × ℤ/2ℤ (cf. [7], II, §§4 et 5).

7. Paramétrage des classes de conjugaison de G = Gl_{n} ou U_{n}. Dans la suite, nous supposerons G = Gl_{n}, muni d’une structure ra-

tionnelle sur 𝔽_{q} telle que l’on ait:

(Gl)  G(𝔽_{q}) = Gl_{n}(𝔽_{q})  ou  (U)  G(𝔽_{q}) = U_{n}(𝔽_{q^{2}})  .

On pose ε = 1 dans le cas (Gl) et ε = −1 dans le cas (U). Nous écrirons G_{n} pour G quand nous voudrons préciser la valeur de n. Dans toute la suite, nous parviendrons à traiter simultanément le cas des groupes linéaires et unitaires.

On note μ_{n} le groupe des racines ((εq)^{n} − 1)-ièmes de l’unité (dans 𝔽^{×}) et on note μ̂_{n} le groupe des caractères de μ_{n} à valeur dans (ℚ/ℤ)_{p′}. Nous fixons des plongements (ℚ/ℤ)_{p′} → ℂ^{×} (resp. (ℚ/ℤ)_{p′} → \overline{ℚ}_{l}^{×}), ce qui permet d’identifier μ̂_{n} aux caractères de μ_{n} a valeurs dans ℂ^{×} (resp. dans \overline{ℚ}_{l}^{×}).

Pour tout couple (n, m), où n|m, on considère l’application d’inclusion i_{n,m} : μ_{n} → μ_{m} et l’application N_{n,m}^{∗} : μ̂_{n} → μ̂_{m} transposée de la “norme” N_{n,m} : μ_{m} → μ_{n} définie par: N_{n,m}(x) = x^{((εq)^{m}−1)/((εq)^{n}−1)}, et on désigne par F_{εq} (resp. F̂_{εq}) l’ensemble des orbites de l’élévation à la puissance εq dans la limite inductive lim_{→} μ_{n} (resp. lim_{→} μ̂_{n}), définie à l’aide

des applications i_{n,m} (resp N_{n,m}^{∗}). On notera F et F̂ au lieu de F_{εq} et F̂_{εq} s’il n’y a pas d’ambigüité sur εq .

Remarque 7.1. Par l’isomorphisme évident: lim_{→} μ_{n} ≃ 𝔽^{×}, et si on associe à tout polynôme l’ensemble de ses racines, l’ensemble F est l’image de l’ensemble des polynômes irréductibles de 𝔽_{q}[T] et l’ensemble F_{−q} des polynômes q-réciproques irréductibles (c’est-à-dire des polynômes f réciproques à un constante près du polynôme dont les coefficients sont les puissances q-ièmes des coefficients de f, et qui ne sont pas produit de deux tels polynômes).

On appelle degré d’un élément de F (resp. F̂), et on note deg f (resp. deg f̂), le cardinal de l’orbite correspondante dans lim_{→} μ_{n} (resp. lim_{→} μ̂_{n} ).

On voit aussitôt que deg f (resp. deg f̂) est le plus petit n tel que tout élément de l’orbite correspondante provienne de μ_{n} (resp. μ̂_{n}). Dans l’identification de la remarque 7.1, le degré correspond donc au degré usuel des polynômes.

Remarque 7.2. Si on fixe un isomorphisme i : 𝔽^{×} ≃ (ℚ/ℤ)_{p′} (cf. §6), on en déduit une bijection μ_{n} → μ̂_{n} qui associe à x ∈ μ_{n} le caractère: y ↦ ((εq)^{n} − 1)i(x)i(y) (à valeurs dans (ℚ/ℤ)_{p′}). Cette bijection étant compatible avec l’élévation à la puissance εq et avec le passage à la limite inductive, on en déduit une bijection i^{∗} : F → F̂ qui conserve le degré.

Proposition 7.3. Les classes de conjugaison des éléments semi-simples de G_{n} sont paramétrées par les applications φ : F → ℕ telles que:

∑_{f∈F} φ(f) deg f = n.

Démonstration: En effet la classe d’un élément semi-simple est déterminée par son polynôme caractéristique. On associe la fonction φ à l’élément semi-simple dont le polynôme caractéristique est ∏_{f∈F} f^{φ(f)}.

Notation 7.4. Dans la suite si G est un groupe unitaire ou linéaire, nous noterons T_{o}^{G} le tore de G constitué des matrices diagonales. Le type de ce tore est caractérisé par le fait que F n’agit pas sur W (T_{o}^{G}). Si G est la restriction des scalaires de 𝔽_{q^{d}} à 𝔽_{q} d’un groupe linéaire ou unitaire, on appelle tore diagonal de G le tore qui est la restriction des scalaires du tore diagonal. Tout produit G de groupes linéaires muni d’une structure rationnelle arbitraire sur 𝔽_{q} est isomorphe à un produit de restrictions des scalaires de groupes linéaires ou unitaires; on appelle tore diagonal de G le produit des tores diagonaux correspondants, qu’on notera toujours T_{o}^{G}.

Dans la suite, quand il n’y a pas d’ambigüité, nous appellerons type d’un sous-groupe régulier son type par rapport au tore diagonal. Si T est un tore de type w ∈ W (T_{o}^{G_{n}}) ≃ S_{n}, et si la classe de conjugaison de w correspond à la partition ν de n, alors (T, F) ≃ (T_{o}^{G}, wF) ≃ ∏_{m∈ν}(T_{m}, F_{m}) où (T_{m}, F_{m}) est la descente des scalaires de 𝔽_{q^{m}} à 𝔽_{q} de G_{1}. On a T_{m} ≃ μ_{m}, ce dernier isomorphisme étant défini à l’élévation à la puissance εq près.

Proposition 7.5. Soit s un élément semi-simple de G dont la classe est paramétrée par la fonction φ. Alors Z_{G}(s) est un sous-groupe régulier de G, paramétré par rapport à T_{o}^{G} par ∏_{f∈F} S_{φ(f)}^{deg f}z où z est le type

de T_{o}^{Z_{G}(s)} par rapport à T_{o}^{G}. Ce type est le produit des permutations circulaires des deg f blocs de longueur φ(f). On a:

Z_{G}(s) ≃ ∏_{f∈F} Gl_{φ(f)}^{deg f} et Z_{G}(s)^{F} ≃ ∏_{f∈F} G_{φ(f)}(𝔽_{q^{deg f}})

où G_{n}(𝔽_{q^{d}}) = Gl_{n}(𝔽_{q^{d}}) dans le cas (Gl) ou dans le cas (U) si d est pair, et G_{n}(𝔽_{q^{d}}) = U_{n}(𝔽_{q^{2d}}) dans le cas (U) avec d impair.

Démonstration: Cette proposition résulte de la théorie des diviseurs élémentaires (cf. par exemple [1], E, IV), ainsi que la proposition suivante:

Proposition 7.6. Les classes d’éléments unipotents de G_{n} sont paramétrées par les partitions de n.

La classe de conjugaison d’un élément dont la décomposition de Jordan est x = su étant paramétrée par la classe de s et la classe de u dans Z_{G}(s), on en déduit :

Proposition 7.7. Les classes de conjugaison des éléments de G_{n} sont paramétrées par les fonctions φ : F → P telles que ∑_{f∈F} |φ(f)| deg f = n, où nous avons noté P l’ensemble de toutes les partitions.

Si φ est un telle fonction, on écrira π_{φ} pour π_{x}^{G_{n}} où x est un élément de la classe correspondant à φ.

Nous écrirons ν ⊢ n pour “ν est une partition de n”, et:

– si ν ⊢ n, on notera d.ν ⊢ dn la partition dont les parties sont égales à d fois celles de ν.

– si μ ⊢ m et ν ⊢ n, on notera μ∪ν ⊢ n+m la partition dont les parties sont les parties de μ et celles de ν. Nous noterons f^{ν} la fonction de F dans P qui envoie f ∈ F sur ν ∈ P

et les autres éléments de F sur la partition vide.

Enfin, si φ et ψ sont deux fonctions de F dans P nous noterons φψ la fonction f ↦ φ(f) ∪ ψ(f).

Paramétrons maintenant les classes de conjugaison sous G de couples (T, θ) formés d’un tore maximal rationnel T et d’un caractère de T. D’après le §6, ces classes sont en bijection avec les classes de conjugaison sous G^{∗} de couples (T^{∗}, s). Commençons par paramétrer de tels couples.

Notons d’abord que pour G = Gl_{n}, on a G^{∗} ≃ G. En paramétrant la classe d’un couple (T, s) par la classe de s dans G suivant la proposition 7.5, et par le type de T dans Z_{G}(s), on obtient:

Proposition 7.8. Les classes de couples (T, s) sous G sont paramétrées par les fonctions ψ : F → P telles que: ∑_{f∈F} |ψ(f)| deg f = n. Le type de T (par rapport à T_{o}^{G}) est la classe de conjugaison de W (T_{o}^{G}) correspondant à la partition ⋃_{f∈F} deg f.ψ(f).

Démonstration: Soit φ : F → ℕ la fonction paramétrant la classe de s comme dans la proposition 7.5 . Le type de T dans Z_{G}(s) est un classe de F -conjugaison de W (T_{o}^{Z_{G}(s)}), qui, vu l’action de F par permutation circulaire sur les blocs de Z_{G}(s), correspond à une classe de conjugaison de W (T_{o}^{Z_{G}(s)})^{F} ≃ ∏_{f∈F} S_{φ(f)}. Le couple (T, s) est donc paramétré par une fonction ψ comme dans l’énoncé avec |ψ(f)| = φ(f).

Si (T, s) ↔ (T, θ) est paramétré par ψ : F → P, nous paramétrerons (T, θ) par ψ ∘ i^{∗−1} ( i^{∗} : F → F̂ étant la bijection de la remarque 7.2, construite à partir du même isomorphisme i : 𝔽^{×} → (ℚ/ℤ)_{p′} que celui du §6).

Proposition 7.9. Soit (T, θ) un couple paramétré par la fonction φ : F̂ → P, soit ν ⊢ n définissant le type de T, et soit T ≃ ∏_{m∈ν} T_{m} la décomposition de T correspondante (cf. 7.4). Alors ν = ⋃_{f̂∈F̂} deg f̂.φ(f̂) et deg f̂.φ(f̂) est l’ensemble des m ∈ ν tels que l’orbite sous l’élévation à la puissance εq de la restriction de θ à T_{m} ait pour image f̂ dans F̂.

Démonstration: D’après la construction du §6, on voit que: T^{∗} ≃ ∏_{m∈ν} T_{m}^{∗}. Il suffit donc de vérifier la proposition dans le cas où T est l’un des T_{m}. Dans ce cas on vérifie que la bijection: μ̂_{m} = T̂ ↔ T^{∗} = μ_{m} du §6 est identique à la bijection μ̂_{m} ↔ μ_{m} de la remarque 7.2.

Il résulte de la proposition ci-dessus que le paramétrage des couples (T, θ) est canonique, i.e. ne dépend pas de l’isomorphisme i choisi au §6.

Corollaire 7.10 (de la proposition 7.8). Toutes les fonctions centrales sur G sont uniformes.

Démonstration: en effet, en comparant les propositions 7.7 et 7.8 on voit que l’espace des fonctions uniformes est de même dimension que celui de toutes les fonctions centrales.

Remarque 7.11. Si le couple (T, θ) est paramétré par la fonction φ, on a:

⟨R_{T}^{G}(θ), R_{T}^{G}(θ)⟩_{G} = ∏_{f∈F} c_{φ(f)}

où, pour λ ⊢ n, on a noté c_{λ} le cardinal du centralisateur dans S_{n} de la classe de conjugaison paramétrée par λ.

8. Algèbre RG.

Dans la suite, nous désignerons par RG la somme directe ⨁_{n≥0} R(G_{n}) où R(G_{n}) est le groupe de Grothendieck du groupe G_{n}. Nous nous placerons dans un des cas suivants :

(Gl)  G_{n} = Gl_{n}(𝔽_{q}) pour tout n,
(U)  G_{n} = U_{n}(𝔽_{q^{2}}) pour tout n,

(on pose G_{0} = {1}).

Dans les paragraphes suivants, nous définissons une loi d’algèbre sur RG, puis montrons, en construisant une isométrie de RG sur l’algèbre de Hopf “classique” R_{ℤ,F̂} qu’on obtient ainsi une algèbre de Hopf autoadjointe.

Remarquons que, pour toute partition λ = {l_{1}, l_{2}, …, l_{r}} telle que |λ| = n, on peut plonger le produit G_{l_{1}} × G_{l_{2}} × … × G_{l_{r}} dans G_{n} comme le sous-groupe des matrices diagonales par blocs de tailles l_{1}, l_{2}, …, l_{r}; c’est un sous-groupe régulier de G_{n}.

Définition 8.1. On appelle sous-groupe diagonal de G_{n} un sous-groupe de matrices diagonales par blocs.

Proposition 8.2. Un sous-groupe diagonal est, en tant que sous-groupe régulier, de type W, où W est un sous-groupe de S_{n} de la forme S_{l_{1}} × S_{l_{2}} × … × S_{l_{r}} avec l_{1} + l_{2} + … + l_{r} = n, plongé de façon évidente.

Démonstration: Le tore diagonal d’un sous-groupe diagonal L est le tore diagonal de G_{n}. Donc l’élément z de la proposition 5.1 vaut 1 et l’assertion sur W = W_{L}(T_{o}^{G_{n}}) est alors claire.

On définit le produit dans RG par l’application: R(G_{h}) ⊗ R(G_{k}) → R(G_{h+k}) définie par le foncteur de Lusztig R_{G_{h}×G_{k}}^{G_{h+k}}, où G_{h} ×G_{k} est considéré comme un sous-groupe diagonal de G_{h+k}. Cette application est bien définie d’après 7.10 et 2.2 d).

Proposition 8.3. Le produit défini ci-dessus fait de RG une algèbre graduée associative et commutative.

Démonstration: Soit G_{h}×G_{k}×G_{l} un sous-groupe diagonal de G_{h+k+l}. L’associativité du produit résulte clairement de:

R_{G_{h+k}×G_{l}}^{G_{h+k+l}} ∘ R_{G_{h}×G_{k}×G_{l}}^{G_{h+k}×G_{l}} = R_{G_{h}×G_{k}×G_{l}}^{G_{h+k+l}},

égalité qui résulte de la proposition 1.9 (transitivité du foncteur de Lusztig). La commutativité résulte du d) de la proposition 2.2 car les sousgroupes diagonaux G_{h} × G_{k} et G_{k} × G_{h} de G_{h+k} sont conjugués sous G_{h+k}.

Notations 8.4

(i) Soit (p_{n})_{n∈ℕ^{×}} une suite d’indéterminées. On pose R_{ℚ} = ℚ[p_{1}, …, p_{n}, …] et on gradue l’algèbre R_{ℚ} en posant deg p_{n} = n.

(ii) Soit { p_{f^{n}} | n ∈ ℕ^{×}, f ∈ F̂ } un ensemble d’indéterminées. On pose:

R_{ℚ,f} = ℚ[(p_{f^{n}})_{n∈ℕ^{×}}],

et

R_{ℚ,F̂} = ⨂_{f∈F̂} R_{ℚ,f} = ℚ[(p_{f^{n}})_{n∈ℕ^{×},f∈F̂}],

et on gradue ces algèbres par: deg p_{f^{n}} = n deg f. (iii) Pour λ = {l_{1}, …, l_{r}} ∈ P et pour f ∈ F̂, on pose p_{λ} = ∏_{i=1}^{r} p_{l_{i}},

et p_{f^{λ}} = ∏_{i=1}^{r} p_{f^{l_{i}}}, et, enfin, si φ est une fonction F̂ → P, on note p_{φ} = ∏_{f∈F̂} p_{f^{φ(f)}}.

Théorème 8.5. L’application i : RG⊗ℚ → R_{ℚ,F̂}, définie par i(R_{T}^{G_{n}}(θ)) = p_{φ}, où φ paramètre la classe du couple (T, θ) est un isomorphisme d’algèbres graduées.

Démonstration: L’application i est clairement un isomorphisme de ℚespaces vectoriels gradués car en chaque degré elle envoie une base sur une base. Montrons que i est compatible avec le produit. On a, par transitivité du foncteur de Lusztig:

R_{G_{h}×G_{k}}^{G_{h+k}}(R_{T_{1}}^{G_{h}}(θ_{1}) × R_{T_{2}}^{G_{k}}(θ_{2})) = R_{T}^{G_{h+k}}(θ),

où, si φ_{i}(i = 1, 2) paramètre la classe de (T, θ_{i}), la classe de conjugaison de (T, θ) est paramétrée par la fonction φ_{1}φ_{2}. D’où le résultat car, par définition, on a p_{φ_{1}}p_{φ_{2}} = p_{φ_{1}φ_{2}}.

L’algèbre RG est naturellement munie d’un produit scalaire tel que RG soit une somme directe orthogonale des sous-modules R(G_{n}).

Définition 8.6. Dans la suite, nous munirons R_{ℚ,F̂} du produit scalaire obtenu par transport de structure au moyen de l’isomorphisme i.

9. Structure d’algèbre de Hopf sur RG.

Rappel 9.1 (cf. [23]). R_{ℚ} est muni du coproduit m^{∗} : R_{ℚ} → R_{ℚ} ⊗ R_{ℚ} défini par m^{∗}(p_{n}) = 1 ⊗ p_{n} + p_{n} ⊗ 1 (i.e. p_{n} est un élément primitif), et par le fait que m^{∗} est un homomorphisme d’algèbres (axiome de Hopf).

De même R_{ℚ,f} est muni d’un coproduit défini de façon analogue (tel que p_{f^{n}} soit un élément primitif). On en déduit aussitôt une structure d’algèbre de Hopf sur R_{ℚ,F̂} de façon que R_{ℚ,F̂} soit isomorphe comme algèbre de Hopf à ⨂_{f∈F̂} R_{ℚ,f}.

Rappelons les principales propriétés de ces algèbres; pour λ ⊢ n, notons π_{λ} ∈ R(S_{n}) la fonction π_{x}^{S_{n}} où x est un élément de la classe paramétrée par λ.

Proposition 9.2 (cf. [23]).

(i) Les éléments p_{f^{n}} sont les seuls éléments primitifs homogènes de R_{ℚ,F̂}. (ii) L’algèbre de Hopf R_{ℚ} est isomorphe à l’algèbre RS⊗ℚ, où l’on désigne

par RS la somme ⨁_{n≥0} R(S_{n}) munie du produit défini par Ind_{S_{h}×S_{k}}^{S_{h+k}} et du coproduit défini par Res_{S_{h}×S_{k}}^{S_{h+k}} . Cet isomorphisme envoie p_{λ} sur π_{λ}.

L’isomorphisme de (ii) n’est pas canonique: il y a deux choix possibles (l’un se déduit de l’autre par composition avec l’automorphisme de RS obtenu par tensorisation des éléments de R(S_{n}) par le caractère signature). Nous supposerons un tel choix fait. L’algèbre R_{ℚ} est alors munie par transport de structure à partir de RS ⊗ ℚ d’un produit scalaire qui en fait une algèbre de Hopf autoadjointe (m et m^{∗} sont adjoints l’un de l’autre).

Nous noterons {λ} l’élément de R_{ℚ} qui correspond par cet isomorphisme au caractère irréductible de S_{|λ|} paramétré par la partition λ. L’ensemble { {λ} | λ ∈ P } est donc une base orthonormée de R_{ℚ}.

Remarquons que pour f ∈ F̂ fixé, l’application j_{f} définie par p_{λ} ↦ p_{f^{λ}} est un isomorphisme d’algèbres de Hopf: R_{ℚ} ≃ R_{ℚ,f}, les degrés étant multipliés par le degré de f.

Proposition 9.3. L’isomorphisme j_{f} est une isométrie, l’algèbre R_{ℚ} étant munie du produit scalaire défini ci-dessus et l’algèbre R_{ℚ,f} de la restriction du produit scalaire défini sur R_{ℚ,F̂}.

Démonstration: En effet, d’après 7.11 et 8.6, on a ⟨p_{f^{λ}}, p_{f^{λ}}⟩ = c_{λ}, qui est bien égal à ⟨p_{λ}, p_{λ}⟩ d’après 9.2(ii).

En particulier, R_{ℚ,f} et R_{ℚ,F̂} sont des algèbres de Hopf autoadjointes. Nous noterons R_{ℤ,f} (resp. R_{ℤ,F̂}) l’algèbre ℤ[j_{f}({λ})|λ ∈ P] (resp.

ℤ[j_{f}({λ})|λ ∈ P, f ∈ F̂]). On a évidemment R_{ℤ,f} ⊗ℚ = R_{ℚ,f} et R_{ℤ,F̂}⊗ℚ = R_{ℚ,F̂}. On déduit alors immédiatement de 9.2 et9.3:

Corollaire 9.4.

(i) L’algèbre R_{ℤ,F̂} est une sous-algèbre de Hopf de R_{ℚ,F̂}. (ii) L’algèbre R_{ℤ,F̂} admet pour base orthonormée l’ensemble

{ ∏_{f∈F̂} j_{f}({φ(f)}) | φ : F̂ → P }.

L’algèbre RG est naturellement munie d’une structure de cogèbre, le coproduit m^{∗} étant défini comme l’adjoint de m, c’est-à-dire:

m^{∗} : R(G_{n}) → ⨁_{h+k=n} R(G_{h}) ⊗ R(G_{k})

est défini composante par composante comme étant l’adjoint ^{∗}R_{G_{h}×G_{k}}^{G_{n}} du foncteur de Lusztig.

l’isomorphisme i : RG ⊗ ℚ → R_{ℚ,F̂} du théorème 8.5 étant une isométrie, est donc un isomorphisme de cogèbres, et RG ⊗ ℚ est une algèbre de Hopf autoadjointe. Le théorème suivant montre que RG est déjà une algèbre de Hopf autoadjointe.

Théorème 9.5. L’image de RG par l’isomorphisme i est R_{ℤ,F̂}.

Lemme 9.6. La restriction de i induit un isomorphisme du sous-module de R(G_{n}) engendré par les caractères unipotents (c’est-à-dire E(G_{n}, 1)) sur la composante de degré n de R_{ℤ,ˆ1} où ˆ1 est l’image du caractère trivial de μ_{1} dans F̂.

Démonstration: En effet, posons :

χ^{λ} = i^{−1}(jˆ1(\{λ\})) = ∑_{μ⊢n} \frac{⟨\{λ\}, p_{μ}⟩}{⟨p_{μ}, p_{μ}⟩}R_{T_{μ}}^{G_{n}}(1),

où T_{μ} est un tore de type μ de G_{n}.

Alors, (d’après par exemple [9] ou [12]) χ^{λ} est un caractère irréductible si G_{n} = Gl_{n} et un caractère irréductible au signe près si G_{n} = U_{n} (ce signe est celui de {λ}(w_{0}) si ce nombre est non nul, et vaut en général (−1)^{\binom{n}{2}−∑_{i} \binom{l_{i}}{2}} si λ = \{l_{1}, …, l_{r}\}). Comme tous les caractères de G_{n} sont uniformes, on obtient le résultat.

Lemme 9.7. La restriction de i induit un isomorphisme du sous-module de RG engendré par E(G_{n}, s), où s a pour polynôme caractéristique f^{n/ deg f}, sur le sous-module des éléments de degré n de R_{ℤ,f̂}, où f̂ = i^{∗}(f) (cf. 7.2).

Démonstration: La proposition 6.6 donne un isomorphisme du sousmodule de RG engendré par E(G_{n}, s) sur le sous-module de R(Z_{G_{n}}(s)) engendré par E(Z_{G_{n}}(s), s). Celui-ci est isomorphe, d’après 6.8 au sousmodule de R(Z_{G_{n}}(s)) engendré par les caractères unipotents. Comme Z_{G_{n}}(s)(𝔽_{q}) ≃ G_{n/deg f̂}(𝔽_{q^{^{deg} f̂}}), on peut appliquer le lemme 9.6 en remplaçant 𝔽_{q} par 𝔽_{q^{^{deg} f̂}} : l’isomorphisme i correspondant envoie le sous-module de R(Z_{G_{n}}(s)) engendré par les caractères unipotents sur la composante de degré n/deg f̂ de R_{ℤ,ˆ1}, qui est à son tour isomorphe de façon évidente (homothétie des degrés) à la composante de degré n de R_{ℤ,f̂}. On vérifie facilement, d’après le paramétrage des couples (T, θ) (donné avant la proposition 7.9) et la définition de i, que le composé des isomorphismes ci-dessus est bien i.

Une conséquence du lemme 9.7 est que l’image de R_{ℤ,F̂} par i^{−1} est incluse dans RG. De plus, i^{−1} étant une isométrie, et R_{ℤ,F̂} ayant une base formée d’éléments de norme 1, on voit que i^{−1}(R_{ℤ,F̂}) a une base formée de caractères irréductibles. Comme i^{−1}(R_{ℤ,F̂}) ⊗ ℚ = i^{−1}(R_{ℚ,F̂}) = RG ⊗ ℚ, on en déduit le théorème 9.5.

Corollaire 9.8. RG est une algèbre de Hopf autoadjointe.

Corollaire 9.9. Les caractères irréductibles de G_{n} sont indexés par les fonctions φ : F̂ → P telles que ∑_{f∈F̂} |φ(f)| deg f = n.

Si φ est une fonction vérifiant la condition ci-dessus, on notera χ^{φ} l’élément de RG donné par i^{−1}(∏_{f∈F} j_{f}{φ(f)})) qui est un caractère irréductible (au signe près dans U_{n}).

Dans la suite, nous identifierons R_{ℤ,F̂} et RG, et nous écrirons p_{φ} pour R_{T}^{G_{n}}(θ), si la classe du couple (T, θ) est paramétrée par φ. En particulier, R_{ℤ,ˆ1} désignera l’ensemble des caractères unipotents; nous écrirons par exemple pˆ1^{λ} pour R_{T_{λ}}^{G}(1).

10. Rappels sur l’algèbre RS (cf. [23]).

Définition 10.1. Si A est une algèbre de Hopf autoadjointe, et si x ∈ A, on note x^{∗} l’adjoint de l’opérateur de multiplication par x, c’est-à-dire:

⟨x^{∗}(y), z⟩ = ⟨y, xz⟩, pour tout y ∈ A et tout z ∈ A.

Définition 10.2. Soient λ et μ ∈ P:

(i) On note {λ\μ} l’élément {μ}^{∗}({λ}) de RS. (ii) Si le diagramme de Young de μ est inclus dans celui de λ, on note

λ\μ la partie du plan qui est la différence ensembliste du diagramme de λ et de celui de μ.

Proposition 10.3.

(i) Si le diagramme de μ n’est pas inclus dans celui de λ, on a {λ\μ} = 0. (ii) Si λ, μ (resp. λ′, μ′) sont des partitions telles que le diagramme de μ

(resp. μ′) soit inclus dans celui de λ (resp. λ′), alors on a {λ\μ} = {λ′\μ′} si et seulement si l’ensemble des composantes connexes de λ′\μ′ coincide à translations près avec l’ensemble des composantes connexes de λ\μ.

Définition 10.4. On dit qu’un sous-ensemble du plan est un diagramme gauche s’il est de la forme λ\μ.

Si η est un diagramme gauche égal à λ\μ, cela a un sens, d’après 10.3, d’écrire {η} pour {λ\μ}.

On pose |η| = |λ| − |μ| =surface (nombre de cases) de η.

Définition 10.5. On dit qu’un diagramme gauche est un crochet gauche s’il est formé d’un ensemble de cases c_{1}, …, c_{n} telles que c_{i+1} soit immédiatement adjacente à c_{i} le long de l’axe vertical ou de l’axe horizontal.

C’est-à-dire que η est un “escalier”:

. . . . . .
.
.
…
.
….

On appelle hauteur d’un crochet gauche η, notée h(η) la différence des ordonnées de c_{1} et de c_{n}.

On appelle crochet un diagramme ordinaire qui est un crochet gauche.

Théorème 10.6 (Murnaghan-Nakayama). Si η est un diagramme gauche, on a:

⟨\{η\}, p_{n}⟩ = \{ \begin{matrix}0 & si η n’est pas un crochet gauche tel que |η| = n, \\ (−1)^{h(η)} & sinon. \end{matrix}

Indication de démonstration: On démontre d’abord le théorème si η est un diagramme ordinaire, puis on utilise le fait que {η} = {η′} + ∑{μ} où η′ est un crochet de même hauteur que η et où la somme comprend des diagrammes ordinaires μ qui ne sont pas des crochets.

Remarque 10.7

Le théorème de Murnaghan-Nakayama est habituellement présenté sous la forme suivante: Soient λ et ν = {n_{1}, …, n_{r}} des éléments de P, posons ν′ = {n_{2}, …, n_{r}}, alors:

\begin{aligned}⟨\{λ\}, p_{ν}⟩ & = ⟨\{λ\}, p_{n_{1}}p_{ν′}⟩ = ∑_{μ}⟨p_{n_{1}}^{∗}(\{λ\}), \{μ\}⟩⟨\{μ\}, p_{ν′}⟩ \\ & = ∑_{μ}⟨p_{n_{1}}, \{λ\μ\}⟩⟨\{μ\}, p_{ν′}⟩, \end{aligned}

où la somme porte sur les partitions μ telles que λ\μ soit un crochet gauche η de surface n_{1}.

On en déduit, d’après le théorème 10.6 :

⟨{λ}, p_{ν}⟩ = ∑_{μ}(−1)^{h(η)}⟨{μ}, p_{ν′}⟩,

ce qui est une formule de récurrence pour calculer ⟨{λ}, p_{ν}⟩.

Théorème 10.8 (cf. [11], p.312 et [12], 2.3). Soient η un diagramme gauche et t ∈ ℕ. Alors, il existe un diagramme gauche η_{t} et un signe ε_{η}^{t}, tels que pour toute partition μ, on ait

⟨{η}, p_{t.μ}⟩ = ε_{η}^{t}⟨{η_{t}}, p_{μ}⟩.

Signalons que le diagramme η_{t} a autant de r-crochets que le diagramme gauche η a de (rt + i)-crochets, pour i ∈ [0, t[.

11. Algèbres de Hall. Pour le début de ce paragraphe, nous revenons à la situation où G est

un groupe algébrique réductif connexe quelconque. Dans ce paragraphe, nous introduisons le “sous-module de Hall” de R(G) qui, dans le cas où G est égal à Gl_{n} où U_{n} est la composante de degré n d’une sous-algèbre de Hopf. Nous reprenons les notations de 3.12.

Lemme 11.1. On a χ_{U} = D_{G}(|G|_{p′}^{−1}reg_{G}), où D_{G} : R(G) → R(G) désigne l’opérateur de dualité de Curtis (cf. [3], [8]), et où reg_{G} est le caractère de la représentation régulière de G.

Démonstration: Pour toute fonction centrale θ ne dépendant que de la partie semi-simple, on a, comme conséquence immédiate de 3.8 et 3.9 :

D_{G}(χ.θ) = D_{G}(χ).θ, pour tout χ ∈ R(G).

En particulier, D_{G}(1.χ_{U}) = D_{G}(1).χ_{U}. Comme D_{G}(1) est le caractère de Steinberg St_{G}, qui est nul en dehors des éléments semi-simples, on obtient

D_{G}(χ_{U}) = St_{G}.χ_{U} = |G|_{p′}^{−1}reg_{G},

d’où le résultat, car D_{G} est une involution.

Ce lemme redonne le résultat bien connu: χ_{U} ∈ R(G) ⊗ ℚ, ce qui justifie la définition suivante:

Définition 11.2. On appelle sous-module de Hall noté H le sous ℤmodule p_{U}(R(G)) de R(G) ⊗ ℚ.

Proposition 11.3. L’image dans H de tous les caractères uniformes est la même que celle des caractères unipotents uniformes.

Démonstration: C’est une conséquence immédiate de la formule du caractère 3.1 qui implique que, si u est un élément unipotent, on a R_{T}^{G}(θ)(u) = R_{T}^{G}(1)(u).

Proposition 11.4. La restriction de p_{U} au sous-module engendré par les caractères unipotents uniformes est injective.

Démonstration: Cet énoncé est équivalent à l’indépendance linéaire des fonctions de Green, qui est une conséquence immédiate du lemme 4.2.

Notons encore le résultat suivant:

Proposition 11.5. Soit u un élément unipotent tel que la fonction π_{u} soit uniforme. Alors π_{u} ∈ R(G), en particulier, π_{u} ∈ H.

Démonstration: Comme les fonctions de Green prennent des valeurs entières (cf. [5], 3.3), on voit, d’après le lemme 4.2, que la fonction π_{u} est combinaison linéaire à coefficients rationnels des fonctions de Green, qui sont elles-mêmes dans H, donc dans R(G) ⊗ ℚ (cf. 11.1). D’autre part, pour tout élément x ∈ G, on a π_{x} ∈ R(G)⊗\overline{ℤ} où \overline{ℤ} est l’anneau des entiers algébriques. Donc π_{u} ∈ R(G) et π_{u} = p_{U}(π_{u}) ∈ H.

Revenons maintenant au cas de G = G_{n} comme dans les paragraphes 8 et 9.

Alors la proposition 11.3 dit que R_{ℤ,F̂} et R_{ℤ,ˆ1} ont même image dans H, donc la restriction i_{U} de p_{U} à R_{ℤ,ˆ1} est surjective, et la proposition 11.4 dit que i_{U} est injective, donc i_{U} est un isomorphisme: R_{ℤ,ˆ1} ≃ H.

Proposition 11.6. Le module H est une sous-algèbre de Hopf de RG⊗ℚ, et la projection p_{U} : RG → H est un morphisme d’algèbres de Hopf.

Démonstration: Il suffit de voir que si L est un sous-groupe régulier diagonal de G, on a:

R_{L}^{G} ∘ p_{U}^{L} = p_{U}^{G} ∘ R_{L}^{G} et ^{∗}R_{L}^{G} ∘ p_{U}^{G} = p_{U}^{L} ∘ ^{∗}R_{L}^{G},

ce qui est une conséquence immédiate de la proposition 3.8 et de son corollaire 3.9 (cf. démonstration de 11.1).

Corollaire 11.7. L’application i_{U} : R_{ℤ,ˆ1} → H est un isomorphisme d’algèbres de Hopf.

L’algèbre H peut être munie de deux produits scalaires tels qu’elle soit une algèbre de Hopf autoadjointe:

a) En tant que sous-algèbre de R_{ℚ,F̂}, elle est munie du produit scalaire restriction du produit scalaire sur R_{ℚ,F̂}. Nous noterons ⟨, ⟩_{q} ce produit scalaire.

b) Par l’isomorphisme i_{U}, elle est munie du transporté du produit scalaire sur R_{ℤ,ˆ1}. Nous noterons ⟨, ⟩ ce produit scalaire qui diffère du précédent. L’algèbre H ⊗ ℚ a une base formée des éléments π_{u}, où u parcourt un

ensemble de représentants des classes d’éléments unipotents de G, et une autre base formée des fonctions de Green i_{U}(pˆ1^{λ}), qu’on notera Q_{T_{λ}}^{G} (cf. §4) ou p_{1^{λ}}. On a:

⟨Q_{T_{λ}}^{G}, Q_{T_{λ}}^{G}⟩ = c_{λ}  d’après 7.11,
⟨Q_{T_{λ}}^{G}, Q_{T_{λ}}^{G}⟩_{q}= c_{λ}|T_{λ}|^{−1} d’après la proposition 4.1.

Enfin, l’algèbre H a une base formée des i_{U}(χ^{λ}).

12. Algèbres H_{f}.

Dans ce paragraphe, nous donnons une deuxième décomposition en produit tensoriel d’algèbres de Hopf de RG ⊗ ℂ .

Dans la suite, nous écrirons π_{ν} pour π_{(T −1)^{ν}}, et de même nous écrirons χ^{ν} pour χˆ1^{ν}.

Définition 12.1. Soit f ∈ F, on note H_{f} le sous-espace vectoriel de RG ⊗ ℂ ayant pour base (π_{f^{ν}})_{ν∈P}.

On a, en particulier, H_{T −1} = H ⊗ ℂ.

Proposition 12.2. L’espace H_{f} est une sous-algèbre de Hopf de RG ⊗ ℂ et la projection orthogonale: RG ⊗ ℂ → H_{f} est un morphisme d’algèbres.

Démonstration: On procède comme pour la proposition 11.6: si on note χ_{f} la fonction caractéristique des classes (f^{ν})_{ν∈P}, la projection orthogonale de l’énoncé est donnée par χ ↦ χ.χ_{f}, et on applique la proposition 3.8 et son corollaire 3.9.

De même que H, l’algèbre H_{f} est munie d’un produit scalaire comme sous-algèbre de RG⊗ℂ qui en fait une algèbre de Hopf autoadjointe. Nous noterons ⟨, ⟩_{q} ce produit scalaire.

Théorème 12.3. Le produit tensoriel des projections orthogonales est un isomorphisme d’algèbres de Hopf: RG ⊗ ℂ ≃ ⨂_{f∈F} H_{f}.

Démonstration: Cela résulte clairement du lemme suivant:

Lemme 12.4. Si φ et ψ sont deux fonctions: F → P ayant des supports disjoints, alors π_{φ}π_{ψ} = π_{φψ}.

Démonstration: En effet, si φ et ψ ont des supports disjoints, et si

∑_{f∈F} |φ(f)| deg(f) = n_{1} et ∑_{f∈F} |ψ(f)| deg(f) = n_{2},

il existe un sous-groupe diagonal L de G_{n_{1}+n_{2}} isomorphe à G_{n_{1}} × G_{n_{2}} tel que le centralisateur de la classe paramétrée par φψ soit inclus dans L. Le lemme est alors une conséquence de 3.7.

Dans le théorème qui suit, nous allons comparer des algèbres H_{f} correspondant à des groupes sur des corps de base différents. Pour cela, nous préciserons les notations en notant H_{q} et H_{f,q} respectivement les algèbres H et H_{f} construites à partir de ⨁_{n≥0} R(G_{n}(𝔽_{q})). Rappelons que si G_{n}(𝔽_{q}) est un groupe unitaire mais que si d est pair, alors G_{n}(𝔽_{q^{d}}) est un groupe linéaire.

Théorème 12.5. Soit f ∈ F, et posons d = deg(f). L’application H_{f,q} → H_{q^{d}} qui envoie π_{f^{ν}} ∈ H_{f,q} sur π_{ν} ∈ H_{q^{d}} est un isomorphisme d’algèbres de Hopf et une isométrie pour les produits scalaires ⟨, ⟩_{q} sur H_{f,q} et ⟨, ⟩_{q^{d}} sur H_{q^{d}}.

Démonstration: L’application considérée est clairement un isomorphisme d’espaces vectoriels et envoie la composante de degré n de H_{f,q} sur la composante de degré n/d de H_{q^{d}}. Soit x = su la décomposition de Jordan d’un élément de G_{n} de classe paramétrée par f^{ν} (où |ν| = n/d), et posons L_{n/d} = Z_{G_{n}}(s). On sait que L_{n/d}(𝔽_{q}) et G_{n/d}(𝔽_{q^{d}}) sont isomorphes (cf. 7.5).

Lemme 12.6. L’application R_{L_{n/d}}^{G_{n}} ∘ t_{s}^{L_{n/d}} envoie π_{ν} ∈ H_{q^{d}} sur π_{f^{ν}} ∈ H_{f,q}.

Démonstration: En effet on a t_{s}^{L_{n/d}}(π_{ν}) = π_{x}^{L_{n/d}} et, d’après 3.7, on a R_{L_{n/d}}^{G_{n}}(π_{x}^{L_{n/d}}) = π_{x}^{G_{n}}.

Pour démontrer le théorème, il reste à prouver que l’application H_{q^{d}} ⊗ ℂ → H_{f,q} dont les composantes homogènes valent R_{L_{n/d}}^{G_{n}} ∘ t_{s}^{L_{n/d}} est une isométrie et un isomorphisme d’algèbres et de cogèbres.

C’est clairement une isométrie car:

⟨π_{ν}, π_{ν}⟩_{q^{d}} = |Z_{L_{n/d}}(u)| et ⟨π_{f^{ν}} , π_{f^{ν}} ⟩_{q} = |Z_{G_{n}}(x)|,

et Z_{G_{n}}(x) = Z_{L_{n/d}}(u).

C’est un morphisme d’algèbres: Soient h et k multiples de d tels que h + k = n, et soit s (resp. s_{1}, s_{2}) un élément de la classe de conjugaison de L_{n/d} (resp. L_{h/d}, L_{k/d}) paramétrée par f^{n/d} (resp. f^{h/d}, f^{k/d}). Il faut voir que:

R_{L_{n/d}}^{G_{n}} ∘ t_{s}^{L_{n/d}} ∘ R_{L_{h/d}×L_{k/d}}^{L_{n/d}} = R_{G_{h}×G_{k}}^{G_{n}} ∘ ((R_{L_{h/d}}^{G_{h}} ∘ t_{s_{1}}^{L_{h/d}}) ⊗ (R_{L_{k/d}}^{G_{k}} ∘ t_{s_{2}}^{L_{k/d}})).

Or, d’après 3.13, on a:

t_{s}^{L_{n/d}} ∘ R_{L_{h/d}×L_{k/d}}^{L_{n/d}} = R_{L_{h/d}×L_{k/d}}^{L_{n/d}} ∘ t_{s}^{L_{h/d}×L_{k/d}}.

Comme t_{s_{1}}^{L_{h/d}} ⊗ t_{s_{2}}^{L_{k/d}} est clairement égal à t_{s}^{L_{h/d}×L_{k/d}}, il reste à voir que:

R_{L_{n/d}}^{G_{n}} ∘ R_{L_{h/d}×L_{k/d}}^{L_{n/d}} = R_{G_{h}×G_{k}}^{G_{n}} ∘ R_{L_{h/d}×L_{k/d}}^{G_{h}×G_{k}},

ce qui résulte de la transitivité du foncteur de Lusztig (proposition 1.9). L’application considérée étant une isométrie et un morphisme d’algèbres est aussi un morphisme de cogèbres, d’où le théorème 12.5 .

13. Calcul des caractères. Le but de ce paragraphe est de montrer comment on calcule la valeur

d’un caractère irréductible quelconque de G_{n} sur une classe de conjugaison arbitraire en supposant connues les valeurs des fonctions de Green. Avec les notations des paragraphes précédents, cela signifie calculer ⟨χ^{φ}, π_{ψ}⟩ à l’aide des valeurs de ⟨Q_{T_{λ}}^{G}, π_{ν}⟩_{q}.

Première étape On se ramène au cas où ψ = g^{ν}.

Supposons que ψ est de la forme g^{ν}ψ′ où ψ′ ne fait pas intervenir g. Alors on a ⟨χ^{φ}, π_{ψ}⟩ = ⟨m^{∗}(χ^{φ}), π_{g^{ν}} ⊗ π_{ψ′}⟩. On sait calculer m^{∗}(χ^{φ}) car, si φ = f_{1}^{μ_{1}} … f_{r}^{μ_{r}}, alors m^{∗}(χ^{φ}) = ∏_{i} m^{∗}(χ^{f_{i}^{μ_{i}}}) et m^{∗}(χ^{f^{μ}}) est connu dans l’algèbre R_{ℤ,f} en utilisant l’isomorphisme de cette algèbre avec RS. Par récurrence sur le nombre de polynômes intervenant dans ψ, on est donc ramené à calculer ⟨χ^{φ}, π_{g^{ν}} ⟩.

Deuxième étape On se ramène au cas où φ = f^{μ}.

Supposons que φ = f^{μ}φ′ où φ′ ne fait pas intervenir f. Alors: ⟨χ^{φ}, π_{g^{ν}} ⟩ = ⟨χ^{f^{μ}}⊗χ^{φ′}, m^{∗}(π_{g^{ν}})⟩. Par le théorème 12.5, le calcul de m^{∗}(π_{g^{ν}}) dans H_{g} se ramène au calcul de m^{∗}(π_{ν}) dans H_{q^{d}} où d est le degré de g. On peut alors calculer m^{∗}(π_{ν}) en fonction des valeurs de ⟨Q_{T_{λ}}, π_{ν}⟩_{q^{d}} (voir démonstration de la proposition 14.3). On est donc ramené, par récurrence sur le nombre de f ∈ F̂ intervenant dans φ, à calculer ⟨χ^{f^{μ}}, π_{g^{ν}} ⟩.

Troisième étape On se ramène au cas où g = T − 1.

Soit s ∈ G_{n} un représentant de la classe de G_{n} paramétrée par g^{|ν|}. Soit d le degré de g et posons L_{n/d} = Z_{Gn}(s) (on a L_{n/d} = G_{n/d}(𝔽_{q^{d}})). Notons N_{d} l’application F̂_{(εq)^{d}} → F̂_{εq} provenant des applications évidentes μ̂_{nd} → F̂_{εq} pour tout n.

Théorème 13.1. On a:

⟨χ^{f^{μ}}, π_{g^{ν}} ⟩_{G_{n}} = ε_{μ}^{t}f(g^{n/t. deg f})⟨χ^{f′^{μ_{t}}} , π_{ν}⟩_{L_{n/d}},

où on note f(g^{n/t. deg f}) la valeur du caractère de μ̂_{t. deg(f)} correspondant à f en l’élément s^{n/t. deg f} de μ_{d} ≃ Z(L_{n/d}), où f′ est un élément arbitraire de F̂_{(εq)^{d}} tel que N_{d}(f′) = f, où t = d. deg(f′)/ deg(f), et où χ^{f′^{μ_{t}}} est défini par linéarité, le signe ε_{μ}^{t} et le diagramme gauche μ_{t} étant comme dans le théorème 10.8.

Démonstration: On a:

⟨χ^{f^{μ}}, π_{g^{ν}} ⟩_{G_{n}} = ⟨χ^{f^{μ}}, (R_{L_{n/d}}^{G_{n}}∘t_{s}^{L_{n/d}})(π_{ν})⟩_{G_{n}} = ⟨^{∗}R_{L_{n/d}}^{G_{n}}(χ^{f^{μ}}), t_{s}^{L_{n/d}}(π_{ν})⟩_{L_{n/d}}.

Pour calculer ^{∗}R_{L_{n/d}}^{G_{n}}(χ^{f^{μ}}), nous allons utiliser le lemme suivant:

Lemme 13.2. Soit h un élément de F̂_{(εq)^{d}}. Alors :

R_{L_{n/d}}^{G_{n}}(p_{h^{λ}}) = p_{N_{d}(h)^{t.λ}},

où t = d. deg(h)/ deg(N_{d}(h)).

Démonstration: L’élément p_{h^{λ}} est le caractère de Deligne-Lusztig correspondant à un couple (T, θ) paramétré par h^{λ} dans L_{n/d}. Donc R_{L_{n/d}}^{G_{n}}(p_{h^{λ}}) est le caractère de Deligne-Lusztig de G_{n} correspondant au même couple. Il faut donc voir comment ce couple est paramétré dans G_{n}. Posons λ = {n_{i}}; d’après 7.9, on a

T ≃ ∏_{i} μ_{d. deg(h).n_{i}}, et θ ≃ ∏_{i} φ_{i},

où φ_{i} ∈ μ̂_{d. deg(h).n_{i}} a pour image h dans F̂_{(εq)^{d}} = lim_{→} μ̂_{dn}. Donc dans G_{n} le couple (T, θ) est paramétré par N_{d}(h) associé à la partition (d. deg(h).n_{i}/ deg(N_{d}(h))) = t.λ, d’où le résultat.

On a donc:

\begin{aligned}⟨^{∗}R_{L_{n/d}}^{G_{n}}(χ^{f^{μ}}), p_{h^{λ}}⟩_{L_{n/d}} & = ⟨χ^{f^{μ}}, R_{L_{n/d}}^{G_{n}}(p_{h^{λ}})⟩_{G_{n}} \\ & = \{ \begin{matrix}0 & si f ≠ N_{d}(h) \\ ⟨χ^{f^{μ}}, p_{f^{t.λ}}⟩_{G_{n}} & sinon. \end{matrix} \end{aligned}

Or

⟨χ^{f^{μ}}, p_{f^{t.λ}}⟩ = ⟨{μ}, p_{t.λ}⟩ = ⟨ε_{μ}^{t}{μ_{t}}, p_{λ}⟩,

la première égalité d’après 9.3, la deuxième d’après 10.8. Donc:

⟨^{∗}R_{L_{n/d}}^{G_{n}}χ^{f^{μ}}, p_{h^{λ}}⟩ = \{ \begin{matrix}0 & si f ≠ N_{d}(h) \\ ⟨ε_{μ}^{t}χ^{h^{μ_{t}}} , p_{h^{λ}}⟩ & sinon. \end{matrix}

D’où

∗R_{L_{n/d}}^{G_{n}}(χ^{f^{μ}}) = ε_{μ}^{t}χ^{f^{′μ_{t}}} .

On est donc ramené à calculer ε_{μ}^{t}⟨χ^{f^{′μ_{t}}} , t_{s}^{L_{n/d}}(π_{λ})⟩_{L_{n/d}} qui a bien la valeur annoncée dans le théorème 13.1 d’après le lemme suivant:

Lemme 13.3. Soit s ∈ Z(G_{n}) et soit (T, θ) un couple paramétré par f^{μ}. Alors on a t_{s^{−1}}^{G_{n}}(R_{T}^{G_{n}}(θ)) = f(s^{n/ deg f})R_{T}^{G_{n}}(θ), où, par abus de notation, f(s^{n/ deg f}) désigne la valeur du caractère de μ_{deg(f)} correspondant à f en l’élément s^{n/ deg f} de μ_{1} ≃ Z(G_{n}).

Démonstration: D’après la formule du caractère 3.2, on a t_{s^{−1}}^{G_{n}}(R_{T}^{G_{n}}(θ)) = θ(s)R_{T}^{G_{n}}(θ) et, par définition du paramétrage (cf. 7.9), on a θ(s) = f(s^{n deg f}).

Quatrième étape. Calcul de ⟨χ^{f^{μ}}, π_{ν}⟩.

On écrit χ^{f^{μ}} = ∑_{λ} c_{λ}^{−1}⟨χ^{f^{μ}}, p_{f^{λ}}⟩p_{f^{λ}} et on est ramené à calculer ⟨p_{f^{λ}}, π_{ν}⟩. Or, d’après 3.2, on a ⟨p_{f^{λ}}, π_{ν}⟩ = ⟨Q_{T_{deg(f)λ}}^{G_{n}}, π_{ν}⟩_{q}.

Remarque:

On a ⟨p_{deg(f)λ}, π_{ν}⟩_{q} = ⟨p_{λ}, F h_{deg(f)}(π_{ν})⟩_{q} où F h_{t} est l’endomorphisme de H ≃ RS défini par i_{U}(χ^{λ}) ↦ ε_{λ}^{t}i_{U}(χ^{λ_{t}}). Donc le calcul ci-dessus peut s’exprimer par:

⟨χ^{f^{μ}}, π_{ν}⟩ = ⟨F h_{deg(f)}^{∗}(i_{U}(χ^{f^{μ}})), π_{ν}⟩_{q}

où F h_{t}^{∗} est l’adjoint de F h_{t}.

14. Comparaison de Gl_{n} et U_{n}.

Nous avons vu au paragraphe précédent que les valeurs des caractères de G_{n} sont connues si l’on connait les produits scalaires ⟨Q_{T_{λ}}, π_{ν}⟩_{q} dans l’algèbre de Hall.

Ces produits scalaires sont des polynômes en q connus dans le cas Gl_{n} (cf. par exemple [19], III,7). Posons donc ⟨Q_{T_{λ}}^{Gl_{n}}, π_{ν}^{Gl_{n}}⟩_{q} = Q_{λ,ν}(q), où Q_{λ,ν} ∈ ℚ[T] et où λ et ν sont des partitions de n. Alors on a:

Théorème 14.1. (Conjecture d’Ennola, démontrée par Hotta, Springer et Kawanaka, cf. [13] et [14]).

⟨Q_{T_{λ}}^{U_{n}}, π_{ν}^{U_{n}}⟩_{q} = (−1)^{n}Q_{λ,ν}(−q).

On dit que les fonctions de Green de U_{n} s’obtiennent à partir de celles de Gl_{n} en “changeant q en −q” .

Nous allons donner une interprétation de ce théorème dans le cadre des algèbres de Hall.

Notons i_{U,Gl_{n}} (resp. i_{U,U_{n}}) l’isomorphisme i_{U} de 11.7 pour distinguer les cas Gln et U_{n}.

Proposition 14.2. Soient x et y deux éléments de R_{ℤ,ˆ1}. Alors ⟨i_{U}(x), i_{U}(y)⟩_{q} est une fraction rationnelle en q et

⟨i_{U,U_{n}}(x), i_{U,U_{n}}(y)⟩_{q} = (−1)^{n}P (−q),

où P est la fraction rationnelle définie par

P (q) = ⟨i_{U,Gl_{n}}(x), i_{U,Gl_{n}}(y)⟩_{q}.

Démonstration: Il suffit de vérifier la proposition dans le cas où x = pˆ1^{λ} et y = pˆ1^{μ}. Dans ce cas, on a i_{U}(x) = Q_{T_{λ}} et i_{U}(y) = Q_{T_{μ}}. D’après la proposition 4.1 (i), on a

⟨Q_{T_{λ}}, Q_{T_{μ}}⟩_{q} = \{ \begin{matrix}|T_{λ}|^{−1}⟨p_{λ}, p_{μ}⟩ & si λ = μ \\ 0 & sinon. \end{matrix}

Or, si λ = (l_{1}, …, l_{r}), le cardinal de T_{λ} vaut ∏_{i=1}^{r}(q^{l_{i}} −1) (resp. ∏_{i=1}^{r}(q^{l_{i}} + 1)) dans le cas Gln (resp. dans le cas U_{n}). D’où le résultat.

Remarque. Comme |T_{λ}|.|T_{μ}| = |T_{λμ}|, on en déduit que l’application

x ↦ ⟨i_{U}(x), i_{U}(x)⟩_{q}/⟨x, x⟩

est un homomorphisme d’algèbres R_{ℤ,ˆ1} → ℚ.

Proposition 14.3. Soient λ une partition de n et μ une partition de m, le théorème 14.1 est équivalent à: (*) Le produit scalaire ⟨π_{λ}^{U_{n}}π_{μ}^{U_{m}}, π_{ν}^{U_{n+m}}⟩_{q} s’obtient en changeant q en −q

dans le produit scalaire analogue pour Gl_{n}.

Démonstration: Posons π_{ν} = ∑_{λ⊢n} c_{ν,λ}Q_{T_{λ}}. On a alors

c_{ν,λ} = ⟨ Q_{T_{λ}}, π_{ν} ⟩_{q}⟨p_{1^{λ}}, p_{1^{λ}}⟩_{q}^{−1}

et

⟨π_{λ}π_{μ}, π_{ν}⟩_{q} = ∑_{λ′,μ′,ν′} c_{λ,λ′}c_{μ,μ′}c_{ν,ν′}⟨p_{1^{λ′∪μ′}} , p_{1^{ν′}} ⟩_{q}.

Donc, d’après 14.2 le théorème 14.1 implique (*).

Réciproquement, supposant (*) vraie, nous allons calculer ⟨ Q_{T_{λ}}, π_{ν} ⟩_{q} par récur-rence sur n. On a:

i_{U}(χ^{{n}}) = ∑_{λ} π_{λ}/⟨π_{λ}, π_{λ}⟩_{q} = ∑_{λ} p_{1^{λ}}/⟨p_{λ}, p_{λ}⟩,

où la première égalité exprime le fait que i_{U}(χ^{{n}}) est la restriction aux classes unipotentes du caractère identité, et la deuxième égalité s’obtient en appliquant i_{U} à l’expression du caractère χ^{{n}} dans la base pˆ1^{λ} (qui provient de l’expression analogue dans RS). On déduit de la deuxième égalité, en faisant le produit scalaire avec π_{ν}, l’égalité:

1 = ∑_{λ} ⟨ Q_{T_{λ}}, π_{ν} ⟩_{q}/⟨p_{λ}, p_{λ}⟩.  (1)

On peut calculer ⟨ Q_{T_{λ}}, π_{ν} ⟩_{q} par récurrence comme suit:

– Si λ ≠ {n}, on a λ = λ_{1} ∪ λ_{2} où λ_{1} et λ_{2} sont non vides, et, comme p_{1^{λ}} = p_{1^{λ_{1}}} p_{1^{λ_{2}}} , on a donc ⟨ Q_{T_{λ}}, π_{ν} ⟩_{q} = ⟨Q_{T_{λ_{1}}} ⊗ Q_{T_{λ_{2}}} , m^{∗}(π_{ν})⟩_{q}. Cette dernière expression est connue par récurrence, l’énoncé (*) donnant la valeur de m^{∗}(π_{ν}).

– Si λ = {n}, on a, d’après (1):

\frac{1}{n}⟨Q_{T_{\{n\}}}, π_{ν}⟩_{q} = 1 − ∑_{λ≠\{n\}} ⟨ Q_{T_{λ}}, π_{ν} ⟩_{q}/⟨p_{λ}, p_{λ}⟩,

et le membre de droite de cette égalité est connu par ce qui précède. La méthode de calcul de ⟨ Q_{T_{λ}}, π_{ν} ⟩_{q} exposée ci-dessus prouve claire-

ment que la propriété (*) implique la conjecture d’Ennola.

Bibliographie.

[1] Borel et al. “Seminar on algebraic groups and related finite groups”, Lecture Notes in Math., 131 (Springer).

[2] M.Broué “Théorie de Harish-Chandra”, Exposé au séminaire Claude Chevalley, non publié.

[3] C.W.Curtis. “Truncation and duality in the character ring of a finite group of Lie type”, Journal of Algebra, 62 (1980), 320–332.

[4] C.W.Curtis. “Reduction theorems for characters of finite groups of Lie type”, Journal Math. Soc. Japan, 27 (1975), 666–688.

[5] P.Deligne et G.Lusztig “Representations of reductive groups over finite fields”, Annals of Math., 103 (1976), 103–161.

[6] P.Deligne et G.Lusztig “Duality for representations of a reductive group over a finite field II”, Journal of Algebra 81 (1983), 540–549.

[7] J.Dieudonné “Géométrie des groupes classiques”, 3ème édition (Springer) 1971.

[8] F.Digne et J.Michel “Remarques sur la dualité de Curtis”, Journal of Algebra, 79 (1982), 151–160.

[9] F.Digne et J.Michel “Descente de Shintani des caractères des groupes de Chevalley finis”, note aux C.R.A.S. 291 (17 nov. 1980), 571– 574.

[10] F.Digne et J.Michel “Foncteur de Lusztig et fonctions de Green généralisées”, note aux C.R.A.S. 297 (19 sept. 1983), 89–92.

[11] H.Farahat “On the representations of the symmetric group”, Proc. of the London Math. Soc., 4 (1954), 303–316.

[12] P.Fong et B.Srinivasan “The blocks of finite linear and unitary groups”, Inventiones Math., 69 (1982), 109–153.

[13] R.Hotta et T.Springer “A specialisation theorem for certain Weyl group representations”, Inventiones Math. 41 (1977), 113–127.

[14] N.Kawanaka “Generalized Gelfand-Graev characters and Ennola duality”, dans “Algebraic groups and related topics”, Advanced studies in pure math.,Vol. 6, 175–206, North-Holland 1985.

[15] G.Lusztig et N.Spalstenstein “Induced unipotent classes”, Journal of the London Math. Soc., 19 (1979), 41–52.

[16] G.Lusztig “On the finiteness of the number of unipotent classes”, Inventiones Math., 34 (1976), 201–213.

[17] G.Lusztig “Representations of finite classical groups”, Inventiones Math., 43 (1977), 125–175.

[18] G.Lusztig “Characters of reductive groups over a finite field”, Ann. of Math. Studies 107, Princeton Univ. Press 1984.

[19] I.G.Macdonald “Symmetric functions and Hall polynomials”, Oxford 1979.

[20] J.Tits “Algebraic simple groups and abstract groups”, Annals of Math. 80 (1964), 313–329.

[21] T.Springer et A.Zhelevinski “Characters of Gl(n, 𝔽_{q}) and Hopf algebras” J. London Math. Soc. (2) 30 (1984), 27–43.

[22] B.Srinivasan “Representations of finite Chevalley groups”, Lecture Notes in Math. 764 (Springer).

[23] A.Zhelevinski “Representations of finite classical groups”, Lecture Notes in Math. 869 (Springer).