REPRESENTATIONS DE GELFAND-GRAEV POUR LES GROUPES REDUCTIFS NON CONNEXES

KARINE SORLIN

Résumé. Soit G un groupe algébrique réductif connexe défini sur 𝔽_{q}, et soit F l’endomorphisme de Frobenius correspondant. Soit σ un automorphisme rationnel quasi-central de G. Nous construisons ci-dessous l’équivalent des représentations de Gelfand-Graev du groupe G̃^{F} = G^{F} .⟨σ⟩, lorsque σ est unipotent et lorsqu’il est semi-simple. Nous montrons de plus que ces représentations vérifient des propriétés semblables à celles vérifiées par les représentations de Gelfand-Graev dans le cas connexe.

Gelfand-Graev representations for non connected reductive groups

Abstract. Let G be a connected reductive group defined over 𝔽_{q} and let F be the corresponding Frobenius endomorphism. Let σ be a quasi-central rational automorphism of G. We define in this article Gelfand-Graev representations of the group G̃^{F} = G^{F} .⟨σ⟩ when σ is unipotent and when it is semi-simple. We show that they have similar properties to Gelfand-Graev representations of the group G^{F}.

Abridged english version

Non-connected reductive groups of the kind G.⟨σ⟩, where G is a connected reductive group and σ an automorphism of G, have been studied by R. Steinberg [8], F. Digne et J. Michel [3] and G. Malle [5].

We suppose that G is a connected reductive group defined over 𝔽_{q}, that F is the corresponding Frobenius endomorphisms and that σ is a rational quasi-central automorphism of G, which means that σ is quasi-semi-simple (i.e. σ stabilises (T ⊂ B) where T is a maximal torus included in a Borel subgroup B of G) and dim(G^{σ}) > dim(G^{σ′}) for any quasi-semi-simple automorphism σ′ = σ ∘ ad(g), where ad(g) is the conjugation by g for all g ∈ G.

The notion of a quasi-central element was introduced by F. Digne and J. Michel in [3]. They have shown that for any rational automorphism σ′ of G there is g in G so that σ′ ∘ ad(g) is rational quasi-central ([3] proposition 1.34). When σ′ is a quasi-semi-simple automorphism of G then G^{σ′} is a reductive group ([4] theorem 1.8) and when σ′ is quasi-central, there are lots of similarities between G.σ′ and (G^{σ′})^{0}, for example between root systems and Weyl groups ([4] theorem 1.15), Deligne-Lusztig characters ([3] 4) and Gelfand-Graev representations ( 5).

The purpose of this note is to define Gelfand-Graev representations for G̃^{F} = G^{F} .⟨σ⟩ which extend the σ-stable Gelfand-Graev representations for connected reductive groups.

Let T be a σ-stable rational maximal torus of G included in a σ-stable rational Borel subgroup of G. Let U be the unipotent radical of B.

In the connected reductive case, Gelfand-Graev representations of G^{F} are obtained by inducing an irreductible linear character of U^{F} which is called a regular character. We define a regular character of U^{F} .⟨σ⟩ as the extension of a σ-stable regular character of U^{F}. For any σ-stable regular character χ of U^{F}, we note χ̃ the extension of χ so that χ̃(σ) = 1. We show that ((T^{σ})^{0})^{F} -orbits of σ-stable regular characters of U^{F} are parametrized by the set H^{1}(F, Z((G^{σ})^{0})) of F -conjugacy classes of the center Z((G^{σ})^{0}) of (G^{σ})^{0} (proposition 2.2). We fix a σ-stable regular character of U^{F} which we call χ_{1}. According to the lemma 1.3 of [2], we have H^{1}(F, Z((G^{σ})^{0})) ≃ L_{(T^{σ})^{0}}^{−1}(Z((G^{σ})^{0}))/(Z((G^{σ})^{0})((T^{σ})^{0})^{F}), where L_{(T^{σ})^{0}} is the Lang map from (T^{σ})^{0} to (T^{σ})^{0}. Then z ∈ H^{1}(F, Z((G^{σ})^{0})) parametrizes the ((T^{σ})^{0})^{F} -orbit of ^{t}χ_{1} where t ∈ (T^{σ})^{0} is such that t^{−1}F (t) ∈ z.

When σ is unipotent, G^{σ} and T^{σ} are connected ([4] proposition 1.33) and σ-stable Gelfand-Graev representations of G^{F} are obtained by inducing σ-stable regular characters of U^{F} (proposition 3.1). In this case, we define Gelfand-Graev representations of G^{F} .⟨σ⟩ as the representations obtained by inducing regular characters of U^{F} .⟨σ⟩ (definition 3.2). So, in this case, Gelfand-Graev representations of G^{F} .⟨σ⟩ are parametrized by H^{1}(F, Z(G^{σ})).

When σ is semi-simple, G^{σ} and T^{σ} are not always connected and proposition 3.1 is false. The definition of Gelfand-Graev representations is then more complicated (definition 3.3). As T is connected, the Lang map L_{T} from T to T is surjective. So, as we have Z(G^{σ}) ⊂ T, for all z in H^{1}(F, Z(G^{σ})), there is t ∈ T so that t^{−1}F (t) ∈ z. Then, ^{t}σ is a rational quasi-central automorphism of G, we have G̃^{F} = G^{F} .⟨^{t}σ⟩, the regular character ^{t}χ_{1} is ^{t}σ-stable and the Gelfand-Graev representation Γ of G^{F} obtained by inducing ^{t}χ_{1} is σ-stable. Moreover, the Gelfand-Graev representation of G̃^{F} obtained by inducing ^{ t̃}χ_{1} from U^{F} .⟨^{t}σ⟩ to G̃^{F} is independent of the choice of t and extends Γ. By this way, we cannot extend all σ-stable Gelfand-Graev representations of G^{F}. Anyway, like in the unipotent case, Gelfand-Graev representations of G^{F} .⟨σ⟩ are parametrized by H^{1}(F, Z(G^{σ})).

Gelfand-Graev representations of G^{F} .⟨σ⟩ have similar properties to Gelfand-Graev representations of G^{F}. They are multiplicity free (proposition 4.1) and their Harish-Chandra restrictions to a rational σ-stable Levi subgroup included in a rational σ-stable parabolic subgroup still are Gelfand-Graev representations (proposition 4.2). We say that an element of G.σ is regular if the dimension of its centralizer in G is minimal among all elements of G.σ. The dual of any Gelfand-Graev representation of G^{F} .σ is zero outside regular unipotent elements of G^{F} .σ when σ is unipotent (resp. outside regular pseudo-unipotent elements of G^{F} .σ, i.e. conjugate under G of elements of U.σ, when σ is semi-simple) (proposition 4.5).

Then Gelfand-Graev representations can be used to calculate the average value of irreductible characters of G^{F} .⟨σ⟩ on a set of G^{F} -classes of regular unipotent (resp. pseudounipotent) elements of G^{F} .σ if σ is unipotent (resp. semi-simple) (theorem 5.2). When σ is semi-simple, the characteristic can be chosen good for (G^{σ})^{0} and we can get the exact values of irreductible characters of G^{F} .⟨σ⟩ on G^{F} -classes of regular pseudo-unipotent elements of G^{F} .σ. Moreover we can link these formulas with the formulas calculated in [2] for (G^{σ})^{0}.

1. Résultats sur les automorphismes quasi-semi-simples d’un groupe réductif connexe

Soit G un groupe réductif connexe défini sur 𝔽_{q}, on note F l’endomorphisme de Frobenius correspondant. On dit d’un automorphisme σ de G qu’il est quasi-semi-simple s’il fixe un couple (T, B) formé par un tore maximal T de G inclus dans un sous-groupe de Borel B de G. Le théorème suivant explicite alors les relations qui existent entre G et le groupe G^{σ} des points de G fixes par σ.

Théorème 1.1 ([4] théorème 1.8)

(i) G^{σ} est un groupe réductif.

(ii) Soit T un tore maximal σ-stable inclus dans un sous-groupe de Borel σ-stable B de G. Soit Φ l’ensemble des racines relativement à (G, T). Si α ∈ Φ, si λ ↦ x_{α}(λ) est le sous-groupe à un paramètre correspondant, et si i est l’ordre de la σ-orbite de α, on définit C_{σ,α} ∈ \overline{𝔽}_{q}^{×} par σ^{i}(x_{α}(λ)) = x_{α}(C_{σ,α}λ). Alors, il existe une surjection naturelle de l’ensemble des orbites sous σ vérifiant la condition

(∗) C_{σ,α} = ±1,

où −1 n’est autorisé que s’il existe deux racines de l’orbite dont la somme est une racine, sur l’ensemble des racines de (G^{σ})^{0} relativement à (T^{σ})^{0}. Cette surjection est bijective et tous les C_{σ,α} valent 1, sauf si le diagramme de Dynkin de G possède k composantes de type A_{2n} permutées circulairement par σ, où σ^{k} agit par retournement de chacune de ces composantes. Alors, pour toute racine α telle que α + σ^{k}(α) soit une racine, les orbites de α et de α + σ^{k}(α) ont même image et C_{σ,α} = C_{σ,α+σ^{k}(α)}.

On dit que σ est quasi-central s’il est semi-simple et si on a dim(G^{σ}) > dim(G^{σ′}) pour tout automorphisme quasi-semi-simple σ′ tel que σ′ = σ ∘ ad(g), où on note ad(g) la conjugaison par g pour tout g ∈ G.

Théorème 1.2 ([4] théorèmes 1.15, 1.33 et 1.36)

(i) Si σ est quasi-semi-simple, alors σ est quasi-central si et seulement si, pour tout couple (T, B), où T est un tore σ-stable inclus dans un sous-groupe de Borel σ-stable B de G, toute racine simple relativement à (T, B) vérifie la condition (*) du théorème 1.1.

(ii) Si σ est quasi-central unipotent, alors G^{σ} et T^{σ} sont connexes.

(iii) Si σ est quasi-central et rationnel, alors, il existe un couple (T, B) formé par un tore maximal rationnel σ-stable T inclus dans un sous-groupe de Borel rationnel σ-stable B de G.

2. Caractères réguliers

On suppose que σ est un automorphisme rationnel quasi-central de G. Soit (T, B) un couple formé par un tore maximal rationnel σ-stable inclus dans un sous-groupe de Borel rationnel σ-stable de G. On note U le radical unipotent de B et U^{∗} le groupe dérivé de U.

Dans le cas des groupes réductifs connexes, les représentations de Gelfand-Graev sont obtenues en induisant certains caractères linéaires irréductibles de U^{F} appelés caractères réguliers. Nous généralisons la notion de caractères régulier dans la définition suivante.

Définition 2.1 Un caractère multiplicatif χ̃ ∈ Irr(U^{F} .⟨σ⟩) est appel caractre régulier si pour tout u ∈ U^{F}:

χ̃(u.σ) = χ(u)χ̃(σ),

où χ est un caractère σ-stable de Irr(U^{F}) qui vérifie les deux conditions suivantes: (i) La restriction de χ à (U^{∗})^{F} est triviale. (ii) Pour toute τ-orbite O de Π, χ|_{U_{O}^{F}} n’est pas triviale, où U_{O} est l’image de ∏_{α∈O} U_{α} dans

U/U^{∗}.

On dit que χ est régulier.

Pour tout caractère régulier σ-stable χ de U^{F}, on note χ̃ l’extension de χ à U^{F} .⟨σ⟩ telle que χ̃(σ) = 1.

Proposition 2.2 On suppose que pour toute racine simple α ∈ Π, on a C_{σ,α} = 1, où C_{σ,α} est le coefficient défini dans le théorème 1.1. Alors, les caractères réguliers σ-stables de U^{F} sont paramtrs par L_{(T^{σ})^{0}}^{−1}(Z((G^{σ})^{0}))/Z((G^{σ})^{0}), où L_{(T^{σ})^{0}} est l’application de Lang de (T^{σ})^{0} dans (T^{σ})^{0} définie par t ↦ t^{−1}F (t).

Remarque 2.3 Lorsque σ est unipotent quasi-central, les hypothèses de la proposition 2.2 sont toujours vérifiées.

Paramétrage des caractères σ-stables de U^{F}

On fixe un caractre régulier σ-stable χ_{1} de U^{F} afin de bien dfinir ce paramétrage.

D’après le lemme 1.3 de [2], L_{(T^{σ})^{0}}^{−1}(Z((G^{σ})^{0}))/(Z((G^{σ})^{0})((T^{σ})^{0})^{F}) est isomorphe à H^{1}(F, Z((G^{σ})^{0})), donc les ((T^{σ})^{0})^{F} -orbites des caractères réguliers σ-stables de U^{F} sont paramétrées par H^{1}(F, Z((G^{σ})^{0})). Comme (T^{σ})^{0} est connexe, l’application de Lang de (T^{σ})^{0} → (T^{σ})^{0} est surjective. De plus, on a Z((G^{σ})^{0}) ⊂ (T^{σ})^{0}. Donc, pour tout z ∈ H^{1}(F, Z((G^{σ})^{0})), il existe t ∈ (T^{σ})^{0} tel que t^{−1}F (t) ∈ z et z paramètre la ((T^{σ})^{0})^{F} -orbite de ^{t}χ_{1}.

3. Définition des représentations de Gelfand-Graev

3.1 Cas où σ est unipotent

On suppose que σ est rationnel quasi-central unipotent. On rappelle que, lorsque σ est quasicentral unipotent, on a (G^{σ})^{0} = G^{σ} et (T^{σ})^{0} = T^{σ}. Nous allons étendre toute représentation de Gelfand-Graev σ-stable de G^{F} en une représentation de Gelfand-Graev de G̃^{F}. Selon la proposition suivante, il suffit d’induire de U^{F} .⟨σ⟩ à G̃^{F} les caractères réguliers σ-stables de U^{F}.

Proposition 3.1 Si σ est un automorphisme quasi-central unipotent de G, alors, tout caractre σ-stable de Gelfand-Graev de G^{F} est l’induit d’un caractre rgulier σ-stable de U^{F}.

Définition 3.2 Pour tout z ∈ H^{1}(F, Z(G^{σ})), l’induit Ind_{U^{F} .⟨σ⟩}^{G^{F} .⟨σ⟩}(^{t̃}χ_{1}) ne dpend pas du choix de t ∈ T^{σ} tel que t^{−1}F (t) ∈ z et on dfinit la reprsentation de Gelfand-Graev ΓG̃ ; z de G̃^{F} = G^{F} .⟨σ⟩ par ΓG̃ ; z = Ind_{U^{F} .⟨σ⟩}^{G^{F} .⟨σ⟩}(^{t̃}χ_{1}). On dfinit la reprsentation de Gelfand-Graev Γ_{z}^{G.σ} de G^{F} .σ par Γ_{z}^{G.σ} =

ResG̃^{F} ; G^{F} .σ(ΓG̃ ; z).

3.2 Cas où σ est semi-simple

On suppose que σ est rationnel quasi-central semi-simple. On fait sur σ l’hypothèse supplémentaire suivante: on suppose que pour toute racine simple α, on a C_{σ,α} = 1. Les hypothèses de la proposition 2.2 sont alors vérifiées.

On voudrait que toute représentation de Gelfand-Graev σ-stable de G^{F} soit étendue en au moins une représentation de Gelfand-Graev de G̃^{F}. Selon la proposition 3.1, sous l’hypothèse σ unipotent quasi-central, toute représentation de Gelfand-Graev σ-stable de G^{F} est l’induite d’un caractère régulier σ-stable de U^{F}. La proposition 3.1 n’est plus vraie lorsque l’on supprime l’hypothèse σ unipotent. On ne peut plus se contenter comme lorsque σ est unipotent quasicentral de définir les réprésentations de Gelfand-Graev de G̃^{F} comme les induites de U^{F} .⟨σ⟩ à G̃^{F} des extensions à U^{F} .⟨σ⟩ des caractères réguliers σ-stables de U^{F}.

Par ailleurs, lorsque σ est semi-simple, G^{σ} et T^{σ} ne sont pas toujours connexes, donc, pour z ∈ H^{1}(F, Z(G^{σ})), il n’existe plus forcément t ∈ T^{σ} tel que t^{−1}F (t) ∈ z. Cependant, T est connexe, donc l’application de Lang L_{T} : T → T est surjective et comme Z(G^{σ}) ⊂ T, pour tout z ∈ H^{1}(F, Z(G^{σ})), il existe t ∈ T tel que t^{−1}F (t) ∈ z. Alors, ^{t}σ est un automorphisme rationnel quasi-central de G, on a G̃^{F} = G^{F} .⟨^{t}σ⟩ et le caractère régulier ^{t}χ_{1} est ^{t}σ-stable. De plus, Γ = Ind_{U^{F}}^{G^{F}} ^{t}χ_{1} est une représentation de Gelfand-Graev σ-stable de G^{F}.

Définition 3.3 Soit z ∈ H^{1}(F, Z(G^{σ})). Alors, Ind_{U^{F} .^{t}σ}^{G^{F} .^{t}σ} ˜ (^{t}χ_{1}) ne dépend pas du choix de t ∈ T tel que t^{−1}F (t) ∈ z et on dfinit la reprsentation de Gelfand-Graev ΓG̃ ; z de G̃^{F} = G^{F} .⟨σ⟩ par

ΓG̃ ; z = IndG̃^{F} ; U^{F} .⟨^{t}σ⟩ ˜ (^{t}χ_{1}).

On dfinit la reprsentation de Gelfand-Graev Γ_{z}^{G.σ} de G^{F} .σ par Γ_{z}^{G.σ} = ResG̃^{F} ; G^{F} .σ(ΓG̃ ; z).

4. Propriétés des représentations de Gelfand-Graev

On suppose que σ est rationnel quasi-central unipotent ou semi-simple.

Proposition 4.1 Les composantes irréductibles des représentations de Gelfand-Graev de G̃^{F} = G^{F} .⟨σ⟩ sont toutes de multiplicité 1.

Soit L un sous-groupe de Levi rationnel et σ-stable contenant T d’un sous-groupe parabolique rationnel σ-stable P de G contenant B. L’inclusion Z(G^{σ}) ⊂ Z(L^{σ}) induit une application surjective h_{L^{σ}} : H^{1}(F, Z(G^{σ})) → H^{1}(F, Z(L^{σ})). On définit les représentations de Gelfand-Graev de L^{F} .σ comme celles de G^{F} .σ dans le paragraphe 3.

Proposition 4.2 Avec les notations ci-dessus, on a: ^{∗}R_{L.σ}^{G.σ}(Γ_{z}^{G.σ}) = Γ_{h_{L^{σ}} (z)}^{L.σ}, où ^{∗}R_{L.σ}^{G.σ} désigne la restriction de Harish-Chandra généralisée aux groupes non connexes comme dans [4].

Relation avec les éléments réguliers

Définition 4.3 Soit y un élément d’un groupe réductif non connexe H. Alors, y est dit régulier dans H si et seulement si la dimension de son centralisateur dans H^{0} est minimale dans H^{0}.y.

Définition 4.4 Lorsque σ est semi-simple, on appelle élément pseudo-unipotent de G.σ tout conjugué sous G d’un élément de U.σ.

Proposition 4.5

(i) Le dual de toute représentation de Gelfand-Graev de G^{F} .σ est nul en dehors des éléments unipotents réguliers lorsque σ est unipotent.

(ii) Le dual de toute représentation de Gelfand-Graev de G^{F} .σ est nul en dehors des éléments réguliers pseudo-unipotents rationnels lorsque σ est semi-simple.

(iii) Dans les deux cas, on a ⟨Γ_{z}^{G.σ}, (−1)^{|Π/τ×σ|}D_{G.σ}Γ_{z′}^{G.σ}⟩_{G^{F} .σ} = |Z((G^{σ})^{F})|δ_{z,z′}, où D_{G.σ} désigne la dualité de Curtis généralisée aux groupes non connexes comme dans [4].

5. Valeurs des fonctions de σ-classes sur les lments rguliers unipotents ou pseudo-unipotents

On suppose que σ est rationnel quasi-central unipotent ou semi-simple. On choisit u_{0} ∈ U^{F} tel que u_{0}.σ soit régulier. On note Z l’ensemble des z de H^{1}(F, Z(G^{σ})) tels qu’il existe t ∈ T^{σ} pour lequel t^{−1}F (t) ∈ z. Si σ est unipotent, on a Z = H^{1}(F, Z(G^{σ})).

Pour tout z ∈ H^{1}(F, Z(G^{σ})), soit t ∈ T tel que t^{−1}F (t) ∈ z. On définit l’ensemble U_{z} = {x.σ ∈ G^{F} .σ|x.σ ≃_{G^{F}} ^{t}(u_{0}U^{∗}.σ)}, définition qui est indépendante du choix de t. Les ensembles U_{z} sont disjoints et la réunion des U_{z} est l’ensemble des éléments réguliers unipotents (resp. pseudo-unipotents) de G^{F} .σ lorsque σ est unipotent (resp. semi-simple). Si σ est semi-simple et si la caractéristique est bonne pour (G^{σ})^{0}, alors chaque U_{z} est une classe de conjugaison sous G^{F}.

Définition 5.1 Pour tout z ∈ Z, on note Φ_{z} la (T^{σ})^{F} -orbite de ^{t}χ_{1}, où t ∈ T^{σ} est tel que t^{−1}F (t) ∈ z et on pose

σ_{z} = ∑_{χ∈Φ_{z}} χ̃(u_{0}.σ).

La définition ci-dessus généralise celle des coefficients σ_{z} qui ont été définis dans [2] (définition 3.4) et dans [3] (définition 14.34) dans le cadre des groupes réductifs connexes. Les coefficients σ_{z} de G.σ peuvent s’exprimer en fonction des coefficients σ_{z} analogues pour le groupe réductif connexe (G^{σ})^{0}.

Théorème 5.2

(i) Soit χ̃ un caractre de G̃^{F} dont la restriction G^{F} est irrductible, et soit z ∈ H^{1}(F, Z(G^{σ})), alors, avec les notations ci-dessus,

|U_{z}|^{−1} ∑_{u.σ∈U_{z}} χ(u.σ) = (−1)^{|(Π/σ)/τ|} ∑_{{z′∈H^{1}(F,Z(G^{σ}))|z^{−1}z′∈Z}} σ_{z^{−1}z′}⟨D_{G.σ}(χ), Γ_{z′}^{G.σ}⟩_{G^{F} .σ}.

(ii) On a ⟨∑_{z} Γ_{z}^{G.σ}; ∑_{z} Γ_{z}^{G.σ}⟩_{G^{F} .σ} = |H^{1}(F, Z(G^{σ}))||Z((G^{σ})^{0})^{F} |q^{l}, o l est le rang semi-simple de (G^{σ})^{0}, et z parcourt H^{1}(F, Z(G^{σ})).

References

[1] R.W. Carter, Finite groups of Lie type (Wiley-Interscience, 1985)

[2] F. Digne, G.I. Lehrer, J. Michel, The characters of the group of rational points of a reductive group with non-connected centre (J. reine angew. Math., no 425, 1992, p. 155-192)

[3] F. Digne, J. Michel, Representations of Finite Groups of Lie Type (London Mathematical Society Student Texts, Cambridge University Press)

[4] F. Digne, J. Michel, Groupes rductifs non connexes (Annales scientifiques de l’Ecole Normale Suprieure, 4e srie, t. 27, 1994, p. 345-406)

[5] G. Malle, Generalized Deligne-Lusztig characters (Journal of Algebra, vol. 159, no 1, 1993, p. 64-97)

[6] K. Sorlin, Représentations de Gelfand-Graev et correspondance de Springer dans les groupes réductifs non connexes (mémoire de thèse, Université de Picardie, 2001)

[7] N. Spaltenstein, Classes unipotentes et sous-groupes de Borel (Lectures Notes in Mathematics, no 946, Springer, 1982)

[8] R. Steinberg, Endomorphisms of linear algebraic groups (Memoirs of AMS, no 80, 1968)

LAMFA, Université de Picardie, 33, rue Saint-Leu, 80039 Amiens, France. Courrier électronique : karine.sorlin@wanadoo.fr