ÉLÉMENTS RÉGULIERS ET REPRÉSENTATIONS DE GELFAND-GRAEV DES GROUPES RÉDUCTIFS NON

CONNEXES

par Karine Sorlin

Résumé. —

Soit G un groupe algébrique réductif connexe défini sur 𝔽_{q}, et soit F l’endomorphisme de Frobenius correspondant. Soit σ un automorphisme rationnel quasi-central de G. Nous construisons ci-dessous l’équivalent des représentations de Gelfand-Graev du groupe G̃^{F} = G^{F} .⟨σ⟩, lorsque σ est unipotent et lorsqu’il est semi-simple. Nous montrons de plus que ces représentations vérifient des propriétés semblables à celles vérifiées par les représentations de Gelfand-Graev dans le cas connexe en particulier par rapport aux éléments réguliers.

Karine Sorlin, LAMFA, Université de Picardie Jules Verne, 33 rue Saint-Leu, F–80000

Amiens, France. • E-mail : karine.sorlin@wanadoo.fr

Classification mathématique par sujets (2000). — 20C33;20G05.

Abstract (Regular elements and Gelfand-Graev Representations for disconnected reductive groups)

Let G be a connected reductive group defined over 𝔽_{q} and let F be the corresponding Frobenius endomorphism. Let σ be a quasi-central automorphism of G, which means that σ is quasi-semi-simple (i.e. σ stabilises (T ⊂ B) where T is a maximal torus included in a Borel subgroup B of G) and dim(G^{σ}) > dim(G^{σ′}) for any quasi-semi-simple automorphism σ′ = σ ∘ad(g), where ad(g) is the conjugation by g for all g ∈ G. We suppose also that σ is rational.

We define in this article Gelfand-Graev representations for the group G̃^{F} = G^{F} .⟨σ⟩ when σ is unipotent and when it is semi-simple, which extend the σ-stable Gelfand-Graev representations for connected reductive groups.

Let T be a σ-stable rational maximal torus of G included in a σ-stable rational Borel subgroup of G. Let U be the unipotent radical of B.

In the connected reductive case, Gelfand-Graev representations of G^{F} are obtained by inducing an irreductible linear character of U^{F} which is called a regular character. We define a regular character of U^{F} .⟨σ⟩ as the extension of a σ-stable regular character of U^{F}. When σ is unipotent, σ-stable Gelfand-Graev representations of G^{F} are obtained by inducing σ-stable regular characters of U^{F}. In this case, we define Gelfand-Graev representations of G^{F} .⟨σ⟩ as the representations obtained by inducing regular characters of U^{F} .⟨σ⟩. When σ is semi-simple, The definition of Gelfand-Graev representations is more complicated.

Gelfand-Graev representations of G^{F} .⟨σ⟩ have similar properties to Gelfand-Graev representations of G^{F}. They are multiplicity free and their Harish-Chandra restrictions to a rational σ-stable Levi subgroup included in a rational σ-stable parabolic subgroup still are Gelfand-Graev representations. We say that an element of G.σ is regular if the dimension of its centralizer in G is minimal among all elements of G.σ. The dual of any Gelfand-Graev representation of G^{F} .σ is zero outside regular unipotent elements of G^{F} .σ when σ is unipotent (resp. outside regular pseudo-unipotent elements of G^{F} .σ, i.e. conjugate under G of regular elements of U.σ, when σ is semi-simple). Moreover, Gelfand-Graev representations can be used to calculate the average value of irreducible characters of G^{F} .⟨σ⟩ on a set of G^{F} -classes of regular unipotent (resp. pseudo-unipotent) elements of G^{F} .σ if σ is unipotent (resp. semi-simple). When σ is semi-simple, the characteristic can be chosen good for (G^{σ})^{0} and we can get the exact values of irreducible characters of G^{F} .⟨σ⟩ on G^{F} -classes of regular pseudo-unipotent elements of G^{F} .σ.

1. Introduction

Les groupes réductifs non connexes de la forme G.⟨σ⟩, où G est un groupe réductif connexe et σ un automorphisme de G, ont été étudiés par R. Steinberg [10], F. Digne et J. Michel [3] et G. Malle [6].

On suppose que G est un groupe réductif connexe défini sur 𝔽_{q}, que F est l’endomorphisme de Frobenius correspondant et que σ est un automorphisme quasi-central de G, ce qui signifie que σ est quasi-semi-simple (i.e. σ stabilise un couple (T ⊂ B) où T est un tore maximal inclus dans un sous-groupe de Borel B de G) et dim(G^{σ}) > dim(G^{σ′}) pour tout automorphisme quasi-semi-simple σ′ = σ ∘ ad(g), où ad(g) est la conjugaison par g pour tout g ∈ G. On suppose de plus σ rationnel.

La notion d’élément quasi-central a été introduite par F. Digne et J. Michel dans [3]. Ils ont montré que pour tout automorphisme rationnel σ′ de G, il existe g dans G tel que σ′ ∘ ad(g) soit rationnel quasi-central ([3] proposition 1.34). Quand σ′ est un automorphisme quasi-semi-simple de G, alors G^{σ′} est un groupe réductif ([4] théorème 1.8) et quand σ′ est quasi-central, il y a de nombreuses similarités entre G.σ′ et (G^{σ′})^{0}, en particulier pour les systèmes de racines et les groupes de Weyl ([4] théorème 1.15), les caractères de Deligne-Lusztig ([3], section 4) et les représentations de Gelfand-Graev (section 5).

Le but de cet article est de définir des représentations de Gelfand-Graev pour G̃^{F} = G^{F} .⟨σ⟩ qui étendent les représentations de Gelfand-Graev σ-stables pour les groupes réductifs connexes. Soit T un tore maximal rationnel σ-stable de G inclus dans un sous-groupe de Borel rationnel σ-stable de G. Soit U le radical unipotent de B. Dans le cas connexe, les représentations de Gelfand-Graev de G^{F} sont obtenues en induisant certains caractères irréductibles de U^{F} qu’on appelle caractères réguliers. Dans le cas non connexe, on définit un caractère régulier de U^{F} .⟨σ⟩ comme l’extension d’un caractère régulier σ-stable de U^{F}. Nous nous placerons dans un des deux cas extrèmes σ unipotent ou σ quasisemi-simple. Le cas général peut s’y ramener en utilisant la décomposition de Jordan de σ.

Lorsque σ est unipotent, les représentations de Gelfand-Graev σ-stables de G^{F} sont obtenues en induisant un caractère régulier σ-stable de U^{F} (proposition 5.1). Dans ce cas, on définit les représentations de Gelfand-Graev de G^{F} .⟨σ⟩ comme les représentations obtenues en induisant les caractères réguliers de U^{F} .⟨σ⟩ (définition 5.2). Quand σ est semi-simple, la proposition 5.1 n’est plus vraie. La définition des représentations de Gelfand-Graev est alors plus compliquée (définition 5.3).

Les représentations de Gelfand-Graev de G^{F} .⟨σ⟩ ont les mêmes propriétés que les représentations de Gelfand-Graev de G^{F}. Leurs composantes irréductibles sont de multiplicité 1 (proposition 6.1). Leur restriction de Harish-Chandra à un sous-groupe de Levi σ-stable rationnel inclus dans un sous-groupe parabolique σ-stable rationnel est encore une représentation de Gelfand-Graev (proposition 6.4). On dit qu’un élément de G.σ est régulier si la dimension de son centralisateur dans G est minimale parmi les éléments de G.σ. Le dual de toute représentation de Gelfand-Graev de G^{F} .σ est nul en dehors des éléments unipotents réguliers de G^{F} .σ quand σ est unipotent (resp. en dehors des éléments pseudo-unipotents réguliers de G^{F} .σ, i.e. des conjugués sous G d’éléments réguliers de U.σ, quand σ est semi-simple) (proposition 7.2).

Les représentations de Gelfand-Graev peuvent être utilisées pour calculer la valeur moyenne des caractères irréductibles de G^{F} .⟨σ⟩ sur un ensemble de classes de G^{F} -conjugaison d’éléments unipotents (resp. pseudo-unipotents) réguliers de G^{F} .σ si σ est unipotent (resp. semi-simple) (théorème 8.4). Quand σ est semi-simple et quand la caractéristique est bonne pour (G^{σ})^{0}, on peut alors obtenir les valeurs exactes des caractères irréductibles de G^{F} .⟨σ⟩ sur les classes de G^{F} -conjugaison d’éléments pseudo-unipotents réguliers de G^{F} .σ.

2. Résultats généraux sur les groupes réductifs non connexes

Soit G̃ un groupe réductif non connexe. On note G la composante neutre de G̃. Nous utiliserons les définitions suivantes, introduites dans [4], qui généralisent les notions de tore et de sous-groupe de Borel:

Définition 2.1. — Un quasi-borel de G̃ est le normalisateur dans G̃ d’un sous-groupe de Borel de G. Un quasi-tore de G̃ est le normalisateur dans G̃ d’un couple T ⊂ B formé d’un tore maximal et d’un sous-groupe de Borel de G.

On note 𝔽_{q} un corps fini de caractéristique p à q éléments (q étant une puissance de p). Désormais et jusqu’à la fin de l’article, on considère un groupe réductif non connexe G̃ de la forme G̃ = G.⟨σ⟩, où G est un groupe réductif connexe sur la clôture algébrique \overline{𝔽}_{q} de 𝔽_{q} défini sur 𝔽_{q} (on note F l’endomorphisme de Frobenius correspondant) et σ un automorphisme de G. On dit que σ est quasi-semi-simple s’il fixe un couple (T, B) formé par un tore maximal T de G inclus dans un sous-groupe de Borel B de G.

Le théorème suivant explicite les relations qui existent alors entre G et le groupe G^{σ} des points de G fixes par σ.

Théorème 2.2. — ([4] théorème 1.8)

(i) G^{σ} est un groupe réductif.

(ii) Soit T un tore maximal σ-stable inclus dans un sous-groupe de Borel σstable B de G. Soit Φ l’ensemble des racines relativement à (G, T). Si α ∈ Φ, si λ ↦ x_{α}(λ) est le sous-groupe à un paramètre correspondant, et si i est l’ordre de la σ-orbite de α, on définit C_{σ,α} ∈ \overline{𝔽}_{q}^{×} par σ^{i}(x_{α}(λ)) = x_{α}(C_{σ,α}λ). Alors, il existe une surjection naturelle de l’ensemble des orbites sous σ vérifiant la condition

(∗) C_{σ,α} = ±1,

où −1 n’est autorisé que s’il existe deux racines de l’orbite dont la somme est une racine, sur l’ensemble des racines de (G^{σ})^{0} relativement à (T^{σ})^{0}. Cette surjection est bijective et tous les C_{σ,α} valent 1, sauf si le diagramme de Dynkin de G possède k composantes de type A_{2n} permutées circulairement par σ, où σ^{k} agit par retournement de chacune de ces composantes. Alors, pour toute racine α telle que α + σ^{k}(α) soit une racine, les orbites de α et de α + σ^{k}(α) ont même image et C_{σ,α} = C_{σ,α+σ^{k}(α)}.

On dit que σ est quasi-central s’il est semi-simple et si on a dim(G^{σ}) > dim(G^{σ′}) pour tout automorphisme quasi-semi-simple σ′ tel que σ′ = σ ∘ad(g), où on note ad(g) la conjugaison par g pour tout g ∈ G.

Théorème 2.3. — ([4] théorèmes 1.15, 1.29, 1.33 et 1.36 et [5] proposition 2.1)

(i) Si σ est quasi-semi-simple, alors σ est quasi-central si et seulement si, pour tout couple (T, B), où T est un tore σ-stable inclus dans un sous-groupe de Borel σ-stable B de G, toute racine simple relativement à (T, B) vérifie la condition (*) du théorème 2.2.

(ii) Si σ est quasi-central, alors on a G^{σ} = (G^{σ})^{0}.Z(G^{σ}).

(iii) Si σ est quasi-central unipotent, alors G^{σ} est connexe et si T est un tore σ-stable inclus dans un sous-groupe de Borel σ-stable, T^{σ} est connexe et on a T = T^{σ} × L(T), où L : T → T est définie par t ↦ t^{−1}σ(t).

(iv) Si σ est quasi-central et rationnel, alors, il existe un couple (T, B) formé par un tore maximal rationnel σ-stable T inclus dans un sous-groupe de Borel rationnel σ-stable B de G.

Notation 2.1. — Lorsque pour toute racine simple α, on a l’égalité C_{σ,α} = 1, on dira que σ vérifie la condition (RS).

Remarque 2.4. — Lorsque σ est unipotent quasi-central, la condition (RS) est vérifiée.

Démonstration. — Comme σ est quasi-central, on a C_{σ,α} = ±1 pour toutes les racines α ∈ Π et tous les C_{σ,α} valent 1, sauf si le diagramme de Dynkin de G̃ possède k composantes de type A_{2n} permutées circulairement par σ où σ^{k} agit par retournement de chacune de ces composantes. Mais, dans ce cas particulier, le cardinal de l’orbite de α est alors égal à 2k, or, on a supposé σ unipotent, donc l’ordre de σ est une puissance de la caractéristique de \overline{𝔽}_{q}. Mais comme l’ordre de α divise l’ordre de σ, c’est donc que la caractéristique de \overline{𝔽}_{q} vaut 2. Ainsi, on a encore C_{σ,α} = 1.

On supposera par la suite que σ est rationnel, quasi-central, unipotent ou semi-simple. On choisit un couple T ⊂ B où T est un tore maximal rationnel σ-stable inclus dans un sous-groupe de Borel rationnel σ-stable de G. On note U le radical unipotent de B.

Soit Φ le système de racines de (G, T). On choisit sur Φ l’ordre tel que U = ∏_{α∈Φ^{+}} U_{α} et on note Π la base de racines correspondante. Pour toute racine α ∈ Φ, on fixe un isomorphisme x_{α} : \overline{𝔽}_{q}^{+} → U_{α} et on définit c_{α} par σ(x_{α}(a)) = x_{σ(α)}(c_{α}a) pour tout a ∈ \overline{𝔽}_{q}^{+}, on note o(α) = min\{i | σ^{i}(α) = α\}, le cardinal de la σ-orbite de α, et on retrouve le coefficient C_{σ,α} du théorème 2.2, en effet, on a C_{σ,α} = ∏_{i=0}^{o(α)−1} c_{σ^{i}(α)}. Enfin, on pose U^{∗} = ∏_{α∈Φ^{+}−Π} U_{α} et Ũ = U/U^{∗}.

3. Eléments réguliers

Comme nous le verrons dans la section 7, les propriétés des représentations de Gelfand-Graev impliquent les éléments réguliers. Dans cette section, nous donnons leur définition et quelques unes de leurs propriétés. Nous allons nous intéresser particulièrement aux éléments réguliers de G.σ qui sont unipotents lorsque σ est quasi-central unipotent et pseudo-unipotent lorsque σ est quasicentral semi-simple (lorsque σ est semi-simple, on appelle élément pseudounipotent de G.σ tout conjugué sous G d’un élément de U.σ).

Définition 3.1. — Soit y un élément d’un groupe réductif non connexe H. Alors, y est dit régulier dans H si et seulement si la dimension de son centralisateur dans H est minimale dans la composante connexe H^{0}.y, où H^{0} est la composante neutre de H.

3.1. Eléments unipotents réguliers de G.σ lorsque σ est unipotent.

— On suppose que σ est unipotent quasi-central rationnel.

Proposition 3.2. — Les éléments unipotents réguliers existent dans G.σ et ils sont tous conjugués sous G.

Démonstration. — [9] corollaire I.4.8

Proposition 3.3. — Soit u.σ ∈ G.σ un élément unipotent, les conditions suivantes sont équivalentes:

a) u.σ est régulier.

b) dim(C_{G}(u.σ)) = rg(G^{σ})

c) dim(B_{u.σ}^{G}) = 0, où B_{u.σ}^{G} est la variété des sous-groupes de Borel de G normalisés par u.σ

d) |B_{u.σ}^{G}| = 1

e) u.σ est conjugué sous G à un élément de la forme:

∏_{i=1}^{r} x_{α_{i}}(1) ∏_{h(λ)≥2} x_{λ}(c_{λ}).σ où α_{1}, …, α_{r} est un système de représentants des σ-orbites dans Π et λ ↦ h(λ) la hauteur.

Démonstration. — [9] proposition II.10.2

Théorème 3.4. — Soit u = ∏_{α∈Φ^{+}} x_{α}(λ_{α}) un élément de U, alors, u.σ est unipotent et il est régulier si et seulement si pour toute racine α ∈ Π,

∑_{n=0}^{o(α)−1} c_{σ^{n}(α)}c_{σ^{n+1}(α)} … c_{σ^{o(α)−1}(α)}λ_{σ^{n}(α)} ≠ 0

Démonstration. — Soit u un élément de U. Soit k l’ordre de σ alors,

(u.σ)^{k} = uσ(u) … σ^{k−1}(u).

Or, U est un sous-groupe σ-stable de G donc uσ(u) … σ^{k−1}(u) est un élément de U et est unipotent, cela suffit pour conclure que u.σ l’est aussi car on est en caractéristique p.

On peut ainsi appliquer à u.σ la proposition 3.3: l’élément u.σ est régulier unipotent si et seulement si il est conjugué sous G à un élément de la forme

u_{0}.σ = ∏_{i=1}^{r} x_{α_{i}}(1) ∏_{h(λ)≥2} x_{λ}(c_{λ}).σ,

où α_{1}, …, α_{r} est un système de représentants des σ-orbites dans Π et λ ↦ h(λ) la hauteur.

On peut tout d’abord remarquer que u.σ et u_{0}.σ sont conjugués sous G si et seulement si ils sont conjugués sous T^{σ}U. Soit en effet x ∈ G tel que u.σ = ^{x}(u_{0}.σ) alors, ^{x}(u_{0}.σ) ∈ NG̃(B), donc, u_{0}.σ normalise ^{x^{−1}}B, ce qui entraîne que x ∈ B car u_{0}.σ est unipotent régulier. De plus, supposons trouvé b = vt ∈ T U tel que u.σ = ^{b}(u_{0}.σ), alors, u^{−1}v^{t}u_{0}^{tσ(t)^{−1}}σ(v)^{−1} = σ(t)t^{−1}, donc, t ∈ T^{σ}. Donc u.σ est conjugué à u_{0}.σ si et seulement si il existe t ∈ T^{σ} et v ∈ U tels que u = v^{t}u_{0}σ(v)^{−1}.

On note p la projection de U sur Ũ = U/U^{∗}.

Lemme 3.5. — u est σ-conjugué à un élément de la forme:

u_{0} = ∏_{i=1}^{r} x_{α_{i}}(1) ∏_{h(λ)≥2} x_{λ}(c_{λ})

si et seulement si p(u) est σ-conjugué à ũ_{0} = ∏_{i=1}^{r} x_{α_{i}}(1) ∈ Ũ.

Démonstration. — Pour tout t ∈ T^{σ} on note Φ_{t} l’application de U × U dans U telle que Φ_{t} : (x, y) ↦ y^{t}xσ(y)^{−1}. Soit t ∈ T^{σ}, soit (x, y) ∈ U × U et soient x′ et y′ quelconques dans U^{∗}, alors,

Φ_{t}(xx′, yy′) = yy′^{t}(xx′)σ(yy′)^{−1} = y^{t}xσ(y)^{−1}w′,

avec

w′ = [([y′,^{t}x]y′^{t}x′σ(y′)^{−1}), σ(y)^{−1}]([y′,^{t}x]y′^{t}x′σ(y′)^{−1}) ∈ U^{∗}.

Donc, pour tout t ∈ T^{σ}, l’application Φ_{t} passe au quotient: soit Φ̃_{t} : Ũ ×Ũ → Ũ telle que

Φ̃_{t}(x̃, ỹ) = ỹ^{t}x̃σ(ỹ)^{−1}

pour tout (x̃, ỹ) ∈ Ũ × Ũ, alors, p(Φ_{t}(x, y)) = Φ̃_{t}(p(x), p(y)) pour tout couple (x, y) dans U × U.

Ainsi, u est σ-conjugué à un élément de la forme

u_{0} = ∏_{i=1}^{r} x_{α_{i}}(1) ∏_{h(λ)≥2} x_{λ}(c_{λ}),

si et seulement si il existe t ∈ T^{σ} et v ∈ U tels que u = Φ_{t}(u_{0}, v), ce qui implique que p(u) = Φ̃_{t}(p(u_{0}), p(v)). Réciproquement, si on pose ũ_{0} = ∏_{i=1}^{r} x_{α_{i}}(1) dans U/U^{∗} et si p(u) = Φ̃_{t}(ũ_{0}, p(v)) alors u = Φ_{t}(u_{0}, v) pour un u_{0} de la forme

u_{0} = ∏_{i=1}^{r} x_{α_{i}}(1) ∏_{h(λ)≥2} x_{λ}(c_{λ}).

Donc, pour que u soit σ-conjugué à un élément de la forme

u_{0} = ∏_{i=1}^{r} x_{α_{i}}(1) ∏_{h(λ)≥2} x_{λ}(c_{λ}),

il faut et il suffit que p(u) soit σ-conjugué à ũ_{0}.

Notons o(i) le cardinal de la σ-orbite de α_{i}. D’après le lemme ci-dessus, pour que u.σ = ∏_{α∈Φ^{+}} x_{α}(λ_{α}).σ soit unipotent régulier, il faut et il suffit qu’il existe t ∈ T^{σ} et v ∈ Ũ tels que si ũ = ∏_{α∈Π} x_{α}(λ_{α}), alors, ũ = v^{t}ũ_{0}σ(v)^{−1}. On pose v = ∏_{α∈Π} x_{α}(l_{α}), alors,

ũ = v^{t}ũ_{0}σ(v)^{−1}
⇔ ∀i ∈ {1, …, r}, ∀j ∈ {0, …, o(i) − 1}
l_{σ^{j}(α_{i})} + α_{i}(t) − c_{σ^{j−1}(α_{i})}l_{σ^{j−1}(α_{i})} = λ_{σ^{j}(α_{i})}
⇔ ∀i ∈ {1, …, r}, A_{i}L_{i} = B_{i}

avec A_{i} = ( \begin{matrix}1 & 0 & & & & −c_{σ^{−1}(α_{i})} \\ −c_{α_{i}} & 1 & 0 \\ & & ... & ... \\ & & & 1 & 0 \\ & & & −c_{σ^{o(α_{i})−3}(α_{i})} & 1 & 0 \\ & & & & −c_{σ^{o(α_{i})−2}(α_{i})} & 1 \end{matrix} ) ,

B_{i} = ( −α_{i}(t) + λ_{α_{i}} ; ⋮ ; −α_{i}(t) + λ_{σ^{o(α_{i})−1}(α_{i})} ) et L_{i} = ( l_{α_{i}} ; ⋮ ; l_{σ^{o(α_{i})−1}(α_{i})} )

Soit i ∈ {1, …, r}, alors, d’après la remarque 2.4, le coefficient

C_{σ,α_{i}} = c_{α_{i}} … c_{σ^{o(α_{i})−1}}

est égal à 1. Ainsi, A_{i} est une matrice o(α_{i}) × o(α_{i}) de rang o(α_{i}) − 1, et A_{i}L_{i} = B_{i} a une solution si et seulement si:

(∗i) \{ \begin{matrix}& (c_{α_{i}} … c_{σ^{o(α_{i})−2}(α_{i})} + … + c_{σ^{o(α_{i})−2}(α_{i})} + 1)α_{i}(t) \\ = & c_{α_{i}} … c_{σ^{o(α_{i})−2}(α_{i})}λ_{α_{i}} + … + λ_{σ^{o(α_{i})−1}(α_{i})} \end{matrix}

Ainsi, on a montré que u.σ est unipotent régulier si et seulement s’il existe t ∈ T^{σ} tel que (∗i) soit vérifié pour tout i ∈ {1, …, r}. Or, un tel t existe si et seulement si le coefficient de α_{i}(t) dans le membre de gauche de (∗i) est non nul pour tout i, ce qui est vrai car pour tout r-uplet (x_{1}, …, x_{r}) de (\overline{𝔽}_{q}^{×})^{r}, il existe t ∈ T tel que pour tout i ∈ {1, …, r}, on ait α_{i}(t) = … = σ^{o(i)−1}(α_{i})(t) = x_{i} ([3] lemme 0.22), et alors, on a t ∈ T^{σ}.

Ainsi, u.σ est unipotent régulier si et seulement si pour tout i ∈ {1, …, r}, on a

c_{α_{i}} … c_{σ^{o(α_{i})−2}(α_{i})}λ_{α_{i}} + … + c_{σ^{o(α_{i})−2}(α_{i})}λ_{σ^{o(α_{i})−2}(α_{i})} + λ_{σ^{o(α_{i})−1}(α_{i})} ≠ 0.

On retrouve alors l’équation du théorème 3.4 en multipliant l’équation ci-dessus par c_{σ^{o(i)−1}(α)}.

Théorème 3.6. — Le nombre d’éléments unipotents réguliers rationnels dans G.σ est égal à:

|G^{F} |/(|(Z(G^{σ})^{0})^{F} | × q^{l}),

où l est le rang semi-simple de G^{σ}.

Démonstration. — Lemme 3.7. — Dans tout quasi-borel rationnel, il y a le même nombre d’éléments unipotents réguliers rationnels de G.σ.

Démonstration. — Le résultat est clair car le conjugué sous G^{F} d’un unipotent régulier rationnel l’est aussi et deux quasi-borel rationnels sont conjugués sous G^{F}. Donc la conjugaison envoie bijectivement les éléments unipotents réguliers rationnels de l’un sur ceux de l’autre.

Lemme 3.8. — Tout élément unipotent régulier rationnel est dans un quasiborel rationnel.

Démonstration. — Soit x un élément unipotent régulier rationnel. Soit B′ l’unique sous-groupe de Borel de G normalisé par x. On a F (^{x}B′) = ^{x}F (B′) car x est rationnel et F (^{x}B′) = F (B′) car x normalise B′, donc, x normalise aussi F (B′). Mais, comme x normalise un unique sous-groupe de Borel de G, on a F (B′) = B′.

Un élément unipotent régulier rationnel de G.σ est dans un seul quasi-borel et celui-ci est rationnel. Donc le nombre d’éléments unipotents réguliers de (G.σ)^{F} est égal au nombre de sous-groupes de Borel rationnels de G multiplié par le nombre de tels éléments dans l’intersection de G.σ et du quasi-borel rationnel NG̃(B).

Lemme 3.9. — L’ensemble des éléments réguliers unipotents de NG̃(B) ∩ G.σ est de la forme U_{B} = {buσ(b)^{−1}.σ; b ∈ B} où u.σ est un élément unipotent régulier fixé de NG̃(B).

Démonstration. — Soit u.σ un élément unipotent régulier rationnel de NG̃(B). Soit x ∈ G tel que ^{x}(u.σ) ∈ NG̃(B). Alors, ^{xuσx^{−1}}B = B ce qui entraîne que u.σ(^{x^{−1}}B) = ^{x^{−1}}B. Or si x ∉ B, on a ^{x^{−1}}B ≠ B et ^{x^{−1}}B et B sont tous les deux normalisés par u.σ ce qui est impossible car u.σ est régulier. Ainsi, on a montré que tout x ∈ G tel que ^{x}(u.σ) ∈ NG̃(B) appartient à B. Par ailleurs, dans G.σ, il y a une unique classe unipotente régulière. Donc les éléments unipotents réguliers de NG̃(B) ∩ G.σ sont les conjugués sous B de u.σ. Si on note U_{B} l’ensemble de ces éléments, on a U_{B} = {buσ(b)^{−1}.σ; b ∈ B}.

Calculons le nombre d’éléments unipotents réguliers rationnels dans l’intersection de G.σ et du quasi-borel, NG̃(B).

Soit u_{0}.σ un élément de NG̃(B) unipotent régulier et rationnel. Alors, le nombre cherché est égal au nombre de conjugués de u_{0}.σ sous B qui sont rationnels, c’est-à-dire au nombre de σ-conjugués de u_{0} sous B qui sont rationnels. On pose B̃ = B/U^{∗}. Soit ϕ : B → B définie par b ↦ bu_{0}σ(b)^{−1}. Soient b et b′ dans B tels qu’ il existe u ∈ U^{∗} tel que b′ = bu. Alors, on a ϕ(b′) = ϕ(b)v avec v ∈ U^{∗} (car B normalise U^{∗}) et ϕ passe au quotient. Par ailleurs, d’après le lemme 3.5 et le e) de la proposition 3.3, le fait qu’un élément u.σ où u ∈ B, est unipotent régulier ne dépend que de l’image de u dans U/U^{∗} et tout élément rationnel de B̃ a un représentant rationnel dans B, cela montre donc que le nombre cherché est égal au nombre de σ-conjugués rationnels de ũ_{0} sous B̃ (où on note ũ_{0} l’image de u_{0} dans B̃) multiplié par |U^{∗F} |. On note b.ũ_{0} l’action de σ-conjugaison de b ∈ B̃ sur ũ_{0}. Soit O_{B} = {b.ũ_{0}; b ∈ B̃}. Alors, O_{B} est F -stable car ũ_{0} est rationnel.

Proposition 3.10. — ([3] proposition 3.21)

(i) Soit g ∈ B̃, alors, g.ũ_{0} ∈ OF B si et seulement si g^{−1} ^{F} g ∈ Stab(ũ_{0}) (où on a posé Stab(ũ_{0}) = {g ∈ B̃ | g.ũ_{0} = ũ_{0}}).

(ii) Il y a une application bien définie qui envoie la B̃^{F} -orbite de g.ũ_{0} ∈ O_{B}^{F} sur la classe de F -conjugaison de l’image de g^{−1F} g dans Stab(ũ_{0})/Stab(ũ_{0})^{0}, c’est une bijection et le stabilisateur de g.ũ_{0} dans B̃^{F} est isomorphe au F - centralisateur de g^{−1F} g dans Stab(ũ_{0}).

D’après le (i), si Stab(ũ_{0}) est abélien, le nombre d’éléments est le même dans toutes les B̃^{F} -orbites et vaut |B̃^{F} /Stab(ũ_{0})^{F} |. Cela entraîne avec le (ii) que le nombre de σ-conjugués de ũ_{0} dans B̃^{F} est égal au nombre de F -classes de conjugaison de Stab(ũ_{0})/Stab(ũ_{0})^{0} multiplié par |B̃^{F} /Stab(ũ_{0})^{F} |. On note H^{1}(F, H) l’ensemble des classes de F -conjugaison d’un groupe algébrique H défini sur 𝔽_{q}. On a H^{1}(F, H) = H^{1}(F, H/H^{0}). Et si H/H^{0} est abélien, |H^{1}(F, H/H^{0})| = |H^{F} /(H^{0})^{F} |.

Lemme 3.11. — Stab(ũ_{0}) = Z(G)^{σ} × Ũ^{σ}.

En utilisant le lemme ci-dessus, on obtient l’expression suivante du nombre d’éléments réguliers unipotents de (G^{1})^{F}:

(|G^{F} |/|B^{F} |) × |(U^{∗})^{F} | × |H^{1}(F, Stab(ũ_{0})/Stab(ũ_{0})^{0})| × (|B̃^{F} |/|Stab(ũ_{0})^{F} |)

= |G^{F} |/(|(U^{∗})^{F} | × |B̃^{F} |) × |(U^{∗})^{F} | × |Stab(ũ_{0})^{F} /(Stab(ũ_{0})^{0})^{F} | × (|B̃^{F} |/|Stab(ũ_{0})^{F} |)
= |G^{F} |/|(Stab(ũ_{0})^{0})^{F} |
= |G^{F} |/(|(Z(G^{σ})^{0})^{F} | × |(Ũ^{σ})^{F} |)

Or, Ũ^{σ} = (∏_{α∈Π} U_{α})^{σ} est isomorphe à ∏_{α∈Π/σ} U_{α}, car les C_{σ,α} valent 1 (remarque 2.4) donc |((∏_{α∈Π} U_{α})^{F})^{σ}| = q^{l}, où q est le rang semi-simple de (G^{σ})^{0} = G^{σ}. Donc, pour terminer la démonstration du théorème, il reste à démontrer le lemme 3.11:

Démonstration. — Par définition, Stab(ũ_{0}) = {b ∈ B̃ | b.ũ_{0} = ũ_{0}}.

Soient {α_{1}, …, α_{r}} un ensemble de représentants des σ-orbites de Π. Pour tout i ∈ {1, …, r}, on note O(i) la σ-orbite de α_{i}, o(i) le cardinal de O(i) et U(i) = ∏_{α∈O(i)} U_{α}, enfin, on pose ũ_{0} = ∏_{i=1}^{r} ∏_{α∈O(i)} x_{α}(k_{α}) et u = ∏_{i=1}^{r} ∏_{α∈O(i)} x_{α}(l_{α}).

Nous allons, dans les calculs qui suivent, expliciter Stab(ũ_{0}). Soit b = ut ∈ B̃:

(ut)ũ_{0}σ(ut)^{−1} = ũ_{0}
⇔ (^{t}ũ_{0})^{−1}u^{−1}ũ_{0}σ(u) = tσ(t)^{−1}
⇔ t ∈ T^{σ} et u^{t}ũ_{0}σ(u)^{−1}ũ_{0}^{−1} = 1
(car (^{t}ũ_{0})^{−1}u^{−1}ũ_{0}σ(u) ∈ Ũ et tσ(t)^{−1} ∈ T)
⇔ t ∈ T^{σ}
et ∏_{i=1}^{r} ∏_{α∈O(i)} x_{α}(l_{α})^{t}( ∏_{α∈O(i)} x_{α}(k_{α}))σ( ∏_{α∈O(i)} x_{α}(l_{α}))^{−1}( ∏_{α∈O(i)} x_{α}(k_{α}))^{−1} = 1
⇔ t ∈ T^{σ}
et ∏_{i=1}^{r} ∏_{α∈O(i)} x_{α}(l_{α}) ∏_{α∈O(i)} x_{α}(α(t)k_{α})( ∏_{α∈O(i)} x_{σ(α)}(c_{α}l_{α}))^{−1}( ∏_{α∈O(i)} x_{α}(k_{α}))^{−1} = 1
⇔ t ∈ T^{σ}
et ∏_{i=1}^{r} ∏_{α∈O(i)} x_{α}(l_{α} + α(t)k_{α} − c_{σ^{−1}α}l_{σ^{−1}α} − k_{α}) = 1
⇔ t ∈ T^{σ}
et ∀i ∈ {1, …, r}, ∀α ∈ O(i), l_{α} + α(t)k_{α} − c_{σ^{−1}α}l_{σ^{−1}α} − k_{α} = 0.

On obtient le système d’équations suivant pour tout i ∈ {1, …, r}

(I) \{ \begin{matrix}l_{α_{i}} − c_{σ^{o(α_{i})−1}(α_{i})}l_{σ^{o(α_{i})−1}(α_{i})} = (1 − α_{i}(t))k_{α_{i}} \\ l_{σ(α_{i})} − c_{α_{i}}l_{α_{i}} = (1 − α_{i}(t))k_{σ(α_{i})} \\ … \\ l_{σ^{o(α_{i})−1}(α_{i})} − c_{σ^{o(α_{i})−2}(α_{i})}l_{σ^{o(α_{i})−2}(α_{i})} = (1 − α_{i}(t))k_{σ^{o(α_{i})−1}(α_{i})} \end{matrix}

(car t ∈ T^{σ} donc α(t) = α_{i}(t) ∀α ∈ O(i)).

Or, C_{σ,α} = 1 (remarque 2.4), donc le système (I) est de rang o(α_{i}) − 1 et il existe des solutions si et seulement si:

(c_{α_{i}} … c_{σ^{o(α_{i})−2}(α_{i})}k_{α_{i}} + … + c_{σ^{o(α_{i})−2}(α_{i})}k_{σ^{o(α_{i})−2}} + k_{σ^{o(α_{i})−1}})(1 − α_{i}(t)) = 0

D’après le théorème 3.4, l’équation ci-dessus entraîne que t ∈ Ker(α_{i}) et que:

\{ \begin{matrix}l_{σ(α_{i})} = c_{α_{i}}l_{α_{i}} \\ … \\ l_{σ^{o(α_{i})−1}(α_{i})} = c_{α_{i}} … c_{σ^{o(α_{i})−2}(α_{i})}l_{α_{i}} \end{matrix}

Donc, t ∈ ∩_{i=1}^{r}Kerα_{i} ∩T^{σ} = Z(G)^{σ} et, si on note u = ∏_{i=1}^{r} u_{i} avec u_{i} ∈ U(i) alors, on a u_{i} ∈ U(i)^{σ} pour tout i ∈ {1, …, r}.

On démontre facilement que réciproquement

Z(G)^{σ} × (∏_{i=1}^{r} U(i)^{σ}) ⊂ Stab(ũ_{0}).

D’où l’égalité. Ce qui termine les démonstrations du lemme 3.11 et du théorème 3.6.

3.2. Eléments pseudo-unipotents réguliers de G.σ lorsque σ est semisimple. — On suppose que σ est semi-simple quasi-central rationnel.

On rappelle que l’on appelle éléments pseudo-unipotents de G.σ les conjugués sous G des éléments de U.σ. Avant d’étudier les éléments pseudounipotents réguliers de G.σ, on étudie les éléments réguliers de U.σ.

Proposition 3.12. — Tout élément de U.σ est conjugué sous U à un élément de U^{σ}.σ.

Démonstration. — Lemme 3.13. — Tout élément semi-simple v.σ de U.σ est conjugué sous U à σ.

Démonstration. — Selon [10] (proposition 7.6), tout automorphisme semisimple d’un groupe résoluble stabilise un tore maximal de ce groupe. Or, tout élément semi-simple v.σ avec v ∈ U induit un automorphisme semi-simple de B et donc stabilise un tore maximal ^{x}T de B, conjugué de T par un élément x de U. Ainsi, x^{−1}(v.σ)x est un élément de NG̃(T) ∩ U.σ = {σ} ce qui montre directement que v.σ est conjugué à σ sous U.

Soit x.σ ∈ U.σ, on note x.σ = us la décomposition de Jordan de x.σ. Alors, u ∈ U car σ est semi-simple et s est de la forme v.σ avec v ∈ U. On applique à s = v.σ le lemme précédent, il existe w ∈ U tel que x.σ = w(^{w^{−1}}u)σw^{−1} et w^{−1}u ∈ U^{σ} car u commute à s donc ^{w}u commute à ^{w^{−1}}s = σ.

Corollaire 3.14. — Un élément u.σ ∈ U.σ est régulier si et seulement si il est conjugué sous U à un élément v.σ ∈ U^{σ}.σ tel que v soit régulier dans G^{σ}.

Démonstration. — Selon la proposition précédente, u.σ ∈ U.σ est conjugué sous U à un élément v.σ ∈ U^{σ}.σ. Par unicité de la décomposition de Jordan de v.σ, on a C_{G}(v.σ) = C_{G^{σ}}(v) et la dimension de C_{G}(v.σ) = C_{G^{σ}}(v) est minimale si et seulement si la dimension de C_{G}(v.σ) = C_{G^{σ}}(v) l’est aussi.

Proposition 3.15. — Il existe une unique G-classe de conjugaison pseudounipotente régulière dans G.σ.

Démonstration. — Par le corollaire 3.14, toute classe pseudo-unipotente régulière a un représentant v.σ dans U^{σ}.σ avec v régulier dans G^{σ} et v ∈ U^{σ} ⊂ (G^{σ})^{0}. Comme tous les éléments réguliers de (G^{σ})^{0} sont conjugués dans (G^{σ})^{0} ([3] proposition 14.16), on obtient le résultat.

On a l’analogue de 3.3 d):

Proposition 3.16. — Un élément pseudo-unipotent régulier normalise un unique sous-groupe de Borel de G.

Démonstration. — on se ramène à un élément unipotent régulier de la forme u.σ avec u ∈ U. En utilisant le corollaire 3.14, on peut se ramener au cas où u est σ-stable, régulier dans (G^{σ})^{0}. Alors, si u.σ est contenu dans un quasi-borel, ses parties semi-simples et unipotentes le sont aussi, donc tout sous-groupe de Borel normalisé par u.σ, l’est aussi par u et par σ.

Supposons que u normalise un sous-groupe de Borel σ-stable de G autre que B, alors, comme deux sous-groupes σ-stables ont un tore σ-stable en commun, on peut se ramener au cas où il existe n ∈ (N_{G}(T))^{σ} tel que u ∈ U ∩ ^{n}U. On note u = ∏_{α∈Φ^{+}} x_{α}(k_{α}). Soit w ∈ W^{σ} tel que n soit un représentant de w. Alors, pour toute racine α ∈ Π telle que w(α) ∈ Φ^{−}, on a k_{α} = 0. Si w ≠ 1, alors, comme w est σ-stable, il existe une σ-orbite A de Π telle que pour toute racine α ∈ A, on ait k_{α} = 0. Or, cela contredit le fait que u soit régulier dans (G^{σ})^{0}, d’où le résultat.

4. Caractères réguliers

On garde les notations de la section 2, en particulier, on note Φ l’ensemble des racines associées à (G, T) et Π la base de racines associée à B. Alors, (B^{σ})^{0} est un sous-groupe de Borel du groupe réductif connexe (G^{σ})^{0} de décomposition de Levi (B^{σ})^{0} = (T^{σ})^{0}U^{σ}. On note Φ^{σ} l’ensemble des racines associées à ((G^{σ})^{0}, (T^{σ})^{0}) et Π/σ la base de racines associée à (B^{σ})^{0}. De plus, τ sera l’action de F sur les racines, et si O est une τ-orbite de Π, alors, on note U_{O} l’image de ∏_{α∈O} U_{α} dans U/U^{∗}, et Π/τ l’ensemble des τ-orbites de Π. Pour toute racine α ∈ Φ, on fixe un isomorphisme x_{α} : \overline{𝔽_{q}}^{+} → U_{α} tel que F (x_{α}(a)) = x_{τ(α)}(a^{q}) et on définit comme dans la section précédente le coefficient c_{α} pour toute racine α ∈ Φ par σ(x_{α}(a)) = x_{σ(α)}(c_{α}a). On fixe {O_{1}, …, O_{s}}, un ensemble de représentants des σ-orbites de Π/τ.

Dans le cas des groupes réductifs connexes, les représentations de Gelfand-Graev sont obtenues en induisant certains caractères linéaires irréductibles de U^{F} appelés caractères réguliers. Nous généralisons la notion de caractères réguliers dans la définition 4.1.

Notation 4.1. — Soit χ un caractère linéaire de U^{F} tel que sa restriction à (U^{∗})^{F} soit triviale. Alors, χ se factorise à travers (U/U^{∗})^{F} ≃ U^{F} /U^{∗F}. On identifie de cette façon χ à un caractère \overline{χ} de U^{F} /U^{∗F} ≃ ∏_{O∈Π/τ} U_{O}^{F}.

Pour toute partie F -stable I de Π,

(i) on note U_{I} l’image de ∏_{α∈I} U_{α} dans U/U^{∗},

(ii) on définit χ|_{U_{I}^{F}} comme la restriction de \overline{χ} à U_{I}^{F}.

Définition 4.1. — Un caractère multiplicatif χ̃ ∈ Irr(U^{F} .⟨σ⟩) est appelé caractère régulier si pour tout u ∈ U^{F}:

χ̃(u.σ) = χ(u)χ̃(σ),

où χ est un caractère σ-stable de Irr(U^{F}) qui vérifie les deux conditions suivantes:

(i) La restriction de χ à (U^{∗})^{F} est triviale.

(ii) Pour toute τ-orbite O de Π, χ|_{U_{O}^{F}} n’est pas triviale.

Sous ces conditions, on dit que χ est régulier et pour tout caractère régulier σ-stable χ de U^{F}, on note χ̃ et on appelle extension normalisée de χ, l’extension de χ à U^{F} .⟨σ⟩ telle que χ̃(σ) = 1.

Remarque 4.2. — Plaçons-nous dans le cas du groupe réductif connexe (G^{σ})^{0}. Les caractères réguliers de (U^{σ})^{F} sont définis par les conditions (i) et (ii) de la définition précédente en remplaçant U par U^{σ} et Π par Π/σ.

Proposition 4.3. — On suppose que la condition (RS) est vérifiée. Alors, il existe une bijection entre les caractères réguliers de (U^{σ})^{F} et les caractères réguliers σ-stables de U^{F}.

Démonstration. — La démonstration repose sur une série de lemmes numérotés de 4.4 à 4.10.

Lemme 4.4. — Pour toute racine α ∈ Φ, et pour tout entier k, on a c_{τ^{k}(α)} = (c_{α})^{q^{k}}.

Démonstration. — Soient α ∈ Φ et un entier k, alors, pour tout λ ∈ 𝔽_{q}^{+}, on a

σ(F^{k}(x_{α}(λ))) = σ(x_{τ^{k}(α)}(λ^{q^{k}})) = x_{σ(τ^{k}(α))}(c_{τ^{k}(α)}λ^{q^{k}})

et

F^{k}(σ(x_{α}(λ))) = F^{k}(x_{σ(α)}(c_{α}λ)) = x_{τ^{k}(σ(α))}((c_{α})^{q^{k}}λ^{q^{k}}).

Or, les actions de σ et F commutent, donc, σ(F^{k}(x_{α}(λ))) = F^{k}(σ(x_{α}(λ))) et σ ∘ τ^{k} = τ^{k} ∘ σ, ce qui entraîne le résultat.

Remarque 4.5. — Le lemme 4.4 entraîne que pour tout α ∈ Φ, si O est la τ-orbite de α alors, le coefficient c_{α} est dans 𝔽_{q^{|O|}}.

Lemme 4.6. — On considère la τ-orbite O = {α, τ(α), …, τ^{k−1}(α)} d’une racine α ∈ Π. Soit A = {α, σ(α), …, σ^{n−1}(α)} la σ-orbite de α. Soient a ∈ {1, …, k} le cardinal de la τ-orbite de A et o ∈ {1, …, n} le cardinal de la σ-orbite de O. Alors, il existe un entier r tel que k = a × r et n = o × r.

Démonstration. — Pour tout entier t, on a

\begin{aligned}& σ^{t}(O) & = & \{σ^{t}(α), τ(σ^{t}(α)), …, τ^{k−1}(σ^{t}(α))\} \\ et & τ^{t}(A) & = & \{τ^{t}(α), σ(τ^{t}(α)), …, σ^{n−1}(τ^{t}(α))\}. \end{aligned}

Par définition de o et de a, on a σ^{o}(O) = O et τ^{a}(A) = A. De plus, on a l’égalité: O ∪ … ∪ σ^{o−1}(O) = A ∪ … ∪ τ^{a−1}(A), ce qui entraîne que

(1) o × k = a × n.

Par ailleurs, σ^{n}(O) = O et τ^{k}(A) = A, donc il existe deux entiers u et v tels que

(2) n = u × o

et

(3) k = v × a.

On obtient donc la relation u = v, ce qui conclut la démonstration du lemme 4.6.

Lemme 4.7. — On suppose que σ est quasi-central et que pour toute racine simple α ∈ Π, on a C_{σ,α} = 1. Soit α ∈ Π, soient A et O respectivement la σ-orbite et la τ-orbite de α, soit o le cardinal de la σ-orbite de O et a le cardinal de la τ-orbite de A, soit i ∈ {1, …, |O|} tel que σ^{o}(α) = τ^{i}(α) et soit j ∈ {1, …, |A|} tel que τ^{a}(α) = σ^{j}(α), enfin soit r tel que |A| = r × o, alors,

\begin{aligned}& (c_{α} … c_{σ^{o−1}(α)})^{1+q^{i}+...+q^{(r−1)i}} & = 1 \\ et & (c_{α} … c_{σ^{j−1}(α)})^{1+q^{a}+...+q^{(r−1)a}} & = 1. \end{aligned}

Démonstration. —

(c_{α} … c_{σ^{o−1}(α)})^{1+q^{i}+...+q^{(r−1)i}}
= c_{α} … c_{σ^{o−1}(α)}c_{α}^{q^{i}} … c_{σ^{o−1}(α)}^{q^{i}} … c_{α}^{q^{(r−1)i}} … c_{σ^{o−1}(α)}^{q^{(r−1)i}}
= c_{α} … c_{σ^{o−1}(α)}c_{τ^{i}(α)} … c_{σ^{o−1}(τ^{i}(α))} … c_{τ^{(r−1)i}(α)} … c_{σ^{o−1}(τ^{(r−1)i}(α))}
= c_{α} … c_{σ^{o−1}(α)}c_{σ^{o}(α)} … c_{σ^{2o−1}(α)} … c_{σ^{(r−1)o}(α)} … c_{σ^{ro−1}(α)}
= c_{α} … c_{σ^{|A|−1}(α)}
= 1

On montre de la même façon que

(c_{α} … c_{σ^{j−1}(α)})^{1+q^{a}+...+q^{(r−1)a}} = 1.

Lemme 4.8. — Soit α ∈ Π, on note H le sous-réseau de ℤ^{2} défini par

H = {(i, j)|τ^{i}(α) = σ^{j}(α)}.

Si n est le cardinal de la σ-orbite de α, et si a > 0 est minimal tel qu’il existe un entier l tel que τ^{a}(α) = σ^{l}(α) (si A est la σ-orbite de α, alors, a est le cardinal de la τ-orbite de A) et si j est tel que τ^{a}(α) = σ^{j}(α), alors, H est engendré par les couples (0, n) et (a, j).

Démonstration. — Soit p_{1} la première projection de ℤ^{2} sur ℤ, alors, l’image de H par p_{1} est un sous-groupe de ℤ égal à a.ℤ par définition de a. Ainsi, pour tout (k, l) ∈ H, il existe un entier s tel que k−sa = 0, on a alors, (0, l−sj) ∈ H, c’est-à-dire, σ^{l−sj}(α) = α, ce qui entraîne que n divise l − sj. Donc, pour tout (k, l) ∈ H, il existe deux entiers s et t tels que (k, l) = s(a, j) + t(0, n), ce qui montre que H est engendré par les couples (0, n) et (a, j).

Lemme 4.9. — On suppose que σ est quasi-central et que pour toute racine simple α ∈ Π, on a C_{σ,α} = 1. Pour toute racine α ∈ Π, si on note O la τ-orbite de α, A sa σ-orbite et a le cardinal de la τ-orbite de A et j l’élément de {1, …, A} tel que τ^{a}(α) = σ^{j}(α), alors, on peut choisir pour tout β ∈ A, l’isomorphisme x_{β} : \overline{𝔽_{q}}^{+} → U_{β} de façon à ce que c_{α} … c_{σ^{j−1}(α)} = 1.

Démonstration. — On s’est donné pour tout α ∈ Φ, des isomorphismes x_{α} : \overline{𝔽_{q}}^{+} → U_{α} tels que F (x_{α}(λ)) = x_{τ(_{α})}(λ^{q}) pour tout λ ∈ \overline{𝔽_{q}}^{+}. Soit (a_{α})_{α∈Φ} une famille d’éléments de \overline{𝔽_{q}}^{+}, alors, on peut définir la famille d’isomorphismes (x′_{α})_{α∈Φ} par la relation x′_{α}(λ) = x_{α}(a_{α}λ) pour tout λ ∈ \overline{𝔽_{q}}^{+}.

Les isomorphismes vérifient F (x′_{α}(λ)) = x′_{τ(α)}(λ^{q}) pour tout α ∈ Φ, si et seulement si on a a_{τ(α)} = a_{α}^{q}, c’est l’hypothèse que l’on va faire sur les a_{α} désormais.

Pour tout α ∈ Φ, on définit c′_{α} par σ(x′_{α}(λ)) = x′_{σ(α)}(c′_{α}λ) pour tout λ ∈ \overline{𝔽_{q}}^{+}, alors, c′_{α} = c_{α} × a_{α}/a_{σ(α)}. Pour tout α ∈ Π, on a

c′_{α} … c′_{σ^{|A|−1}(α)} = C_{σ,α} = 1,

où A est la σ-orbite de α.

Soit α ∈ Π, soit a le cardinal de la τ-orbite de A et j l’élément de {1, …, A} tel que τ^{a}(α) = σ^{j}(α), alors,

c′_{α} … c′_{σ^{j−1}(α)} = a_{α}^{1−q^{a}}c_{α} … c_{σ^{j−1}(α)}.

On a vu (lemme 4.7) que

(c_{α} … c_{σ^{j−1}(α)})^{1+q^{a}+...+q^{(r−1)a}} = (c_{α} … c_{σ^{j−1}(α)})^{(q^{ra}−1)/(q^{a}−1)} = 1,

donc, il existe a_{α} ∈ 𝔽_{q^{|O|}}, où O est la τ-orbite de α, tel que

(a_{α})^{q^{a}−1} = c_{α} … c_{σ^{j−1}(α)},

ce qui termine la démonstration.

On suppose dans la suite que les isomorphismes x_{β} vérifient la propriété du lemme 4.9.

Notation 4.2. — Pour toute racine α ∈ Π, si O est la τ-orbite de α, on définit l’isomorphisme u_{α} de 𝔽_{q^{|O|}} dans U_{O}^{F} par

λ ↦ u_{α}(λ) = x_{α}(λ) … x_{τ^{|O|−1}(α)}(λ^{q^{|O|−1}}).

Si χ̃ est un caractère régulier normalisé de U^{F} .⟨σ⟩, il existe χ ∈ Irr(U^{F}) régulier σ-stable tel que χ̃ soit l’extension triviale de χ à U^{F} .⟨σ⟩. Pour tout α ∈ Π, si O est la τ-orbite de α, on note χ_{α} le morphisme de 𝔽_{q^{|O|}}^{+} dans ℂ^{×} défini par λ ↦ χ ∘ u_{α}(λ). Alors, le caractère χ est défini par la donnée de (χ_{α})_{α∈Π} avec pour toute racine α ∈ Π les relations suivantes:

χ_{τ(α)}(λ^{q}) = χ_{α}(λ)

pour tout λ ∈ 𝔽_{q^{|O|}}, où O est la τ-orbite de α.

Soit {α_{1}, … α_{r}} un ensemble de représentants des τ-orbites de Π, alors, on a pour tout u ∈ ∏_{i=1}^{r} u_{α_{i}}(λ_{α_{i}})(U^{∗})^{F}, la formule suivante qui ne dépend pas du choix de l’ensemble {α_{1}, …, α_{r}}:

χ(u) = ∏_{i=1}^{r} χ_{α_{i}}(λ_{α_{i}}).

On note {O_{1}, …, O_{s}} un ensemble de représentants des σ-orbites de Π/τ. Dans toute τ-orbite O_{r}, on choisit un élément α_{r}. Pour tout r ∈ {1, …, s}, A_{r} est la σ-orbite de α_{r}, a(r) le cardinal de la τ-orbite de A_{r} et o(r) le cardinal de la σ-orbite de O_{r}. On fixe un entier N multiple de |O| pour toute τ-orbite O de racines de Π. On fixe un caractère ϕ_{0} de 𝔽_{q^{N}}^{+} tel que la restriction de ϕ_{0} à 𝔽_{q}^{+} soit non triviale.

Lemme 4.10. — On suppose que σ est quasi-central et que pour toute racine simple α ∈ Π, on a C_{σ,α} = 1. Pour tout r ∈ {1, …, s}, pour tout caractère linéaire σ-stable χ_{r} du sous-groupe ∏_{i=0}^{o(r)−1} U_{σ^{i}(O_{r})}^{F} de (U/U^{∗})^{F}, il existe un d_{r} ∈ 𝔽_{q^{a(r)}} tel que:

χ_{r}( ∏_{i=0}^{o(r)−1} u_{σ^{i}(α_{r})}(λ_{σ^{i}(α_{r})}))

= ϕ_{0} ∘ Tr_{r}(d_{r}(λ_{α_{r}} + (1/c_{α_{r}})λ_{σ(α_{r})} … + (1/(c_{α_{r}} … c_{σ^{o(r)−2}(α_{r})}))λ_{σ^{o(r)−1}(α_{r})}))

où λ_{σ^{i}(α_{r})} ∈ 𝔽_{q^{|Or |}} et où Tr_{r} est la trace de 𝔽_{q^{|Or |}} dans 𝔽_{q^{a(r)}}. Tout caractère linéaire σ-stable χ de (U/U^{∗})^{F} est de la forme χ = ∏_{r=1}^{s} χ_{r}, où χ_{r} est comme ci-dessus. De plus, l’application

Ψ : χ ↦ (d_{1}, …, d_{s})

est un isomorphisme : (((U/U^{∗})^{F})^{∧})^{σ} → ∏_{r=1}^{s} 𝔽_{q^{a(r)}}^{+} et χ est régulier si et seulement si aucun des d_{r} n’est nul.

Démonstration. — Soit (s, t) ∈ H le sous-réseau du lemme 4.8, alors, dans Ũ = U/U^{∗}:

σ^{t}(u_{α}(λ)) = x_{σ^{t}(α)}(c_{α} … c_{σ^{t−1}(α)}λ) … x_{τ^{|O|−1}(σ^{t}(α))}((c_{α} … c_{σ^{t−1}(α)}λ)^{q^{|O|−1}})
= x_{τ^{s}(α)}(c_{α} … c_{σ^{t−1}(α)}λ) … x_{τ^{|O|+s−1}(α)}((c_{α} … c_{σ^{t−1}(α)}λ)^{q^{|O|−1}})
= u_{τ^{s}(α)}(c_{α} … c_{σ^{t−1}(α)}λ)

Donc, si σ^{t}(α) = τ^{s}(α), alors, σ^{t}(u_{α}(λ)) = u_{τ^{s}(α)}(c_{α} … c_{σ^{t−1}(α)}λ), comme éléments de U/U^{∗}.

Pour que χ soit un caractère régulier σ-stable de U^{F}, il faut et il suffit que pour tout α ∈ Π, pour tout λ ∈ 𝔽_{q^{|O|}}, où O est la τ-orbite de α, on ait,

χ_{σ(α)}(c_{α}λ) = χ_{α}(λ),

c’est-à-dire, d’après ce qui précède, que pour tout couple (s, t) tel que σ^{t}(α) = τ^{s}(α), pour tout λ ∈ 𝔽_{q^{|O|}}, on ait

χ_{σ^{t}(α)}(c_{α} … c_{σ^{t−1}(α)}λ) = χ_{τ^{s}(α)}(c_{α} … c_{σ^{t−1}(α)}λ) = χ_{α}(λ),

Par le lemme 4.8, cette condition est équivalente à la condition suivante pour toute racine α ∈ Π, où on aura noté O la τ-orbite de α, A sa σ-orbite, a le cardinal de la τ-orbite de A, et où on aura défini j comme l’élément de {1, …, |O|} tel que σ^{j}(α) = τ^{a}(α),

χ_{τ^{a}(α)}(c_{α} … c_{σ^{j−1}(α)}λ) = χ_{α}(λ), pour tout λ ∈ 𝔽_{q^{|O|}},

c’est-à-dire,

χ_{α}((c_{α} … c_{σ^{j−1}(α)}λ)^{q^{|O|−a}}) = χ_{α}(λ), pour tout λ ∈ 𝔽_{q^{|O|}},

c’est-à-dire,

χ_{α}(λ^{q^{|O|−a}}) = χ_{α}(λ), pour tout λ ∈ 𝔽_{q^{|O|}},

car on a fait en sorte que c_{α} … c_{σ^{j−1}(α)} = 1 grâce au lemme 4.9. Par ailleurs, un caractère ϕ de 𝔽_{q^{|O|}} vérifie ϕ(λ^{q^{|O|−a}}) = ϕ(λ), pour tout λ ∈ 𝔽_{q^{|O|}}, si et seulement si ϕ(λ^{q^{a}}) = ϕ(λ) pour tout λ ∈ 𝔽_{q^{|O|}}, car λ^{q^{a}} = μ ⇔ λ = μ^{q^{|O|−a}}.

Ainsi, si χ_{r} est un caractère linéaire σ-stable de ∏_{i=0}^{o(r)−1} U_{σ^{i}(O_{r})}^{F} avec r ∈ {1, …, s}, il existe un caractère ϕ_{r} de 𝔽_{q^{a(r)}}^{+} tel que:

χ_{r}( ∏_{i=0}^{o(r)−1} u_{σ^{i}(α_{r})}(λ_{σ^{i}(α_{r})}))

= ϕ_{r} ∘ Tr_{r}(λ_{α_{r}} + (1/c_{α_{r}})λ_{σ(α_{r})} … + (1/(c_{α_{r}} … c_{σ^{o(r)−2}(α_{r})}))λ_{σ^{o(r)−1}(α_{r})}),

où λ_{σ^{i}(α_{r})} ∈ 𝔽_{q^{|Or |}} et où Tr_{r} est la trace de 𝔽_{q^{|Or |}} dans 𝔽_{q^{a(r)}}. C’est-à-dire, il existe un d_{r} ∈ 𝔽_{q^{a(r)}} tel que:

χ_{r}( ∏_{i=0}^{o(r)−1} u_{σ^{i}(α_{r})}(λ_{σ^{i}(α_{r})}))

= ϕ_{0} ∘ Tr_{r}(d_{r}(λ_{α_{r}} + (1/c_{α_{r}})λ_{σ(α_{r})} … + (1/(c_{α_{r}} … c_{σ^{o(r)−2}(α_{r})}))λ_{σ^{o(r)−1}(α_{r})})).

Et le caractère χ est σ-stable si et seulement si χ = ∏_{r=1}^{s} χ_{r}, où χ_{r} est comme ci-dessus, de plus, il est régulier si et seulement si les d_{r} sont non nuls.

Les autres assertions du lemme 4.10 sont claires.

On peut appliquer le lemme 4.10, non seulement à G.⟨σ⟩ mais aussi au groupe réductif (G^{σ})^{0}.⟨σ⟩. Cela montre que les caractères réguliers σ-stables de U^{F} /(U^{∗})^{F} et les caractères réguliers de (U^{σ})^{F} /((U^{σ})^{∗})^{F} sont en bijection avec le même ensemble. La proposition 4.3 s’en déduit immédiatement.

Corollaire 4.11. — Supposons la condition (RS) vérifiée. Alors, les caractères réguliers σ-stables de U^{F} sont paramétrés par L_{(T^{σ})^{0}}^{−1}(Z((G^{σ})^{0}))/Z((G^{σ})^{0}), où L_{(T^{σ})^{0}} est l’application de Lang de (T^{σ})^{0} dans (T^{σ})^{0} définie par t ↦ t^{−1}F (t).

Démonstration. — Selon la proposition 14.28 de [3] appliquée au groupe réductif connexe (G^{σ})^{0}, L_{(T^{σ})^{0}}^{−1}(Z((G^{σ})^{0})) agit transitivement sur l’ensemble des caractères réguliers de (U^{σ})^{F}, et comme cette action a pour noyau Z((G^{σ})^{0}), les caractères réguliers de (U^{σ})^{F} sont paramétrés par l’ensemble L_{(T^{σ})^{0}}^{−1}(Z((G^{σ})^{0}))/Z((G^{σ})^{0}). La proposition précédente permet donc de conclure.

Précisons la bijection obtenue dans le corollaire 4.11:

On fixe un caractère régulier σ-stable χ_{1} de U^{F} afin de bien définir ce paramétrage.

D’après le lemme 1.3 de [2], L_{(T^{σ})^{0}}^{−1}(Z((G^{σ})^{0}))/(Z((G^{σ})^{0})((T^{σ})^{0})^{F}) est isomorphe à H^{1}(F, Z((G^{σ})^{0})), donc les ((T^{σ})^{0})^{F} -orbites des caractères réguliers σ-stables de U^{F} sont paramétrées par H^{1}(F, Z((G^{σ})^{0})). Comme (T^{σ})^{0} est connexe, l’application de Lang de (T^{σ})^{0} → (T^{σ})^{0} est surjective. De plus, on a Z((G^{σ})^{0}) ⊂ (T^{σ})^{0}. Donc, pour tout z ∈ H^{1}(F, Z((G^{σ})^{0})), il existe t ∈ (T^{σ})^{0} tel que t^{−1}F (t) ∈ z et z paramètre la ((T^{σ})^{0})^{F} -orbite de ^{t}χ_{1}.

5. Définition des représentations de Gelfand-Graev

5.1. Cas où σ est unipotent. — On suppose que σ est rationnel quasicentral unipotent. On rappelle que, lorsque σ est quasi-central unipotent, on a (G^{σ})^{0} = G^{σ} et (T^{σ})^{0} = T^{σ}. Nous allons étendre toute représentation de Gelfand-Graev σ-stable de G^{F} en une représentation de Gelfand-Graev de G̃^{F}. Selon la proposition 5.1 ci-dessous, il suffit d’induire de U^{F} .⟨σ⟩ à G̃^{F} les caractères réguliers normalisés de U^{F} .⟨σ⟩.

Proposition 5.1. — Si σ est un automorphisme quasi-central unipotent rationnel de G, alors, tout caractère σ-stable de Gelfand-Graev de G^{F} est l’induit d’un caractère régulier σ-stable de U^{F}.

Démonstration. — Les représentations de Gelfand-Graev de G comme les T^{F} - orbites de caractères réguliers de U^{F} sont paramétrées par H^{1}(F, Z(G)) (proposition 14.28 [3]) de la façon suivante: on fixe un caractère régulier de U^{F} que l’on note ϕ_{1}. Soit z ∈ H^{1}(F, Z(G)), soit t ∈ L_{T}^{−1}(Z(G)) tel que la classe de Fconjugaison de L(t) dans Z(G) soit z. On note ż l’image dans L_{T}^{−1}(Z(G))/Z(G) de t. Soit ϕż le caractère régulier de U^{F} défini par ϕż = ^{t}ϕ_{1}, alors on définit Γ_{z} par Γ_{z} = Ind_{U^{F}}^{G^{F}} (ϕż). On démontre que Γ_{z} = Γ_{z′} si et seulement si z = z′.

Soit z ∈ H^{1}(F, Z(G)) tel que Γ_{z} soit une représentation de Gelfand-Graev σ-stable de G^{F}, soit t ∈ L_{T}^{−1}(Z(G)) défini comme ci-dessus. Soit ϕ = ^{t}ϕ_{1}, alors, Γ_{z} = Ind_{U^{F}}^{G^{F}} (ϕ) et ^{σ}Γ_{z} = Ind_{U^{F}}^{G^{F}} (^{σ}ϕ). Par ailleurs, ^{σ}ϕ est un caractère régulier de U^{F}. Donc, comme Γ_{z} est σ-stable, il existe t′ ∈ L_{T}^{−1}(Z(G)) tel que la classe de F-conjugaison de L(t′) dans Z(G) soit z, c’est-à-dire celle de t, et tel que σϕ = ^{t′}ϕ_{1}. Ainsi, il existe τ ∈ Z(G) tel que L(t′) = τL(t)F (τ)^{−1}, c’est-à-dire, tel que F (t′(tτ)^{−1}) = t(t′τ)^{−1}. Donc, il existe τ ∈ Z(G) et t_{0} ∈ T^{F}, tels que t′ = t_{0}tτ. Ainsi, on a

σϕ = ^{t′}ϕ_{1} = ^{t_{0}tτ}ϕ_{1} = ^{t_{0}}ϕ,

avec t_{0} ∈ T^{F}. On a donc montré que la T^{F} -orbite de ϕ était σ-stable, il reste à prouver qu’elle contient un élément σ-stable.

Soit k l’ordre de σ, alors ^{σ^{k}}ϕ = ϕ, c’est-à-dire, σ^{k−1}(t_{0}) … σ(t_{0})t_{0} ∈ Z(G). Comme σ est unipotent quasi-semi-simple, alors, d’après le (iii) du théorème 2.3, T = L_{σ}(T)×T^{σ}, où, L_{σ} : t → t^{−1}σ(t). Ainsi, on peut écrire t_{0} = t^{−1}σ(t)t_{1} avec t^{−1}σ(t) ∈ T^{F} et t_{1} ∈ (T^{σ})^{F}. De plus, on peut choisir t ∈ T^{F}. En effet, L_{σ}(T^{F}) est inclus dans L_{σ}(T)^{F}, or |L_{σ}(T^{F})| = |T^{F} |/|(T^{F})^{σ}| et |L_{σ}(T)^{F} | = |T^{F} |/|(T^{σ})^{F} |, d’où l’égalité L_{σ}(T^{F}) = L_{σ}(T)^{F}.

On a alors,

σ^{k−1}(t_{0}) … σ(t_{0})t_{0} ∈ Z(G) ⇔ σ^{k}(t)t^{−1}t_{1}^{k} ∈ Z(G),

c’est-à-dire que t_{1}^{k} ∈ Z(G) car σ est d’ordre k. Ainsi pour toute racine α ∈ Π, on a α(t_{1}^{k}) = α(t_{1})^{k} = 1, or, α(t_{1}) ∈ \overline{𝔽}_{q} et k est une puissance de la caractéristique de \overline{𝔽}_{q} donc pour toute racine α ∈ Π, α(t_{1}) = 1, c’est-à-dire, t_{1} ∈ Z(G) et t_{0} ∈ L_{σ}(T) × Z(G).

Soit ϕ′ = ^{t^{−1}}ϕ, alors,

σ(ϕ′) = ^{σ(t^{−1})t_{0}}ϕ = ^{σ(t^{−1})t^{−1}σ(t)t_{1}}ϕ = ^{t^{−1}}ϕ = ϕ′.

On a ainsi montré qu’il existait un caractère régulier ϕ′ σ-stable de U^{F} tel que Γ = Ind_{U^{F}}^{G^{F}} (ϕ′).

Définition 5.2. — Pour tout z ∈ H^{1}(F, Z(G^{σ})), l’induit Ind_{U^{F} .⟨σ⟩}^{G^{F} .⟨σ⟩}(^{t̃}χ_{1}) (où

on note ^{ t̃}χ_{1} l’extension normalisée de ^{t}χ_{1} à U^{F} .⟨σ⟩) ne dépend pas du choix de t ∈ T^{σ} tel que t^{−1}F (t) ∈ z et on définit la représentation de Gelfand-Graev ΓG̃ ; z de G̃^{F} = G^{F} .⟨σ⟩ par ΓG̃ ; z = Ind_{U^{F} .⟨σ⟩}^{G^{F} .⟨σ⟩}(^{t̃}χ_{1}). On définit la représentation de

Gelfand-Graev Γ_{z}^{G.σ} de G^{F} .σ par Γ_{z}^{G.σ} = ResG̃^{F} ; G^{F} .σ(ΓG̃ ; z).

5.2. Cas où σ est semi-simple. — On suppose que σ est rationnel quasicentral semi-simple. On suppose de plus que σ vérifie l’hypothèse (RS).

On voudrait que toute représentation de Gelfand-Graev σ-stable de G^{F} soit étendue en au moins une représentation de Gelfand-Graev de G̃^{F}. Selon la proposition 5.1, sous l’hypothèse σ unipotent quasi-central, toute représentation de Gelfand-Graev σ-stable de G^{F} est l’induite d’un caractère régulier σ-stable de U^{F}. La proposition 5.1 n’est plus vraie lorsque l’on supprime l’hypothèse σ unipotent. On ne peut plus se contenter comme lorsque σ est unipotent quasi-central de définir les représentations de Gelfand-Graev de G̃^{F} comme les induites de U^{F} .⟨σ⟩ à G̃^{F} des extensions à U^{F} .⟨σ⟩ des caractères réguliers σ-stables de U^{F}.

Par ailleurs, lorsque σ est semi-simple, G^{σ} et T^{σ} ne sont pas toujours connexes, donc, pour z ∈ H^{1}(F, Z(G^{σ})), il n’existe plus forcément t ∈ T^{σ} tel que t^{−1}F (t) ∈ z. Cependant, T est connexe, donc l’application de Lang L_{T} : T → T est surjective et comme Z(G^{σ}) ⊂ T, pour tout z ∈ H^{1}(F, Z(G^{σ})), il existe t ∈ T tel que t^{−1}F (t) ∈ z. Alors, ^{t}σ est un élément rationnel quasi-central de G̃, on a G̃^{F} = G^{F} .⟨^{t}σ⟩ et G^{F} .σ = G^{F} .^{t}σ et le caractère régulier ^{t}χ_{1} est ^{t}σ-stable. De plus, Γ = Ind_{U^{F}}^{G^{F}} ^{t}χ_{1} est une représentation de Gelfand-Graev σ-stable de G^{F}.

Définition 5.3. — Soit z ∈ H^{1}(F, Z(G^{σ})). Alors, Ind_{U^{F} .^{t}σ}^{G^{F} .^{t}σ} ˜ (^{t}χ_{1}) (où on note t̃χ_{1} l’extension normalisée de ^{t}χ_{1} à U^{F} .⟨^{t}σ⟩) ne dépend pas du choix de t ∈ T tel que t^{−1}F (t) ∈ z et on définit la représentation de Gelfand-Graev ΓG̃ ; z de G̃^{F} = G^{F} .⟨σ⟩ par ΓG̃ ; z = IndG̃^{F} ; U^{F} .⟨^{t}σ⟩ ˜ (^{t}χ_{1}). On définit la représentation de

Gelfand-Graev Γ_{z}^{G.σ} de G^{F} .σ par Γ_{z}^{G.σ} = ResG̃^{F} ; G^{F} .σ(ΓG̃ ; z).

6. Propriétés des représentations de Gelfand-Graev

On suppose que σ est rationnel quasi-central unipotent ou semi-simple.

Proposition 6.1. — (i) La restriction à G^{F} d’une représentation de Gelfand-Graev de G̃^{F} est une représentation de Gelfand-Graev de G^{F}.

(ii) Les composantes irréductibles des représentations de Gelfand-Graev de G̃^{F} = G^{F} .⟨σ⟩ sont toutes de multiplicité 1.

Démonstration. — Soit z ∈ Z(G^{σ}), alors, ResG̃^{F} ; G^{F} (ΓG̃ ; z) est un caractère de Gelfand-Graev de G^{F} car si t ∈ T est tel que L(t) ∈ z (on choisit t ∈ T^{σ} si σ est unipotent) alors, ResG̃^{F} ; G^{F} (ΓG̃ ; z) = Ind_{U^{F}}^{G^{F}} (^{t}χ_{1}).

Or, ^{t}χ_{1} est un caractère régulier de U^{F} et on retrouve bien un caractère de Gelfand-Graev de G^{F}. On peut décomposer ΓG̃ ; z sous la forme ΓG̃ ; z = ∑_{χ∈Irr(G̃^{F})} c_{χ}χ, alors, ΓG̃ ; z|_{G^{F}} = ∑_{χ∈Irr(G̃^{F})} c_{χ}χ|_{G^{F}}. Par le théorème de Clifford, pour tout χ ∈ Irr(G̃^{F}), on a χ|_{G^{F}} = e ∑_{i=1}^{t} γ_{i}, où γ_{1}, …, γ_{t} sont les conjugués d’un même caractère irréductible γ de G^{F} dans G̃^{F}. Or, le fait que ΓG̃ ; z|_{G^{F}} soit une représentation de Gelfand-Graev de G^{F} entraîne que ses composantes irréductibles sont de multiplicité 1 ([3] théorème 14.30) et donc que pour tout χ ∈ Irr(G̃^{F}), c_{χ} < 2. Donc, les composantes irréductibles de ΓG̃ ; z sont de multiplicité 1.

Soit L un sous-groupe de Levi rationnel et σ-stable contenant T d’un sousgroupe parabolique rationnel σ-stable P de G contenant B.

Lemme 6.2. — L’inclusion Z(G^{σ}) ⊂ Z(L^{σ}) induit une application surjective h_{L^{σ}} : H^{1}(F, Z(G^{σ})) → H^{1}(F, Z(L^{σ})).

Démonstration. — Lorsque σ est unipotent, G^{σ} est un groupe réductif connexe et L^{σ} un sous-groupe de Levi de G^{σ}, le résultat provient alors du lemme 14.31 de [3].

Supposons maintenant que σ est semi-simple. Soit I le sous-ensemble de Π tel que L soit le sous-groupe de Levi standard L_{I}. Alors, I est σ-stable et

Z(G^{σ}) = ∩_{α∈Π}Kerα|_{T^{σ}} ⊂ Z(L^{σ}) = ∩_{α∈I}Kerα|_{T^{σ}}

En fait, on obtient la suite exacte suivante:

H^{1}(Z(G^{σ})) → H^{1}(Z(L^{σ})) → H^{1}(Z(L^{σ})/Z(G^{σ}))

Donc, il suffit de montrer que Z(L^{σ})/Z(G^{σ}) est connexe.

Le groupe Z(L^{σ})/Z(G^{σ}) est le centre de L^{σ}/Z(G^{σ}), on va montrer que L^{σ}/Z(G^{σ}) est un sous-groupe de Levi du groupe réductif connexe de centre trivial G^{σ}/Z(G^{σ}). Cela nous permettra de conclure car, par le (ii) du lemme 13.14 de [3], si H est un groupe réductif connexe de centre connexe, alors, le centre de tout sous-groupe de Lévi de H est encore connexe.

Comme σ est quasi-central, et comme G est un groupe réductif connexe, on a G^{σ} = (G^{σ})^{0} × Z(G^{σ}) (théorème 2.3, (iii)), donc, G^{σ}/Z(G^{σ}) est un groupe réductif connexe de centre trivial. Par ailleurs, si on pose U_{I} = ⟨U_{α}; α ∈ I⟩ et U_{I}^{−} = ⟨U_{α}; (−α) ∈ I⟩, alors, par les résultats généraux de la section 2, L^{σ} = ⟨T^{σ}, (U_{I})^{σ}, (U_{I}^{−})^{σ}⟩ et (L^{σ})^{0} = ⟨(T^{σ})^{0}, (U_{I})^{σ}, (U_{I}^{−})^{σ}⟩ et comme T^{σ} = (T^{σ})^{0} × Z(G^{σ}), le groupe L^{σ}/Z(G^{σ}) est connexe, et c’est un sous-groupe de Levi de G^{σ}/Z(G^{σ}).

On définit les représentations de Gelfand-Graev de L^{F} .σ comme celles de G^{F} .σ dans la section 5. On pose ϕ_{1} = Res_{U^{F} ∩L^{F}}^{U^{F}} (χ_{1}) et on définit pour tout t ∈ L_{T}^{−1}(Z(G^{σ})), le caractère ^{ t̃}ϕ_{1} de Irr((L^{F} ∩ U^{F}).⟨^{t}σ⟩) comme l’extension normalisée de ^{t}ϕ_{1} à (U^{F} ∩ L^{F}).⟨^{t}σ⟩.

Remarque 6.3. — On a ˜ (^{t}χ_{1})|_{(L^{F} ∩U^{F}).^{t}σ} = ˜ (^{t}ϕ_{1}).

Proposition 6.4. — Pour tout z ∈ H^{1}(F, Z(G^{σ})), on a: ^{∗}R_{L.σ}^{G.σ}(Γ_{z}^{G.σ}) = Γ_{h_{L^{σ}} (z)}^{L.σ}, où ^{∗}R_{L.σ}^{G.σ} désigne la restriction de Harish-Chandra généralisée aux groupes non connexes comme dans [4].

Démonstration. — La propriété de l’énoncé est équivalente à: Pour toute fonction de σ-classe f de L^{F} .σ, on a:

⟨R_{L.σ}^{G.σ}(f), Γ_{z}^{G.σ}⟩_{G^{F} .σ} = ⟨f, Γ_{h_{L^{σ}} (z)}^{L.σ}⟩_{L^{F} .σ}.

Soit t ∈ T tel que L_{T} (t) ∈ z (si c’est possible, ce qui est toujours le cas lorsque σ est unipotent, on choisit t dans T^{σ}, on a alors ^{t}σ = σ). Alors,

⟨f, Γ_{h_{L^{σ}} (z)}^{L.σ}⟩_{L^{F} .σ} = ⟨f, Ind_{(L^{F} ∩U^{F}).^{t}σ}^{L^{F} .^{t}σ} ˜ (^{t}ϕ_{1})⟩_{L^{F} .σ}
= ⟨Res_{(L^{F} ∩U^{F}).^{t}σ}^{L^{F} .^{t}σ}(f), ˜ (^{t}ϕ_{1})⟩_{(L^{F} ∩U^{F}).^{t}σ}

Donc, la propriété de l’énoncé est équivalente à: Pour toute fonction de σ-classe de L^{F} .σ:

⟨R_{L.σ}^{G.σ}(f), Γ_{z}^{G.σ}⟩_{G^{F} .σ} = ⟨f, ˜ (^{t}ϕ_{1})⟩_{(L^{F} ∩U^{F}).^{t}σ} (1)

On définit la fonction f̃ sur P^{F} .σ par f × Id dans la décomposition P^{F} .σ = (L^{F} .σ)V^{F}, où V est le radical unipotent de P. Alors, on a aussi f̃ = f × Id dans la décomposition P^{F} .^{t}σ = (L^{F} .^{t}σ)V^{F}.

Lemme 6.5. — On a R_{L.σ}^{G.σ}(f) = Ind_{P^{F} .^{t}σ}^{G^{F} .^{t}σ}(f̃).

Démonstration. — Soit g ∈ G^{F}, alors,

Ind_{P^{F} .^{t}σ}^{G^{F} .^{t}σ}(f̃)(g.σ)

= 1/|P^{F} | ∑_{{x∈G^{F} |(xtσ(t^{−1}).σ)g.σ(xtσ(t^{−1}).σ)^{−1}∈P^{F} .^{t}σ}} f̃((xtσ(t^{−1}).σ)g.σ(xtσ(t^{−1}).σ)^{−1})
= 1/|P^{F} | ∑_{{y∈G^{F} |y.σg.σ(y.σ)^{−1}∈P^{F} .σ}} f̃(y.σg.σ(y.σ)^{−1})

(car t^{−1}σ(t) ∈ T^{F} et P^{F} .^{t}σ = P^{F} .σ)

= Ind_{P^{F} .σ}^{G^{F} .σ}(f̃)(g.σ)

(induction de Harish-Chandra)

= R_{L.σ}^{G.σ}(f)(g.σ)

Ce qui termine la preuve du lemme 6.5.

Ainsi, le membre de gauche de l’égalité (1) est égal à

⟨Ind_{P^{F} .^{t}σ}^{G^{F} .^{t}σ}(f̃), Ind_{U^{F} .^{t}σ}^{G^{F} .^{t}σ} ˜ (^{t}χ_{1})⟩_{G^{F} .^{t}σ},

c’est-à-dire par la formule de Mackey pour les fonctions de ^{t}σ-classes, à

∑_{g∈(P^{F} \G^{F} /U^{F})^{^{t}σ}}⟨f̃, Ind_{(P^{F} ∩^{g}(U^{F})).^{t}σ}^{P^{F} .^{t}σ} ∘ Res_{(P^{F} ∩^{g}(U^{F})).^{t}σ}^{^{g}(U^{F}).^{t}σ}^{g} ˜ (^{t}χ_{1})⟩_{P^{F} .^{t}σ}

= ∑_{g∈(P^{F} \G^{F} /U^{F})^{^{t}σ}}⟨f̃,^{g} ˜ (^{t}χ_{1})⟩_{P^{F} .^{t}σ∩ ^{g}(U^{F}).^{t}σ}.

Si L est le sous-groupe de Levi standard L_{I}, alors, P \G/U est en bijection avec l’ensemble des éléments I-réduits de W = W (T) ([3] lemme 5.5). Donc, l’ensemble (P^{F} \G^{F} /U^{F})^{^{t}σ} est en bijection avec l’ensemble des éléments Iréduits ^{t}σ-stables de W^{F}, par ailleurs, comme ^{t}σ est quasi-central, tout élément tσ-stable de W^{F} = N_{G}(T)^{F} /T^{F} a un représentant ^{t}σ-stable dans N_{G}(T)^{F}. Ainsi, (P^{F} \G^{F} /U^{F})^{^{t}σ} est en bijection avec un ensemble de représentants ^{t}σstables dans N_{G}(T)^{F} des éléments I-réduits ^{t}σ-stables de W^{F}. Soit n un tel élément qui relève w ∈ W^{F}, alors, on a:

P^{F} .^{t}σ ∩ ^{n}U^{F} .^{t}σ = ((L^{F} ∩ ^{n}U^{F}).^{t}σ).(V^{F} ∩ ^{n}U^{F}),

et la restriction de f̃ à (P^{F} ∩^{n}U^{F}).^{t}σ est égale à Res_{(L^{F} ∩^{n}U^{F}).^{t}σ}^{L^{F} .^{t}σ}(f) × Id dans cette décomposition. Donc on a:

⟨f̃,^{n} ˜ (^{t}χ_{1})⟩_{(P^{F} ∩^{n}U^{F}).^{t}σ}
= ⟨Res_{(L^{F} ∩^{n}U^{F}).^{t}σ}^{L^{F} .^{t}σ}(f),^{n} ˜ (^{t}χ_{1})⟩_{L^{F} .^{t}σ∩^{n}U^{F} .^{t}σ}⟨Id,^{t}χ_{1}⟩_{^{n^{−1}}V^{F} ∩U^{F}} .

Comme ^{t}χ_{1} est un caractère régulier ^{t}σ-stable de U^{F}, ⟨Id,^{t}χ_{1}⟩_{^{n^{−1}}V^{F} ∩U^{F}} est non nul et égal à 1 si et seulement si ^{n^{−1}}V ∩ U ne contient aucun U_{α} pour α ∈ Π.

Lemme 6.6. — ^{n^{−1}}V ∩U ne contient aucun U_{α} tel que α soit une racine simple si et seulement si w = w_{0}^{I}w_{0} où w_{0}^{I} est l’élément de plus grande longueur de W_{I} et w_{0} l’élément de plus grande longueur de W.

Démonstration. — On a U = ∏_{α∈Φ^{+}} U_{α} et V = ∏_{{α∈Φ^{+}−⟨I⟩^{+}}} U_{α} = ∏_{{α∈Φ^{+}∩^{w^{I}_{0}}Φ^{+}}} U_{α}, où w_{0}^{I} est le plus grand élément de W_{I}. Donc,

n^{−1}V ∩ U = ∏_{{α∈Φ^{+}∩^{w^{−1}}Φ^{+}∩^{w^{−1}w^{I}_{0}}Φ^{+}}} U_{α}

Or w est I-réduit, donc, l(w(w_{0}^{I})^{−1}) = l(w) + l((w_{0}^{I})^{−1}) et

Φ^{+} ∩ ^{w^{−1}}Φ^{+} ∩ ^{w^{−1}w_{0}^{I}}Φ^{+} = Φ^{+} ∩ ^{w^{−1}w_{0}^{I}}Φ^{+}.

Ce qui entraîne que ^{n^{−1}}V ∩ U = ^{n^{−1}n_{0}^{I}}V ∩ U, où, n_{0}^{I} est un représentant σ-stable de w_{0}^{I} dans N_{G}(T)^{F} et ce groupe ne contient aucun U_{α} où α ∈ Π si et seulement si (w_{0}^{I})^{−1}w envoie toute racine simple positive sur une racine négative, c’est-à-dire si et seulement si (w_{0}^{I})^{−1}w = w_{0}, où w_{0} est l’élément de plus grande longueur de W. Donc, ⟨Id, χ̃_{S(z)}⟩_{^{n^{−1}}V^{F} ∩U^{F}} est non nul et égal à 1 si et seulement si w = w_{0}^{I}w_{0}. D’où le lemme 6.6.

En tenant compte du lemme ci-dessus, du fait que w_{0} envoie les racines positives sur l’ensemble des racines négatives, du fait que w_{0}^{I} change le signe des racines qui sont dans le système de racines de L et seulement le leur et du fait que w_{0} et w_{0}^{I} sont ^{t}σ-stables (car W et W_{I} le sont), on a L ∩^{n}U = L ∩ U. Ainsi,

⟨R_{L.σ}^{G.σ}(f), Γ_{z}^{G.σ}⟩_{G^{F} .σ} = ⟨Res_{L^{F} ∩U^{F} .^{t}σ}^{L^{F} .^{t}σ}(f),^{n} ˜ (^{t}χ_{1})⟩_{(L^{F} ∩U^{F}).^{t}σ}.

Par la remarque 6.3, on obtient alors:

⟨R_{L.σ}^{G.σ}(f), Γ_{z}^{G.σ}⟩_{G^{F} .σ} = ⟨f,^{n}(^{t̃}ϕ_{1})⟩_{(L^{F} ∩U^{F}).^{t}σ}.

De plus, si on pose n = t′w avec t′ ∈ T^{F}, alors n agit par conjugaison sur L^{F} ∩ U^{F} de la même façon que t′ et les caractères ^{n}(^{t̃}ϕ_{1}) et (^{t̃}ϕ_{1}) sont dans la même (T^{σ})^{F} -orbite: on en déduit la proposition 6.4.

7. Relation avec les éléments réguliers

On considère la définition suivante de la dualité introduite par [4] pour les groupes réductifs non connexes:

Définition 7.1. — Soit (T, B) un couple formé d’un tore maximal de G et d’un sous-groupe de Borel le contenant, tous deux rationnels et σ-stables. Alors, le Frobenius agit sur le système de racines de G par rapport à T, on note τ cette action, alors, τ préserve la base Π du système de racines de G par rapport à T ⊂ B. De plus, on a la formule suivante:

D_{G.σ} = ∑_{I∈P(Π/τ)^{σ}}(−1)^{|I/σ|}R_{L_{I}.σ}^{G.σ} ∘ ^{∗}R_{L_{I}.σ}^{G.σ},

où Π/τ est l’ensemble des orbites de τ dans la base Π et où P(Π/τ) est l’ensemble des parties de Π/τ.

Proposition 7.2. —

(i) Le dual de toute représentation de Gelfand-Graev de G^{F} .σ est nul en dehors des éléments unipotents (resp. pseudo-unipotents) réguliers lorsque σ est unipotent (resp. semi-simple).

(ii) Dans les deux cas, on a ⟨Γ_{z}^{G.σ}, (−1)^{|Π/τ×σ|}D_{G.σ}Γ_{z′}^{G.σ}⟩_{G^{F} .σ} = |Z((G^{σ})^{F})|δ_{z,z′}.

Démonstration. — (i) En utilisant la proposition 6.4, on obtient:

D_{G.σ}Γ_{z}^{G.σ} = ∑_{I∈P(Π/τ)^{σ}}(−1)^{|I/σ|}R_{L_{I}.σ}^{G.σ}(Γ_{h_{(L_{I})^{σ}} (z)}^{L_{I}.σ}).

Comme R_{L_{I}.σ}^{G.σ} est une induction de Harish-Chandra, si P_{I} est le sous-groupe parabolique rationnel σ-stable de G contenant L_{I} et de radical unipotent V_{I}, en utilisant le lemme 6.5 et la remarque 6.3, on obtient:

R_{L_{I}.σ}^{G.σ}(Γ_{h_{(L_{I})^{σ}} (z)}^{L_{I}.σ}) = Ind_{(P_{I})^{F} .^{t}σ}^{G^{F} .^{t}σ}[Ind_{(U^{F} ∩(L_{I})^{F}).^{t}σ}^{(L_{I})^{F} .^{t}σ}(Res_{(U^{F} ∩(L_{I})^{F}).^{t}σ}^{U^{F} .^{t}σ} ˜ (^{t}χ_{1}))×Id_{V_{I}^{F}}],

où on a choisi t ∈ T (t ∈ T^{σ} quand c’est possible et en particulier quand σ est unipotent) tel que L(t) ∈ z. Cependant le calcul montre que:

Ind_{(U^{F} ∩(L_{I})^{F}).^{t}σ}^{(L_{I})^{F} .^{t}σ}(Res_{(U^{F} ∩(L_{I})^{F}).^{t}σ}^{U^{F} .^{t}σ} ˜ (^{t}χ_{1})) × Id_{V_{I}^{F}}
= Ind_{U^{F} .^{t}σ}^{(P_{I})^{F} .^{t}σ}(Res_{(U^{F} ∩(L_{I})^{F}).^{t}σ}^{U^{F} .^{t}σ} ˜ (^{t}χ_{1}) × Id_{V_{I}^{F}}).

Ainsi, on obtient par la transitivité de l’induction:

R_{L_{I}.σ}^{G.σ}(Γ_{h_{(L_{I})^{σ}} (z)}^{L_{I}.σ}) = Ind_{U^{F} .^{t}σ}^{G^{F} .^{t}σ}(Res_{(U^{F} ∩(L_{I})^{F}).^{t}σ}^{U^{F} .^{t}σ} ˜ (^{t}χ_{1}) × Id_{V_{I}^{F}}).

Donc, D_{G.σ}Γ_{z}^{G.σ} = Ind_{U^{F} .^{t}σ}^{G^{F} .^{t}σ} ∑_{I∈P(Π/τ)^{σ}}(−1)^{|I/σ|}(Res_{(U^{F} ∩(L_{I})^{F}).^{t}σ}^{U^{F} .^{t}σ} ˜ (^{t}χ_{1}) × Id_{V_{I}^{F}}).

On veut montrer que D_{G.σ}Γ_{z}^{G.σ}(g.σ) est nul si g.σ n’est pas régulier unipotent rationnel quand σ est unipotent et si g.σ n’est pas régulier pseudo-unipotent rationnel quand σ est semi-simple. En fait, il suffit de prouver que :

∑_{I∈P(Π/τ)^{σ}}(−1)^{|I/σ|}(Res_{(U^{F} ∩(L_{I})^{F}).^{t}σ}^{U^{F} .^{t}σ} ˜ (^{t}χ_{1}) × Id_{V_{I}^{F}})

est nul en dehors des éléments réguliers unipotents (resp. pseudo-unipotents) de U^{F} .^{t}σ. Soit u.^{t}σ un élément de U^{F} .^{t}σ et soit ∏_{O∈Π/τ} u_{O} la projection de u sur ∏_{O∈Π/τ} U_{O}. On pose

χ_{O} = ^{t}χ_{1}|_{U_{O}^{F}} .

On a alors,

˜ (^{t}χ_{1})(u.^{t}σ) = ∏_{O∈Π/τ} χ_{O}(u_{O}).

Ainsi,

∑_{I∈P(Π/τ)^{σ}}(−1)^{|I/σ|}(Res_{(U^{F} ∩(L_{I})^{F}).^{t}σ}^{U^{F} .^{t}σ} ˜ (^{t}χ_{1}) × Id_{V_{I}^{F}})(u.^{t}σ)

= ∑_{I∈P(Π/τ)^{σ}}(−1)^{|I/σ|} ∏_{O∈I} χ_{O}(u_{O})

On note à nouveau {O_{1}, …, O_{s}}, les représentants des σ-orbites de Π/τ.

Remarque 7.3. — Dans le cas où t n’est pas σ-stable, les automorphismes σ et ^{t}σ agissent de la même façon sur les racines.

Donc {O_{1}, …, O_{s}} est aussi un ensemble de représentants des ^{t}σ-orbites de Π/τ. Pour tout k ∈ {1, …, s}, on note o(k), l’ordre de O_{k} sous l’action de ^{t}σ. On a:

∑_{I∈P(Π/τ)^{σ}}(−1)^{|I/σ|}(Res_{(U^{F} ∩(L_{I})^{F}).^{t}σ}^{U^{F} .^{t}σ} ˜ (^{t}χ_{1}) × Id_{V_{I}^{F}})(u.^{t}σ)

= ∏_{k=1}^{s}(1 − ∏_{l=0}^{o(k)−1} χ_{^{t}σ^{l}(O_{k})}(u_{^{t}σ^{l}(O_{k})})).

Le (i) de la proposition 7.2 se déduit donc de la proposition suivante.

Proposition 7.4. — Soit σ′ un automorphisme quasi-central rationnel unipotent ou semi-simple de G. Soit u = ∏_{α∈Φ^{+}} x_{α}(k_{α}) un élément de U^{F}, et soit χ un caractère régulier σ′-stable de U^{F}, alors, si u.σ′ n’est pas régulier, il existe une racine α de Π telle que

χ(∏_{i=0}^{o−1} u_{σ^{′i}(α)}(k_{σ^{′i}(α)})) = 1

(où o est le cardinal de la σ′-orbite de la τ-orbite de α et où l’isomorphisme λ ↦ u_{σ^{′i}(α)} est défini par la notation 4.2).

Démonstration. — 1) Cas où σ′ est unipotent.

Supposons u.σ′ non régulier. Alors, par le théorème 3.4, il existe α ∈ Π tel que

∑_{i=0}^{n−1} c_{σ^{′i}(α)} … c_{σ^{′n−1}(α)}k_{σ^{′i}(α)} = 0,

où n est l’ordre de α sous l’action de σ′. On note A la σ′-orbite de α, soit a l’ordre de A sous l’action de τ. On note O la τ-orbite de α et o l’ordre de O sous l’action de σ′.

Pour toute racine β ∈ Φ^{+}, on a k_{τ(β)} = k_{β}^{q} car u est rationnel, et c_{τ(β)} = c_{β}^{q} par le lemme 4.4. Donc, pour tout l ∈ {1, …, a − 1},

∑_{i=0}^{n−1} c_{σ^{′i}(τ^{l}(α))} … c_{σ^{′n−1}(τ^{l}(α))}k_{σ^{′i}(τ^{l}(α))} = (∑_{i=0}^{n−1} c_{σ^{′i}(α)} … c_{σ^{′n−1}(α)}k_{σ^{′i}(α)})^{q^{l}} = 0

On rappelle que A ∪ … ∪ τ^{a−1}(A) = O ∪ … ∪ σ^{′o−1}(O) (lemme 4.6). Ainsi, on peut trouver u_{0} = ∏_{β∈Φ^{+}} x_{β}(l_{β}) ∈ U^{F} tel que l_{β} = 0 pour tout β ∈ ∪_{l=0}^{a−1}τ^{l}(A) et v ∈ U tels que u = vu_{0}σ′(v)^{−1}.

Pour toute τ-orbite Ω de Π on note u_{Ω} et v_{Ω} les projections respectives de u et v sur ∏_{β∈Ω} U_{β}, alors, on a

∏_{i=0}^{o−1} u_{σ^{′i}(O)} = ∏_{i=0}^{o−1} v_{σ^{′i}(O)} ∏_{i=0}^{o−1} σ′(v_{σ^{′i}(O)})^{−1}dans U/U^{∗}.

Lemme 7.5. — Si pour ũ ∈ (U_{O} × … × U_{σ^{′o−1}(O)})^{F} il existe ṽ ∈ U_{O} × … × U_{σ^{′o−1}(O)} tel que ũ = ṽσ′(ṽ)^{−1}, alors, il existe w̃ ∈ (U_{O} × … × U_{σ^{′o−1}(O)})^{F} tel que ũ = w̃σ′(w̃)^{−1}.

Démonstration. — On pose Ũ = U_{O} × … × U_{σ^{′o−1}(O)}. On note U = {w̃σ(w̃)^{−1}; w̃ ∈ Ũ}, alors, U est l’orbite de 1 par σ′-conjugaison dans Ũ.

Selon Digne et Michel ([3] proposition 3.21),

(i) w̃σ′(w̃)^{−1} est rationnel si et seulement si w̃^{−1}F (w̃) appartient au stabilisateur de 1 dans Ũ sous l’action de σ′-conjugaison, c’est-à-dire à Ũ^{σ′}.

(ii) Les Ũ^{F} -orbites de σ′-conjugaison de U^{F} sont paramétrées par les classes de F -conjugaison de Ũ^{σ′}.

Cependant, Ũ^{σ′} est un groupe abélien connexe donc H^{1}(F, Ũ^{σ′}) = 1, ce qui permet de conclure qu’il n’y a qu’une Ũ^{F} -orbite de σ′-conjugaison dans U^{F}. Ceci prouve le lemme 7.5.

On a montré que si u.σ′ est unipotent rationnel non régulier, il existe une τ-orbite O de Π telle que si o est l’ordre de O sous l’action de σ′, alors, on peut écrire

u_{O} … u_{σ^{′o−1}(O)} = v_{O} … v_{σ^{′o−1}(O)}σ′(v_{O} … v_{σ^{′o−1}(O)})^{−1},

où tous les facteurs du produit de droite sont rationnels.

On a alors,

χ(∏_{i=0}^{o−1} u_{σ^{′i}(α)}(k_{σ^{′i}(α)})) = χ(∏_{i=0}^{o−1} u_{σ^{′i}(O)})

= χ(∏_{i=0}^{o−1} v_{σ^{′i}(O)}σ(∏_{i=0}^{o−1} v_{σ^{′i}(O)})^{−1})

= χ(∏_{i=0}^{o−1} v_{σ^{′i}(O)})χ(σ(∏_{i=0}^{o−1} v_{σ^{′i}(O)}))^{−1}

= χ(∏_{i=0}^{o−1} v_{σ^{′i}(O)})χ(∏_{i=0}^{o−1} v_{σ^{′i}(O)})^{−1}
= 1

Ce qui prouve la proposition 7.4 lorsque σ′ est unipotent.

2) Cas où σ′ est semi-simple:

Soit us la décomposition de Jordan de g.σ′, alors, u et s sont rationnels, la partie unipotente u est dans U^{F} et s est un élément semi-simple rationnel de U.σ′. Donc, d’après le lemme 3.13, on a s ∈ Cl_{U}(σ′)^{F}, c’est-à-dire s ∈ Cl_{U^{F}} (σ′), car U^{σ′} est connexe. Ainsi, il existe v ∈ U^{F} tel que s = ^{v}σ′ et g = vu′σ′(v)^{−1}, où on a posé u′ = ^{v^{−1}}u ∈ (U^{σ′})^{F}.

Si on pose u′ = ∏_{α∈Φ^{+}} x_{α}(l_{α}), alors, comme χ est σ′-stable, pour toute racine simple α, on a

χ( ∏_{i=0}^{o(α)−1} u_{σ^{′i}(α)}(k_{σ^{′i}(α)})) = χ( ∏_{i=0}^{o(α)−1} u_{σ^{′i}(α)}(l_{σ^{′i}(α)})),

où o(α) est le cardinal de la σ′-orbite de la τ-orbite de α.

De plus, si g.σ′ n’est pas régulier dans G.σ′ alors u′ ne l’est pas dans (G^{σ′})^{0}, donc il existe une σ′-orbite A de Π telle que pour toute racine α ∈ A on ait l_{α} = 0. On choisit α ∈ A. Alors, pour tout i ∈ {1, …, o(α) − 1}, où o(α) est le cardinal de la σ′-orbite de la τ-orbite de α, on a u_{σ^{′i}(α)}(l_{σ^{′i}(α)}) = 1, d’où,

χ( ∏_{i=0}^{o(α)−1} u_{σ^{′i}(α)}(l_{σ^{′i}(α)})) = 1.

Ceci termine les démonstrations de la proposition 7.4 et du (i) de la proposition 7.2.

Nous allons maintenant prouver le (ii) de la proposition 7.2. Soient z et z′ deux F -classes de Z(G^{σ}). Soient t et t′ dans T tels que L(t) ∈ z et L(t′) ∈ z′ (quand c’est possible, on choisit t et t′ dans T^{σ}). On pose

ϕ_{z′} = ∑_{I∈P(Π/τ)^{σ}}(−1)^{|I/σ|}(Res_{(U^{F} ∩(L_{I})^{F}).^{t′}σ}^{U^{F} .^{t′}σ} ˜ (^{t′}χ_{1}) × Id_{V_{I}^{F}}).

On a alors,

D_{G.σ}Γ_{z′}^{G.σ} = Ind_{U^{F} .^{t′}σ}^{G^{F} .^{t′}σ}ϕ_{z′}.

Calculons le produit scalaire suivant:

⟨Γ_{z}^{G.σ}, D_{G.σ}Γ_{z′}^{G.σ}⟩_{G^{F} .σ} = ⟨Ind_{U^{F} .^{t}σ}^{G^{F} .^{t}σ} ˜ (^{t}χ_{1}), Ind_{U^{F} .^{t′}σ}^{G^{F} .^{t′}σ}(ϕ_{z′})⟩_{G^{F} .σ}
= ⟨Res_{U^{F} .^{t′}σ}^{G^{F} .^{t′}σ}Ind_{U^{F} .^{t}σ}^{G^{F} .^{t}σ} ˜ (^{t}χ_{1}), ϕ_{z′}⟩_{U^{F} .^{t′}σ}

Supposons tout d’abord qu’il existe t′′ ∈ T^{σ} tel que L(t′′) ∈ z^{−1}z′ (c’est toujours vrai lorsque σ est unipotent). Alors on peut supposer qu’on a choisi t ∈ L_{T}^{−1}(z) et t′ ∈ L_{T}^{−1}(z′) tels que t^{−1}t′ ∈ T^{σ}. On a alors ^{t′}σ = ^{t}σ, d’où,

⟨Γ_{z}^{G.σ}, D_{G.σ}Γ_{z′}^{G.σ}⟩_{G^{F} .σ} = ⟨Res_{U^{F} .^{t}σ}^{G^{F} .^{t}σ}Ind_{U^{F} .^{t}σ}^{G^{F} .^{t}σ} ˜ (^{t}χ_{1}), ϕ_{z′}⟩_{U^{F} .^{t}σ}.

Par la formule de Mackey pour les fonctions de ^{t}σ-classes et en utilisant la bijection entre U^{F} \G^{F} /U^{F} et N_{G}(T)^{F} on obtient:

⟨Γ_{z}^{G.σ}, D_{G.σ}Γ_{z′}^{G.σ}⟩_{G^{F} .σ} = ∑_{n∈(N_{G}(T)^{F})^{^{t}σ}}⟨^{n} ˜ (^{t}χ_{1}), ϕ_{z′}⟩_{(U^{F} ∩^{n}U^{F}).^{t}σ}.

Lorsque σ est unipotent (resp. semi-simple), le fait qu’un élément régulier unipotent (resp. pseudo-unipotent) ne normalise qu’un seul sous-groupe de Borel (propositions 3.3 et 3.16) et le fait que n soit ^{t}σ-stable entraînent que (U^{F} ∩^{n}U^{F}).^{t}σ ne contient pas d’éléments réguliers si n n’est pas dans (T^{^{t}σ})^{F}.

Par ailleurs, ⟨ ˜ (^{t}χ_{1}), Res_{(U^{F} ∩(L_{I})^{F}).^{t}σ}^{U^{F} .^{t}σ} ˜ (^{t}χ_{1}) × Id_{V_{I}^{F}})⟩_{U^{F} .^{t}σ} est nul si I ≠ Π/τ

(car ⟨ ˜ (^{t}χ_{1}), Id_{V_{I}^{F}} ⟩_{V_{I}^{F}} est nul si V_{I}^{F} ≠ {1}). Donc, on a:

⟨Γ_{z}^{G.σ}, D_{G.σ}Γ_{z′}^{G.σ}⟩_{G^{F} .σ} = (−1)^{|Π/τ×σ|} ∑_{t′′∈(T^{^{t}σ})^{F}} ⟨^{t′′t}χ_{1},^{t′}χ_{1}⟩_{U^{F}}

Cependant, comme t^{−1}t′ est σ-stable, les caractères ^{t′′t}χ_{1} et ^{t′}χ_{1} ne peuvent être égaux que si t^{−1}t′ ∈ (T^{σ})^{F} (c’est-à-dire si z = z′), et si t′′ ∈ t^{−1}t′Z(G^{σ})^{F}.

Supposons maintenant qu’il n’existe pas de t′′ dans T^{σ} tel que L(t′′) ∈ z^{−1}z′. Soient t et t′ respectivement dans L_{T}^{−1}(z) et dans L_{T}^{−1}(z′).

Lemme 7.6. — Sous l’hypothèse précédente, pour tout u ∈ U^{F} tel que u.^{t′}σ soit régulier, on a Ind_{U^{F} .^{t}σ}^{G^{F} .^{t}σ} ˜ (^{t}χ_{1})(u.^{t′}σ) = 0.

Démonstration. —

Ind_{U^{F} .^{t}σ}^{G^{F} .^{t}σ} ˜ (^{t}χ_{1})(u.^{t′}σ)

= 1/|U^{F} | ∑_{{x∈G^{F} |(x.^{t}σ)(u.^{t′}σ)(x.^{t}σ)^{−1}∈U^{F} .^{t}σ}} ˜ (^{t}χ_{1})((x.^{t}σ)(u.^{t′}σ)(x.^{t}σ)^{−1})

= 1/|U^{F} | ∑_{{x∈G^{F} |x(^{t}σ)ut_{0}σ(t_{0})^{−1}x^{−1}∈U^{F} .^{t}σ}} ˜ (^{t}χ_{1})(x(^{t}σ)ut_{0}σ(t_{0})^{−1}x^{−1})

= 1/|U^{F} | ∑_{\{x∈G^{F} |(xσ(t_{0}))^{t}σ(^{t{−1 \atop 0}}u)^{t}σ(xσ(t_{0}))^{−1}∈U^{F} \}} ˜ (^{t}χ_{1})((xσ(t_{0}))^{t}σ(^{t_{0}^{−1}}u.^{t}σ)(xσ(t_{0}))^{−1})

= 1/|U^{F} | ∑_{\{y∈G^{F} |(yt_{0})(^{t{−1 \atop 0}}u.^{t}σ)(yt_{0})^{−1}∈U^{F} .^{t}σ\}} ˜ (^{t}χ_{1})((yt_{0})((^{t_{0}^{−1}}u).^{t}σ)(yt_{0})^{−1})

On considère l’ensemble suivant:

E = {y ∈ G^{F} |(yt_{0})((^{t_{0}^{−1}}u).^{t}σ)(yt_{0})^{−1} ∈ U^{F} .^{t}σ}.

Pour montrer que Ind_{U^{F} .^{t}σ}^{G^{F} .^{t}σ} ˜ (^{t}χ_{1})(u.^{t′}σ) = 0, il suffit de montrer que E est vide. Le fait que u.^{t′}σ soit régulier entraîne que ^{t_{0}^{−1}}u.^{t}σ est régulier aussi. Soit y ∈ E, alors ^{yt_{0}}(^{t_{0}^{−1}}u.^{t}σ) ∈ NG̃(B), donc, ^{t_{0}^{−1}}u.^{t}σ ∈ NG̃(^{t_{0}^{−1}y^{−1}}B), ce qui entraîne que yt_{0} ∈ B, car (^{t_{0}^{−1}}u).^{t}σ est régulier et donc d’après les propositions 3.3 et 3.16, ne normalise qu’un seul sous-groupe de Borel de G. On pose y = vt_{1} avec v ∈ U et t_{1} ∈ T, alors, il existe t_{2} ∈ T^{σ} tel que t_{1} = t_{2}t_{0} et t_{1} ∈ T^{F}. Ainsi, t_{2}F (t_{2})^{−1} = t_{0}^{−1}F (t_{0}) ∈ z^{−1}z′, donc z^{−1}z′ ∩ L_{T^{σ}}(T^{σ}) n’est pas vide ce qui contredit l’hypothèse faite sur z^{−1}z′. Donc E est vide et on obtient le résultat du lemme 7.6.

D’après le lemme précédent, on a Ind_{U^{F} .^{t}σ}^{G^{F} .^{t}σ} ˜ (^{t}χ_{1})(u.^{t′}σ) = 0 pour tout u ∈ U^{F} tel que u.^{t′}σ soit régulier, et d’après la démonstration du (i), ϕ_{z′}(u.^{t′}σ) = 0 pour tout u ∈ U^{F} tel que u.^{t′}σ ne soit pas régulier. Donc, lorsqu’il n’existe pas de t′′ ∈ T^{σ} tel que L(t′′) ∈ z^{−1}z′, on a bien ⟨Γ_{z}^{G.σ}, D_{G.σ}Γ_{z′}^{G.σ}⟩_{G^{F} .σ} = 0, ce qui termine la preuve de la proposition 7.2.

8. Valeurs des fonctions de σ-classes sur les éléments réguliers unipotents ou pseudo-unipotents

On suppose que σ est rationnel quasi-central unipotent ou semi-simple. On choisit u_{0} ∈ U^{F} tel que u_{0}.σ soit régulier. Soit Z l’ensemble des éléments z de H^{1}(F, Z(G^{σ})) tels qu’il existe t ∈ T^{σ} pour lequel t^{−1}F (t) ∈ z. Si σ est unipotent, on a Z = H^{1}(F, Z(G^{σ})).

Pour tout z ∈ H^{1}(F, Z(G^{σ})), soit t ∈ T tel que t^{−1}F (t) ∈ z. On définit l’ensemble U_{z} = {x.σ ∈ G^{F} .σ|x.σ ∼_{G^{F}} ^{t}(u_{0}U^{∗}.σ)}, définition qui est indépendante du choix de t.

Proposition 8.1. — (i) Les ensembles U_{z} sont disjoints.

(ii) La réunion des U_{z} est l’ensemble des éléments réguliers unipotents (resp. pseudo-unipotents) de G^{F} .σ lorsque σ est unipotent (resp. semi-simple).

(iii) Si σ est semi-simple et si la caractéristique est bonne pour (G^{σ})^{0}, alors chaque U_{z} est une classe de conjugaison sous G^{F}.

Démonstration. — (i) Soient z et z′ dans H^{1}(F, Z(G^{σ})) et soit t ∈ T tel que L(t) soit un représentant de z. Alors, on a tU_{z′}t^{−1} = U_{zz′}. Il suffit donc de montrer que pour tout z ∈ H^{1}(F, Z(G^{σ})), U_{z} ∩ U_{1} est vide.

Soit z ∈ H^{1}(F, Z(G^{σ})) tel que U_{z} ∩ U_{1} soit non vide. Soient t ∈ L_{T}^{−1}(z), x ∈ G^{F} et u^{∗}, v^{∗} ∈ ((U^{σ})^{∗})^{F} tels que:

(2)  ^{t}(u_{0}u^{∗}.σ) = ^{x}(u_{0}v^{∗}.σ)

Comme u_{0}u^{∗}.σ et u_{0}v^{∗}.σ sont réguliers, ils ne normalisent qu’un seul sousgroupe de Borel qui est B (propositions 3.3 et 3.16), donc ^{t}(u_{0}u^{∗}.σ) et ^{x}(u_{0}v^{∗}.σ) normalisent le même sous-groupe de Borel qui est encore B, ce qui entraîne que x ∈ B^{F}. On a donc x = su_{x} avec s ∈ T^{F} et u_{x} ∈ U^{F}. L’équation (2) entraîne que ^{t^{−1}s}(u_{0}u^{∗}.σ) ∈ U^{F} .σ, donc que (t^{−1}s)^{−1}σ(t^{−1}s) = 1, donc l’existence de t_{0} ∈ T^{σ} tel que s = tt_{0}. Ainsi, t_{0}F (t_{0})^{−1} = t^{−1}F (t) ∈ z et comme t_{0} ∈ T^{σ}, on a z ∈ Z. Donc on peut supposer que t ∈ T^{σ}, s est aussi σstable. Donc d’après (2), on obtient ^{s^{−1}t}u_{0}u_{1}^{∗} = u_{x}u_{0}σ(u_{x})^{−1}u_{2}^{∗} avec u_{i}^{∗} ∈ U^{∗}. On note B̃ = B/U^{∗}. Si on note respectivement ũ_{x} et ũ_{0} les projections de u_{x} et u_{0} dans B̃ alors, on obtient (ũ_{x}st^{−1})ũ_{0}σ(ũ_{x}st^{−1})^{−1} = ũ_{0} dans B̃. Ce qui entraîne que st^{−1} ∈ Z(G^{σ}): c’est clair d’après le lemme 3.11 lorsque σ est unipotent, c’est encore vrai lorsque σ est semi-simple car dans ce cas u_{0}.σ est une décomposition de Jordan et u_{0} est régulier dans (G^{σ})^{0} ce qui entraîne que C_{G}(u_{0}.σ) = Z(G^{σ}) × C_{U^{σ}}(u_{0}). Donc il existe τ ∈ Z(G^{σ}) tel que τ^{−1}F (τ) = t^{−1}F (t) ∈ z et on a z = 1.

(ii) Cas unipotent: Soit x.σ un élément unipotent régulier rationnel, alors x.σ normalise un unique sous-groupe de Borel B′. Par ailleurs, ^{x.σ}F (B′) = F (^{x.σ}B′) = F (B′), donc, x.σ normalise F (B′), ce qui signifie que B′ est rationnel. Ainsi, il existe g ∈ G^{F} tel que B′ = ^{g}B et g^{−1}xσ(g).σ = b.σ est un élément unipotent régulier de B.σ.

Or, d’après le lemme 3.5, b.σ est régulier si et seulement si son image b̃ par la projection B → B̃ est σ-conjugué sous B̃ à ũ_{0}. On note U la classe de σ-conjugaison de ũ_{0} sous B̃. Les classes de σ-conjugaison de U^{F} dans B̃^{F} sont paramétrées par H^{1}(F, Z(G^{σ})). Donc, si b̃ ∈ U^{F}, il existe z ∈ H^{1}(F, Z(G^{σ})) et t ∈ L_{T^{σ}}^{−1}(Z(G^{σ})), un représentant de z, tels que b̃ soit dans la classe de σ-conjugaison sous B̃^{F} de ^{t}ũ_{0}. Soit w̃ ∈ B̃^{F} tel que b̃ = w̃^{t}ũ_{0}σ(w̃)^{−1}. Soit w ∈ B^{F} qui ait pour image w̃ dans B̃^{F}. Alors, il existe u^{∗} ∈ (U^{∗})^{F} tel que b = w^{t}(u_{0}u^{∗})σ(w)^{−1}. Donc, b.σ et par conséquent x.σ sont dans U_{z}.

Cas semi-simple: Soit x.σ un élément pseudo-unipotent régulier rationnel, alors, par définition, il existe g ∈ G tel que x.σ = ^{g}(u_{0}.σ) et tel que g^{−1}F (g) ∈ C_{G}(u_{0}.σ) et on a C_{G}(u_{0}.σ) = Z(G^{σ})×C_{U^{σ}}(u_{0}). Comme T et U^{σ} sont connexes, L_{T} et L_{U^{σ}}, sont surjectives. Donc, il existe t ∈ T et u ∈ U^{σ} et h ∈ G^{F} tels que g = htu. Ainsi, x.σ = ^{h}(^{t}(u_{0}[u_{0}^{−1}, u].σ)) et [u_{0}^{−1}, u] ∈ (U^{σ})^{∗}, donc x.σ ∈ U_{z}, où z est tel que t^{−1}F (t) ∈ z.

La réciproque est claire car pour tout u^{∗} ∈ (U^{σ})^{∗}, u_{0}u^{∗} est régulier dans (G^{σ})^{0} ([3] proposition 14.14), et comme, dans (G^{σ})^{0} tous les éléments unipotents réguliers sont conjugués ([3] proposition 14.16), il existe g ∈ (G^{σ})^{0} tel que u_{0}u^{∗} = ^{g}u_{0}. Ainsi, u_{0}u^{∗}.σ = ^{g}(u_{0}.σ), donc u_{0}u^{∗}.σ est régulier pseudounipotent.

(iii) D’après la proposition 3.15, les éléments pseudo-unipotents réguliers sont les conjugués sous G de u_{0}.σ. Ainsi, les G^{F} -classes d’éléments pseudounipotents réguliers rationnels sont paramétrées par H^{1}(F, A(u_{0}.σ)), où on note A(u_{0}.σ) = C_{G}(u_{0}.σ)/C_{G}(u_{0}.σ)^{0}. On rappelle que, comme σ est semisimple, on a C_{G}(u_{0}.σ) = Z(G^{σ}) × C_{U^{σ}}(u_{0}). De plus, si la caractéristique est bonne pour (G^{σ})^{0}, alors, C_{U^{σ}}(u_{0}) est connexe. Ainsi, H^{1}(F, A(u_{0}.σ)) = H^{1}(F, Z(G^{σ})). Le nombre de classes pseudo-unipotentes régulières dans G^{F} est donc |H^{1}(F, Z(G^{σ}))| Comme les U_{z} sont des réunions de telles classes et qu’ils sont disjoints, on en déduit le résultat.

Définition 8.2. — Soit c une réunion de classes de conjugaison de G^{F} .σ, la fonction de classe γ_{c} est définie sur G^{F} .σ par:

γ_{c}(x) = \{ \begin{matrix}|G^{F} |/|c| & si x ∈ c, \\ 0 & sinon. \end{matrix}

Définition 8.3. — Pour tout z ∈ Z, on note Φ_{z} la (T^{σ})^{F} -orbite de ^{t}χ_{1}, où t ∈ T^{σ} est tel que t^{−1}F (t) ∈ z et on pose

σ_{z} = ∑_{χ∈Φ_{z}} χ̃(u_{0}.σ).

La définition ci-dessus généralise celle des coefficients σ_{z} qui ont été définis dans [2] (définition 3.4) et dans [3] (définition 14.34) dans le cadre des groupes réductifs connexes. Les coefficients σ_{z} de G.σ peuvent s’exprimer en fonction des coefficients σ_{z} analogues pour le groupe réductif connexe (G^{σ})^{0}.

Théorème 8.4. — (i) Soit χ̃ un caractère de G̃^{F} dont la restriction à G^{F} est irréductible, et soit z ∈ H^{1}(F, Z(G^{σ})), alors, avec les notations ci-dessus,

|U_{z}|^{−1} ∑_{u.σ∈U_{z}} χ̃(u.σ)

= (−1)^{|(Π/σ)/τ|} ∑_{{z′∈H^{1}(F,Z(G^{σ}))|z^{−1}z′∈Z}} σ_{z^{−1}z′}⟨D_{G.σ}(χ̃), Γ_{z′}^{G.σ}⟩_{G^{F} .σ}.

(ii) On a ⟨∑_{z} Γ_{z}^{G.σ}; ∑_{z} Γ_{z}^{G.σ}⟩_{G^{F} .σ} = |H^{1}(F, Z(G^{σ}))||Z(G^{σ})^{F} |q^{l}, où l est le rang semi-simple de (G^{σ})^{0}, et z parcourt H^{1}(F, Z(G^{σ})).

Démonstration. — (i) Soit t ∈ L_{T}^{−1}(z) (si c’est possible et en particulier lorsque σ est unipotent, on choisit t ∈ T^{σ}). On a vu dans la démonstration de la proposition 7.2, que D_{G.σ}Γ_{z}^{G.σ} = Ind_{U^{F} .^{t}σ}^{G^{F} .^{t}σ}ϕ_{z}, où ϕ_{z} est une fonction de classe de U^{F} .^{t}σ nulle en dehors des éléments réguliers. Plus précisément, on a vu que si u.^{t}σ ∈ U^{F} .^{t}σ est régulier, si on note ∏_{O∈Π/τ} u_{O} la projection de u sur ∏_{O∈Π/τ} U_{O} et si on note {O_{1}, …, O_{s}}, les représentants des σ-orbites de Π/τ et pour tout k ∈ {1, …, s}, o(k), l’ordre de O_{k} sous l’action de σ (rappelons que ^{t}σ et σ agissent de la même façon sur les racines), alors,

ϕ_{z}(u.^{t}σ) = ∏_{k=1}^{s−1}(1 − ∏_{l=0}^{o(k)−1} χ_{σ^{l}(O_{k})}(u_{σ^{l}(O_{k})})),

Ainsi, ϕ_{z} est l’extension normalisée à U^{F} .⟨^{t}σ⟩ d’une fonction de classe ^{t}σstable sur U^{F}, triviale sur (U^{∗})^{F}. Nous allons montrer que cette propriété de ϕ_{z} entraîne que D_{G.σ}Γ_{z}^{G.σ} = Ind_{U^{F} .^{t}σ}^{G^{F} .^{t}σ}ϕ_{z} est constante sur chaque U_{z′}.

Soit z′ ∈ H^{1}(F, Z(G^{σ})), soit t′ ∈ L_{T}^{−1}(Z(G^{σ})) un représentant de z′, soient x.σ et x′.σ dans U_{z′}, alors, il existe u_{∗} et u′_{∗} dans ((U^{σ})^{∗})^{F} tels que x.σ et x′.σ soient conjugués sous G^{F} respectivement à ^{t′}(u_{0}u_{∗}.σ) et ^{t′}(u_{0}u′_{∗}.σ). On a alors,

D_{G.σ}Γ_{z}^{G.σ}(x′.σ)
= Ind_{U^{F} .^{t}σ}^{G^{F} .^{t}σ}ϕ_{z}(^{t′}(u_{0}u′_{∗}.σ))
= 1/|U^{F} | ∑_{x∈E} ϕ_{z}(x^{t}σt′t^{−1}(^{t}(u_{0}u′_{∗}).^{t}σ)(x^{t}σt′t^{−1})^{−1}),

où E est défini par E = {x ∈ G^{F} |x^{t}σt′t^{−1}(^{t}(u_{0}u′_{∗}).^{t}σ)(x^{t}σt′t^{−1})^{−1} ∈ U^{F} .^{t}σ}. Cependant, ^{t}(u_{0}u′_{∗}).^{t}σ est un élément régulier du quasi-borel NG̃(B) et NG̃(B) est l’unique quasi-borel qui le contient. Si x est un élément de E, on a

x^{t}σt′t^{−1}(^{t}(u_{0}u′_{∗}).^{t}σ)(x^{t}σt′t^{−1})^{−1} ∈ NG̃(B).

Cela entraîne que x^{t}σt′t^{−1} est aussi dans NG̃(B) et que x ∈ B^{F}. On peut ainsi écrire x^{t}σt′t^{−1} = vy avec v ∈ U^{F} et y ∈ T^{^{t}σ}.^{t}σ. On obtient alors:

vy(^{t}(u_{0}u′_{∗}).^{t}σ)(vy)^{−1} = vy^{t}uy^{−1}^{t}σ(v)^{−1}w.^{t}σ

avec w ∈ U^{∗}. Mais comme ϕ_{z} est une extension à U^{F} .⟨σ⟩ d’une fonction de classe ^{t}σ-stable de U^{F} triviale sur (U^{∗})^{F}, ϕ_{z}(vy^{t}uy^{−1}^{t}σ(v)^{−1}w.^{t}σ) ne dépend pas de w et ϕ_{z}(x^{t}σt′t^{−1}(^{t}(u_{0}u′_{∗}).^{t}σ)(x^{t}σt′t^{−1})^{−1}) ne dépend pas de u′_{∗}. On a donc

D_{G.σ}Γ_{z}^{G.σ}(x′.σ) = Ind_{U^{F} .^{t}σ}^{G^{F} .^{t}σ}ϕ_{z}(^{t′}(u_{0}u′_{∗}.σ))
= Ind_{U^{F} .^{t}σ}^{G^{F} .^{t}σ}ϕ_{z}(^{t′}(u_{0}u_{∗}.σ))
= D_{G.σ}Γ_{z}^{G.σ}(x.σ).

Ainsi, D_{G.σ}Γ_{z}^{G.σ} est constant sur U_{z′}, pour tout z′ ∈ H^{1}(F, Z(G^{σ})). On sait, d’après la proposition 8.1, que lorsque σ est unipotent (resp. semi-simple), l’ensemble des éléments réguliers unipotents (resp. pseudo-unipotents) de G^{F} .σ est la réunion des U_{z′}, on en conclut grâce au (i) de la proposition 7.2 que D_{G.σ}Γ_{z}^{G.σ} est nul en dehors des U_{z′}. Ainsi, en utilisant la notation γ_{z′} pour γ_{U_{z′}}, on peut écrire:

D_{G.σ}Γ_{z}^{G.σ} = ∑_{z′∈H^{1}(F,Z(G^{σ}))} c_{z,z′}γ_{z′}

pour une matrice de coefficients (c_{z,z′}).

D’après le (ii) de la proposition 7.2, on a:

⟨Γ_{z′′}^{G.σ}, (−1)^{|(Π/τ)/σ|}D_{G.σ}Γ_{z}^{G.σ}⟩_{G^{F} .σ} = |Z(G^{σ})^{F} |δ_{z,z′′}.

Donc, on obtient les relations suivantes sur les coefficents c_{z,z′}:

∑_{z′∈H^{1}(F,Z(G^{σ}))} c_{z,z′}((−1)^{|(Π/τ)/σ|}/|Z(G^{σ})^{F} |)⟨Γ_{z′′}^{G.σ}, γ_{z′}⟩_{G^{F} .σ} = δ_{z,z′′}.

Ce qui entraîne que (c_{z,z′}) est inversible et a pour inverse la matrice (d_{z,z′}) définie par:

d_{z,z′} = ((−1)^{|(Π/τ)/σ|}/|Z(G^{σ})^{F} |)⟨Γ_{z′}^{G.σ}, γ_{z}⟩_{G^{F} .σ}.

Nous allons maintenant expliciter ⟨Γ_{z′}^{G.σ}, γ_{z}⟩_{G^{F} .σ}.

Par définition, Γ_{z′}^{G.σ} = Ind_{U^{F} .^{t}σ}^{G^{F} .^{t}σ} ˜ (^{t}χ_{1}), où ˜ (^{t}χ_{1}) est l’extension normalisée à U^{F} .⟨^{t}σ⟩ d’un caractère régulier ^{t}σ-stable de U^{F} qui se factorise à travers U^{F} /(U^{∗})^{F}. Ainsi, comme ci-dessus, on peut montrer que Γ_{z′}^{G.σ} est constant sur les ensembles U_{z′′}.

Cependant, ⟨Γ_{z′}^{G.σ}, γ_{z}⟩_{G^{F} .σ} est la valeur moyenne de Γ_{z′}^{G.σ} sur U_{z}. Par définition de t, l’élément ^{t}(u_{0}.σ) appartient à U_{z}, ce qui entraîne immédiatement que ⟨Γ_{z′}^{G.σ}, γ_{z}⟩_{G^{F} .σ} = Γ_{z′}^{G.σ}(^{t}(u_{0}.σ)).

Calculons donc Γ_{z′}^{G.σ}(^{t}(u_{0}.σ)). Supposons tout d’abord que z^{−1}z′ ne soit pas dans Z, alors, d’après le lemme 7.6,

Γ_{z′}^{G.σ}(^{t}(u_{0}.σ)) = Ind_{U^{F} .^{t′}σ}^{G^{F} .^{t′}σ} ˜ (^{t′}χ_{1})(^{t}u_{0}.^{t}σ) = 0.

Maintenant, supposons z^{−1}z′ dans Z. Il existe t_{0} ∈ T^{σ} tel que L(t_{0}) ∈ z^{−1}z′. Alors t′ = t_{0}t est un représentant de z′, ^{t′}σ = ^{t}σ et ^{t′}χ_{1} est ^{t}σ-stable.

Γ_{z′}^{G.σ}(^{t}(u_{0}.σ)) = Ind_{U^{F} .^{t}σ}^{G^{F} .^{t}σ} ˜ (^{t′}χ_{1})(^{t}(u_{0}.σ))
= 1/|U^{F} | ∑_{{g∈G^{F} |g(^{t}u_{0})(^{t}σ)(g)^{−1}∈U^{F} }} ˜ (^{t′}χ_{1})(g(^{t}u_{0}.^{t}σ)g^{−1})

Lemme 8.5. — Soit g ∈ G^{F} tel que g(^{t}u_{0}.^{t}σ)g^{−1} ∈ U.^{t}σ, alors g ∈ (T^{σ})^{F} U^{F}.

Démonstration. — Soit g ∈ G^{F}. On suppose que l’on a (g(^{t}u_{0}.^{t}σ)g^{−1} ∈ U.^{t}σ). Comme B est un sous-groupe de Borel σ-stable, B est aussi ^{t}σ-stable et on a NG̃(B) = B.⟨^{t}σ⟩. Donc, on a g(^{t}u_{0}.^{t}σ)g^{−1} ∈ NG̃(B), ce qui entraîne que tu_{0}.^{t}σ normalise le sous-groupe de Borel ^{g^{−1}}B. Cependant, comme ^{t}u_{0}.^{t}σ est régulier, il ne normalise qu’un seul sous-groupe de Borel. Ainsi, on a ^{g^{−1}}B = B et g ∈ B^{F}.

On pose g = τv avec τ ∈ T^{F} et v ∈ U^{F}. Un calcul rapide montre que si on a τv(^{t}u_{0}.^{t}σ)(τv)^{−1} ∈ U.^{t}σ, alors τ ∈ (T^{σ})^{F}. D’où le lemme 8.5

D’après le lemme précédent,

Γ_{z′}^{G.σ}(^{t}(u_{0}.σ)) = 1/|U^{F} | ∑_{τ∈(T^{σ})^{F} , u∈U^{F}} ˜ (^{t′}χ_{1})(u(^{τt}u_{0}.^{t}σ)u^{−1})
= ∑_{τ∈(T^{σ})^{F}} ˜ (^{t′}χ_{1})(^{τt}u_{0}.^{t}σ)
= ∑_{τ∈(T^{σ})^{F}} ^{t′}χ_{1}(^{τt}u_{0}) car ^{t}σ = ^{t′}σ
= ∑_{τ∈(T^{σ})^{F}} ^{τt_{0}}χ_{1}(u_{0})
= |Z(G^{σ})^{F} |σ_{z^{−1}z′}.

La dernière égalité provient du lemme suivant:

Lemme 8.6. — Soit z_{0} ∈ Z et soit t_{0} ∈ T^{σ} tel que t_{0}^{−1}F (t_{0}) ∈ z_{0}, alors on a: σ_{z} = |Z(G^{σ})^{F} |^{−1} ∑_{τ∈(T^{σ})^{F}} ^{τt_{0}}χ_{1}(u_{0}).

Démonstration. — Par définition, on a σ_{z_{0}} = ∑_{χ∈Φ_{z_{0}}} χ̃(u_{0}.σ), ce que l’on peut écrire σ_{z_{0}} = ∑_{χ∈Φ_{z_{0}}} (u_{0}), car tous les caractères de Φ_{z_{0}} sont σ-stables. Comme Φ_{z_{0}} est la (T^{σ})^{F} -orbite de ^{t_{0}}χ_{1}, il suffit de montrer que pour τ ∈ (T^{σ})^{F}, on a ^{τt_{0}}χ_{1}(u_{0}) = ^{t_{0}}χ_{1}(u_{0}) si et seulement si t ∈ Z(G^{σ})^{F}. Mais, ^{τt_{0}}χ_{1}(u_{0}) = t_{0}χ_{1}(u_{0}) signifie que ^{τ^{−1}}u_{0} = u_{0}, c’est-à-dire, comme τ est σ-stable que τ appartient au centralisateur dans G de u_{0}.σ. Mais comme u_{0}.σ est régulier, on a C_{G}(u_{0}.σ) ∩ (T^{σ})^{F} = Z(G^{σ})^{F}, d’où le résultat.

L’inverse (d_{z,z′}) de la matrice (c_{z,z′}) est donc défini par:

d_{z,z′} = \{ \begin{matrix}(−1)^{(Π/τ)/σ}σ_{z^{−1}z′} & si z^{−1}z′ ∈ Z; \\ 0 & sinon. \end{matrix}

Et la relation D_{G.σ}Γ_{z}^{G.σ} = ∑_{z′∈H^{1}(F,Z(G^{σ}))} c_{z,z′}γ_{z′} peut être inversée et on obtient:

γ_{z} = (−1)^{|(Π/τ)/σ|} ∑_{{z′∈H^{1}(F,Z(G^{σ}))|z^{−1}z′∈Z}} σ_{z^{−1}z′}D_{G.σ}Γ_{z′}^{G.σ}.

Ce qui entraîne que:

⟨γ_{z}, χ̃⟩_{G^{F} .σ} = (−1)^{|(Π/τ)/σ|} ∑_{{z′∈H^{1}(F,Z(G^{σ}))|z^{−1}z′∈Z}} σ_{z^{−1}z′}⟨D_{G.σ}Γ_{z′}^{G.σ}, χ̃⟩_{G^{F} .σ},

On obtient alors le (i) du théorème 8.4:

|U_{z}|^{−1} ∑_{u.σ∈U_{z}} χ̃(u.σ)

= (−1)^{|(Π/τ)/σ|} ∑_{{z′∈H^{1}(F,Z(G^{σ}))|z^{−1}z′∈Z}} σ_{z^{−1}z′}⟨Γ_{z′}^{G.σ}, D_{G.σ}χ̃⟩_{G^{F} .σ}.

Nous allons maintenant démontrer le (ii) du théorème 8.4.

⟨∑_{z} Γ_{z}^{G.σ}; ∑_{z} Γ_{z}^{G.σ}⟩_{G^{F} .σ} = ⟨∑_{z} D_{G.σ}Γ_{z}^{G.σ}; ∑_{z} D_{G.σ}Γ_{z}^{G.σ}⟩_{G^{F} .σ}
= ⟨∑_{z,z′} c_{z,z′}γ_{z′}; ∑_{z,z′} c_{z,z′}γ_{z′}⟩_{G^{F} .σ}

(en reprenant les notations du (i))

= ∑_{z′}⟨∑_{z} c_{z,z′}γ_{z′}; ∑_{z} c_{z,z′}γ_{z′}⟩_{G^{F} .σ}

(car ⟨γ_{z}; γ_{z′}⟩_{G^{F} .σ} = 0 si z ≠ z′, les U_{z} étant disjoints)

Nous allons montrer en utilisant une série de lemmes (8.7 à 8.10) que ∑_{z} c_{z,z′} = 1, cela revient à montrer que ∑_{z′} c_{1,z′} = 1 car on a c_{z,z′} = c_{1,z^{−1}z′} (la matrice (d_{z,z′}) vérifie en effet d_{z,z′} = d_{1,z^{−1}z′} pour tout z, z′ ∈ H^{1}(F, Z(G^{σ})) c’est donc encore vrai pour la matrice inverse (c_{z,z′})).

∑_{z′} c_{1,z′} = ⟨D_{G.σ}Γ_{1}^{G.σ}; Id_{G.σ}⟩
= ⟨Γ_{1}^{G.σ}; St_{G.σ}⟩
= |G^{F} |^{−1} ∑_{g.σ∈G^{F} .σ} Γ_{1}^{G.σ}(g.σ)\overline{St_{G.σ}(g.σ)}

Or Γ_{1}^{G.σ}(g.σ) = Ind_{U^{F} .σ}^{G^{F} .σ}χ̃_{1} est nul si g.σ n’est pas conjugué sous G^{F} à un élément de U^{F} .σ. Par ailleurs, St_{G.σ}(g.σ) = 0 si g.σ n’est pas quasi-semi-simple.

Lemme 8.7. — Lorsque σ est unipotent (resp. semi-simple), si g.σ est à la fois unipotent (resp. pseudo-unipotent) et quasi-semi-simple, alors, g.σ est conjugué sous G à σ.

Démonstration. — Le cas unipotent est traité par [9] (proposition II.2.21). Considérons le cas où σ est semi-simple. D’après le corollaire 3.12, comme g.σ est pseudo-unipotent, il existe x ∈ G et u ∈ U^{σ} tels que g.σ = ^{x}(u.σ). Alors u.σ est quasi-semi-simple et il existe un couple T′ ⊂ B′ formé d’un tore maximal inclus dans un sous-groupe de Borel de G stables par conjugaison par u.σ. Comme u est unipotent, σ est semi-simple et comme u et σ commutent, u est la partie unipotente et σ la partie semi-simple de la décomposition de Jordan de u.σ. Ainsi, le fait que u.σ ∈ N_{G}(B′) (resp. N_{G}(T′, B′)) entraîne que u et σ sont dans N_{G}(B′) (resp. N_{G}(T′, B′)). Donc, B′ et T′ sont σ-stables et u ∈ T′. Ainsi, u est à la fois unipotent et semi-simple, ce qui entraîne que u = 1.

D’après la proposition 3.21 de [3], si h ∈ G, alors g.σ = ^{h}σ est rationnel si et seulement si h^{−1}F (h) ∈ G^{σ} et les G^{F} -classes de conjugaison de Cl_{G}(σ)^{F} sont paramétrées par H^{1}(F, G^{σ}/(G^{σ})^{0}) = H^{1}(F, Z(G^{σ})/Z((G^{σ})^{0})) (théorème 2.3, (ii)). Pour toute F -classe z′ ∈ H^{1}(F, Z(G^{σ})/Z((G^{σ})^{0})), on choisit un élément t′ dans L_{T}^{−1}(Z(G^{σ})) tel que l’image de L_{T} (t′) = t^{′−1}F (t′) dans Z(G^{σ})/Z((G^{σ})^{0}) soit dans z′. On note E l’ensemble de ces représentants et on obtient:

∑_{z′} c_{1,z′} = |G^{F} |^{−1} ∑_{t′∈E} |Cl_{G^{F}} (^{t′}σ)|Γ_{1}^{G.σ}(^{t′}σ)\overline{St_{G.σ}(^{t′}σ)}
= |G^{F} |^{−1} ∑_{t′∈E} |Cl_{G^{F}} (^{t′}σ)|Γ_{1}^{G.σ}(^{t′}σ)|((G^{^{t′}σ})^{0})^{F} |_{p}

(Lorsque σ est unipotent G^{σ} est connexe et E = {1}).

Lemme 8.8. — Soit t′ ∈ L_{T}^{−1}(Z(G^{σ})) tel que l’image de L_{T} (t′) = t^{′−1}F (t′) dans Z(G^{σ})/Z((G^{σ})^{0}) ne soit pas dans la F -classe triviale de Z(G^{σ})/Z((G^{σ})^{0}), alors, on a Γ_{1}^{G.σ}(^{t′}σ) = 0.

Démonstration. —

Γ_{1}^{G.σ}(^{t′}σ) = Ind_{U^{F} .σ}^{G^{F} .σ}χ̃_{1}(^{t′}σ)
= |U^{F} |^{−1} ∑_{{x∈G^{F} |x^{t′}σx^{−1}∈U^{F} .σ}} χ̃_{1}(x^{t′}σx^{−1})

Il suffit donc de montrer que Cl_{G^{F}} (^{t′}σ) ∩ U.σ est vide. Or:

Lemme 8.9. — Si σ est un élément quasi-central rationnel du quasi-tore N_{G}(T, B), alors, Cl_{G}(σ)^{F} ∩ U.σ = Cl_{U^{F}} (σ).

Démonstration. — On va d’abord montrer que Cl_{G}(σ) ∩ B.σ = Cl_{B}(σ).

Soit x ∈ G tel que x.σx^{−1} ∈ B.σ. Alors, le sous-groupe de Borel ^{x^{−1}}B est σ-stable. Le sous-groupe de ^{x^{−1}}B contient un tore maximal σ-stable T′ ([4] proposition 1.11 (i)) et les couples T ⊂ B et T′ ⊂ ^{x^{−1}}B sont conjugués sous G^{σ} ([4] proposition 1.21). Donc, il existe g ∈ G^{σ} tel que ^{x^{−1}}B = ^{g}B, c’est-à-dire tel que xg ∈ B et si on pose b = xg, alors xσx^{−1} = bσb^{−1}. D’où, l’égalité Cl_{G}(σ) ∩ B.σ = Cl_{B}(σ).

Montrons maintenant que Cl_{B}(σ) ∩ U.σ = Cl_{U}(σ). Soit b ∈ B tel que bσb^{−1} = u.σ ∈ U.σ. On peut écrire de façon unique b = tv avec t ∈ t et v ∈ U. Alors, un calcul rapide montre que si bσb^{−1} = u.σ, alors on a bσb^{−1} ∈ Cl_{U}(σ).

On a donc, Cl_{G}(σ)^{F} ∩U.σ = Cl_{U}(σ)^{F}. Or, d’après la proposition 3.21 de [3], les U^{F} -classes de conjugaisons de Cl_{U}(σ)^{F} sont paramétrées par H^{1}(F, U^{σ}), et comme U^{σ} est connexe, on a Cl_{U}(σ)^{F} = Cl_{U^{F}} (σ). D’où, Cl_{G}(σ)^{F} ∩ U.σ = Cl_{U^{F}} (σ).

D’après le lemme 8.9 ci-dessus, on a Cl_{G}(σ)^{F} ∩ U.σ = Cl_{G^{F}} (σ) ∩ U.σ. Donc Cl_{G^{F}} (^{t′}σ) ∩ U.σ ⊂ Cl_{G^{F}} (σ); or on a vu plus haut que les G^{F} - classes de conjugaison de Cl_{G}(σ)^{F} sont paramétrées par H^{1}(F, G^{σ}/(G^{σ})^{0}) = H^{1}(F, Z(G^{σ})/Z((G^{σ})^{0})). En particulier, la classe Cl_{G^{F}} (^{t′}σ) est la G^{F} -classe paramétrée par la F -classe z′ de l’image de t^{′−1}F (t′) dans Z(G^{σ})/Z((G^{σ})^{0}), elle est distincte de Cl_{G^{F}} (σ), car z′ n’est pas triviale. Donc Cl_{G^{F}} (^{t′}σ) ∩ U.σ est vide. On en déduit le lemme 8.8.

Revenons à la démonstration du (ii) du théorème 8.4. Le lemme 8.8 permet d’écrire que:

∑_{z′} c_{1,z′} = |G^{F} |^{−1}|Cl_{G^{F}} (σ)|Γ_{1}^{G.σ}(σ)|((G^{σ})^{0})^{F} |_{p}

(Le résultat est évident lorsque σ est unipotent et le lemme 8.8 est alors inutile).

Nous allons calculer Γ_{1}^{G.σ}(σ):

Γ_{1}^{G.σ}(σ) = Ind_{U^{F} .σ}^{G^{F} .σ}χ̃_{1}(σ)
= |U^{F} |^{−1} ∑_{{x∈G^{F} |xσx^{−1}∈U^{F} .σ}} χ̃_{1}(xσx^{−1})

Lemme 8.10. — Soit x ∈ G^{F}, alors on a xσ(x)^{−1} ∈ U^{F} si et seulement si x ∈ U^{F} (G^{σ})^{F}.

Démonstration. — D’après le lemme 8.9, on a Cl_{G^{F}} (σ)∩U.σ = Cl_{U^{F}} (σ). Ainsi, si x ∈ G^{F} est tel que xσ(x)^{−1} ∈ U^{F} alors, il existe v ∈ U^{F} tel que xσx^{−1} = vσv^{−1}, c’est-à-dire tel que xv^{−1} ∈ G^{σ}.

La réciproque est évidente.

Ainsi, Γ_{1}^{G.σ}(σ) = |U^{F} |^{−1}|U^{F} ||(G^{σ})^{F} ||(U^{σ})^{F} |^{−1} = |(G^{σ})^{F} ||(U^{σ})^{F} |^{−1}. Et l’on obtient comme annoncé que:

∑_{z′} c_{1,z′} = |G^{F} |^{−1}|Cl_{G^{F}} (σ)||(G^{σ})^{F} ||(U^{σ})^{F} |^{−1}|((G^{σ})^{0})^{F} |_{p} = 1.

La dernière égalité vient du fait que |G^{F} | = |Cl_{G^{F}} (σ)||(G^{F})^{σ}| et du fait que |((G^{σ})^{0})^{F} |_{p} = |(U^{σ})^{F} |, ce dernier résultat étant de [3] (proposition 3.19).

Terminons maintenant la démonstration de 8.4 (ii). On a:

⟨∑_{z} Γ_{z}^{G.σ}; ∑_{z} Γ_{z}^{G.σ}⟩_{G^{F} .σ} = ∑_{z′}⟨γ_{z′}; γ_{z′}⟩_{G^{F} .σ}
= ∑_{z′} |G^{F} |/|U_{z′}|

Or, si z et z′ sont deux éléments de H^{1}(F, Z(G^{σ})) et si t et t′ sont respectivement des représentants dans L_{T^{σ}}^{−1}(Z(G^{σ})) de z et z′, alors, U_{z′} = ^{t′t^{−1}}U_{z}. Donc, tous les U_{z} ont le même cardinal.

Calculons tout d’abord le cardinal de U_{z} lorsque σ est unipotent. Selon le (ii) de la proposition 8.1, l’ensemble des éléments réguliers unipotents de G^{F} .σ est la réunion des U_{z}, donc le cardinal de n’importe quel U_{z} est égal au nombre d’éléments réguliers unipotents de G^{F} .σ divisé par le cardinal de H^{1}(F, Z(G^{σ})). Ainsi, par le théorème 3.6, on a

|U_{z}| = |G^{F} |/(|(Z(G^{σ})^{0})^{F} | × q^{l} × |H^{1}(F, Z(G^{σ}))|)

où l est le rang-semi-simple de G^{σ}. On peut alors simplifier l’expression de |U_{z}| en utilisant le fait que |H^{1}(F, Z(G^{σ}))| = |Z(G^{σ})^{F} |/|(Z(G^{σ})^{0})^{F} |, on obtient alors:

|U_{z}| = |G^{F} |/(|Z(G^{σ})^{F} | × q^{l}).

Considérons finalement le cas semi-simple. Il existe t ∈ (T^{σ})^{0} tel que

U_{z} = {x.σ ∈ G^{F} .σ|x.σ ∼_{G^{F}} ^{t}(u_{0}(U^{σ})^{∗}).σ}

Par ailleurs, U_{z} est une réunion de G^{F} -classes unipotentes qui sont paramétrées par H^{1}(F, C_{U^{σ}}(u_{0})). Pour toute F -classe de C_{U^{σ}}(u_{0}), on peut choisir un représentant dans U^{σ}, soit {u_{1}, …, u_{r}} un ensemble de tels représentants.

Alors, U_{z} est la réunion disjointe des classes Cl_{G^{F}} (^{tu_{i}}u_{0}.σ). Donc, on a

|U_{z}| = ∑_{i} |Cl_{G^{F}} (^{tu_{i}}u_{0}.σ)|
= ∑_{i} |G^{F} |/|C_{G^{F}} (^{tu_{i}}u_{0}.σ)|
= ∑_{i} |G^{F} |/|C_{(G^{σ})^{F}} (^{tu_{i}}u_{0})|
= ∑_{i}(|G^{F} |/|C_{(G^{σ})^{0F}} (^{tu_{i}}u_{0})|) × (|Z((G^{σ})^{0})^{F} |/|Z(G^{σ})^{F} |)
= (|G^{F} |/|(G^{σ})^{0F} |) × (|Z((G^{σ})^{0})^{F} |/|Z(G^{σ})^{F} |) ∑_{i} |Cl_{(G^{σ})^{0F}} (^{tu_{i}}u_{0})|
= (|G^{F} |/|(G^{σ})^{0F} |) × (|Z((G^{σ})^{0})^{F} |/|Z(G^{σ})^{F} |) × |U′_{z′}|

où U′_{z′} est le sous-ensemble de (G^{σ})^{0} défini par U′_{z′} = {x.σ ∈ (G^{σ})^{0F} |x ∼_{(G^{σ})^{0F}} t(u_{0}(U^{σ})^{∗})} et z′ ∈ H^{1}(F, Z((G^{σ})^{0})) est tel que t^{−1}F (t) ∈ z′. Alors, la réunion disjointe des U′_{z}, pour z ∈ H^{1}(F, Z((G^{σ})^{0})) est l’ensemble des éléments réguliers unipotents de (G^{σ})^{0F} ([2] proposition 3.2). Par ailleurs, les U′_{z} sont géométriquement conjugués et sont donc tous de même cardinal qui est égal au nombre des unipotents réguliers de (G^{σ})^{0F} divisé par |H^{1}(F, Z((G^{σ})^{0}))|, c’est-à-dire, à

|(G^{σ})^{0F} |/(|H^{1}(F, Z((G^{σ})^{0}))| × |Z((G^{σ})^{0})^{0F} |q^{l}),

où l est le rang semi-simple de (G^{σ})^{0} ([3] proposition 14.23).

En utilisant le fait que |H^{1}(F, Z((G^{σ})^{0}))| = |Z((G^{σ})^{0})^{F} |/|Z((G^{σ})^{0})^{0F} |, on en déduit le cardinal de U_{z} lorsque σ est semi-simple et on retrouve la même formule que dans le cas unipotent:

|U_{z}| = |G^{F} |/(|Z(G^{σ})^{F} |q^{l})

Remarque 8.11. — Les calculs ci-dessus montrent que le nombre d’éléments pseudo-unipotents réguliers rationnels de G^{F} .σ est égal à |H^{1}(F, Z(G^{σ}))| multiplié par le cardinal de U_{z}, on retrouve la formule du théorème 3.6:

|G^{F} |/(|Z((G^{σ})^{0})^{F} |q^{l})

On peut maintenant terminer les calculs du théorème 8.4

⟨∑_{z} Γ_{z}^{G.σ}; ∑_{z} Γ_{z}^{G.σ}⟩_{G^{F} .σ} = ∑_{z′} |G^{F} |/|U_{z′}|
= |H^{1}(F, Z(G^{σ}))| × (|G^{F} |/|U_{z′}|)
= |H^{1}(F, Z(G^{σ}))| × |Z(G^{σ})^{F} |q^{l}

Nous allons appliquer les résultats précédents au cas où Z(G^{σ}) est connexe.

Corollaire 8.12. — Supposons Z(G^{σ}) connexe, alors on a une unique représentation de Gelfand-Graev de G.σ que l’on note Γ, et D_{G.σ}Γ est égal à |Z(G^{σ})^{F} |q^{l} sur les éléments réguliers unipotents lorsque σ est unipotent et pseudo-unipotents lorsque σ est semi-simple (et à zéro ailleurs).

Démonstration. — Clair car dans ce cas, U_{1} est l’ensemble de tous les unipotents (resp. pseudo-unipotents) réguliers et on a D_{G.σ}Γ = γ_{U_{1}} en prenant pour γ_{U_{1}} la définition 8.2.

BIBLIOGRAPHIE

[1] R.W. Carter, Finite groups of Lie type (Wiley-Interscience, 1985)

[2] F. Digne, G.I. Lehrer, J. Michel, The characters of the group of rational points of a reductive group with non-connected centre (J. reine angew. Math., no 425, 1992, p. 155-192)

[3] F. Digne, J. Michel, Representations of Finite Groups of Lie Type (London Mathematical Society Student Texts, Cambridge University Press)

[4] F. Digne, J. Michel, Groupes réductifs non connexes (Annales scientifiques de l’Ecole Normale Supérieure, 4e série, t. 27, 1994, p. 345-406)

[5] F. Digne, J. Michel, Points fixes des automorphismes quasi-semi-simples (C. R. Acad. Sci. Paris, Ser. I 334 (2002) 1055-1060)

[6] G. Malle, Generalized Deligne-Lusztig characters (Journal of Algebra, vol. 159, no 1, 1993, p. 64-97)

[7] K. Sorlin, Représentations de Gelfand-Graev et correspondance de Springer dans les groupes réductifs non connexes (mémoire de thèse, Université de Picardie, 2001)

[8] K. Sorlin, Représentations de Gelfand-Graev pour les groupes réductifs non connexes (C.R. Acad. Sci. Paris, Ser. I 334, 2002)

[9] N. Spaltenstein, Classes unipotentes et sous-groupes de Borel (Lectures Notes in Mathematics, no 946, Springer, 1982)

[10] R. Steinberg, Endomorphisms of linear algebraic groups (Memoirs of AMS, no 80, 1968) LAMFA, Université de Picardie, 33, rue Saint-Leu, 80039 Amiens, France. Courrier électronique : karine sorlin@yahoo.fr