FONCTEURS D’ENSEMBLES MUNIS D’UNE DOUBLE ACTION

Serge Bouc

1 Introduction

La théorie des foncteurs de Mackey peut-être vue comme une axiomatisation des procédés d’induction et de restriction. Par exemple si H est un sous-groupe d’un groupe G, et si N (resp. M) est un module pour le groupe H (resp. pour le groupe G), alors il est possible de parler des modules Ind_{H}^{G}N et Res_{H}^{G}M. Les foncteurs d’induction et de restriction définissent alors des applications Z-linéaires entre l’anneau de Green de H et celui de G, qui outre des propriétés de transitivité, vérifient l’identité de Mackey. La généralisation formelle de ces propriétés conduit à l’étude des foncteurs de Mackey.

Or si à présent K est un sous-groupe normal du groupe G, si H = G/K, et si M est un G-module et N un H-module, alors il est possible de construire le module Inf_{H}^{G}N, qui est un G-module, et le module des points “cofixes” par K sur M, i.e. le plus grand quotient de M sur lequel K agit trivialement, que je noterai M_{K}. C’est un H-module.

Une question naturelle est alors de savoir s’il est possible d’intégrer les opérations d’inflation et de “points cofixes”, ou co-inflation, au formalisme des foncteurs de Mackey.

La première remarque consiste à dire que les quatre cas ci-dessus relèvent d’un même cadre: dans chaque cas, si H est le groupe de départ, et G le groupe d’arrivée, et si N est le H-module de départ, alors il existe un bimodule E sur lequel G agit à gauche, et H à droite, tel que le module d’arrivée M soit donné par

M = E ⊗_{H} N

La seconde remarque est que dans chaque cas, le bimodule E provient d’un ensemble sur lequel G agit par permutations à gauche et H à droite. Dans le cas de l’induction, cet ensemble est le groupe G lui-même, ainsi que dans le cas de la restriction (les groupes de départ et d’arrivée étant alors échangés). Dans le cas de l’inflation, cet ensemble est le groupe H = G/K, ainsi que pour la co-inflation (même remarque).

Plus généralement, si E est un ensemble sur lequel G agit à gauche et H à droite, de façon que

g(xh) = (gx)h pour tous g ∈ G, x ∈ E, h ∈ H

si [E] désigne le bimodule associé à E, et si N est un H-module, alors je peux construire le G-module [E] ⊗_{H} N. J’obtiens ainsi une application M(E) de l’anneau de Green M(H) de H dans celui de G.

En d’autre termes, j’ai pour tout groupe fini H, un Z-module M(H), et pour tout G-ensemble-H E un morphisme de Z-modules M(E) de M(H) dans M(G). Si à présent K est un troisième groupe, et F un H-ensemble-K, alors il est facile de voir que

M(E)M(F) = M(E ×_{H} F)

où E ×_{H} F désigne l’ensemble des orbites de H par son action sur le produit E × F donnée par h.(x, y) = (xh^{−1}, hy). C’est un G-ensemble-K: si g ∈ G et k ∈ K, alors par définition

g.\overline{(x, y)}.k = \overline{(gx, yk)}

Soit alors C la catégorie dont les objets sont les groupes finis. Si H et G sont des objets de C, alors Hom_{C}(G, H) est par définition le groupe de Grothendieck des G-ensembles-H finis (i.e. les sommes algébriques finies de G-ensembles-H finis, la réunion disjointe E ⨿ E′ étant identifiée à E+E′). Le produit des morphismes F de K dans H et E de H dans G est défini par linéarité comme ci-dessus par

E ∘ F = E ×_{H} F

Le morphisme identique de G dans G n’est autre que l’ensemble G lui-même, muni de son action naturelle par multiplication à gauche et à droite.

Alors l’opération qui à tout groupe fini G associe son anneau de Green M(G), et à tout G-ensemble-H E associe l’application M(E) n’est autre qu’un foncteur de la catégorie C dans la catégorie des Z-modules. L’objet du présent article est détudier de tels foncteurs, ou plus généralement des foncteurs de sous-catégories de C (non-nécessairement pleines) dans des catégories de modules.

Outre le cas des modules, le foncteur qui associe à tout groupe fini G son anneau de Burnside b(G) fournit un autre exemple de tel foncteur. De même, si K est un corps de caractéristique 0, le foncteur qui à G associe le groupe de Grothendieck R_{K}(G) des KG-modules est aussi un foncteur de C dans la catégorie des Z-modules. Par contre, si k est un corps de caractéristique p > 0, alors l’application qui à un groupe G associe le groupe de Grothendieck R_{k}(G) n’est pas un foncteur sur C: cela tient au fait que le produit tensoriel par E doit conserver les suites exactes. Il faut alors éliminer des morphismes possibles les ensembles E dont le module associé n’est pas projectif en caractéristique p: c’est possible en considérant par exemple la sous-catégorie C′ de C dont les objets sont ceux de C, le groupe Hom_{C′}(G, H) étant le groupe de Grothendieck des G-ensembles-H libres à droite. Alors R_{k} est un foncteur pour C′.

2 Notations. Généralités

Soit C une catégorie additive, i.e. telle que si X et Y sont des objets de C, alors Hom_{C}(X, Y) est doté d’une structure de groupe abélien, pour laquelle la loi de composition est bi-additive, et A un anneau commutatif.

Je noterai F onct(C,_{A} Mod) la catégorie dont les objets sont les foncteurs de catégories additives de C dans la catégorie _{A}Mod des A-modules, les morphismes étant les morphismes de foncteurs. Ainsi, un objet M de F onct(C,_{A} Mod) est caractérisé par la donnée, pour tout objet X de C, d’un A-module M(X), et pour tout morphisme ϕ de X dans Y d’un morphisme de A-modules M(ϕ) de M(X) dans M(Y). Ces données sont sujettes aux conditions habituelles concernant les foncteurs, à savoir

M(ϕ)M(ψ) = M(ϕψ) M(Id) = Id

Un morphisme θ d’un objet M de F onct(C,_{A} Mod) dans un objet N est caractérisé par la donnée, pour tout objet X de C, d’un morphisme de A-modules θ_{X} de M(X) dans N(X), de manière à ce que tous les diagrammes

M(X) ⟶^{θ_{X}} N(X)
M(ϕ) ↓  ↓ N(ϕ)
M(Y) ⟶^{θ_{Y}} N(Y)

soient commutatifs.

Alors F onct(C,_{A} Mod) est une catégorie abélienne (le noyau d’un morphisme θ est défini par Kerθ(X) = Ker(θ_{X}), de même Imθ(X) = Im(θ_{X}), (M ⊕M′)(X) = M(X) ⊕ M′(X), etc...). D’où la notion de sous-foncteur et de foncteur quotient. Un foncteur simple est par définition un foncteur n’ayant aucun sousfoncteur propre. Un foncteur M est projectif (resp. injectif) si le foncteur N ↦ Hom_{F onct}(M, N) (resp. le foncteur N ↦ Hom_{F onct}(N, M)) est exact, comme foncteur de F onct(C,_{A} Mod) dans _{A}Mod (comme A est commutatif, le groupe Hom_{F onct}(N, M) est bien un A-module).

Il y a un foncteur naturel de C dans F onct(C,_{A} Mod): si X est un objet de C, soit L_{X} l’application qui à Y objet de C associe

L_{X}(Y) = Hom_{A}(X, Y) = A ⊗Z Hom_{C}(X, Y)

Si ϕ est un morphisme dans C de Y dans Z, alors

L_{X}(ϕ)(a ⊗ ψ) = a ⊗ ϕψ

Il est alors bien connu que

Hom_{F onct}(L_{X}, M) = M(X)

et en particulier Hom_{F onct}(L_{X}, L_{Y}) = Hom_{A}(X, Y).

Soit alors C_{A} la catégorie dont les objets sont les objets de C, et telle que Hom_{C_{A}}(X, Y) = Hom_{A}(X, Y). Alors la catégorie C_{A} est une catégorie A-additive, au sens où si X et Y sont des objets de C_{A}, alors Hom_{C_{A}}(X, Y) a une structure de A-module, les compositions des morphismes étant des applications A-bilinéaires.

Si D est une catégorie A-additive, je note F onct_{A}(D) la catégorie des foncteurs (entre catégories A-additives) de D dans _{A}Mod (qui est A-additive car A est commutatif). Il est facile de voir que les catégories F onct(C,_{A} Mod) et F onct_{A}(C_{A}) sont équivalentes, donc que F onct(C,_{A} Mod) ne dépend que de C_{A}. Je supposerai donc dans la suite que Hom_{C}(X, Y) a une structure naturelle de A-module, et j’oublierai les indices A autant que possible.

Dans ces conditions, pour tout objet X de C, l’anneau End(X) = End_{C}(X) est une algèbre sur A. De plus, il y a un foncteur E_{X} d’évaluation en X de F onct_{A}(C) dans _{End(X)}Mod, défini par E_{X}(M) = M(X): le A-module M(X) est en fait un End(X)-module si l’action de ϕ ∈ End(X) sur m ∈ M(X) est définie par ϕ.m = M(ϕ)(m).

Le foncteur E_{X} a un adjoint à gauche, qui à un End(X)-module V associe le foncteur L_{X,V} de F onct_{A}(C) défini par

L_{X,V} (Y) = Hom(X, Y) ⊗_{End(X)} V L_{X,V} (ϕ)(ψ ⊗ v) = ϕψ ⊗ v

Il a également un adjoint à droite L_{X,V}^{o} défini par

L_{X,V}^{o} (Y) = Hom_{End(X)}(Hom(Y, X), V) L_{X,V}^{o} (ϕ)(α)(β) = α(βϕ)

si α ∈ Hom_{End(X)}(Hom(Y, X), V), et β ∈ Hom(Z, X).

Comme E_{X}L_{X,V} = L_{X,V} (X) = End(X) ⊗_{End(X)} V = V, et comme

Hom_{F onct}(L_{X,V} , L_{X,W}) = Hom_{End(X)}(V, L_{X,W} (X)) = Hom_{End(X)}(V, W)

je peux voir _{End(X)}Mod comme sous-catégorie pleine de F onct_{A}(C).

Si V est un End(X) module projectif (resp. projectif indécomposable), alors L_{X,V} est un foncteur projectif (resp. projectif indécomposable), car le foncteur qui à V associe L_{X,V} est adjoint à gauche d’un foncteur exact. Par contre, si V est un End(X)-module simple, en général L_{X,V} n’est pas simple, mais:

Lemme 1: Si V est un End(X)-module simple, alors L_{X,V} a un unique sous-foncteur maximal J_{X,V}, et le quotient S_{X,V} = L_{X,V} /J_{X,V} est simple, tel que S_{X,V} (X) = V.

En effet, soit M un sous-foncteur de L_{X,V}. Alors pour tout Y, le module M(Y) est un sous-module de L_{X,V} (Y) = Hom(X, Y) ⊗_{End(X)} V. En particulier, le module M(X) est un sous-End(X)-module de L_{X,V} (X) = V. Comme V est simple, il y a deux cas:

a) Ou bien M(X) = V. Alors si Y est un objet de C, si ϕ est un morphisme de X dans Y, et si v ∈ V, comme ϕ ⊗ v = L_{X,V} (ϕ)(Id ⊗ v), et comme Id ⊗ v ∈ M(X), je vois que M(Y) = L_{X,V} (Y) pour tout Y, donc que M = L_{X,V} dans ce cas. b) Ou bien M(X) = 0. Alors si ∑_{i} ϕ_{i} ⊗ v_{i} ∈ M(Y), et si ψ est un morphisme de Y dans X, alors

M(ψ)(∑_{i} ϕ_{i} ⊗ v_{i}) = ∑_{i} ψϕ_{i} ⊗ v_{i} = ∑_{i}(ψϕ_{i})v_{i} ∈ M(X) = 0

Si je pose

J_{X,V} (Y) = {∑_{i} ϕ_{i} ⊗ v_{i} ∈ M(Y) | ∀ψ : Y → X, ∑_{i}(ψϕ_{i})v_{i} = 0}

je vois que M(Y) ⊆ J_{X,V} (Y). De plus la définition ci-dessus fait de J_{X,V} un sousfoncteur de L_{X,V}: en effet, si Z est un objet de C, si ϕ est un morphisme de Y dans Z, et si ∑_{i} ϕ_{i} ⊗ v_{i} ∈ M(Y), alors

L_{X,V} (ϕ)(∑_{i} ϕ_{i} ⊗ v_{i}) = ∑_{i} ϕϕ_{i} ⊗ v_{i}

Si ψ est un morphisme de Z dans X,

∑_{i}(ψϕϕ_{i})v_{i} = ∑_{i}((ψϕ)ϕ_{i}) ⊗ v_{i} = 0

car ψϕ est un morphisme de Y dans X.

Donc J_{X,V} est l’unique sous-foncteur maximal de L_{X,V}. Le quotient S_{X,V} est donc simple. Il est clair de plus que J_{X,V} (X) = 0, donc que S_{X,V} (X) = V. c.q.f.d.

Ainsi à un couple (X, E), où X est un objet de C et E un End(X)-module projectif indécomposable, je peux associer un foncteur projectif indécomposable L_{X,E}. De même, à un couple (X, V), où X est un objet de C et V un End(X)- module simple, je peux associer un foncteur simple S_{X,V}. En fait:

Lemme 2: Si E est un enveloppe projective de V, alors L_{X,E} est une enveloppe projective de S_{X,V}.

Le lemme 2 se démontre par le même argument que le lemme 1, en utilisant le fait que le morphisme E → V est essentiel.

Il y a donc là un moyen d’indexer certains foncteurs projectifs et certains foncteurs simples par des couples formés d’un objet X de C et d’un End(X) module. Mais je ne dis pas que cette correspondance est surjective, ni injective: il se pourrait en effet qu’il y ait d’autres foncteurs simples que les S_{X,V}, et il arrive souvent que des couples (X, V) et (Y, W) différents donnent des foncteurs S_{X,V} et S_{Y,W} isomorphes.

Remarque: Si e est un idempotent primitif de End(X), alors L_{X,End(X)e}(Y) s’identifie à Hom(X, Y)e, i.e. aux morphismes de X dans Y qui factorisent à travers e. De plus

Hom_{F onct}(L_{X,End(X)e}, M) = eM(X)

3 Ensembles munis d’une double action

Dans toute la suite, la catégorie C = C_{A} sera celle dont les objets sont les groupes finis. Si G et H sont des objets de C, alors Hom_{C}(H, G) est le produit tensoriel par A du groupe de Grothendieck de la catégorie des G-ensembles-H, le produit de deux morphismes étant défini par A-linéarité à partir du produit d’ensembles défini dans l’introduction.

Je serai amené à considérer certaines sous-catégories de C, non-néces sairement pleines mais ayant “des propriétés raisonnables”, dont la définition nécessite quelques notations et remarques.

3.1 Notations

a) Tout G-ensemble-H est réunion disjointe de G-ensembles-H transitifs, qui sont aussi des G × H^{op}-ensembles de permutation transitifs, donc associés à un sous-groupe de G × H^{op}. Si K est un sous-groupe de G × H, je noterai G × H/K le G-ensemble-H des classes à gauche de G×H par K, la double action du couple (g, h) ∈ G × H étant donnés par

g.(α, β)K.h = (gα, h^{−1}β)K

Ces ensembles constituent une base du A-module Hom(H, G).

b) Si K est un sous-groupe du produit G × H, je note p_{1}(K) (resp. p_{2}(K)) sa projection sur G (resp. sur H), i.e.

p_{1}(K) = {g ∈ G | ∃h ∈ H, (g, h) ∈ K}

De même, je note

k_{1}(K) = {g ∈ G | (g, 1) ∈ K} et k_{2}(K) = {h ∈ H | (1, h) ∈ K}

Alors k_{1}(K) (resp. k_{2}(K)) est un sous-groupe normal de p_{1}(K) (resp. p_{2}(K)). Le produit k_{1}(K) × k_{2}(K) est un sous-groupe normal de K, et de plus les quotients K/k_{1}(K)×k_{2}(K), p_{1}(K)/k_{1}(K) et p_{2}(K)/k_{2}(K) sont isomorphes. Je noterai q(K) ce quotient commun.

Ainsi je peux récupérer le groupe K en choisissant un sous-groupe G_{1} de G, un sous-groupe H_{1} de H, un groupe Q quotient commun de G_{1} et H_{1}, une surjection s de G_{1} dans Q, une surjection t de H_{1} dans Q, en posant

K = {(g, h) ∈ G_{1} × H_{1} | s(g) = t(h)}

c) Si G, H et K sont des groupes, si L est un sous-groupe de G × H, et si M est un sous-groupe de H × K, je pose

L ∗ M = {(g, k) ∈ G × K | ∃h ∈ H, (g, h) ∈ L, (h, k) ∈ M}

C’est un sous-groupe de G × K.

3.2 Formule de Mackey

Les notations précédentes permettent d’établir l’analogue dans ce cadre de la formule de Mackey:

Proposition 1: Soit L un sous-groupe de G × H, et M un sous-groupe de H × K. Alors

(G × H/L) ×_{H} (H × K/M) = ∑_{h∈p_{2}(L)\H/p_{1}(M)} G × K/L ∗^{(h,1)} M

En effet, les orbites de G × K sur X = (G × H/L) ×_{H} (H × K/M) sont en bijection avec l’ensemble p_{2}(L)\H/p_{1}(M) par les applications

G((g, h)L ×_{H} (h′, k)M)K ∈ G\X/K ⟼ p_{2}(L)h^{−1}h′p_{1}(M) ∈ p_{2}(L)\H/p_{1}(M)

p_{2}(L)hp_{1}(M) ∈ p_{2}(L)\H/p_{1}(M) ⟼ G((1, 1)L ×_{H} (h, 1)M)K ∈ G\X/K

D’autre part, si E est un G-ensemble-H et F un H-ensemble-K, si U est le stabilisateur dans G × H du point e ∈ E et V le stabilisateur dans H × K du point f ∈ F, alors le stabilisateur dans G × K du point (e, f) de E ×_{H} F est égal à U ∗ V. Donc le stabilisateur dans G × K du point (1, 1)L ×_{H} (h, 1)M est égal à L ∗^{(h,1)} M, ce qui prouve la proposition.

3.3 Décomposition d’un morphisme

Soient G et H des groupes finis. Si M est un sous-groupe d’un produit G×H, je note M^{∗} le sous-groupe de H × G défini par

M^{∗} = {(h, g) ∈ H × G | (g, h) ∈ M}

De même, si X est un G-ensemble-H, je note X^{∗} le H-ensemble-G dont l’ensemble sous-jacent est l’ensemble X, l’action du couple (h, g) sur l’élément x de X étant donnée par h.x.g = g^{−1}xh^{−1}. Avec ces notations, il est clair que (G × H/M)^{∗} = H × G/(M^{∗})

Si H est un sous-groupe de G, je note Δ(H) le sous-groupe de G × H défini par Δ(H) = {(h, h) | h ∈ H}. Plus généralement, si ϕ est un morphisme de groupes de H dans G, et K un sous-groupe de H, je note Δ_{ϕ}(K) le sous-groupe de G × H défini par Δ_{ϕ}(K) = {(ϕ(k), k) | k ∈ K}.

Soit alors L un sous-groupe de G × H. En notant G_{1} (resp. H_{1}) la première projection (resp. la deuxième projection) de L, et K le groupe q(L), il existe une surjection s de G_{1} dans K et une surjection t de H_{1} dans K telles que

L = {(g, h) ∈ G_{1} × H_{1} | s(g) = t(h)}

Soit X le H_{1}-ensemble-H défini par X = H_{1} × H/Δ(H_{1})^{∗}. Je note de même T le G-ensemble-G_{1} défini par T = G × G_{1}/Δ(G_{1}).

Je note Y le K-ensemble-H_{1} défini par Y = K × H_{1}/Δ_{t}(H_{1}), et Z le G_{1}- ensemble-K défini par Z = G_{1} × K/Δ_{s}(G_{1})^{∗}.

Avec ces notations:

Lemme 3: Le G-ensemble-H G × H/L se décompose en

G × H/L = T ×_{G_{1}} Z ×_{K} Y ×_{H_{1}} X

En effet, par la formule de Mackey,

Y ×_{H_{1}} X = K × H/Δ_{t}(H_{1}) ∗ Δ(H_{1}) = K × H/{(t(h), h) | h ∈ H_{1}}

De même

T ×_{G_{1}} Z = G × K/{(g, s(g) | g ∈ G_{1}}

Donc

T ×_{G_{1}} Z ×_{K} Y ×_{H_{1}} X = G × H/{(g, s(g) | g ∈ G_{1}} ∗ {(t(h), h) | h ∈ H_{1}}

et le lemme résulte alors de ce que

{(g, s(g) | g ∈ G_{1}} ∗ {(t(h), h) | h ∈ H_{1}} = {(g, h) ∈ G_{1} × H_{1} | s(g) = t(h)} = L

Remarques: L’ensemble X est “de type restriction”, l’ensemble Y est “de type points cofixes”, l’ensemble Z est “de type inflation”, et l’ensemble T “de type induction”: le formalisme des ensembles munis d’une double action n’introduit donc pas de phénomène essentiellement nouveau.

3.4 Sous-catégories

Je vais considérer des sous-catégories D de C ayant les propriétés suivantes:

– A) Si G et H sont des objets de D, alors il existe un ensemble S(G, H) de sous-groupes de G × H tel que Hom_{D}(H, G) soit le sous-A-module de Hom_{C}(H, G) engendré par les ensembles G × H/K, pour K ∈ S(G, H). Autrement dit, le module Hom_{D}(H, G) a pour base un partie de la base de Hom_{C}(H, G).

– B) Si K ∈ S(G, H), alors q(K) est un objet de D. De plus, si s et t sont des surjections de p_{1}(K) dans q(K) et de p_{2}(K) dans q(K) telles que

K = {(g, h) ∈ p_{1}(K) × p_{2}(K) | s(g) = t(h)}

alors Δ_{s}(p_{1}(K))^{∗} ∈ S(G, q(K)) et Δ_{t}(p_{2}(K)) ∈ S(q(K), H). En d’autres termes, le morphisme G×H/K de H dans G factorise dans D par le groupe q(K).

Il semble que ces deux hypothèses soient nécessaires pour pouvoir par exemple tenter de classifier les objets simples de F onct_{A}(D). Elles permettent également de traiter les cas naturels évoqués dans l’introduction. Remarque: Comme le groupe q(L) n’est défini qu’à isomorphisme près, la condition B) entraîne que D est stable par isomorphisme de groupe, ce qui est la moindre des choses...

3.4.1 Ensembles (P, Q)-libres

Soient P et Q deux familles non-vides de groupes finis ayant les propriétés suivantes:

1. Si P est dans P, et si P′ est un sous-groupe de P, alors P′ est dans P.

2. Si P est dans P, et si P′ est un sous-groupe normal de P, alors P/P′ est dans P.

3. Si P′ est un sous-groupe normal du groupe P, si P′ et P/P′ sont dans P, alors P est dans P.

Remarque: La condition 2), jointe au fait que P est non-vide, entraîne que P contient le groupe trivial.

Comme exemple de telles familles, il y a la famille réduite au groupe trivial, la famille des p-groupes, celle des p’-groupes, celle des groupes résolubles, celle de tous les groupes finis...

Si G et H sont des groupes finis, et si E est un G-ensemble-H, je dirai que E est (P, Q)-libre si le stabilisateur à gauche d’un point quelconque de E est dans P, et son stabilisateur à droite dans Q. Dans le cas où P et Q sont réduites au groupe trivial, un ensemble (P, Q)-libre est simplement un ensemble libre à gauche et à droite. Si E = G × H/K,alors E est (P, Q)-libre si et seulement si k_{1}(K) est dans P et k_{2}(K) dans Q.

Soit alors C_{P,Q} la catégorie dont les objets sont les groupes finis. Si G et H sont des objets de C_{P,Q}, alors Hom_{C_{P,Q}}(H, G) est le sous-module de Hom_{C}(H, G) engendré par les G-ensembles-H qui sont (P, Q)-libres. Alors:

Lemme 4: Cette définition fait de C_{P,Q} une sous-catégorie de C, ayant les propriétés A) et B).

En effet, la première partie de la condition B) est trivialement réalisée, puisque tous les groupes finis sont objets de C_{P,Q}. La seconde résulte du fait que si M = Δ_{s}(p_{1}(K))^{∗}, alors k_{1}(M) = k_{1}(K) ∈ P et k_{2}(M) = (1) ∈ Q. De même, si L = Δ_{t}(p_{2}(K)), alors k_{1}(L) = (1) ∈ P et k_{2}(L) = k_{2}(K) ∈ Q.

La condition A) résulte de la définition. De plus, si G est un groupe fini, alors l’ensemble G doté de son action naturelle par multiplication à gauche et à droite est (P, Q)-libre, car il est libre à gauche et à droite. Donc l’identité est un morphisme de G.

Il reste à voir que les ensembles (P, Q)-libres se multiplient entre eux. Soient donc G, H, et K des groupes finis, soit E un G-ensemble-H (P, Q)-libre, et F un H-ensemble-K (P, Q)-libre. Soit (e, f) un point du produit E ×_{H} F. Le stabilisateur à gauche de (e, f) est

G_{1} = {g ∈ G | ∃h ∈ H, geh = e, hf = f}

Soit alors

H_{1} = {h ∈ H | ∃g ∈ G, geh = e, hf = f}

Alors H_{1} est un sous-groupe du stabilisateur à gauche de f dans H. Donc H_{1} est dans P.

Soit de même

G_{2} = {g ∈ G | ge = e}

Alors G_{2} est dans P, et c’est un sous-groupe de G_{1}.

Soit enfin

H_{2} = {h ∈ H | eh = e, hf = f}

C’est un sous-groupe normal de H_{1}, donc H_{1}/H_{2} est un élément de P.

Or il y a un morphisme surjectif naturel de G_{1} dans H_{1}/H_{2}, qui fait correspondre à g ∈ G la classe d’un élément h tel que geh = e et hf = f. Le noyau de ce morphisme est G_{2}. Alors G_{2} et G_{1}/G_{2} sont dans P, et G_{1} est dans P. Le même raisonnement de l’autre côté montre que E ×_{H} F est (P, Q)-libre, donc que C_{P,Q} est bien une sous-catégorie de C, ce qui prouve le lemme.

3.4.2 Groupes réductifs

Soit p un nombre premier, et C_{p} la sous-catégorie de C dont les objets sont les groupes réductifs finis en caractéristique p. Si P est un sous-groupe parabolique d’un objet G de C_{p}, je noterai r(P) son radical unipotent, égal à O_{p}(P), et \overline{P} le quotient P/r(P). Je note π_{P} ou p ↦ \overline{p} la projection naturelle de P sur \overline{P}.

Si G et H sont des objets de C_{p}, soit S(G, H) l’ensemble des sous-groupes K de G × H tels qu’il existe un sous-groupe parabolique P de G, un sous-groupe parabolique Q de H, et un isomorphisme θ de \overline{P} sur \overline{Q}, tels que

K = \{(p, q) ∈ P × Q | θ(\overline{p}) = \overline{q}\}

Remarque: Dans ces conditions, le groupe P est égal à p_{1}(K), et le groupe Q à p_{2}(K). Donc p_{1}(K) (resp. p_{2}(K)) est parabolique, et k_{1}(K) (resp. k_{2}(K)) est son radical unipotent. Inversement, ces conditions entraînent que K ∈ S(G, H).

Alors par définition, le module Hom_{C_{p}}(H, G) est le sous-module de Hom_{C}(H, G) engendré par les ensembles G × H/K, pour K ∈ S(G, H).

Lemme 5: Ces définitions font de C_{p} une sous-catégorie de C, ayant les propriétés A) et B).

La propriété A) est vraie par définition. La propriété B) résulte du fait qu’avec les notations ci-dessus, le groupe q(K) n’est autre que le groupe \overline{P}, isomorphe à \overline{Q}: c’est donc le quotient d’un groupe parabolique par son radical unipotent, donc un groupe réductif. Il est clair d’autre part que \{(p, x) ∈ P × \overline{Q} | θ(\overline{p}) = x\} (resp. \{(x, q) ∈ \overline{Q} × Q | x = \overline{q}\}) est dans S(G, \overline{Q}) (resp. dans S(\overline{Q}, H)).

D’autre part, si G est un groupe réductif, alors la diagonale

Δ(G) = {(g, g) ∈ G × G | g ∈ G}

est bien dans S(G, G), et l’identité est un morphisme de G.

Il reste à voir que les morphismes se multiplient entre eux. Par la formule de Mackey, il suffit de montrer que si P (resp. Q, R, S) est un sous-groupe parabolique de G (resp. H, H, K), si θ (resp. ϕ) est un isomorphisme de \overline{P} sur \overline{Q} (resp. de \overline{R} sur \overline{S}), si h ∈ H et si

L = \{(p, q) ∈ P × Q | θ(\overline{p}) = \overline{q}\}
M = \{(r, s) ∈ R × S | ϕ(\overline{r}) = \overline{s}\}

alors le groupe N = L ∗^{(h,1)} M est un élément de S(G, K).

Or la première projection de N est l’ensemble des p ∈ P pour lesquels il existe un q ∈ Q et un s ∈ S tels que

θ(\overline{p}) = \overline{q}  q^{h} ∈ R  ϕ(\overline{q^{h}}) = \overline{s}

Alors q ∈ Q ∩^{h} R, et p_{1}(N) = π_{P}^{−1}θ^{−1}π_{Q}(Q ∩^{h} R), ou encore

p_{1}(N) = π_{P}^{−1}θ^{−1}π_{Q}((Q ∩^{h} R)r(Q))

Or π_{P} induit une bijection entre les sous-groupes paraboliques de P et les sousgroupes paraboliques de \overline{P}. De même, l’isomorphisme θ induit une bijection entre les sous-groupes paraboliques de \overline{P} et ceux de \overline{Q} (car un sous-groupe parabolique peut être défini de façon abstraite par l’égalité P = N_{G}(O_{p}(P))). Comme de plus, le groupe (Q ∩^{h} R).r(Q) est un sous-groupe parabolique de Q (cf. [DI-MI], chapitre 2, [CU1]), il en résulte que p_{1}(N) est un sous-groupe parabolique de G. De même, le groupe p_{2}(N) est un sous-groupe parabolique de K.

Un raisonnement analogue montre que

k_{1}(N) = π_{P}^{−1}θ^{−1}π_{Q}((Q ∩^{h} r(R))r(Q))

et comme (Q ∩^{h} r(R))r(Q) est le radical unipotent de (Q ∩^{h} R)r(Q), il en résulte que k_{1}(K) est le radical unipotent de p_{1}(K), ce qui prouve la proposition.

4 Foncteurs simples

Soit D une sous-catégorie de C vérifiant les conditions A) et B), et S un objet simple de F onct_{A}(D). Soit H un objet de D d’ordre minimal tel que S(H) ≠ 0.

Soit de plus V = S(H), et W un sous-End(H)-module non-nul de V. Alors

Hom_{F onct}(L_{H,W} , S) = Hom_{End(H)}(W, V) ≠ 0

Comme S est simple, il en résulte que S est un quotient de L_{H,W}. Comme L_{H,W} (H) = W, j’ai donc W = V, ce qui prouve que V est un End(H)-module simple. Alors comme L_{H,V} a un unique quotient simple S_{H,V}, il en résulte que S est isomorphe à S_{H,V}.

De plus, si X est un H-ensemble-H qui factorise par un groupe K d’ordre strictement plus petit que celui de H, alors S(X).S(H) = X.V = 0, car S(K) = 0. Donc V est annulé par tous les H-ensembles-H de ce type. Ces derniers engendrent un idéal I_{H} de End(H).

Alors si L est un sous-groupe de H × H, si H_{1} et H_{2} sont ses projections sur H, si K = q(L) et si s et t sont des surjections de H_{1} dans K et de H_{2} dans K telles que

L = {(a, b) ∈ H_{1} × H_{2} | s(a) = t(b)}

et si de plus H × H/L ∉ I_{H}, alors le groupe K doit être d’ordre supérieur ou égal à celui de H. Comme K est une section de H, il en résulte que K est isomorphe à H, que H_{1} et H_{2} sont égaux à H, et que s et t sont des isomorphismes. En d’autres termes, il existe un automorphisme ϕ de H tel que L = Δ_{ϕ}(H).

Il est facile de voir d’autre part que les sous-groupes Δ_{ϕ}(H) et Δ_{ψ}(H) sont conjugués dans H × H si et seulement si il existe un automorphisme intérieur i de H tel que ψ = ϕi. Comme de plus

Δ_{ϕ}(H) ∗ Δ_{ψ}(H) = Δ_{ϕψ}(H)

j’ai un homomorphisme d’algèbres naturel de l’algèbre AExt(H) du groupe Ext(H) des automorphismes extérieurs de H dans End(H), qui à la classe de ϕ fait correspondre H × H/Δ_{ϕ}(H), et cet homomorphisme est de plus injectif. J’identifierai AExt(H) à son image dans End(H).

Les remarques ci-dessus montrent alors que

End(H) = AExt(H) + I_{H}

En fait, cette somme est directe: en effet, si un élément de AExt(H), de la forme ∑_{ϕ} λ_{ϕ}H×H/Δ_{ϕ}(H) est dans I_{H}, alors il s’écrit comme une somme de morphismes factorisant par des groupes K d’ordre strictement plus petits que |H|. Ces derniers sont eux-mêmes de la forme

(∑_{L} α_{L}.H × K/L)(∑_{M} β_{M}.K × H/M)

donc sommes de termes de la forme

α_{L}β_{M}.H × H/L ∗^{(x,1)} M

et en particulier, pour tout ϕ tel que λ_{ϕ} ≠ 0, il existe un groupe K d’ordre strictement plus petit que |H|, un sous-groupe L de H × K, et un sous-groupe M de K × H, tels que Δ_{ϕ}(H) soit conjugué dans H × H de L ∗ M. Et ceci est impossible par le

Lemme 6: Soient H et K des groupes, soit L un sous-groupe de H × K et M un sous-groupe de K × H, et ϕ un automorphisme de H tels que L ∗ M = Δ_{ϕ}(H). Alors H est une section de K.

En effet, soit a ∈ k_{1}(L). Comme (a, 1) ∈ L, et comme (1, 1) ∈ M, alors (a, 1) appartient à L ∗ M = Δ_{ϕ}(H). Alors a = ϕ(1) = 1, donc k_{1}(L) = (1). De même, j’ai k_{2}(M) = (1). D’autre part, pour tout a ∈ H, comme (a, ϕ^{−1}(A) ∈ Δ_{ϕ}(H) = L ∗ M, il existe c ∈ K tel que (a, c) ∈ L et (c, ϕ^{−1}(a)) ∈ M. Donc p_{1}(L) = H. De même, j’ai p_{2}(M) = H. Alors soit Q = q(L), soit s une surjection de p_{1}(L) = H dans Q et t une surjection de p_{2}(L) = K_{1} dans Q telles que

L = {(a, b) ∈ H × K_{1} | s(a) = t(b)}

Alors k_{1}(L) = Ker s, et s est donc injectif. Alors H est un quotient de K_{1}, donc une section de K.c.q.f.d.

Corollaire: L’algèbre End(H) se décompose en

End(H) = AExt(H) ⊕ I_{H}

Revenant au foncteur simple S, je vois que si H est un objet de D d’ordre minimal tel que S(H) ≠ 0, alors V = S(H) est un AExt(H)-module simple. Inversement, si V est un AExt(H)-module simple, je peux en faire un End(H) module (simple) par le corollaire ci-dessus. Alors le foncteur S_{H,V} est simple, tel que S_{H,V} (H) = V. De plus

Lemme 7: Soit H un objet de D et V un AExt(H)-module simple. Si K est un objet de D tel que S_{H,V} (K) ≠ 0, alors H est une section de K.

En effet, si S_{H,V} (K) ≠ 0, comme

S_{H,V} (K) = Hom(H, K)⊗_{End(H)}V/{∑_{i} ϕ_{i}⊗v_{i} | ∀ψ ∈ Hom(K, H), ∑_{i}(ψϕ_{i})v_{i} = 0}

je vois qu’il existe un sous-groupe L de H × K, un sous-groupe M de K × H, et un vecteur v de V, tels que

(H × K/L) ×_{K} (K × H/M).v ≠ 0

En particulier, il existe un automorphisme ϕ de H et x ∈ K tel que L ∗^{(x,1)} M = Δ_{ϕ}(H). Le lemme 6 assure alors que H est une section de K. D’où le lemme 7. Dans ces conditions, si K est un objet de D d’ordre minimal tel que S_{H,V} (K) ≠ 0, alors K est isomorphe à H, ce qui caractérise H en fonction de S_{H,V}. Le module V est alors la valeur en H de S_{H,V}. Finalement

Proposition 2: Les objets simples de F onct_{A}(D) sont en bijection avec les couples (H, V), où H est un objet de D à isomorphisme (de groupe) près, et V un AExt(H)-module à isomorphisme près, par la correspondance qui au couple (H, V) associe le foncteur S_{H,V}.

Remarque: Dans le cas où D est l’une des catégories C_{P,Q}, l’ensemble indexant les simples ne dépend pas de P et Q, mais les foncteurs simples S_{H,V}, eux, en dépendent: hormis le cas où P et Q sont réduites au groupe trivial, ils sont d’ailleurs bien mal nommés, puisque de structure assez compliquée...

5 Une théorie de vortex et de source

Les conditions A) et B) imposées à la sous-catégorie D de C trouvent une autre justification dans le fait qu’elles permettent de développer une théorie de vortex et de source. L’hypothèse supplémentaire est que l’anneau A est tel que pour tout objet G de D, un AG-module (de type fini) M admet une décomposition unique en AG-modules indécomposables.

Je dirai qu’un quadruplet (G, H, G_{1}, s) composé d’objets G et H de D, d’un sous-groupe G_{1} de G et d’une surjection s de G_{1} dans H est admissible si le groupe Δ_{s}(G_{1})^{∗} est dans S(G, H) et si le groupe Δ_{s}(G_{1}) est dans S(H, G). Si (G, H, G_{1}, s) est un quadruplet admissible, je note J_{H}^{G}[G_{1}, s] le foncteur de la catégorie des AH-modules dans celle des AG-modules défini par

J_{H}^{G}[G_{1}, s](N) = [G × H/Δ_{s}(G_{1})^{∗}] ⊗_{H} N

Je note de même T_{H}^{G}[G_{1}, s] le foncteur de la catégorie des AG-modules dans celle des AH-modules défini par

T_{H}^{G}[G_{1}, s](M) = [H × G/Δ_{s}(G_{1})] ⊗_{G} M

Les foncteurs définis ci-dessus ont des propriétés de multiplication remarquables:

Lemme 8: Soient (G, H, G_{1}, s) et (H, K, H_{1}, t) des quadruplets admissibles. Alors le quadruplet (G, K, s^{−1}(H_{1}), ts) est admissible et

J_{H}^{G}[G_{1}, s]J_{K}^{H}[H_{1}, t] = J_{K}^{G}[s^{−1}(H_{1}), ts]
T_{K}^{H}[H_{1}, t]T_{H}^{G}[G_{1}, s] = T_{K}^{G}[s^{−1}(H_{1}), ts]

En effet

(G × H/Δ_{s}(G_{1})^{∗}) ×_{H} (H × K/Δ_{t}(H_{1})^{∗}) = G × K/Δ_{s}(G_{1}) ∗ Δ_{t}(H_{1})

et

Δ_{s}(G_{1})∗Δ_{t}(H_{1}) = {(g, k) ∈ G×K | ∃h ∈ H, g ∈ G_{1}, s(g) = h, h ∈ H_{1}, t(h) = k}

ou encore

Δ_{s}(G_{1}) ∗ Δ_{t}(H_{1}) = Δ_{ts}(s^{−1}(H_{1}))

Il y a de même un formule de Mackey reliant les foncteurs J et T: soient (G, H, G_{1}, s) et (G, K, G_{2}, t) des quadruplets admissibles. Si x ∈ G, soit

L_{x} = (G_{2} ∩^{x} G_{1})/(G_{2} ∩^{x} Ker s)(Ker t ∩^{x} G_{1})

Soit de plus K_{x} l’image par t du sous-groupe G_{2} ∩^{x} G_{1} de G_{2}, et β_{x} la surjection naturelle de K_{x} sur L_{x}. Soit de même H_{x} l’image par s du sous-groupe G_{2}^{x} ∩ G_{1} de G_{1}, et α_{x} la surjection naturelle de H_{x} dans L_{x}. Avec ces notations

Lemme 9: Pour tout x ∈ G, les quadruplets (K, L_{x}, K_{x}, β_{x}) et (H, L_{x}, H_{x}, α_{x}) sont admissibles, et

T_{K}^{G}[G_{2}, t]J_{H}^{G}[G_{1}, s] = ∑_{x∈G_{2}\G/G_{1}} J_{L_{x}}^{K}[K_{x}, β_{x}]T_{L_{x}}^{H}[H_{x}, α_{x}]

En effet, par la formule de Mackey, le produit sur G des ensembles K ×G/Δ_{t}(G_{2}) et G × H/Δ_{s}(G_{1})^{∗} est égal à

∑_{x∈G_{2}\G/G_{1}} K × H/Δ_{t}(G_{2}) ∗^{(x,1)} Δ_{s}(G_{1})^{∗}

En notant X_{x} le groupe Δ_{t}(G_{2}) ∗^{(x,1)} Δ_{s}(G_{1})^{∗}, j’ai

X_{x} = {(k, h) ∈ K × H | ∃g ∈ G, g ∈ G_{2}, t(g) = k, g^{x} ∈ G_{1}, s(g^{x}) = h}

ou encore

X_{x} = {(t(g), s(g^{x})) | g ∈ G_{2} ∩^{x} G_{1}}

Alors

p_{1}(X_{x}) = t(G_{2} ∩^{x} G_{1}) = K_{x} et p_{2}(X_{x}) = s(G_{2}^{x} ∩ G_{1}) = H_{x}

de même

k_{1}(X_{x}) = t(G_{2} ∩^{x} Ker s) = Ker β_{x} et k_{2}(X_{x}) = s(Ker t^{x} ∩ G_{1}) = Ker α_{x}

Le groupe L_{x} s’identifie donc à q(X_{x}), et de plus, par définition de β_{x} et α_{x}, j’ai

X_{x} = {(k, h) ∈ K_{x} × H_{x} | β_{x}(k) = α_{x}(h)}

ce qui prouve le lemme, en passant aux foncteurs associés.

Lemme 10: Le foncteur T_{H}^{G}[G_{1}, s] est adjoint à gauche du foncteur J_{H}^{G}[G_{1}, s]

En effet, soit X le bimodule associé à H × G/Δ_{s}(G_{1}), et X^{∗} le module associé à G × H/Δ_{s}(G_{1})^{∗}. Le module X^{∗} se décompose en

X^{∗} = [G × G_{1}/Δ(G_{1})] ×_{G_{1}} [G_{1} × H/Δ_{s}(G_{1})^{∗}]

Le produit tensoriel sur H par le facteur de droite correspond à l’inflation suivant s: le module [G_{1} ×H/Δ_{s}(G_{1})^{∗}]×_{H} N est en effet le module N sur lequel l’élément g ∈ G_{1} agit par g.n = s(g)n. Je noterai Inf_{s,H}^{G_{1}}(N) ce module.

Alors le produit tensoriel sur G_{1} par le facteur de gauche correspond à l’induction de G_{1} à G. Donc

J_{H}^{G}[G_{1}, s](N) = Ind_{G_{1}}^{G}Inf_{s,H}^{G_{1}}(N)

De même, le module X se décompose en

X = [H × G_{1}/Δ_{s}(G_{1})] ⊗_{G_{1}} [G_{1} × G/Δ(G_{1})]

Le facteur de droite correspond à la restriction de G à G_{1}. Le facteur de gauche correspond au passage aux “points cofixes suivant s”: si Y est un AG_{1}-module, alors [H ×G_{1}/Δ_{s}(G_{1})]⊗_{G_{1}} Y est le quotient Y_{Ker s} de Y par le A-module engendré par les éléments de la forme gy − y, pour g ∈ Ker s et y ∈ Y. En notant y ↦ \overline{y} la projection naturelle de Y sur Y_{Ker s}, le groupe H agit sur Y_{Ker s} par

h.\overline{y} = \overline{gy} si s(g) = h

Finalement

T_{H}^{G}[G_{1}, s](P) = (Res_{G_{1}}^{G}P)_{Ker s}

Or le foncteur de restriction de G à G_{1} est adjoint à gauche du foncteur d’induction de G_{1} à G, et le foncteur “points cofixes suivant s” est adjoint à gauche du foncteur d’inflation suivant s. D’où le lemme.

Il est possible de définir une notion d’injectivité relative au foncteur T_{H}^{G}[G_{1}, s] (cf. [BO1]): je dirai qu’un AG-module M est T_{H}^{G}[G_{1}, s]-injectif (ou (G_{1}, s)-injectif) si pour tout diagramme

\begin{aligned}& α \\ X & → & Y \\ β ↓ \\ M \end{aligned}

tel que le morphisme T_{H}^{G}[G_{1}, s](α) soit une injection directe, il existe un morphisme ϕ de Y dans M tel que β = ϕα. Alors:

Lemme 11:(cf. [BO1]) Les conditions suivantes sont équivalentes:

1. Le module M est T_{H}^{G}[G_{1}, s]-injectif.

2. Il existe un AH-module N tel que M soit facteur direct de J_{H}^{G}[G_{1}, s](N).

3. Le module M est facteur direct de J_{H}^{G}[G_{1}, s]T_{H}^{G}[G_{1}, s](M).

Soit alors G un objet de D, et M un AG-module indécomposable.

J’appelle D-vortex de M un objet H de D d’ordre minimal tel qu’il existe un sous-groupe G_{1} de G et une surjection s de G_{1} dans H, tels que

a) Le quadruplet (G, H, G_{1}, s) est admissible.

b) Le module M est (G_{1}, s)-injectif. J’appelle alors D-source de M un facteur direct indécomposable N de

T_{H}^{G}[G_{1}, s](M) tel que M soit facteur direct de J_{H}^{G}[G_{1}, s](N).

L’existence de D-vortex et D-source est assurée par le fait que M est toujours (G, Id)-injectif, et par le fait que pour tout objet G de D, tout AG-module admet une décomposition unique en AG-modules indécomposables.

Proposition 3: Soit G un objet de D, et M un AG-module indécomposable. Soit H un D-vortex de M, et (G, K, G_{2}, t) un quadruplet admissible tel que M soit (G_{2}, t)-injectif. Alors H est une section de K. Corollaire: Si K est un D-vortex de M, alors K est isomorphe à H.

En effet, si H est un D-vortex de M, il existe un quadruplet admissible (G, H, G_{1}, s) et un AH-module N tel que M soit facteur direct de J_{H}^{G}[G_{1}, s](N). Mais comme M est (G_{2}, t)-injectif, alors M est facteur direct de J_{K}^{G}[G_{2}, t]T_{H}^{G}[G_{2}, t](M), donc facteur direct de

P = J_{K}^{G}[G_{2}, t]T_{H}^{G}[G_{2}, t]J_{H}^{G}[G_{1}, s](N)

Avec les notations des lemmes 8 et 9, j’ai

P = ∑_{x∈G_{2}\G/G_{1}} J_{K}^{G}[G_{2}, t]J_{L_{x}}^{K}[K_{x}, β_{x}]T_{L_{x}}^{H}[H_{x}, α_{x}](N)

Soit

P = ∑_{x∈G_{2}\G/G_{1}} J_{L_{x}}^{G}[t^{−1}(K_{x}), β_{x}t]T_{L_{x}}^{H}[H_{x}, α_{x}](N)

Comme H est un D-vortex de M, et comme L_{x} est une section de H, il doit exister x ∈ G tel que L_{x} soit isomorphe à H. Dans ces conditions, je dois avoir

(G_{2}^{x} ∩ G_{1}).Ker s = G_{1} et Ker t^{x} ∩ G_{1} ⊆ G_{2}^{x} ∩ Ker s

Comme de plus L_{x} est un quotient du groupe G_{2} ∩^{x} G_{1}/Ker t ∩^{x} G_{1}, lui-même sous-groupe de G_{2}/Ker t, isomorphe à K, je vois que H est une section de K. Alors si H et K sont deux D-vortex de M, ils sont isomorphes, ce qui prouve la proposition.

Alors si H est un D-vortex de M, et si N est une D-source de M, associée au quadruplet admissible (G, H, G_{1}, s), alors N a comme D-vortex le groupe H: en effet, si L est un D-vortex de N, et si (H, L, H_{1}, r) un quadruplet admissible ayant les propriétés de la définition, alors il existe un AL-module P tel que N soit facteur direct de J_{L}^{H}[H_{1}, r](P). Alors M est facteur direct de J_{H}^{G}[G_{1}, s]J_{L}^{H}[H_{1}, r](P) = J_{L}^{G}[s^{−1}(H_{1}), rs](P). Donc L est isomorphe à H.

Soit alors N′ un autre H-module D-source de M, associé au quadruplet admissible (G, H, G_{2}, t). Je sais que M est facteur direct de J_{H}^{G}[G_{1}, s](N). Comme N′ est facteur direct de T_{H}^{G}[G_{2}, t](M), il est aussi facteur direct de T_{H}^{G}[G_{2}, t]J_{H}^{G}[G_{1}, s](N). Ce dernier est égal à

∑_{x∈G_{2}\G/G_{1}} J_{L_{x}}^{H}[K_{x}, β_{x}]T_{L_{x}}^{H}[H_{x}, α_{x}](N)

en notant K_{x} le groupe t(G_{2} ∩^{x} G_{1}), et H_{x} le groupe s(G_{2}^{x} ∩ G_{1}). Comme N′ est indécomposable, il doit exister x ∈ G tel que N′ soit facteur direct de J_{L_{x}}^{H}[K_{x}, β_{x}]T_{L_{x}}^{H}[H_{x}, α_{x}](N). Mais comme il est aussi de vortex H, cela impose que L_{x} soit isomorphe à H.

Comme L_{x} est isomorphe à (G_{2} ∩^{x} G_{1})/(G_{2} ∩^{x} Ker s)(Ker t ∩^{x} G_{1}), quotient du sous-groupe s(G_{2}^{x} ∩ G_{1}) de H, je dois avoir

(G_{2}^{x} ∩ G_{1}).Ker s = G_{1} et Ker t^{x} ∩ G_{1} ⊆ Ker s

De même, le groupe L_{x} est isomorphe à un quotient du sous-groupe t(G_{2} ∩^{x} G_{1}) de H. Donc

(G_{2} ∩^{x} G_{1}).Ker t = G_{2} et G_{2} ∩^{x} Ker s) ⊆ Ker t

Ces conditions se résument à

(G_{2} ∩^{x} G_{1}).^{x}Ker s =^{x} G_{1}, (G_{2} ∩^{x} G_{1}).Ker t = G_{2}, G_{2} ∩^{x} Ker s = Ker t ∩^{x} G_{1}

ou encore

G_{2}.^{x}Ker s = Ker t.^{x}G_{1} et G_{2} ∩^{x} Ker s = Ker t ∩^{x} G_{1}

Une telle situation définit un automorphisme θ_{x} de H: si h est un élément de H, alors h s’écrit t(u), pour un u de G_{2} ∩^{x} G_{1}. Alors, les conditions si dessus font que l’égalité

θ_{x}(h) = s(u^{x})

définit sans ambiguité l’élément θ_{x}(h) de H.

Il est alors clair que N est facteur direct de l’image de N′ par l’automorphisme θ_{x}, donc qu’il lui est isomorphe. Finalement

Proposition 4: Si H est un D-vortex de M, et si N et N′ sont deux H-modules D-sources de M, alors il existe un automorphisme θ de H tel que N soit isomorphe à θ(N′).

Le calcul ci-dessus montre de plus quel type de rapport il y a entre cet automorphisme et le groupe G, plus compliqué que la simple conjugaison par un élément de G comme dans le cas classique du vortex d’un module indécomposable...

6 Une seconde théorie de vortex et source

La section précédente demeure un peu énigmatique quant aux conditions A) et B), car elle oblige à considérer simultanément toute une classe D de groupes finis. Il serait plus agréable, étant donné un groupe fini G et une certaine famille d’objets associés, de pouvoir faire un théorie analogue.

Je supposerai que l’anneau A est tel que pour toute section de G, tout AGmodule admet une décomposition unique en AG-modules indécomposables.

L’exemple des groupes réductifs incite à considérer une famille F de couples (P, U), où P est un sous-groupe de G et U un sous-groupe normal de P. Si (P, U) ∈ F, je peux parler de la catégorie Mod(P, U) des P -modules U-triviaux, i.e. des P -modules sur lesquels U agit trivialement.

La famille F possède un ordre naturel: si (P, U) et (Q, V) sont dans F, je dis que (P, U) ≤ (Q, V) si V ⊆ U ⊆ P ⊆ Q. Alors, si (P, U) ≤ (Q, V), il y a un foncteur naturel de Mod(P, U) dans Mod(Q, V), qui est l’induction de P à Q: si X est un P -module U-trivial, alors Ind_{P}^{Q}X est un Q-module V -trivial. Je note j_{P,U}^{Q,V} ce foncteur, défini par

j_{P,U}^{Q,V} (X) = Ind_{P}^{Q}X = [Q × P/Δ(P)] ⊗_{P} X

Inversement, si Y est un Q-module V -trivial, je peux regarder sa restriction à P, puis les points cofixes par U de cette restriction, considéré cette fois comme un P -module. J’obtiens ainsi un foncteur t_{P,U}^{Q,V} de Mod(Q, V) dans Mod(P, U), défini par

t_{P,U}^{Q,V} (Y) = Inf_{P/U}^{P}(Res_{P}^{Q}Y)_{U}

Ces foncteurs vérifient des relations de transitivité évidentes. Il est clair également que j_{P,U}^{Q,V} est adjoint à droite de t_{P,U}^{Q,V}.

J’ai alors une notion d’injectivité relative: si M est un Q-module V -trivial, et si (P, U) ≤ (Q, V), je dis que M est (P, U)-injectif s’il existe un P -module U-trivial N tel que M soit facteur direct de j_{P,U}^{Q,V} (N).

Alors si M est un Q-module V -trivial indécomposable, un F -vortex de M est par définition un couple (P, U) ∈ F minimal tel que (P, U) ≤ (Q, V) et tel que M soit (P, U)-injectif.

Une F -source de M est alors un facteur direct indécomposable N de t_{P,U}^{Q,V} (M) tel que M soit facteur direct de j_{P,U}^{Q,V} (N).

L’existence de F -vortex et F -source est assurée par le fait que les foncteurs j_{Q,V}^{Q,V} sont les foncteurs identité, et par les hypothèses faites sur l’anneau A.

Les relations de transitivité mentionnées plus haut entraînent alors que si M est un Q-module V -trivial de F -vortex (P, U), et si N est une F -source de M, alors (P, U) est le seul F -vortex de N.

Jusque là, la famille F peut être absolument quelconque. Bien sûr, pour assurer une certaine unicité des F -vortex et F -sources, il faut faire des hypothèses supplémentaires sur F: je supposerai donc que F vérifie les deux conditions suivantes:

a) Si (P, U) ∈ F, et si x ∈ G, alors (P^{x}, U^{x}) ∈ F.

b) Si (P, U) ∈ F et (Q, V) ∈ F, alors ((P ∩ Q).U, (P ∩ V).U) ∈ F. Remarque: Il n’y a alors aucun inconvévient à supposer que (G, 1) ∈ F, ce que je ferai désormais, puisque je veux parler de F -vortex et F -source d’un AG-module.

Si (P, U) et (Q, V) sont deux couples de F, je dis qu’ils sont liés , ce que je note (P, U) (Q, V) si

(P ∩ Q).U = P, (P ∩ Q).V = Q, P ∩ V = Q ∩ U

ou, de manière moins symétrique mais plus concise

P.V = U.Q, P ∩ V = Q ∩ U

Alors si (P, U) (Q, V), et si L est un Q-module V -trivial, je note

θ_{(P,U),(Q,V)}(L)

le module L sur lequel le groupe P agit ainsi: si p ∈ P, alors p s’écrit p = p′.u, pour p′ ∈ P ∩ Q et u ∈ U. Alors si l ∈ L, je pose p.l = p′.l. Il est facile de voir que je fais ainsi de L un P -module U-trivial, et que θ_{(P,U),(Q,V)} est un foncteur de Mod(Q, V) dans Mod(P, U).

De même, si x ∈ G, je note ^{x}M le ^{x}Q-module ^{x}V -trivial L sur lequel l’élément q ∈^{x} Q agit par q.l(dans ^{x}L) = q^{x}.l(dans L).

Les notations et hypothèses précédentes permettent alors d’établir la

Proposition 5: Soient (R, W) ≤ (Q, V) ≥ (P, U) des éléments de F, et M un AP -module U-trivial. Alors, pour tout x ∈ G, j’ai

(R, W) ≥ ((R ∩^{x} P).W, (R ∩^{x} U).W) ((R ∩^{x} P).^{x}U, (W ∩^{x} P).^{x}U) ≤ (^{x}P,^{x} U)

et de plus en posant

θ_{x} = θ_{((R∩^{x}P).W,(R∩^{x}U).W),((R∩^{x}P).^{x}U,(W ∩^{x}P).^{x}U)}

t_{R,W}^{Q,V} j_{P,U}^{Q,V} (M) = ∑_{q∈R\Q/P} j_{((R∩^{q}P).W,(R∩^{q}U).W)}^{R,W}θ_{q}t_{((R∩^{q}P).^{q}U,(W ∩^{q}P).^{q}U)}^{^{q}P,^{q}U}(^{q}M)

Corollaire 1: Si M est indécomposable, et à la fois (P, U)-injectif et (R, W)-injectif, alors il existe x ∈ G tel que M soit ((R∩^{x}P).W, (R∩^{x}U).W)- injectif. Corollaire 2: Si M est indécomposable, si (R, W) est un F -vortex de M, et si M est (P, U)-injectif, alors il existe x ∈ G tel que

R = (R ∩^{x} P).W, W = (R ∩^{x} U)W

et en particulier, le groupe R/W est une section de P/U. Corollaire 3: Si M est idécomposable, et si (R, W) et (P, U) sont deux F -vortex de M, alors il existe x ∈ G tel que (R, W) (^{x}P,^{x} U), et en particulier les groupes R/W et P/U sont isomorphes.

La première assertion de la proposition résulte des inclusions:

R ⊇ (R ∩^{x} P).W ⊇ (R ∩^{x} U).W ⊇ W

et des égalités

(R ∩^{x} P).W (W ∩^{x} P).^{x}U = (R ∩^{x} P).W.^{x}U = W.(R ∩^{x} P).^{x}U

et

(R∩^{x}U).W (R∩^{x}P).^{x}U = (R∩^{x}U).(R∩^{x}P).W.^{x}U = (R∩^{x}P).W.^{x}U = W.(R∩^{x}P).^{x}U De même

(R ∩^{x} P).W ∩ (W ∩^{x} P).^{x}U = (W ∩^{x} P).((R ∩^{x} P).W ∩^{x} U) =
= (W ∩^{x} P).(R ∩ (^{x}P.W) ∩^{x} U) = (W ∩^{x} P).(R ∩^{x} U)

et

(R ∩^{x} U).W ∩ (R ∩^{x} P).^{x}U = (R ∩^{x} U).(W ∩ (R ∩^{x} P).^{x}U) =
= (R ∩^{x} U).(W ∩ (R.^{x}U) ∩^{x} P) = (R ∩^{x} U).(W ∩^{x} P)

et du fait que W ∩^{x} P normalise R ∩^{x} U, ces deux dernières expressions sont égales.

En notant α (resp. β, γ) les projections de P sur P/U (resp. de Q sur Q/V, de R sur R/W), il est clair que le foncteur j_{P,U}^{Q,V} peut être défini par

j_{P,U}^{Q,V} (N) = [Q × (P/U)/Δ_{α}(P)^{∗}] ⊗_{P/U} [(P/U) × P/Δ_{α}(P)] ⊗_{P} N

car le terme de droite correspond aux points cofixes par U du module U-trivial N, et le terme de gauche à l’inflation de P/U à P, suivie de l’induction de P à Q.

De même, le foncteur t_{R,W}^{Q,V} peut aussi être défini par

t_{R,W}^{Q,V} (M) = [R × (R/W)/Δ_{γ}(R)^{∗}] ⊗_{R/W} [(R/W) × Q/Δ_{γ}(R)] ⊗_{Q} M

Le foncteur composé t_{R,W}^{Q,V} j_{P,U}^{Q,V} correspond donc au produit tensoriel sur P par le module associé à l’ensemble

X = (R × (R/W)/Δ_{γ}(R)^{∗}) ×_{R/W} ((R/W) × Q/Δ_{γ}(R)) ×_{Q} …
… (Q × (P/U)/Δ_{α}(P)^{∗}) ×_{P/U} ((P/U) × P/Δ_{α}(P))

Par la formule de Mackey, le produit des deux premiers termes est égal à

R × Q/{(r, r′) ∈ R × R | r^{−1}r′ ∈ W }

et le produit des deux derniers à

Q × P/{(p, p′) ∈ P × P | p^{−1}p′ ∈ U}

Une nouvelle application de la formule de Mackey donne alors l’ensemble X sous la forme X = ∑_{q∈R\Q/P} R × P/L_{q}, où j’ai posé

L_{q} = {(r, r′) ∈ R × R | r^{−1}r′ ∈ W } ∗^{(q,1)} {(p, p′) ∈ Q × P | p^{−1}p′ ∈ U}

J’ai alors

L_{q} = {(r, p) ∈ R × P | ∃x ∈ Q, x ∈ R, r^{−1}x ∈ W, x^{q} ∈ P, (x^{q})^{−1}p ∈ U}

ou encore

L_{q} = {(r, p) ∈ R × P | ∃x ∈ R ∩^{q} P, r^{−1}x ∈ W, x^{−1}(^{q}p) ∈^{q} U}

Alors si (r, p) ∈ L_{q}, j’ai

r ∈ (R ∩^{q} P).W, w ∈ (R^{q} ∩ P).U, r^{−1}(^{q}p) ∈ W.^{q}U

Inversement, si ces conditions sont remplies, je peux écrire r = yw, pour y ∈ R ∩^{q} P et w ∈ W, et p = (y^{′q})u, pour y′ ∈ R ∩^{q} P et u ∈ U. Alors

r^{−1}(^{q}p) = w^{−1}y^{−1}y′(^{q}u) ∈ W.^{q}U

donc y^{−1}y′ ∈ (W.^{q}U) ∩ R ∩^{q} P = W.(^{q}U ∩ R) ∩^{q} P = (W ∩^{q} P).(^{q}U ∩ R). Je peux alors écrire y^{−1}y′ = w′(^{q}u′), pour w′ ∈ W ∩^{q} P et u′ ∈ U ∩ R^{q}. Posant alors x = yw′, j’ai

r^{−1}x = w^{−1}w′ ∈ W, x^{−1}(^{q}p) = w^{′−1}y^{−1}y′(^{q}u) =^{q} (u′u) ∈^{q} U

et de plus x ∈ (R ∩^{q} P)(W ∩^{q} P) = R ∩^{q} P. Donc

L_{q} = {(r, p) ∈ R × P | r ∈ (R ∩^{q} P).W, w ∈ (R^{q} ∩ P).U, r^{−1}(^{q}p) ∈ W.^{q}U}

Il reste à exprimer le second membre de l’égalité de la proposition sous forme d’une somme de produits tensoriels par les bimodules associés à des R-ensembles-P.

Lemme 12: Soit (P, U) (Q, V). Alors si M est un Q-module V -trivial,

θ_{(P,U),(Q,V)}(M) = [P × Q/{(p, q) | p^{−1}q ∈ U.V }] ⊗_{Q} M

En effet, si (P, Q) (Q, V), soit \overline{θ} l’isomorphisme de Q/V dans P/U déterminé par la liaison: je pose \overline{θ}(qV) = xU, si x ∈ P ∩ Q et x^{−1}q ∈ V. Alors, appliquer θ_{(P,U),(Q,V)} à M revient à prendre les points cofixes de M par V, c’est à dire puisque M est V -trivial, à regarder M comme un Q/V -module, puis à transporter ce module au groupe P/U par l’isomorphisme \overline{θ}, et à considérer le résultat comme un P -module, i.e. pratiquer l’inflation de P/U à P.

Ces trois opérations s’expriment par des produits tensoriels par des modules associés à des ensembles munis d’une double action: plus précisément, en notant α (resp. β) la projection de P sur P/U (resp. de Q sur Q/V):

θ_{(P,U),(Q,V)}(M) = [P × (P/U)/Δ_{α}(P)^{∗}] ⊗_{P/U} [(P/U) × (Q/V)/Δ\overline{θ}(Q/V)] ⊗_{Q/V} …

… [(Q/V) × Q/Δ_{β}(Q)] ⊗_{Q} M

ce qui s’écrit encore

θ_{(P,U),(Q,V)}(M) = [P × Q/\{(p, q) | α(p) = \overline{θ}β(q)\}] ⊗_{Q} M

Mais dire que α(p) = \overline{θ}β(q) revient à dire qu’il existe x ∈ P ∩Q tel que pU = xU et qV = xV. En particulier, p^{−1}q = p^{−1}x.x^{−1}q ∈ U.V. Inversement, si p^{−1}q ∈ U.V, alors comme p peut s’écrire p = p′u, pour p′ ∈ P ∩ Q et u ∈ U, et comme q peut s’écrire q = q′v, pour q′ ∈ P ∩ Q et v ∈ U, j’ai aussi p^{′−1}q′ ∈ U.V, donc

p^{′−1}q′ ∈ U.V ∩ P ∩ Q = U.(V ∩ P) ∩ Q = U ∩ Q = V ∩ P = U ∩ V

Alors q′ ∈ P ∩ Q, et q′V = qV. De plus pU = p′U = p′(p^{′−1}q′)U = q′U, et j’ai bien α(p) = \overline{θ}β(q). D’où le lemme.

Alors en posant

A_{q} = (R ∩^{q} P).W, B_{q} = (R ∩^{q} U).W, C_{q} = (R ∩^{q} P).^{q}U, D_{q} = (W ∩^{q} P).^{q}U

et en notant γ_{q} l’homomorphisme de conjugaison par q de P dans ^{q}P, le terme en q de l’égalité de la proposition correspond au produit tensoriel sur P par le module associé à l’ensemble

E_{q} = (R×A_{q}/{(a, a′) ∈ A_{q}×A_{q} | a^{−1}a′ ∈ B_{q}})×_{A_{q}}(A_{q}×C_{q}/{(a, c) | a^{−1}c ∈ B_{q}D_{q}})×_{C_{q}}…

… (C_{q} ×^{q} P/{(c,^{q} p) | c^{−1}.^{q}p ∈ D_{q}}) ×_{^{q}P} (^{q}P × P/Δ_{γ_{q}}(P))

Le produit des deux derniers termes est égal à

C_{q} × P/{(c, p) | c^{−1}.^{q}p ∈ D_{q}}

D’autre part

B_{q}D_{q} = (R ∩^{q} U).W.(W ∩^{q} P).^{q}U = (R ∩^{q} U).W.^{q}U = W.(R ∩^{q} U).^{q}U = W.^{q}U

et le produit des deux premiers termes est égal à

R × C_{q}/{(a, c) ∈ A_{q} × C_{q} | a^{−1}c ∈ W.^{q}U}

Finalement, j’ai E_{q} = R × P/L′_{q}, en posant

L′_{q} = {(a, c) ∈ A_{q} × C_{q} | a^{−1}c ∈ W.^{q}U} ∗ {(c, p) ∈ C_{q} × P | c^{−1}.^{q}p ∈ D_{q}}

Alors si (r, p) ∈ L′_{q}, j’ai

r ∈ A_{q}, p ∈ (C_{q}D_{q})^{q} = (C_{q})^{q}, r^{−1}.^{q}p ∈ W.^{q}U.D_{q} = W.^{q}U

Inversement, si ces conditions sont remplies, en posant c =^{q} p, j’ai bien

(r, c) ∈ A_{q} × C_{q}, r^{−1}c ∈ W.^{q}U, (c, p) ∈ C_{q} × P, c^{−1}.^{q}p ∈ D_{q}

donc

L′_{q} = {(r, p) ∈ (R ∩^{q} P).W × (R^{q} ∩ P).U | r^{−1}.^{q}p ∈ W.^{q}U}

de sorte que L′_{q} = L_{q}, ce qui prouve la proposition.

Alors si un G-module indécomposable N est à la fois (P, U)-injectif et (R, W)- injectif, il existe un P -module U-trivial M tel que N soit facteur direct de j_{P,U}^{G,1}(M), et de j_{R,W}^{G,1} t_{R,W}^{G,1} (N). Alors N est facteur direct de

j_{R,W}^{G,1} t_{R,W}^{G,1} j_{P,U}^{G,1}(M)

et la proposition appliquée à (Q, V) = (G, 1) entraîne alors qu’il existe x ∈ G tel que N soit facteur direct de

j_{(R∩^{x}P).W,(R∩^{x}U).W}^{G,1} θ_{x}t_{(R∩^{q}P).^{q}U,(W ∩^{q}P).^{q}U}^{^{q}P,^{q}U}(^{q}M)

et N est donc ((R ∩^{x} P).W, (R ∩^{x} U).W)-injectif, ce qui prouve le corollaire 1. Dans ces conditions, si (R, W) est un F -vortex de N, alors comme

((R ∩^{x} P).W, (R ∩^{x} U).W) ≤ (R, W)

je dois avoir

R = (R ∩^{x} P).W et W = (R ∩^{x} U).W

Alors R/W est isomorphe à R ∩^{x} P/W ∩^{x} P, donc au quotient du sous-groupe R^{x} ∩ P/R^{x} ∩ U de P/U par son sous-groupe normal W^{x} ∩ P/R^{x} ∩ U (en effet, la seconde égalité ci-dessus entraîne que R^{x} ∩U ⊆ W^{x} ∩P). Ceci prouve le corollaire 2.

Alors si (P, U) est aussi un F -vortex de N, les groupes P/U et R/W sont section l’un de l’autre. Ils sont donc isomorphes, et alors

W^{x} ∩ P = R^{x} ∩ U et (R^{x} ∩ P).U = P

autrement dit, j’ai (R, W) (^{x}P,^{x} U), ce qui prouve le corollaire 3.

Proposition 6: Soit M un G-module indécomposable. Si (P, U) et (Q, V) sont deux F -vortex de M, si L est un P module U-trivial F -source de M, et N un Q-module V -trivial F -source de M, alors il existe x ∈ G tel que (Q, V) (^{x}P,^{x} U) et

N = θ_{(Q,V),(^{x}P,^{x}U)}(^{x}L)

En particulier, si (P, U) = (Q, V), il existe un automorphisme θ de P/U tel que

N = Inf_{P/U}^{P}θ(L_{U})

En effet, dans ces conditions, le module M est facteur direct de j_{P,U}^{G,1}(L), et le module N est facteur direct de t_{Q,V}^{G,1} (M). Donc le module N est facteur direct de t_{Q,V}^{G,1} j_{P,U}^{G,1}(L). Il existe donc x ∈ G tel que N soit facteur direct de

j_{(Q∩^{x}P).V,(Q∩^{x}U).V}^{Q,V} θ_{x}t_{(Q∩^{x}P).^{x}U,(V ∩^{x}P).^{x}U}^{^{x}P,^{x}U}(^{x}L)

où j’ai posé θ_{x} = θ_{((Q∩^{x}P).V,(Q∩^{x}U).V)),((Q∩^{x}P).^{x}U,(V ∩^{x}P).^{x}U))}. Mais comme N est de F -vortex (Q, V), je dois avoir

Q = (Q ∩^{x} P).V et V = (Q ∩^{x} U).V

Comme de plus les groupes Q/V et P/U sont isomorphes, il en résulte que (Q, V) (^{x}P,^{x} U) et que N est facteur direct de θ_{(Q,V),(^{x}P,^{x}U)}(^{x}L), donc qu’il lui est isomorphe. D’où la première assertion de la proposition. La seconde est alors triviale.

Remarques et exemples: 1) Si F et F′ sont deux familles vérifiant les hypothèses a) et b), alors F ∩ F′ vérifie aussi a) et b). Comme la famille de tous les couples (P, U), où P est un sous-groupe de G et U un sous-groupe normal de P, vérifie a) et b), il y a une plus petite famille vérifiant a) et b) contenant une famille donnée de couples (P, U).

2) La théorie usuelle de vortex et source correspond au cas où F est la famille des couples (P, 1), pour P sous-groupe de G.

3) Si F est la famille de tous les couples (P, U) possibles, et si A est un corps de caractéristique p > 0, alors un F -vortex (P, U) du AG-module indécomposable M est constitué d’un vortex usuel P de M, et du plus grand sous-groupe U de P opérant trivialement sur un P -module de source usuel de M.

4) Si F est une famille vérifiant a) et b), et si (P, U) et (P, V) sont dans F, alors (P, U.V) est aussi dans F. Alors étant donné P tel qu’il existe U avec (P, U) ∈ F, il existe un sous-groupe normal r(P) de P tel que

(P, U) ∈ F ⇒ U ⊆ r(P)

De même, si (P, U) ∈ F et (Q, U) ∈ F, alors (P ∩ Q, U) ∈ F. Alors si U est un sous-groupe de G tel qu’il existe P avec (P, U) ∈ F, il existe un sous-groupe s(U) de N_{G}(U) tel que

(P, U) ∈ F ⇒ P ⊇ s(U)

5) Si G est un groupe algébrique réductif fini, alors la famille des couples (P, U), où P est un sous-groupe parabolique de G et U son radical unipotent, vérifie a) et b). Cette situation à été étudiée par Dipper et Du (cf. [DI-DU]), d’un point de vue légèrement différent: Dipper et Du définissent en effet le foncteur Res_{(P,U)}^{G}, analogue du foncteur t_{P,U}^{G,1}, à partir des points fixes de U, et non des points cofixes. Il semble que celà nécessite alors une hypothèse supplémentaire sur la caractéristique du corps de base.

6) Si F est une famille de sous-groupes de G stable par intersection et conjugaison, alors la famille \overline{F} des couples (P, 1), pour P ∈ F vérifie a) et b). Cette situation est plus agréable: en effet, deux couples (P, 1) et (Q, 1) sont liés si et seulement si ils sont égaux. La \overline{F} -source d’un module de \overline{F} -vortex P est alors déterminée modulo conjugaison par N_{G}(P). Par exemple, si G est le groupe symétrique S_{n}, la famille F peut être celle des sous-groupes de Young, ce qui permet de définir le vortex de Young d’un S_{n}- module indécomposable.

7 Le foncteur de Burnside

Dans cette section, la catégorie considérée sera la catégorie C toute entière. Je note b(G) l’anneau de Burnside de G, à coefficients dans A.

7.1 Un homomorphisme de b(G) dans End(G)

Soit G un groupe fini, et X un G-ensemble. Je note X̃ l’ensemble X × G, sur lequel le groupe G × G agit par

g_{1}.(x, g).g_{2} = (g_{1}x, g_{1}gg_{2})

Alors X̃ est un G-ensemble-G, libre à gauche et à droite. De plus

Lemme 13: L’application de b(G) dans EndG qui étend par A-linéarité l’application X ↦ X̃ est un homomorphisme d’algèbres.

Cela revient à dire que si X et Y sont des G-ensembles, alors

X̃ ×_{G} Ỹ = X̃ × Y

Pour établir cet isomorphisme, il suffit de vérifier que l’application de X̃ ×_{G} Ỹ dans X̃ × Y

(x, g) ×_{G} (y, h) ↦ (x, gy, gh)

est bien définie, et compatible à l’action de G × G, et que l’application de X̃ × Y dans X̃ ×_{G} Ỹ définie par

(x, y, g) ↦ (x, 1) ×_{G} (y, g)

est compatible à l’action de G × G, et inverse de la précédente.

Remarques: a) Inversement, si E est un G-ensemble-G, je note δ(E) le Gensemble “diagonal” E, i.e. l’ensemble E sur lequel G agit par

g.e (dans δ(E)) = geg^{−1} (dans E)

Alors le foncteur X ↦ X̃ est adjoint à gauche du foncteur E ↦ δ(E), i.e.

Hom_{G−ens−G}(X̃, E) = Hom_{G−ens}(X, δ(E))

b) Si X est le G-ensemble G/U, alors X̃ s’identifie à G × G/Δ(U), où je note Δ(U) l’image diagonale de U dans G × G. En effet, si X est un G-ensemble quelconque, alors le stabilisateur dans G × G du point (x, h) de X̃ est l’ensemble des couple (g, g′) tels que

g.(x, h).g^{′−1} = (x, h)

C’est donc l’ensemble des couples (g, g^{h}), pour g ∈ G_{x} = {x ∈ G | gx = x}, ou encore Δ(G_{x})^{(1,h)}. D’autre part l’ensemble des orbites de G × G sur X̃ s’identifie à l’ensemble des orbites de G sur X.

Alors si X = G/U, le groupe G × G est transitif sur X̃, et le stabilisateur d’un point est conjugué de Δ(U). Donc X̃ est isomorphe à G × G/Δ(U).

Lemme 14: Soit K un sous-groupe du groupe G, et X un G-ensemble. Alors

X̃ ×_{G} (G × K/Δ(K)) = (G × K/Δ(K)) ×_{K} ˜ (Res_{K}^{G}X)

Il suffit de prouver le lemme lorsque X = G/U. Dans ce cas

X̃ ×_{G} (G × K/Δ(K)) = (G × G/Δ(U)) ×_{G} (G × K/Δ(K))

et par la formule de Mackey

X̃×_{G}(G×K/Δ(K)) = ∑_{x∈U\G/K} G×K/Δ(U)∗^{(x,1)}Δ(K) = ∑_{x∈U\G/K} G×K/^{(x,1)}Δ(K_{x})

en notant K_{x} le groupe U^{x} ∩ K. De plus G × K/^{(x,1)}Δ(K_{x}) = G × K/Δ(K_{x}) et

G×K/Δ(K_{x}) = (G×K/Δ(K))×_{K} (K ×K/Δ(K_{x})) = (G×K/Δ(K))×_{K} ˜ (K/K_{x})

D’où le lemme, puisque

Res_{K}^{G}G/U = ∑_{x∈U\G/K} K/K_{x}

L’intéret des lemmes précédents apparait surtout lorsque A est un corps de caractéristique 0. Dans ce cas, l’algèbre b(G) est semi-simple. Ses idempotents primitifs sont indexés par les classes de conjugaison de sous-groupes de G, et donnés par la formule

e_{H}^{G} = \frac{1}{|N_{G}(H)|} ∑_{K⊆H} |K|χ̃]K, H[G/K

où je note χ̃]K, H[ la caractéristique d’Euler-Poincaré réduite de “l’intervalle ouvert” ]K, H[.

Ces idempotents sont caractérisés à une constante multiplicative près par le fait que pour tout G-ensemble X

e_{H}^{G}X = |X^{H}|e_{H}^{G}

Cette caractérisation permet de montrer que si K est un sous-groupe de G, alors

Res_{K}^{G}e_{H}^{G} = ∑_{x∈\overline{T}_{G}(H,K)} e_{H^{x}}^{K}

où je note T_{G}(H, K) l’ensemble des x ∈ G tels que H^{x} ⊆ K, et \overline{T}_{G}(H, K) le quotient N_{G}(H)\T_{G}(H, K)/K.

De même

Ind_{K}^{G}e_{H}^{K} = \frac{|N_{G}(H)|}{|N_{K}(H)|}e_{H}^{G}

En particulier, je vois que Res_{K}^{G}e_{K}^{G} = e_{K}^{K}, et le lemme 14 devient

ẽ_{K}^{G} ×_{G} (G × K/Δ(K)) = (G × K/Δ(K)) ×_{K} ẽ_{K}^{K} (1)

D’autre part, si X est un G-ensemble-H, j’ai défini plus haut le H-ensemble “dual” X^{∗} de X. Si Y est un H-ensemble-K, il est clair que

(X ×_{H} Y)^{∗} = Y^{∗} ×_{H} X^{∗}

L’égalité (1) donne alors par dualité

(K × G/Δ(K)^{∗}) ×_{G} ẽ_{K}^{G} = ẽ_{K}^{K} ×_{K} (K × G/Δ(K)^{∗}) (2)

Soit alors M un foncteur sur C, dans le cas où A est un corps de caractéristique 0. L’égalité (1) montre que l’application a = M(G × K/Δ(K)) envoie le A-module ẽ_{K}^{K}M(K)(= M(ẽ_{K}^{K})M(K)) dans ẽ_{K}^{G}M(G).

L’égalité (2) montre que l’application b = M(K × G/Δ(K)^{∗}) envoie le Amodule ẽ_{K}^{G}M(G) dans ẽ_{K}^{K}M(K). En fait, le groupe N_{G}(K) agit sur ce module: si x ∈ N_{G}(K), et si γ_{x} désigne la conjugaison par x, alors

(K × K/Δ_{γ_{x}}(K)) ×_{K} ẽ_{K}^{K} = ẽ_{K}^{K} ×_{K} (K × K/Δ_{γ_{x}}(K))

et l’image de b est contenue dans (ẽ_{K}^{K}M(K))^{N_{G}(K)}: en effet

(K × K/Δ_{γ_{x}}(K)) ×_{K} (K × G/Δ(K)^{∗}) ×_{G} ẽ_{K}^{G} =
= (K × K/Δ_{γ_{x}}(K)) ×_{K} ẽ_{K}^{K} ×_{K} (K × G/Δ(K)^{∗}) =

= ẽ_{K}^{K} ×_{K} (K × K/Δ_{γ_{x}}(K)) ×_{K} (K × G/Δ(K)^{∗}) =
= ẽ_{K}^{K} ×_{K} (K × G/Δ(K)^{∗}) ×_{G} (G × G/Δ_{γ_{x}}(G))

De plus G × G/Δ_{γ_{x}}(G) = G × G/Δ(G). Donc

(K × K/Δ_{γ_{x}}(K)) ×_{K} (K × G/Δ(K)^{∗}) ×_{G} ẽ_{K}^{G} = ẽ_{K}^{K} ×_{K} (K × G/Δ(K)^{∗}) =

= (K × G/Δ(K)^{∗}) ×_{G} ẽ_{K}^{G}

J’ai donc bien Im b ⊆ (ẽ_{K}^{K}M(K))^{N_{G}(K)}.

Comme de plus

(G × K/Δ(K)) ×_{K} (K × G/Δ(K)^{∗}) = G × G/Δ(K) = G̃/K

il vient

G × G/Δ(K) ×_{G} ẽ_{K}^{G} = ˜ (G/Ke_{K}^{G}) = |(G/K)^{K}|ẽ_{K}^{G} = |N_{G}(K)/K|ẽ_{K}^{G}

En d’autre termes, le produit a.b est égal à |N_{G}(K)/K|Id_{ẽ_{K}^{G}M(G)}.

Inversement

(K × G/Δ(K)^{∗}) ×_{G} (G × K/Δ(K)) = ∑_{x∈K\G/K} K × K/Δ(K ∩^{x} K)^{(1,x)} (3)

Pour calculer le produit par ẽ_{K}^{K} de ces expressions, j’utilise le lemme suivant:

Lemme 15: Soient G et H des groupes finis, soit X un G-ensemble-H, et Y un H ensemble. Alors l’ensemble (X ×_{H} Ỹ) s’identifie au produit X × Y, sur lequel le couple (g, h) de G × H agit par

g.(x, y).h = (gxh, h^{−1}y)

Corollaire: Si K est un sous-groupe de G × H, alors

|(X ×_{H} Ỹ)^{K}| = |X^{K}||Y^{p_{2}(K)}|

En effet, le point x ×_{H} (y, h) de X ×_{H} Ỹ est égal au point xh ×_{H} (h^{−1}y, 1). L’application

x ×_{H} (y, h) ∈ X ×_{H} Ỹ ↦ (xh, h^{−1}y) ∈ X × Y

fournit l’identification souhaitée, l’application inverse étant donnée par

(x, y) ∈ X × Y ↦ x ×_{H} (y, 1) ∈ X ×_{H} Ỹ

Le point (x, y) de X × Y est alors invariant par (g, h) ∈ K si

g.(x, y).h^{−1} = (gxh^{−1}, hy) = (x, y)

ce qui prouve le corollaire.

Revenant à l’égalité (3), je vois que si

Z_{x} = (K × K/Δ(K ∩^{x} K)^{(1,x)}) ×_{K} ẽ_{K}^{K}

et si H est un sous-groupe de K ×K, alors |Z_{x}^{H}| = 0 sauf si p_{2}(H) = K et si H est contenu dans Δ(K ∩^{x} K) à conjugaison près par K ×K. Donc Z_{x} = 0 si K ≠^{x} K, i.e. si x ∉ N_{G}(K). Et si x ∈ N_{G}(K), alors en notant γ_{x} l’homomorphisme de conjugaison par x de K dans K, je peux écrire Z_{x} = K×K/Δ_{γ_{x}}(K), et finalement

(K × G/Δ(K)^{∗}) ×_{G} (G × K/Δ(K)) ×_{K} ẽ_{K}^{K} = ∑_{x∈N_{G}(K)/K}(K × K/Δ_{γ_{x}}(K)) ×_{K} ẽ_{K}^{K}

de sorte que ba n’est autre que l’application de trace relative T r_{1}^{N_{G}(K)/K}. Alors si a′ est la restriction de a à (ẽ_{K}^{K}M(K))^{N_{G}(K)}, j’ai

ba′ = |N_{G}(K)/K|Id_{(ẽ_{K}^{K}M(K))^{N_{G}(K)}} eta′b = |N_{G}(K)/K|Id_{ẽ_{K}^{G}M(G)}

En particulier, l’application b est un isomorphisme de ẽ_{K}^{G}M(G) sur (ẽ_{K}^{K}M(K))^{N_{G}(K)}.

Comme les e_{K}^{G}, pour K modulo G, sont deux à deux orthogonaux de somme l’identité, il en est de même des ẽ_{K}^{G}, et

M(G) = ⊕_{Kmod. G}ẽ_{K}^{G}M(G) = ⊕_{Kmod. G}(ẽ_{K}^{K}M(K))^{N_{G}(K)}

Proposition 7: Si A est un corps de caractéristique 0, et si M est un foncteur de F onct_{A}(C), alors pour tout groupe fini G

M(G) = ⊕_{Kmod. G}(ẽ_{K}^{K}M(K))^{N_{G}(K)}

Remarques: a) Le module ẽ_{K}^{K}M(K) est une sorte de “résidu en K” du foncteur M: c’est l’ensemble des m de M(K) tels que

M(H × K/Δ(H)^{∗}).m = 0 pour tout sous-groupe propre H de K

Cette notion de résidu n’est pas tout à fait satisfaisante, car elle ne tient compte que des restrictions, et ignore les points cofixes.

b) Le même raisonnement que ci-dessus permet de montrer que les algèbres ẽ_{K}^{G}End(G)ẽ_{K}^{G} et (ẽ_{K}^{K}End(K)ẽ_{K}^{K})^{N_{G}(K)} sont isomorphes. Il suffit donc, pour décomposer ẽ_{K}^{G} en somme d’idempotents primitifs, d’étudier les algèbres ẽ_{K}^{K}End(K)ẽ_{K}^{K}, et leurs points fixes par l’action de G.

7.2 Les sous-foncteurs du foncteur de Burnside en caractéristique 0

Je suppose ici que A = k est un corps de caractéristique 0. Je vais étudier les sous-foncteurs du foncteur de Burnside.

7.2.1 Premier exemple

Je note tout d’abord que le foncteur L_{1,k} s’identifie au foncteur de Burnside: en effet, pour tout groupe fini G, j’ai

L_{1,k}(G) = Hom(1, G) ⊗_{End(1)} k

Or Hom(1, G) est le groupe de Grothendieck des G-ensembles-(1), i.e. des G ensembles, et End(1) est réduit à k. Donc L_{1,k}(G) = b(G), et cette identification est un isomorphisme de foncteurs.

Il en résulte que b a un unique sous-foncteur maximal J_{1,k}, défini par

J_{1,k}(G) = {X ∈ b(G) | ∀Y (1)-ensemble-G, Y ×_{G} X = 0}

Or si Y = 1 × G/1 × U et X = G × 1/V × 1, alors en identifiant End(1) à k, j’ai

Y ×_{G} X = |U\G/V |

La dimension du quotient S_{1,k}(G) = b(G)/J_{1,k}(G) est donc le rang de la forme bilinéaire sur b(G) qui au couple (G/U, G/V) associe < G/U, G/V >_{G}= |U\G/V |. Il est alors facile de voir que:

a) Si X et Y sont dans b(G), alors

< X, Y >_{G}=< XY, G/G >_{G}

En particulier, les e_{H}^{G} sont deux à deux orthogonaux pour la forme < , >_{G}.

b) Comme de plus

< e_{H}^{G}, e_{H}^{G} >_{G}=< e_{H}^{G}, G/G >_{G}= \frac{1}{|N_{G}(H)|} ∑_{K⊆H} |K|χ̃]K, H[=

= \frac{1}{|N_{G}(H)|} ∑_{x∈G} ∑_{<x>⊆K⊆H} χ̃]K, H[

il en résulte que

< e_{H}^{G}, e_{H}^{G} >_{G}= \frac{ϕ_{1}(G)}{|N_{G}(H)|}

en notant ϕ_{1}(G) le nombre d’éléments x de G tels que < x >= G (nul si G n’est pas cyclique). La dimension de S_{1,k}(G) est donc le nombre de classes de conjugaison de sous-groupes cycliques de G.

Mais si je note R_{Q}(G) l’anneau des représentations rationnelles de G, je définis un objet de F onct_{k}(C) en tensorisant R_{Q}(G) par k. Il y a alors un morphisme évident de b dans k ⊗ R_{Q}, qui à un G-ensemble associe son caractère. L’image de ce morphisme admet S_{1,k} comme quotient, car S_{1,k} est l’unique quotient simple de b. Comme la dimension de k ⊗ R_{Q}(G) est précisément le nombre de classes de conjugaison de sous-groupes cycliques de G, il en résulte la

Proposition 8: Le foncteur S_{1,k} est isomorphe à k ⊗ R_{Q}, qui est donc un foncteur simple.

7.2.2 Les constantes m_{G,N}

Plus généralement, soit I un sous-foncteur de b. Alors:

a) Pour tout groupe fini G, le module I(G) est un idéal de b(G): j’ai déjà observé en effet que si X et Y sont des G-ensembles, alors Ỹ ×_{G} X s’identifie à Y X. Donc si X ∈ I(G), alors Y X ∈ I(G) pour tout Y de b(G). Comme b(G) est semisimple, il existe une partie A(G) de l’ensemble des sous-groupes de G telle que I(G) soit le sous-k-espace vectoriel de b(G) engendré par les e_{H}^{G}, pour H ∈ A(G).

b) Si H est un sous-groupe de G, je dois avoir

Ind_{H}^{G}I(H) ⊆ I(G)

et comme Ind_{H}^{G}e_{K}^{H} est un multiple non-nul de e_{K}^{G}, je dois avoir

H ⊆ G, K ∈ A(H) ⇒ K ∈ A(G)

c) De même, je dois avoir

Res_{H}^{G}I(G) ⊆ I(H)

et comme

Res_{H}^{G}e_{K}^{G} = ∑_{x∈\overline{T}_{G}(K,H)} e_{K^{x}}^{H}

j’ai l’implication

H ⊆ G, K ∈ A(G), x ∈ G, K^{x} ⊆ H ⇒ K^{x} ∈ A(H)

c) En particulier, si K ∈ A(G), alors K ∈ A(K). Inversement, si K ∈ A(K), alors K ∈ A(G). En notant A l’ensemble des groupes finis K pour lesquels K ∈ A(K), je vois que

A(G) = {K ⊆ G | K ∈ A}

d) Soit N un sous-groupe normal du groupe G, et U un sous-groupe de G contenant N. Alors

Inf_{G/N}^{G}e_{U/N}^{G/N} = ∑ ; \begin{matrix}XN = U \\ X mod. G \end{matrix} e_{X}^{G}

Donc, j’ai l’implication

U/N ∈ A, X ⊆ G, XN = U ⇒ X ∈ A

Autrement dit, puisque U/N est isomorphe à X/X ∩ N,

M ◁ X, X/M ∈ A ⇒ X ∈ A

d) Il reste à exprimer le fait que I doit être stable par coinflation. Or si N est un sous-groupe normal du groupe G, et si π désigne la projection de G sur G/N, il est facile de voir que si X est un G-ensemble, alors ((G/N) × G/Δ_{π}(G)) ×_{G} X s’identifie à l’ensemble N\X des orbites de N sur X, considéré comme G/Nensemble. Je noterai encore X ↦ N\X l’application b((G/N) × G/Δ_{π}(G)) de b(G) dans b(G/N).

Si Y ∈ b(G/N) et X ∈ b(G), il est facile de voir que

N\(X.Inf_{G/N}^{G}Y) = (N\X).Y

et en particulier si X = e_{H}^{G}, il vient

|Y^{HN/N}|(N\e_{H}^{G}) = (N\e_{H}^{G}).Y

et cela prouve qu’il existe une constante rationnelle m_{H,N}^{G} telle que

N\e_{H}^{G} = m_{H,N}^{G}e_{HN/N}^{G/N}

Ces constantes m_{H,N}^{G} peuvent toutes être déduites du cas où H = G: en effet,

e_{H}^{G} = \frac{1}{|N_{G}(H)/H|}Ind_{H}^{G}e_{H}^{H}

et de plus, pour tout Y de b(H)

N\Ind_{H}^{G}Y = Ind_{HN/N}^{G/N}θ((N ∩ H)\Y)

en notant θ l’isomorphisme de H/H ∩ N sur HN/N. Alors:

N\e_{H}^{G} = \frac{1}{|N_{G}(H)/H|}Ind_{HN/N}^{G/N}θ(m_{H,H∩N}^{H}e_{H/H∩N}^{H/H∩N}) = \frac{|N_{G}(HN)/HN|}{|N_{G}(H)/H|}m_{H,H∩N}^{H}e_{HN/N}^{G/N}

ce qui donne finalement

m_{H,N}^{G} = \frac{|N_{G}(HN)/HN|}{|N_{G}(H)/H|}m_{H,H∩N}

ou j’ai posé m_{H,H∩N} = m_{H,H∩N}^{H}.

Si N est un sous-groupe normal du groupe G, je note m_{G,N} le nombre rationnel tel que

N\e_{G}^{G} = m_{G,N}e_{G/N}^{G/N}

Comme N\(G/U) = (G/N)/(UN/N), la traduction de cette définition donne alors

\frac{1}{|G|} ∑_{X⊆G} |X|χ̃]X, G[(G/N)/(XN/N) = m_{G,N} \frac{1}{|G|} ∑_{N⊆Y ⊆G} |Y |χ̃]Y, G[(G/N)/(Y/N)

ce qui prouve le lemme suivant:

Lemme 16: Soit N un sous-groupe normal du groupe G, et Y un sousgroupe de G contenant N. Alors

∑_{XN=Y} |X|χ̃]X, G[= m_{G,N}|Y |χ̃]Y, G[

et en particulier

m_{G,N} = \frac{1}{|G|} ∑_{XN=G} |X|χ̃]X, G[

7.2.3 Les b-groupes

Ainsi, la famille A est telle que

a) Si G/N ∈ A, alors G ∈ A.

b) Si G ∈ A et si m_{G,N} ≠ 0, alors G/N ∈ A. Les éléments minimaux de A justifient alors la définition suivante:

Je dirai qu’un groupe fini G est un b-groupe si pour tout sous-groupe normal N non-trivial de G, la constante m_{G,N} est nulle.

Remarque: La constante m_{G,1} est toujours égale à 1, ce qui est bien normal. Plus généralement, si N est un sous-groupe du sous-groupe de Frattini de G, alors m_{G,N} = 1: en effet dans ce cas, l’égalité XN = G entraîne que X = G. En particulier, un b-groupe a un sous-groupe de Frattini trivial.

Le lemme suivant étudie le cas où j’ai deux sous-groupes normaux de G:

Lemme 17: Soit G un groupe fini, et N et M des sous-groupes normaux de G. Alors:

m_{G,N} = \frac{1}{|G|} ∑_{Y N=Y M=G} |Y |χ̃]Y, G[m_{G/M,(Y ∩N)M/M}

Remarque: L’énoncé ci-dessus a un sens, car si Y M = G, alors (Y ∩ N)M est un sous-groupe normal de G. La démonstration de ce lemme utilise le fait que si je note K_{]X,G[}(XM) l’ensemble des compléments dans ]X, G[ de XM, i.e. l’ensemble des sous-groupes U de G contenant X tels que UM = G et U ∩ XM = X, alors l’ensemble ]X, G[−K_{]X,G[}(XM) est contractile (cf. [BO2]). Si i est l’inclusion de cet ensemble dans ]X, G[, et si Y ∈]X, G[, alors i^{Y} est contractile si Y n’est pas un complément de XM, et égal à ]X, Y [ sinon. Il vient

χ̃]X, G[= ∑ ; Y M = G ; \begin{matrix}Y ⊇ X \\ Y ∩ M = X ∩ M \end{matrix} χ̃]X, Y [χ̃]Y, G[

et cette égalité reste vraie même dans le cas où M est contenu dans X, ou dans le cas où XM = G, ces deux cas étant un peu douteux dans le raisonnement ci-dessus, puisqu’alors XM ∉]X, G[.

Je peux donc écrire

m_{G,N} = \frac{1}{|G|} ∑_{X,Y} |X|χ̃]X, Y [χ̃]Y, G[

où je somme sur les couples (X, Y) de sous-groupes de G tels que

X ⊆ Y, XN = G, Y M = G, Y ∩ M = X ∩ M

Ces conditions se résument à

Y N = Y M = G, X(Y ∩ N) = M, X ⊇ Y ∩ M

Alors, pour Y donné, la somme en X revient à sommer sur un sous-groupe R (égal à X/Y ∩ M) de Y/Y ∩ M, tel que

R.(Y ∩ N)(Y ∩ M)/(Y ∩ M) = Y/Y ∩ M

La somme en X est donc égale à

|Y ∩ M| ∑_{R} |R|χ̃]R, Y/Y ∩ M[= |Y ∩ M||Y/Y ∩ M|m_{Y/Y ∩M,(Y ∩N)(Y ∩M)/(Y ∩M)}

Or le groupe Y/Y ∩ M est isomorphe à G/M, et cet isomorphisme envoie le sous-groupe (Y ∩ N)(Y ∩ M)/(Y ∩ M) sur (Y ∩ N)M/M. Finalement

m_{G,N} = \frac{1}{|G|} ∑_{Y N=Y M=G} |Y |χ̃]Y, G[m_{G/M,(Y ∩N)M/M}

ce qui prouve le lemme.

En particulier, si N ⊇ M, et si Y M = G, alors N = (Y ∩ N)M et

m_{G,N} = \frac{1}{|G|} ∑_{Y M=G} |Y |χ̃]Y, G[m_{G/M,N/M} = m_{G,M}m_{G/M,N/M}

relation de transitivité qu’il est d’ailleurs immédiat de déduire de la définition des constantes m_{G,N}. Elle montre que si M est un sous-groupe normal maximal de G tel que m_{G,M} ≠ 0, alors G/M est un b-groupe. Elle montre aussi qu’un groupe G est un b-groupe si et seulement si m_{G,N} = 0 pour tout sous-groupe normal minimal non-trivial N de G.

Soient donc M et N deux sous-groupes normaux de G. Si G/M est un bgroupe, l’égalité du lemme 17 devient

m_{G,N} = \frac{1}{|G|} ∑ ; \begin{matrix}Y N = Y M = G \\ Y ∩ N ⊆ M \end{matrix} |Y |χ̃]Y, G[

Alors si m_{G,N} ≠ 0, il existe un sous-groupe Y de G tel que Y N = Y M = G, et Y ∩ N ⊆ M. Alors le groupe G/M, isomorphe à Y/Y ∩ M, est un quotient du groupe Y/Y ∩ N, isomorphe à G/N. Donc si M′ est un sous-groupe normal maximal de G tel que m_{G,M′} ≠ 0, le quotient G/M′ est un b-groupe, donc quotient de G/N. Et puisque m_{G,M′} ≠ 0, le groupe G/M est quotient de G/M′. Alors si M′′ est un autre sous-groupe normal maximal de G tel que m_{G,M′′} ≠ 0, les quotients G/M′ et G/M′′ sont isomorphes. Je noterai β(G) ce quotient commun. Tout b-groupe quotient de G est quotient de β(G), et si N est un sous-groupe normal de G tel que m_{G,N} ≠ 0, alors β(G) est quotient de G/N. D’où:

Proposition 9: Soit G un groupe fini. Il existe un unique quotient β(G) de G tel que

1. Si H est un b-groupe quotient de G, alors H est quotient de β(G).

2. Si N est un sous-groupe normal de G tel que m_{G,N} ≠ 0, alors β(G) est quotient de G/N.

Remarque: En général, il existe plusieurs sous-groupes normaux M de G tels que G/M soit isomorphe à β(G): le noyau d’une surjection de G dans β(G) n’est pas déterminé de manière unique.

Soient N et M deux sous-groupes normaux de G, tels que les quotients G/N et G/M soient isomorphes à β(G). Alors:

m_{G,N} = \frac{1}{|G|} ∑ ; \begin{matrix}Y N = Y M = G \\ Y ∩ N ⊆ M \end{matrix} |Y |χ̃]Y, G[

et je peux sommer sur le groupe Z = Y (M ∩ N). Il vient

m_{G,N} = \frac{1}{|G|} ∑ ; \begin{matrix}ZM = ZN = G \\ Z ∩ N = M ∩ N \end{matrix} ∑_{Y (M∩N)=Z} |Y |χ̃]Y, G[

ou encore par le lemme 16

m_{G,N} = \frac{m_{G,M∩N}}{|G|} ∑ ; \begin{matrix}ZM = ZN = G \\ Z ∩ N = M ∩ N \end{matrix} |Z|χ̃]Z, G[

et comme G/N et G/M sont isomorphes, les conditions

ZN = ZM = G, Z ∩ N = M ∩ N

entraînent que Z ∩ M = M ∩ N. L’expression de m_{G,N} ci-dessus devient alors symétrique en M et N, ce qui prouve que m_{G,N} = m_{G,M}. Je noterai m(G) cette constante commune, qui est non-nulle d’après les remarques ci-dessus.

Il est possible de modifier un peu cette expression de m(G): en effet, dire que

ZN = ZM = G, Z ∩ N = Z ∩ M = M ∩ N

revient à dire que le groupe Z′ = Z/M ∩ N est un complément commun des sous-groupes normaux N′ = N/M ∩ N et M′ = M/M ∩ N dans le groupe G′ = G/M ∩ N. L’intervalle ]Z, G[ s’identifie à ]Z′, G′[. Ce dernier est lui même isomorphe à ]1, N′[^{Z′} par l’application

U ∈]Z′, G′[↦ U ∩ N′ ∈]1, N′[^{Z′}

dont l’application inverse est

V ∈]1, N′[^{Z′}↦ V Z′ ∈]Z′, G′[

Et comme N′ ∩ M′ = (1), les groupe N′ et M′ se centralisent, donc

]1, N′[^{Z′}=]1, N′[^{Z′M′}=]1, N′[^{G′}

qui s’identifie aussi à ]M ∩ N, N[^{G}. Finalement

m(G) = m_{G,N} = m_{G,M} =

\frac{m_{G,M∩N}|M ∩ N|}{|G|}χ̃]M ∩ N, N[^{G}|K_{G/M∩N}(M/M ∩ N) ∩ K_{G/M∩N}(N/M ∩ N)|

Plus généralement, si M et N sont des sous-groupes normaux de G tels que G/M soit isomorphe à G/N, je vais montrer que m_{G,M} = m_{G,N}. J’utiliserai le lemme suivant:

Lemme 18: Soit N un sous-groupe normal du groupe G. Les conditions suivantes sont équivalentes:

1. La constante m_{G,N} est non-nulle.

2. Le groupe β(G/N) est isomorphe à β(G).

En effet, si m_{G,N} ≠ 0, alors β(G) est quotient de G/N. C’est un b-groupe, il est donc quotient de β(G/N). Mais β(G/N) est un b-groupe quotient de G/N, donc de G, donc de β(G). Donc β(G) et β(G/N) sont isomorphes.

Inversement, si β(G) et β(G/N) sont isomorphes, soit M/N un sous-groupe de G/N tel que (G/N)/(M/N) soit isomorphe à β(G/N). Alors

m_{G,M} = m_{G,N}m_{G/N,M/N}

Mais comme G/M est isomorphe à β(G), j’ai m_{G,M} = m(G) ≠ 0. De même, j’ai m_{G/N,M/N} = m(G/N) ≠ 0, donc m_{G,N} = m(G)/m(G/N) ≠ 0. D’où le lemme.

Alors si M et N sont des sous-groupes normaux de G tels que G/M soit isomorphe à G/N, et si m_{G,N} = 0, le lemme 18 montre que comme β(G/M) n’est pas isomorphe à β(G), j’ai aussi m_{G,M} = 0. Et si m_{G,N} et m_{G,M} sont tous deux non-nuls, alors ils sont égaux à m(G)/m(G/N). Donc:

Corollaire: Si M et N sont des sous-groupes normaux de G tels que G/M soit isomorphe à G/N, alors m_{G,M} = m_{G,N}.

7.2.4 Les sous-foncteurs de b

Considérant de nouveau l’ensemble A défini à partir du sous-foncteur I du foncteur de Burnside, je note B l’ensemble des éléments de A qui n’ont aucun quotient propre dans A. Alors B est formé de b-groupes: en effet, si N ◁ G ∈ A, et si m_{G,N} ≠ 0, alors G/N ∈ A.

De plus si un groupe G a un quotient dans B, alors G ∈ A. Inversement, si G ∈ A, et si H est un quotient minimal de G qui soit dans A, alors H ∈ B.

Donc A est l’ensemble des groupes qui ont un quotient dans B. Inversement, si B est un ensemble de b-groupes, soit A_{B} l’ensemble des groupes ayant un quotient dans B. Je pose

I_{B}(G) =< e_{H}^{G} | H ⊆ G, H ∈ A_{B} >⊆ b(G)

Cette expression définit un sous-foncteur I_{B} de b: il est clair que I_{B} est stable par restriction et induction. Il est de même stable par inflation, car tout groupe ayant un quotient dans A_{B} est dans A_{B}. Enfin, si H ∈ A_{B}, si B ∈ B est un quotient de H et si N ◁ H est tel que m_{H,N} ≠ 0, alors B est un b-groupe quotient de H. Donc B est quotient de β(H), et β(H) ∈ A_{B}. Mais comme m_{H,N} ≠ 0, j’ai β(H) = β(H/N), donc H/N a un quotient dans B, et H/N ∈ A_{B}. Donc I_{B} est stable par coinflation, et c’est donc un sous-foncteur de b.

Ainsi tout sous-foncteur de b est de la forme I_{B}, pour un ensemble B convenable de b-groupes. Soient alors I_{B} ⊂ I_{B′} deux sous-foncteurs de b, tels que le quotient I_{B′}/I_{B} soit simple, isomorphe à S_{H,V}, pour un groupe H et un Ext(H)- module V. Alors le quotient I_{B′}(H)/I_{B}(H) est isomorphe à V, et I_{B′}(K) = I_{B}(K) pour tout groupe K d’ordre strictement plus petit que |H|.

En particulier, si K est un sous-groupe propre de H qui est dans A_{B′}, alors K est dans A_{B}. Comme I_{B′}(H) ≠ I_{B}(H), il s’ensuit que H ∈ A_{B′} − A_{B}. Alors, si H ≠ β(H), le groupe β(H) est dans A_{B}: en effet, l’idempotent e_{H}^{H} est dans I_{B′}(H), et si N ◁ H est tel que H/N = β(H), alors m_{H,N} ≠ 0, donc e_{β(H)}^{β(H)} ∈ I_{B′}(H) = I_{B}(H). Alors H a un quotient dans A_{B}, donc H est dans A_{B}.

Cela prouve donc que H = β(H), donc que H est un b-groupe. De plus, le quotient I_{B′}(H)/I_{B}(H) est non-trivial, mais il est au plus engendré par e_{H}^{H}. Cet élément est invariant par Ext(H), ce qui prouve que V est le module trivial. Donc si S_{H,V} intervient dans b, alors H est un b-groupe et V est le module trivial.

Inversement, si H est un b-groupe, soit I_{B} un sous-foncteur propre du foncteur I_{{H}}. Alors si B ∈ B, le groupe B est dans A_{{H}}, donc H est un quotient de B. Et comme I_{B} ≠ I_{{H}}, le groupe H n’a aucun quotient dans B. Alors B est contenu dans l’ensemble B_{H} des b-groupes qui admettent H comme quotient propre. Donc I_{B} est contenu dans I_{B_{H}}. Comme le groupe H n’a aucun quotient dans B_{H}, j’ai I_{B_{H}} ≠ I_{{H}}, et I_{B_{H}} est l’unique sous-foncteur maximal de I_{{H}}.

Le quotient I_{{H}}/I_{B_{H}} est alors simple, isomorphe à S_{K,k}, pour un b-groupe K convenable. Comme aucun sous-groupe de H n’admet H comme quotient propre, j’ai I_{B_{H}}(H) = 0. D’autre part, le module I_{{H}}(H) est engendré par e_{H}^{H}. Donc S_{K,k}(H) est isomorphe à k. Et si L est un groupe d’ordre strictement inférieur à |H|, alors I_{{H}}(L) = I_{B_{H}}(L) = 0, donc S_{K,k}(L) = 0. Par définition de S_{K,k}, il en résulte que K = H, donc que le foncteur S_{H,k} intervient dans b. D’où

Proposition 10: Soit H un groupe et V un kExt(H)-module simple. Le foncteur S_{H,V} intervient dans le foncteur de Burnside si et seulement si H est un b-groupe et V = k.

Si G est un groupe et H est un b-groupe, alors S_{H,k}(G) est isomorphe au quotient I_{{H}}(G)/I_{B_{H}}(G). Il a donc comme dimension sur k le nombre de classes de conjugaison de sous-groupes K de G qui admettent H comme quotient, mais qui n’ont aucun quotient dans B_{H}. Si K est un tel groupe, alors H est quotient de β(K), car c’est un b-groupe quotient de K. Alors si β(K) ≠ H, le groupe β(K) est dans B_{H}, et le groupe K a un quotient dans B_{H}. Donc β(K) = H. Inversement, si K est un groupe tel que β(K) = H, et si L est un b-groupe quotient de K, alors L est quotient de H, et H ne peut pas être quotient propre de L.

Donc

Proposition 11: Soit G un groupe et H un b-groupe. Le module S_{H,k}(G) a pour dimension sur k le nombre de classes de conjugaison de sousgroupes K de G tels que β(K) = H.

Remarque: Dire que β(K) = 1 revient à dire que m_{K,K} ≠ 0, donc que K est cyclique. La dimension de S_{1,k}(G) est donc bien le nombre de classes de conjugaison de sous-groupes cycliques de G.

Il reste à trouver la “multiplicité” de S_{H,k} comme “facteur de composition” de b: si i_{H} est un idempotent de End(H) tel que End(H)i_{H} soit une enveloppe projective du kExtH-module k étendu à End(H), cette multiplicité est par définition la dimension de Hom_{F onct}(L_{H,End(H)i_{H}}, b) (cf. Lemme 2), ou encore la dimension de i_{H}b(H). Comme ẽ_{K}^{H} agit par 0 sur k si K est un sous-groupe propre de G, je peux supposer que i_{H} ∈ ẽ_{H}^{H}End(H)ẽ_{H}^{H}. Alors

dim_{k} i_{H}b(H) ≤ dim_{k} ẽ_{H}^{H}b(H)

De plus ẽ_{H}^{H} ×_{H} H/U = 0 si U ≠ H, et ẽ_{H}^{H} ×_{H} H/H = e_{H}^{H} (cf. lemme 15). Donc ẽ_{H}^{H}b(H) est de dimension 1. Comme S_{H,k} intervient dans b, le module i_{H}b(H) est non-nul. Il est donc de dimension 1.

Proposition 12: Si H est un b-groupe, le foncteur S_{H,k} intervient une seule fois dans b.

Remarque: Le foncteur de Burnside admet une “suite de composition”, au sens suivant: soient H_{1}, H_{2}, … H_{n}, … les classes d’isomorphisme de b-groupes, rangées dans un ordre tel que

i < j ⇒ |H_{i}| ≤ |H_{j}|

et soit B_{n} = {H_{n}, H_{n+1}, …}. Alors B_{n} ⊃ B_{n+1}. De plus, le quotient I_{B_{n}}/I_{B_{n+1}} est isomorphe à S_{H_{n},k}, et l’intersection ∩_{n}I_{B_{n}} est nulle. Chaque facteur S_{H,k}, pour H b-groupe, apparait exactement une fois comme quotient de cette suite.

7.2.5 Exemples de b-groupes

1) J’ai déjà observé que β(G) est trivial si et seulement si G est cyclique. Ainsi, le seul groupe cyclique qui est un b-groupe est le groupe trivial.

2) Si Φ(G) est le sous-groupe de Frattini de G, alors il est clair que pour tout sous-groupe normal N de G

m_{G,N} = m_{G,NΦ(G)}

puisque XN = G ⇔ X(NΦ(G)) = G. En particulier, si G est un b-groupe, alors Φ(G) = (1). Donc si G est de plus un p-groupe, alors G est abélien élémentaire.

3) Soit N un sous-groupe normal minimal d’un groupe G. Si N est abélien, et si X est un sous-groupe propre de G tel que XN = G, alors X est un complément de N, et X est un sous-groupe maximal de G: en effet, si X ⊆ Y, alors Y ∩ N est un sous-groupe normal de G (car il est normalisé par Y et N qui est abélien, donc par Y N = G). Donc ou bien Y ∩ N = N et Y = G, ou bien Y ∩ N = (1), et Y = X est un complément de N.

Cette remarque permet de calculer m_{G,N}: en notant K_{G}(N) l’ensemble des compléments dans G de N, j’ai

m_{G,N} = 1 − \frac{|K_{G}(N)|}{|N|}

4) Il résulte des points 1), 2) et 3) que si G est un p-groupe non-trivial qui est aussi un b-groupe, alors G est isomorphe à (Z/pZ)^{2}.

5) Le cas des b-groupes nilpotents sera réglé par les points précédents si je sais ce qui se passe pour un produit direct de groupes (d’ordres premiers entre eux). Il est commode pour cela de généraliser les calculs relatifs aux constantes m_{G,N}.

Soit (X_{S}) une suite de variables indexée par les classes de groupes finis simples S. Si G est un groupe fini, je note v_{S}(G) la multiplicité de S comme facteur de composition de G, et je pose

P (G) = ∏_{S} X_{S}^{v_{S}(G)}

considéré comme un polynôme de Z[(X_{S})]. Je pose

P̃(G) = ∑_{H⊆G} P (H)χ̃]H, G[

La propriété “générique” de l’application G ↦ P (G) est que si N est un sousgroupe normal de G, alors

P (G) = P (N)P (G/N)

De même:

Lemme 19: Soit N un sous-groupe normal du groupe G. Je pose

Q_{G,N} = ∑_{Y N=G} P (Y ∩ N)χ̃]Y, G[

Alors si R est un sous-groupe de G contenant N

∑_{HN=R} P (H)χ̃]H, G[= Q_{G,N}P (R/N)χ̃]R/N, G/N[

et en particulier

P̃(G) = P̃(G/N)Q_{G,N}

La démonstration de ce lemme est analogue à celle du lemme 17: je sais que

χ̃]H, G[= ∑ ; Y N = G ; \begin{matrix}Y ⊇ H \\ Y ∩ N = H ∩ N \end{matrix} χ̃]H, Y [χ̃]Y, G[

Mais si HN = R, j’ai P (H)P (N) = P (R)P (H ∩ N), ou encore

P (H) = P (R/N)P (H ∩ N)

De plus, si Y N = G et Y ∩ N = H ∩ N, alors ]H, Y [ est isomorphe à ]HN, G[, donc à ]R/N, G/N[ si HN = R. D’où la première égalité.

Alors dans la somme définissant P̃(G), je regroupe les termes H correspondant à un groupe HN = R donné. Il vient

P̃(G) = ∑_{N⊆R⊆G} ∑_{HN=R} P (H)χ̃]H, G[

et la première égalité prouve alors le lemme.

La démonstration du lemme 17, transcrite mot pour mot ici, donne le

Lemme 20: Soient M et N des sous-groupes normaux du groupe G. Alors

Q_{G,N} = ∑_{Y N=Y M=G} P (Y ∩ N ∩ M)χ̃]Y, G[Q_{G/M,(Y ∩N)M/M}

En particulier, si G est le produit direct M × N, alors dire que Y N = Y M = G revient à dire que la première projection de Y est égale à M et sa seconde projection à N. Dans ces conditions:

Lemme 21: Si Y est un sous-groupe de M × N tel que p_{1}(Y) = M et p_{2}(Y) = M, alors ]Y, M ×N[ s’identifie à ](1), q(Y)[^{q(Y)}, ensemble des sousgroupes normaux propres non-triviaux de q(Y).

En effet, soit s (resp. t) une surjection de M dans q(Y) (resp. de N dans q(Y)), telle que

Y = {(m, n) ∈ M × N | s(m) = t(n)}

Si Z est un sous-groupe de M × N contenant Y, alors f(Z) = s(k_{1}(Z)) est un sous-groupe normal de q(Y). Inversement, si P est un sous-groupe normal de q(Y), alors

g(P) = {(m, n) ∈ M × N | s(m)t(n)^{−1} ∈ P }

est un sous-groupe de M × N contenant Y. Il est facile de voir que f et g sont des bijections inverses l’une de l’autre, ce qui prouve le lemme.

Dans le cas où G = M × N, le lemme 20 s’écrit

Q_{M×N,N} = ∑_{p_{1}(Y)=M, p_{2}(Y)=N} χ̃](1), q(Y)[^{q(Y)}Q_{N,k_{2}(Y)}

ou encore puisque Q_{G,N} = \frac{P̃(G)}{P̃(G/N)}, et puisque N/k_{2}(Y) = q(Y)

Lemme 22: Soient M et N des groupes finis. Alors

P̃(M × N) = P̃(M)P̃(N) ∑_{p_{1}(Y)=M, p_{2}(Y)=N} \frac{χ̃](1), q(Y)[^{q(Y)}}{P̃(q(Y))}

En particulier, si M et N n’ont aucun quotient commun non-trivial, alors

P̃(M × N) = P̃(M)P̃(N)

Remarques:a) Il n’y a pas de problème à diviser par P̃(q(Y)): en effet, si G est un groupe, alors P̃(G) ≠ 0, car le terme de plus haut degré de P̃(G) est égal à P (G), donc non-nul.

b) L’ensemble des sous-groupes normaux propres non-triviaux d’un groupe G est contractile, sauf si G est produit direct de ses sous-groupes normaux minimaux, i.e. produit direct de groupes simples (dans le cas contraire, le groupe G admet en effet un sous-groupe normal propre non-trivial n’ayant aucun complément normal dans G). En notant G_{s} le plus grand quotient semi-simple de G, le lemme 22 montre en fait que

\frac{P̃(M × N)}{P̃(M_{s} × N_{s})} = \frac{P̃(M)}{P̃(M_{s})} \frac{P̃(N)}{P̃(N_{s})}

D’autre part, si S est un groupe simple, et k un entier positif, en posant M = S^{k−1} et N = S, le lemme 22 permet de calculer

P̃(S^{k}) = P̃(S^{k−1})P̃(S)(1 − \frac{s(S^{k−1}, S)}{P̃(S)})

ce qui donne

P̃(S^{k}) = ∏_{i=0}^{k−1}(P̃(S) − s(S^{i}, S))

en notant s(S^{k−1}, S) le nombre de surjections de S^{k−1} dans S, égal à p^{k−1} − 1 si S = Z/pZ, et à (k − 1)|Aut(S)| si S est non-abélien. L’ensemble de ces formules permet donc le calcul de P̃(M ×N) en fonction de P̃(M), de P̃(N) et des groupes M_{s} et N_{s}.

Proposition 13: Soient M et N des groupes n’ayant aucun quotient commun non-trivial. Alors β(M × N) = β(M) × β(N), et m(M × N) = m(M)m(N).

En effet, soit A un sous-groupe normal de M tel que M/A = β(M), et B un sous-groupe normal de N tel que N/B = β(N). Je peux écrire

P̃(M × N) = P̃(M)P̃(N)

et

P̃(M × N/(A × B)) = P̃(M/A)P̃(N/B)

En faisant le quotient de ces deux égalités, il vient

Q_{M×N,A×B} = Q_{M,A}Q_{N,B} (1)

De plus la définition de Q_{M,A} donne

Q_{M,A} = ∑_{HA=M} P (H ∩ A)χ̃]H, M[

En multipliant cette égalité par P (M), comme P (H)P (A) = P (M)P (H ∩ A) si HA = M, il vient

P (M)Q_{M,A} = P (A) ∑_{HA=M} P (H)χ̃]H, G[

Je noterai p (resp. q, p̃) l’évaluation du polynôme P (resp. Q, P̃) obtenue en remplaçant pour tout groupe simple S la variable X_{S} par |S|. Alors p(G) = |G|, et l’évaluation de l’égalité ci-dessus donne

|M|q_{M,A} = |A||M|m_{M,A}

par définition de m_{M,A}. Donc q_{M,A} = |A|m_{M,A}, et l’évaluation de l’égalité (1) donne

|A||B|m_{M×N,A×B} = |A|m_{M,A}|B|m_{N,B}

soit

m_{M×N,A×B} = m_{M,A}m_{N,B} = m(M)m(N) (2)

Donc m_{M×N,A×B} ≠ 0, et β(M × N) est un quotient de M × N/(A × B) = β(M) × β(N).

Mais β(M) et β(N) sont des b-groupes quotient de M ×N, donc de β(M ×N). Si s (resp. t) est une surjection de β(M × N) dans β(M) (resp. dans β(N)), et si Y est l’image de β(M × N) par s × t dans β(M) × β(N), alors p_{1}(Y) = β(M), et p_{2}(Y) = β(N). Comme β(M) et β(N) n’ont aucun quotient commun, il en résulte que q(Y) = (1), donc que Y = β(M) × β(N). Alors β(M) × β(N) est un quotient de β(M ×N), et ces groupes sont donc isomorphes. La seconde assertion de la proposition résulte alors de l’égalité (2).

Corollaire: Si M et N sont des b-groupes n’ayant aucun quotient commun non-trivial, alors M × N est un b-groupe.

C’est le cas M = β(M) et N = β(N) de la proposition.

Alors soit G un groupe nilpotent. Le groupe G est produit direct de ses p-Sylows. Soit I l’ensemble des nombres premiers p pour lesquels le p-Sylow S_{p} de G n’est pas cyclique. Il résulte du point 4) que β(S_{p}) = (1) si p ∉ I, et que β(S_{p}) = (Z/pZ)^{2} sinon. Alors β(G) est le produit direct des groupes (Z/pZ)^{2} pour p ∈ I. En notant n le produit des éléments de I, j’ai donc

β(G) = (Z/nZ)^{2}

et n est un entier sans facteur carré. Donc si G est un b-groupe nilpotent, alors il existe un entier n sans facteur carré tel que G soit isomorphe à (Z/nZ)^{2}. Inversement, un tel groupe est le produit pour p divisant n des groupes (Z/pZ)^{2}, qui sont des b-groupes sans quotient commun non-trivial. Alors G est un b-groupe, ce qui prouve la proposition suivante:

Proposition 14: Les conditions suivantes sont équivalentes:

1. Le groupe G est un b-groupe nilpotent.

2. Il existe un entier n sans facteur carré tel que G soit isomorphe à (Z/nZ)^{2}.

6) Si S est un groupe simple non-abélien, alors S est évidemment un b-groupe. Le calcul de P̃(S^{k}) effectué ci-dessus permet de montrer que S^{k} est un b-groupe si et seulement si k = 0 ou k = 1. Donc si G est un b-groupe semi-simple, alors G est le produit direct d’un b-groupe nilpotent (voir ci-dessus) et d’un produit de groupes simples non-abéliens deux à deux non isomorphes. Inversement, de tels groupes sont des b-groupes.

7) Les groupes symétriques S_{n}, pour n ≠ 2, sont des b-groupes: en effet, le seul quotient propre non-trivial de S_{n}, pour n = 3 ou n ≥ 5 est Z/2Z, qui n’est pas un b-groupe. Or β(S_{n}) n’est pas trivial car S_{n} n’est pas cyclique. Le cas n = 4 se traite en montrant de plus que si N est le sous-groupe normal d’ordre 4 de S_{4}, alors m_{S_{4},N} = 0: en effet, N est un sous-groupe normal minimal de S_{4}, et N a 4 = |N| compléments dans S_{4} (cf. point 3)).

8) Plus généralement, un groupe résoluble G est un b-groupe si et seulement si tout sous-groupe normal minimal N de G a exactement |N| compléments dans G. Si N est non-central, cela revient à dire que N admet des compléments dans G, tous conjugués. Et si N est central, d’ordre premier p, cela revient à dire que G = N × H, où H est un groupe tel que le p-Sylow de H/[H, H] soit cyclique et non-trivial.

8 Exemples de foncteurs simples

L’exemple des foncteurs S_{H,k}, lorsque H est un b-groupe et k un corps de caractéristique 0 montre que les foncteurs simples ont une structure assez complexe: que-dire en effet du nombre de classes de conjugaison de sous-groupes K d’un groupe G pour lesquels β(K) = H? Que dire de S_{H,k} lorsque H n’est pas un b-groupe, où lorsque k est un corps de caractéristique p > 0?

Tout d’abord une remarque, valable dans le cas général: j’ai vu que si S_{X,V} est un objet simple de F onct_{A}(C), et si Y est un objet de C, alors

S_{X,V} (Y) = Hom(X, Y)⊗_{End(X)}V/{∑_{i} ϕ_{i}⊗v_{i} | ∀ψ ∈ Hom(Y, X), ∑_{i}(ψϕ_{i})v_{i} = 0}

Mais si v ∈ V −{0}, comme V est un End(X)-module simple, alors V = End(X)v. Alors l’application de Hom(X, Y) dans S_{X,V} (Y) qui à ϕ associe l’image de ϕ ⊗ v est surjective. Son noyau est l’ensemble des ϕ tels que pour tout ψ ∈ Hom(Y, X), le produit ψϕ annule v. Donc, j’ai aussi

S_{X,V} (Y) = Hom(X, Y)/{ϕ | ∀ψ ∈ Hom(Y, X), (ψϕ)v = 0}

formule un peu plus simple, mais moins canonique.

8.1 Le cas des foncteurs de Mackey globaux

C’est le cas où les foncteurs simples sont vraiment simples... Ici, l’anneau A est un corps k quelconque, et la catégorie considéré est la catégorie D = C_{P,Q}, lorsque P et Q sont réduites au groupe trivial. Les objets de D sont donc les groupes finis, et si H et G sont deux groupes finis, alors Hom_{D}(H, G) est le produit tensoriel par k du groupe de Grothendieck des G-ensembles-H qui sont libres à gauche et à droite.

Alors un objet de F onct_{k}(D) n’est autre que ce que Webb appelait un foncteur de Mackey global (cf. [WE1]): il ne tient compte que de l’induction, la restriction, et du transport par isomorphisme.

Soit H un groupe fini, et V un kExt(H) module simple. Je vais montrer comment l’expression ci-dessus permet de retrouver celle donnée par Webb dans [WE1].

Si G est un groupe fini, j’ai

S_{H,V} (G) = Hom(H, G)/{ϕ | ∀ψ ∈ Hom(G, H), (ψϕ)v = 0}

D’autre part, le module V est annulé par tous les H-ensembles-H qui factorisent par un groupe d’ordre strictement inférieur à celui de H. Alors si ϕ = G×H/L ∈ Hom_{D}(H, G), je dois avoir k_{1}(L) = k_{2}(L) = (1) si ϕ est libre à gauche et à droite. Et si l’image \overline{ϕ} de ϕ dans S_{H,V} (G) est non-nulle, alors ϕ ne factorise pas par un groupe d’ordre strictement plus petit que celui de H, ce qui impose q(L) = H. Alors il existe un morphisme injectif f de H dans K tel que L = Δ_{f}(H).

Soit alors λ = ∑_{f} λ_{f}G × H/Δ_{f}(H) un élément de Hom(H, G). L’image de λ dans S_{H.V} (G) est nulle si et seulement si pour tout ψ ∈ Hom(H, G)

∑_{f} λ_{f}(ψ ×_{G} (G × H/Δ_{f}(H))).v = 0 (Z_{ψ})

Il suffit de considérer les conditions (Z_{ψ}) lorsque ψ est de la forme H × G/M, et ne factorise pas par un groupe d’ordre strictement plus petit que celui de H, donc lorsque M est de la forme Δ_{g}(H)^{∗}, pour une injection g de H dans G.

Par la formule de Mackey, la condition (Z_{ψ}) s’écrit alors

∑ ; \begin{matrix}f \\ z ∈ g(H)\G/f(H) \end{matrix} λ_{f}H × H/\{(h, g(h))\} ∗^{(z,1)} \{(f(h), h)\}.v = 0

ou encore

∑ ; \begin{matrix}f \\ z ∈ g(H)\G/f(H) \end{matrix} λ_{f}H × H/\{(g^{−1}(c), f^{−1}(c^{z})) | c ∈ g(H) ∩^{z} f(H)\}.v = 0

Les seuls termes non-nuls de cette somme sont ceux pour lesquels g(H) =^{z} f(H), car les autres H-ensembles-H qui y figurent annulent V. Les conditions (Z_{ψ}) se décomposent donc en une série de conditions indépendantes suivant la classe de conjugaison dans G de g(H).

De plus si g(H) =^{z} f(H), le groupe Δ_{f}(H) est conjugué dans G × H d’un groupe Δ_{f′}(H), où f′ est un isomorphisme de H sur g(H), donc de la forme f′ = gθ, où θ est un automorphisme de H. Finalement, les conditions (Z_{ψ}) se résument à

∑_{z∈N_{G}(g(H))/g(H)} λ_{gθ}H × H/{(g^{−1}(c), θ^{−1}g^{−1}(c^{z})) | c ∈ g(H)}.v = 0

Or si z ∈ N_{G}(g(H)), soit g_{z} l’automorphisme de H défini par g_{z}(H) = g^{−1}(^{z}g(h)). L’équation ci-dessus s’écrit encore

∑_{z∈N_{G}(g(H))/g(H)} λ_{gθ}H × H/{(g_{z}(h), θ^{−1}(h)) | h ∈ H}.v = 0

Or

H × H/{(g_{z}(h), θ^{−1}(h)) | h ∈ H} = (H × H/Δ_{g_{z}}(H)) ×_{H} (H × H/Δ_{θ}(H))

et H × H/Δ_{θ}(H).v = θ.v. La condition s’écrit donc

T r_{(1)}^{N_{G}(g(H))/g(H)}(∑_{θ} λ_{gθ}θ.v) = 0

où je fais agir z ∈ N_{G}(g(H))/g(H) sur V par l’automorphisme g_{z}.

Alors l’application de Hom(H, G) dans W = (⊕_{K}T r_{1}^{N_{G}(K)/K}(V))^{G}, où la somme porte sur les sous-groupes de G isomorphes à H, qui envoie G×H/Δ_{f}(H) sur T r_{(1)}^{N_{G}(f(H))/f(H)}(v) passe au quotient et induit un isomorphisme entre S_{H,V} (G) et W. D’où

Proposition 15: Si D = C_{(1),(1)}, si H est un groupe, et V un kExt(H) module simple, alors

S_{H,V} (G) = ⨁_{[K]} T r_{(1)}^{N_{G}(K)/K}(V)

la somme portant sur les classes de conjugaison de sous-groupes de G isomorphes à H.

8.2 Les foncteurs S_{H,k}

Ici, je considère la catégorie C toute entière, et je suppose que l’anneau A est un corps k. Si H est un groupe fini, si k est le kExt(H) module trivial, et si G est un groupe fini, alors S_{H,k}(G) est donné comme précédemment par

S_{H,k}(G) = Hom_{C}(H, G)/{ϕ | ∀ψ ∈ Hom(G, H), ψϕ.1 = 0}

La dimension de S_{H,k}(G) est donc le rang sur k de la forme bilinéaire sur Hom(H, G) qui à f et g associe

< f, g >_{G}= g^{∗}.f.1 ∈ k

Si f = G × H/L factorise par un groupe H d’ordre strictement plus petit que l’ordre de H, alors f est dans le noyau de cette forme. Il reste donc à considérer les sous-groupes L de la forme Δ_{s}(K)^{∗}, où K est un sous-groupe de G et s une surjection de K dans H. Si t est une autre surjection de K dans H, telle que Ker s = Ker t, alors il existe un auomorphisme θ de H tel que t = θs, et

G × H/Δ_{t}(K)^{∗} = (G × H)/Δ_{s}(K)^{∗}) ×_{H} (H × H/Δ_{θ}(H)^{∗})

de sorte que pour tout ϕ ∈ Hom(H, G)

< ϕ, G × H/Δ_{t}(K)^{∗} >_{G}=< ϕ, G × H/Δ_{s}(K)^{∗} >_{G}

et la différence

G × H/Δ_{t}(K)^{∗} − G × H/Δ_{s}(K)^{∗}

est dans le noyau de < , >_{G}. D’autre part, si L est un sous-groupe de G et t une surjection de L dans H, alors

(H ×_{G} /Δ_{s}(K))×_{G} (G×H/Δ_{t}(L)^{∗}) = ∑_{x∈K\G/L} H ×H/{(s(g), t(g^{x})) | g ∈ K ∩^{x} L}

Les termes de cette somme qui n’annulent pas le kExt(H) module k sont ceux pour lesquel le groupe {(s(g), t(g^{x})) | g ∈ K ∩^{x} L} est de la forme Δ_{θ}(H), pour un automorphisme θ convenable de H. L’existence de θ équivaut aux conditions suivantes:

s(K ∩^{x} L) = t(K^{x} ∩ L) = H et Ker s ∩^{x} L = K ∩^{x} Ker t

ou encore (K, Ker s) (^{x}L,^{x} Ker t). Alors

< G×H/Δ_{t}(L)^{∗}, G×H/Δ_{s}(K)^{∗} >_{G}= |{x ∈ K\G/L | (K, Ker s) (^{x}L,^{x} Ker t)}|

Alors, soit b_{H}(G) l’espace ayant pour base les classes de conjugaison par G de couples (K, N) tels que K/N soit isomorphe à H. La dimension de S_{H,k}(G) est le rang de la forme bilinéaire sur b_{H}(G) à valeurs dans k définie par

< (K, N), (L, M) >_{G}= |{x ∈ K\G/L | (K, N) (^{x}L,^{x} M)}|

Dans le cas où H = (1), l’espace b_{H}(G) s’identifie à l’anneau de Burnside de G, et la forme ci-dessus est la même que celle utilisée plus haut, puisque deux couples (K, K) et (H, H) sont toujours liés.

Proposition 16: Soient H et G des groupes finis. Soit b_{H}(G) l’espace vectoriel sur k ayant pour base les classes de conjugaison par G de couples (K, N) tels que K/N soit isomorphe à H. Alors la dimension de S_{H,k}(G) est le rang de la forme bilinéaire sur b_{H}(G) à valeurs dans k définie par

< (K, N), (L, M) >_{G}= |{x ∈ K\G/L | (K, N) (^{x}L,^{x} M)}|

Corollaire: Si H est un b-groupe, et k de caractéristique 0, ce rang est le nombre de classes de conjugaison de sous-groupes K de G tels que β(K) = H.

8.3 Certains foncteurs simples en caractéristique 0

Je supposerai ici également que la catégorie considérée est la catégorie C toute entière, et de plus que l’anneau A est un corps k de caractéristique 0.

Dans ces conditions, une première décomposition d’un objet M de F onct_{k}(C) est donnée par la proposition 7, qui permet de se ramener à l’étude des modules ẽ_{G}^{G}M(G). Dans le cas où M est un foncteur simple S_{H,V}, si H est un groupe fini et V un KExt(H) module simple, je peux écrire

ẽ_{G}^{G}S_{H,V} (G) = ẽ_{G}^{G}Hom(H, G)/ẽ_{G}^{G}Hom(H, G) ∩ J_{H,v}(G)

où j’ai posé, pour un vecteur v non-nul de V

J_{H,v}(G) = {ϕ ∈ Hom(H, G) | ∀ψ ∈ Hom(G, H), (ψϕ)v = 0}

Or J_{H,v}(G) contient tous les ϕ qui factorisent par un groupe d’ordre strictement plus petit que celui de H. Le module ẽ_{G}^{G}S_{H,V} (G) est donc engendré par l’image des éléments ẽ_{G}^{G} ×_{G} (G × H/Δ_{s}(G_{1})^{∗}), où G_{1} est un sous-groupe de G et s une surjection de G_{1} dans H. Or un tel élément est nul si G_{1} ≠ G (cf. lemme 15). Donc:

Proposition 17: Si H n’est pas un quotient de G, alors

ẽ_{G}^{G}S_{H,V} (G) = 0

Si s est une surjection de G dans H, je pose

Y_{s} = ẽ_{G}^{G} ×_{G} (G × H/Δ_{s}(G)^{∗})

Alors l’élément ∑_{s} λ_{s}Y_{s} de ẽ_{G}^{G}Hom(H, G) est dans J_{H,v}(G) si et seulement si pour tout ψ ∈ Hom(G, H)

∑_{s} λ_{s}(ψY_{s})v = 0 (Z_{ψ})

La condition (Z_{ψ}) est vide si ψ factorise par un groupe d’ordre strictement plus petit que celui de H, et je me ramène au cas où ψ est de la forme H × G/Δ_{t}(G_{1}), pour un sous-groupe G_{1} de G et une surjection t de G dans H. Mais comme

(H × G/Δ_{t}(G_{1})) ×_{G} Y_{s} = (H × G/Δ_{t}(G_{1})) ×_{G} ẽ_{G}^{G} ×_{G} (G × H/Δ_{s}(G)^{∗})

est nul si G_{1} ≠ G, les conditions (Z_{ψ}) sont équivalentes à l’ensemble des conditions (Z_{Y_{t}^{∗}}), où t décrit les surjections de G dans H. Or ẽ_{G}^{G} est combinaison linéaire d’éléments de la forme G × G/X, pour X sous-groupe de G, et

(H×G/Δ_{t}(G))×_{G}(G×G/X)×_{G}(G×H/Δ_{s}(G)^{∗}) = H×H/{(t(x), s(x)) | x ∈ X} De plus H × H/{(t(x), s(x)) | x ∈ X} annule v ∈ V sauf s’il existe un automorphisme θ de H tel que

{(t(x), s(x)) | x ∈ X} = Δ_{θ}(H)

ce qui équivaut aux conditions suivantes

XKer t = XKer s = G, X ∩ Ker t = X ∩ Ker s (1)

La condition (Z_{Y_{t}^{∗}}) peut donc aussi s’écrire

∑_{s,X} λ_{s}|X|χ̃]X, G[H × H/{(t(x), s(x)) | x ∈ X}.v = 0

où la somme en X porte sur les sous-groupes de G vérifiant les conditions (1). Ces conditions sont invariantes par remplacement de X par X(Ker t ∩ Ker s), ainsi que le sous-groupe {(t(x), s(x)) | x ∈ X} de H × H, et je peux regrouper les termes en X pour lesquels X(Ker t ∩ Ker s) est un sous-groupe U donné de G, tel que

UKer t = UKer s = G, U ∩ Ker t = U ∩ Ker s = Ker t ∩ Ker s (2)

Finalement, la condition (Z_{Y_{t}^{∗}}) devient

∑_{s,U} m_{G,Ker t∩Ker s}λ_{s}|U|χ̃]U, G[H × H/{(t(x), s(x)) | x ∈ U}.v = 0

où la somme en U porte sur les sous-groupes de G vérifiant les conditions (2). Alors |U| = |G||Ker t ∩ Ker s|/|Ker s| = |H||Ker t ∩ Ker s|. De plus ]U, G[ s’identifie à ]Ker t ∩ Ker t, Ker t[^{U}, donc aussi à

]Ker t ∩ Ker s, Ker t[^{UKer s}=]Ker t ∩ Ker s, Ker t[^{G}=](1), s(Ker t)[^{H}

puisque [Ker t, Ker s] ⊆ Ker t ∩ Ker s ⊆ U.

Un sous-groupe U vérifiant les conditions (2) donne un automorphisme θ de H tel que Δ_{θ}(H) ⊆ (t × s)(G), où je note t × s l’application g ↦ (t(g), s(g)) de G dans H × H. Inversement, si un tel automorphisme θ est donné, et si je pose

U = {x ∈ G | (t(x), s(x)) ∈ Δ_{θ}(H)}

j’obtiens un sous-groupe U de G vérifiant les conditions (2). Cette correspondance est bijective, et la condition (Z_{Y_{t}^{∗}}) devient

∑_{s} λ_{s}m_{G,Ker (t×s)}|Ker (t × s)|χ̃](1), s(Ker t)[^{H} ∑ ; \begin{matrix}θ \\ Δ_{θ} ⊆ (t × s)(G) \end{matrix} θ.v = 0  (C_{t})

Si θ et θ′ sont deux automorphismes de H tels que

Δ_{θ}(H) ⊆ (t × s)(G), Δ_{θ′}(H) ⊆ (t × s)(G)

alors, pour tout h ∈ H, si x (resp. x′) est un élément de G tel que s(x) = h et θ(h) = t(x) (resp. s(x′) = h et θ(h) = t(x′)), j’ai x′x^{−1} ∈ Ker s, et θ′(h)θ(h)^{−1} ∈ t(Ker s), donc

(θ^{−1}θ′)(h)h^{−1} ∈ θ^{−1}(t(Ker s)) = s(Ker t)

et θ′ peut s’écrire θ′ = θα, où α est dans le sous-groupe Aut_{s(Ker t)}(H) des automorphismes de H qui stabilisent le sous-groupe normal s(Ker t) de H et induisent un automorphisme trivial sur le quotient H/s(Ker t).

Inversement, si Δ_{θ}(H) ⊆ (t × s)(G), et si α ∈ Aut_{s(Ker t)}(H), alors Δ_{θα}(H) ⊆ (t × s)(G). Les automorphismes θ intervenant dans le terme en s de la condition C_{t} forment donc une seule classe à gauche modulo Aut_{s(Ker t)}(H).

Remarques: 1) La condition (C_{t}) ne dépend en fait que de Ker t: en effet, si α est un automorphisme de H, alors la condition (C_{αt}) s’obtient en multipliant la condition (C_{t}) à gauche par α.

2) Si la condition (C_{t}) est non-vide, alors il existe une surjection s de G dans H et un automorphisme ϕ de H tels que

m_{G,Ker (s×t)} ≠ 0, χ̃](1), s(Ker t)[^{H}≠ 0, Δ_{ϕ}(H) ⊆ (s × t)(G)

Dans ces conditions, le groupe (1) × s(Ker t) admet pour complément le groupe Δ_{ϕ}(H) dans (s × t)(G). En notant N le sous-groupe normal s(Ker t) de H, il en résulte que (s×t)(G) est isomorphe au produit semi-direct N ×H. Comme de plus χ̃](1), s(Ker t)[^{H}≠ 0, le groupe N est produit direct de sous-groupes distingués minimaux de H. Enfin, comme m_{G,Ker (s×t)} ≠ 0, j’ai β(G) = β((s × t)(G)). La proposition 17 peut donc être précisée:

Proposition 18: Si ẽ_{G}^{G}S_{H,V} (G) ≠ 0, alors il existe un sous-groupe normal N de H, produit direct de sous-groupes normaux minimaux, tel que le groupe N ×H soit un quotient de G et que β(G) = β(N ×H).

3) Si H est un b-groupe, ce dernier résultat se simplifie encore: en effet, si N et M sont deux sous-groupes normaux de G tels que les quotients G/N et G/M soient isomorphes à H, je sais par le lemme 16 que

m_{G,N} = \frac{1}{|G|} ∑ ; \begin{matrix}Y N = Y M = G \\ Y ∩ N = Y ∩ M \end{matrix} |Y |χ̃]Y, G[

et j’ai déjà calculé cette expression avant le lemme 18, sous la forme

m_{G,N} = \frac{m_{G,M∩N}|M ∩ N|}{|G|}χ̃]M∩N, N[^{G}|K_{G/M∩N}(M/M∩N)∩K_{G/M∩N}(N/M∩N)|

Alors, si s et t sont des surjections de G dans H, si M = Ker s et N = Ker t, il est facile de voir que les compléments communs de M/M ∩ N et N/M ∩ N dans G/M ∩ N sont en bijection avec les automorphismes ϕ de H tels que Δ_{ϕ}(H) ⊆ (s×t)(G). En notant k_{s,t} le nombre de tels automorphismes, l’expression ci-dessus devient

m_{G,Ker t} = \frac{m_{G,Ker (s×t)}|Ker (s × t)|}{|G|}χ̃](1), s(Ker t)[^{H}k_{s,t}

Alors si la condition (C_{t}) est non-vide, il existe une surjection s de G dans H telle que cette expression soit non-nulle. Alors m_{G,Ker t} ≠ 0, et le quotient G/Ker t est un b-groupe (isomorphe à H). Il en résulte que β(G) = H. Donc

Proposition 19: Si H est un b-groupe et si ẽ_{G}^{G}S_{H,V} ≠ 0, alors β(G) = H.

De plus, dans ces conditions, la condition (C_{t}) peut s’écrire

∑_{s} λ_{s}V M_{Δ_{ϕ}(H)⊆(s×t)(G)}(ϕ.v) = 0

en notant V M_{Δ_{ϕ}(H)⊆(s×t)(G)}(ϕ.v) la valeur moyenne des ϕ.v

V M_{Δ_{ϕ}(H)⊆(s×t)(G)}(ϕ.v) = \frac{1}{k_{s,t}} ∑_{Δ_{ϕ}(H)⊆(s×t)(G)} ϕ.v

En particulier, si V est le module trivial, alors cette condition se résume à ∑_{s} λ_{s} = 0. Il en résulte que ẽ_{G}^{G}S_{H,k}(G) est de dimension 1 si β(G) = H, et nul sinon: c’est essentiellement ce qu’affirme la proposition 11.

4) Je dirai qu’un kExt(H)-module V est primitif si pour tout sous-groupe normal non-trivial N de H, j’ai V^{Aut_{N} (H)} = 0. Cette définition est une extension de la définition de caractère primitif modulo un entier n: un caractère primitif modulo n définit en effet à ce sens un C(Z/nZ)^{∗}-module primitif.

Il résulte des remarques ci-dessus que si V est un kExt(H)-module primitif, alors la somme ∑_{Δ_{ϕ}(H)} ϕ.v est nulle sauf si le groupe s(Ker t) est trivial, i.e. si Ker s = Ker t. La condition (C_{t}) devient alors

m_{G,Ker t}|Ker t| ∑_{Ker s=Ker t} λ_{s}ϕ_{s,t}.v = 0

en notant ϕ_{s,t} l’automorphisme de H tel que ϕ_{s,t}t = s. En particulier, si cette condition est non-vide, alors m_{G,Ker t} ≠ 0, donc β(G) = β(H). La condition (C_{t}) se réduit alors à

∑_{ϕ∈Aut(H)} λ_{ϕt}ϕ.v = 0

Soit alors W une somme directe de copies de V, indexée par les sous-groupes normaux N de G tels que G/N soit isomorphe à H. Si N est un tel sous-groupe normal, je choisis une surjection t_{N} de noyau N de G dans H. Si s est une surjection quelconque de G dans H, je note ψ_{s} l’automorphisme de H défini par ψ_{s}t_{Ker s} = s. Alors l’application de ẽ_{G}^{G}Hom(H, G) dans W qui à Y_{s} associe le vecteur ψ_{s}.v de la composante correspondant à N = Ker s de W passe au quotient et induit un isomorphisme de ẽ_{G}^{G}S_{H,V} (G) sur W. Compte tenu de la proposition 7, il vient alors

Proposition 20: Si V est un kExt(H)-module primitif, alors

S_{H,V} (G) = ⊕_{(K,N)}V^{N_{G}(K,N)/K}

où la somme porte sur les classes de conjugaison par G de couples (K, N) formés d’un sous-groupe K de G et d’un sous-groupe normal N de K tels que K/N = H et β(K) = β(H). Corollaire: Si H est un groupe cyclique d’ordre n, et ζ un caractère primitif modulo n, alors la dimension de S_{H,V} (G) est le nombre de classes de conjugaison de sous-groupes cycliques K d’ordre multiple de n, pour lesquels l’image naturelle de N_{G}(K)/K dans (Z/nZ)^{∗} est contenue dans le noyau de ζ.

9 L’algèbre ẽ_{G}^{G}End(G)ẽ_{G}^{G}

Je considère ici à nouveau la catégorie C toute entière, et je suppose que l’anneau A est un corps k de caractéristique 0. Si G est un groupe fini, je pose

E(G) = ẽ_{G}^{G}End(G)ẽ_{G}^{G}

C’est l’algèbre d’endomorphisme du foncteur L_{G,End(G)ẽ_{G}^{G}}, qui contient toutes les enveloppes projectives des foncteurs S_{G,V} correspondants aux kExt(G)-modules simples V.

9.1 Une base naturelle

L’algèbre E(G) est engendrée sur k par les éléments de la forme

Y_{L} = ẽ_{G}^{G} ×_{G} (G × G/L) ×_{G} ẽ_{G}^{G}

où L décrit les sous-groupes de G × G. Par le lemme 15, un tel élément est nul, sauf si p_{1}(L) = p_{2}(L) = G: je dirai dans ces conditions que le sous-groupe L est un sous-groupe saturant de G × G.

Si L est un sous-groupe saturant, je peux encore écrire

Y_{L} = \frac{1}{|G|^{2}} ∑_{X,Y ⊆G} |X||Y |χ̃]X, G[χ̃]Y, G[ G × G/Δ(X) ∗ L ∗ Δ(Y)

et de plus

Δ(X) ∗ L ∗ Δ(Y) = (X × Y) ∩ L

Donc le plus grand sous-groupe M de G × G tel que G × G/M apparaisse dans la décomposition de Y_{L} est le groupe L, et le coefficient de G × G/L dans Y_{L} est obtenu pour X = Y = G. Il est donc égal à 1. Ceci prouve la

Proposition 21: Les éléments Y_{L}, lorsque L décrit l’ensemble des sousgroupes saturants de G×G modulo conjugaison par G×G, forment une base de E(G) sur k.

Un sous-groupe saturant L de G × G est défini par les sous-groupes normaux N_{1} = k_{1}(L) et N_{2} = k_{2}(L) de G, et par un isomorphisme θ de G/N_{2} sur G/N_{1}:

L_{N_{1},N_{2},θ} = {(a, b) ∈ G × G | aN_{1} = θ(bN_{2})}

Les sous-groupes L_{N_{1},N_{2},θ} et L_{N′_{1},N′_{2},θ′} sont conjugués dans G × G si et seulement si il existe x et y dans G tels que

aN_{1} = θ(bN_{2}) ⇔ a^{x}N′_{1} = θ′(b^{y}N′_{2})

En particulier le cas b = 1 entraîne que N_{1} = N′_{1}. De même, j’ai N_{2} = N′_{2}, et alors la condition ci-dessus devient

θ(bN_{2})^{x} = θ′((bN_{2})^{y})

et θ et θ′ ne diffèrent que par un automorphisme intérieur de G/N_{1}.

Corollaire: La dimension de E(G) sur k est égale à

dim_{k} E(G) = ∑_{H|G} |Ext(H)||n(G, H)|^{2}

où la somme porte sur les quotients deux à deux non-isomorphes de G, et n(G, H) désigne le nombre de sous-groupes normaux N de G tels que G/N soit isomorphe à H.

9.2 Multiplication

Il est possible d’expliciter les formules de calcul de la multiplication dans la base Y_{L}: soient L et M des sous-groupes saturants de G × G. Alors:

Y_{L}.Y_{M} = ẽ_{G}^{G} ×_{G} (G × G/L ×_{G} ẽ_{G}^{G} ×_{G} G × G/M) ×_{G} ẽ_{G}^{G}

De plus

G × G/L ×_{G} ẽ_{G}^{G} ×_{G} G × G/M = \frac{1}{|G|} ∑_{X⊆G} |X|χ̃]X, G[G × G/L ∗ Δ(X) ∗ M

Il en résulte, par multiplication à gauche et à droite par ẽ_{G}^{G}, que

Y_{L}.Y_{M} = \frac{1}{|G|} ∑_{X∈δ(L,M)} |X|χ̃]X, G[Y_{L∗Δ(X)∗M}

en notant δ(L, M) l’ensemble des sous-groupes X de G×G tels que L∗Δ(X)∗M soit un sous-groupe saturant de G × G.

Or

L ∗ Δ(X) ∗ M = {(a, b) ∈ G × G | ∃x ∈ X, (a, x) ∈ L, (x, b) ∈ M}

Alors si L ∗ Δ(X) ∗ M est saturant, pour tout élément a de G, il existe x ∈ X tel que (a, x) ∈ L. Inversement, si cette condition est réalisée, alors pour tout a ∈ G, il existe x ∈ X tel que (a, x) ∈ L. Mais comme M est saturant, il existe b ∈ G tel que (x, b) ∈ M. Alors (a, b) ∈ L ∗ Δ(X) ∗ M, et la première projection de L ∗ Δ(X) ∗ M est égale à G.

Donc le groupe L∗Δ(X)∗M est saturant si et seulement si, pour tout a ∈ G, il existe x ∈ X tel que (a, x) ∈ L, et si pour tout b ∈ G, il existe x ∈ X tel que (x, b) ∈ M.

Si ces conditions sont remplies, et si b ∈ G, alors il existe a tel que (a, b) ∈ L, car L est saturant. Mais alors il existe x tel que (a, x) ∈ L. Alors x^{−1}.b ∈ k_{2}(L), ce qui prouve que G = Xk_{2}(L). De même, j’ai G = Xk_{1}(M).

Inversement, si Xk_{2}(L) = Xk_{1}(M) = G, et si a ∈ A, il existe b ∈ G tel que (a, b) ∈ L, car L est saturant. Alors b peut s’écrire b = xn, pour x ∈ X et n ∈ k_{2}(L). Alors (1, n) ∈ L, et (a, x) = (a, b)(1, n)^{−1} ∈ L. Donc

X ∈ δ(L, M) ⇔ Xk_{2}(L) = Xk_{1}(M) = G

Or le groupe L∗Δ(X)∗M ne change pas si je remplace X par X(k_{2}(L)∩k_{1}(M)). En regroupant les termes X pour lesquels X(k_{2}(L)∩k_{1}(M) est un sous-groupe Z donné de G, et en notant π(L, M) l’ensemble des sous-groupe Z de G contenant k_{2}(L) ∩ k_{1}(M), et tels que Zk_{2}(L) = Zk_{1}(M) = G, il vient

Y_{L}.Y_{M} = \frac{m_{G,k_{2}(L)∩k_{1}(M)}}{|G|} ∑_{Z∈π(L,M)} |Z|χ̃]Z, G[Y_{L∗Δ(Z)∗M}

Soit alors σ(L, M) l’ensemble des sous-groupes saturants de G × G contenant k_{1}(L) × k_{2}(M) et contenus dans L ∗ M. Il est clair que si Z ∈ π(L, M), alors f(Z) = L ∗ Δ(Z) ∗ M ∈ σ(L, M). Inversement, si P ∈ σ(L, M), je pose

f′(P) = {z ∈ G | ∃(a, b) ∈ P, (a, z) ∈ L, (z, b) ∈ M}

Alors f′(P) est un sous-groupe de G. Si z ∈ k_{2}(L) ∩ k_{1}(M), alors z ∈ f′(P) (c’est le cas a = b = 1 de la définition). Comme P est un sous-groupe saturant, pour tout a ∈ G, il existe b ∈ G tel que (a, b) ∈ P. Et comme P ⊆ L ∗ M, il existe g ∈ G tel que (a, g) ∈ L et (g, b) ∈ M. Alors g ∈ f′(P), et (a, b) ∈ L ∗ f′(P) ∗ M. Donc le groupe L ∗ f′(P) ∗ M est saturant, ce qui prouve que f′(P) ∈ π(L, M).

Alors

ff′(P) = {(a, b) | ∃z ∈ f′(P), (a, z) ∈ L, (z, b) ∈ M}

= {(a, b) | ∃z ∈ G, ∃(a′, b′) ∈ P, (a, z) ∈ L, (z, b) ∈ M, (a′, z) ∈ L, (z, b′) ∈ M}

Alors si (a, b) ∈ ff′(P), j’ai a^{−1}a′ ∈ k_{1}(L) et b^{−1}b′ ∈ k_{2}(M), donc (a, b) ∈ (k_{1}(L)×k_{2}(M))P = P, ce qui prouve que ff′(P) ⊆ P. Mais si (a, b) ∈ P ⊆ L∗M, alors il existe z ∈ G tel que (a, z) ∈ L et (z, b) ∈ M. Alors z ∈ f′(P), et (a, b) ∈ L ∗ Δ(f′(P)) ∗ M = ff′(P). Donc ff′(P) = P.

Inversement, si Z ∈ π(L, M), alors

f′f(Z) = {x | ∃(a, b) ∈ L ∗ Δ(Z) ∗ M, (a, x) ∈ L, (x, b) ∈ M}

f′f(Z) = {x | ∃z ∈ Z, ∃(a, b), (a, x) ∈ L, (x, b) ∈ M, (a, z) ∈ L, (z, b) ∈ M}

Alors si x ∈ f′f(Z), j’ai z^{−1}x ∈ k_{2}(L) ∩ k_{1}(M) ⊆ Z, donc x ∈ Z, et f′f(Z) ⊆ Z. Et si z ∈ Z, alors il existe (a, b) tel que (a, z) ∈ L et (z, b) ∈ M. Alors (a, b) ∈ f(Z), et z ∈ f′f(Z). Donc f′f(Z) = Z.

Alors f et f′ sont des bijections inverses l’une de l’autre entre π(L, M) et σ(L, M). Comme f et f′ sont croissantes pour l’inclusion, il en résulte que π(L, M) et σ(L, M) sont des ensembles ordonnés isomorphes. En particulier, si Z ∈ π(L, M), alors χ̃]Z, G[= χ̃]f(Z), L ∗ M[.

Comme de plus |f(Z)| = |Z||k_{1}(L)||k_{2}(M)|, j’ai

\frac{|f(Z)|}{|L ∗ M|} = \frac{|Z|}{|G|}

et en réecrivant la formule du produit, j’obtiens la

Proposition 22: Si L et M sont des sous-groupes saturants de G × G, alors

Y_{L}.Y_{M} = \frac{m_{G,k_{2}(L)∩k_{1}(M)}}{|L ∗ M|} ∑_{P ∈σ(L,M)} |P |χ̃]P, L ∗ M[ Y_{P}

où σ(L, M) désigne l’ensemble des sous-groupes saturants de G × G contenus dans L ∗ M et contenant k_{1}(L) × k_{2}(M). Corollaire: Si L est un sous-groupe saturant de G × G, alors

Y_{L}.Y_{G×G} = m_{G,k_{2}(L)}Y_{G×G} = m_{G,k_{1}(L)}Y_{G×G} = Y_{G×G}.Y_{L}

L’application Y_{L} ↦ m_{G,k_{2}(L)} = m_{G,k_{1}(L)} définit donc un homomorphisme d’algèbres de E(G) dans k, et kY_{G×G} est un idéal central de E(G), de carré nul si G n’est pas cyclique.

En effet, si M = G × G, alors k_{1}(M) = k_{2}(M) = G, et σ(L, M) = {G × G}. Le corollaire résulte alors du corollaire du lemme 18, du fait que G/k_{1}(L) et G/k_{2}(L) sont isomorphes, et du fait que m_{G,G} est nul si G n’est pas cyclique. Remarque: Tous les groupes P tels que Y_{P} intervienne dans la décomposition de Y_{L}.Y_{M} sont tels que q(P) est un quotient commun de q(L) et q(M), et admet pour quotient q(L ∗ M).

9.3 Semi-simplicité

Le résultat précédent indique que si G n’est pas cyclique, alors E(G) n’est pas semi-simple. Inversement, si G est cyclique d’ordre n, et si L est un sousgroupe saturant de G × G, alors L est caractérisé par un diviseur d de n, et par un automorphisme (extérieur) de Z/dZ, i.e. un élément u de (Z/dZ)^{∗}: le groupe L_{d,u} associé au couple (d, u) est l’ensemble des couples (a, b) ∈ (Z/nZ)^{2} tels que a − ub ∈ dZ/nZ. Je noterai Y_{d,u} l’élément Y_{L_{d,u}}.

Pour calculer le produit de deux tels éléments Y_{d,u} et Y_{e,v}, je dois (par exemple) trouver l’ensemble π(L_{d,u}, L_{e,v}): c’est l’ensemble des sous-groupes X de Z/nZ tels que X ⊇ dZ/nZ ∩ eZ/nZ et X.dZ/nZ = X.eZ/nZ = Z/nZ. Un tel X est de la forme fZ/nZ, pour un diviseur f convenable de n, et les conditions précédentes signifient que f est premier à d et à e, et que f divise le ppcm d ∨ e de d et e. Alors f = 1, et X = Z/nZ. Autrement dit, l’ensemble π(L_{d,u}, L_{e,v}) est réduit à {Z/nZ}, donc l’ensemble σ(L_{d,u}, L_{e,v}) est réduit à {L_{d,u} ∗ L_{e,v}}. Alors

Y_{d,u}.Y_{e,v} = m_{G,k_{2}(L_{d,u})∩k_{1}(L_{e,v})}Y_{L_{d,u}∗L_{e,v}}

Or

L_{d,u} ∗ L_{e,v} = {(a, b) ∈ (Z/nZ)^{2} | ∃x, a ≡ ux(d), x ≡ vb(e)}

Donc L_{d,u} ∗ L_{e,v} ⊆ L_{(d,e),uv}, en notant (d, e) le pgcd de d et e.

Comme v est premier à e, j’ai (vd, e) = (d, e), et il existe des entiers k et l tels que kvd + le = (d, e). Alors si a et b sont tels que a ≡ uvb((d, e)), i.e. uva = b + m(d, e), et si x = ua − mkd, j’ai ua ≡ x(d) et

vx = vua − vmkd = b + m(d, e) − m((d, e) − le) = b + mle ≡ b(e)

Donc L_{d,u} ∗ L_{e,v} = L_{(d,e),uv}. Comme de plus k_{2}(L_{d,u}) ∩ k_{1}(L_{e,v}) = (d ∨ e)Z/nZ, et comme m(Z/aZ) = ϕ(a)/a, il en résulte que

m_{G,k_{2}(L_{d,u})∩k_{1}(L_{e,v})} = \frac{ϕ(n)/n}{ϕ(d ∨ e)/d ∨ e} = \frac{ϕ(n)d ∨ e}{nϕ(d ∨ e)} = \frac{ϕ(n)deϕ((d, e))}{(d, e)nϕ(d)ϕ(e)}

Finalement

Y_{d,u}.Y_{e,v} = \frac{ϕ(n)}{n} \frac{d}{ϕ(d)} \frac{e}{ϕ(e)} \frac{ϕ((d, e))}{(d, e)}Y_{(d,e),uv}

En posant W_{d,u} = \frac{ϕ(d)n}{ϕ(n)d}Y_{d,u}, j’ai donc

W_{d,u}.W_{e,v} = W_{(d,e),uv}

Comme les W_{d,u} forment une base de E(Z/nZ), il en résulte le

Corollaire: L’algèbre E(Z/nZ) est commutative.

Si je pose à présent

Z_{d,u} = ∑_{x|d} μ(d/x)W_{x,u}

alors en ordonnant convenablement les couples (d, u), la matrice de passage des W_{d,u} aux Z_{d,u} est triangulaire avec des 1 sur la diagonale, et les Z_{d,u} forment une base de E(Z/nZ). De plus

Z_{d,u}W_{e,v} = ∑_{x|d} μ(d/x)W_{(x,e),uv}

ou encore

Z_{d,u}W_{e,v} = ∑_{m|(d,e)}( ∑ ; \begin{matrix}x|d \\ (x, e) = m \end{matrix} μ(d/x))W_{m,uv}

Or la somme en x ci-dessus est nulle, sauf si d divise e, cas où elle se réduit à son terme x = m. Alors Z_{d,u}W_{e,v} = 0 si d ne divise pas e, et Z_{d,u}W_{e,v} = Z_{d,uv} sinon. Dans ces conditions

Z_{d,u}Z_{e,v} = ∑_{x|e} μ(e/x)Z_{d,u}W_{x,v} = ∑_{d|x|e} μ(e/x)Z_{d,uv} = δ_{d,e}Z_{d,uv}

Alors l’application qui à Z_{d,u} associe l’élément u de l’algèbre k(Z/dZ)^{∗} se prolonge en un isomorphisme d’algèbres de E(Z/nZ) sur la somme directe des k(Z/dZ)^{∗}, pour d divisant n. Comme ces algèbres sont semi-simples, il en résulte la

Proposition 23: Les conditions suivantes sont équivalentes:

1. L’algèbre E(G) est semi-simple.

2. Le groupe G est cyclique.

Si G est cyclique d’ordre n, alors l’algèbre E(G) est isomorphe à la somme directe des algèbres de groupes k(Z/dZ)^{∗}, pour d divisant n.

Par exemple, si k =C, alors les idempotents primitifs de E(G) sont indexés par les couples (d, χ), où d|n et χ est un caractère de (Z/dZ)^{∗}. L’idempotent e_{d,χ} associé au couple (d, χ) est donné par

e_{d,χ} = \frac{1}{ϕ(d)} ∑ ; \begin{matrix}u ∈ (Z/dZ)^{∗} \\ x|d \end{matrix} μ(d/x)\overline{χ}(u)W_{x,u}

Avec cette notation, l’idempotent primitif de E(G) associé au CExt(G)-module simple C_{λ} de caractère λ est e_{n,λ}: en effet, l’élément W_{d,u} est un multiple de Y_{d,u}, et Y_{d,u} opère sur un Ext(G)-module simple comme ẽ_{G}^{G}G × G/L_{d,u}, car tous les termes G × G/Δ(X), pour X ≠ G, annulent C_{λ}. Et comme q(L_{d,u}) = Z/dZ, il en résulte que G × G/L_{d,u} annule C_{λ} si d ≠ n. Et G × G/L_{n,u} opère sur C_{λ} par multiplication par λ(u). Remarque: Pour x donné, la somme sur u dans l’expression de e_{d,χ} de dépend que de la classe de u modulo x. La somme sur u porte donc sur une classe du groupe (Z/dZ)^{∗} modulo le noyau N_{d,x} du morphisme naturel π_{d,x} de (Z/dZ)^{∗} dans (Z/xZ)^{∗}. La somme des χ(u) est alors nulle, sauf si N_{d,x} ⊆ Ker χ, i.e. si χ factorise par Z/xZ. Si ψ est un caractère de (Z/xZ)^{∗}, je dirai que (x, ψ) ≤ (d, χ) si x|d et χ = ψ ∘ π_{d,x}.

Il est alors clair que les ensembles ordonnés ](x, ψ), (d, χ)[ et ]x, d[ (ordonné par la division) sont isomorphes. Alors si je pose

f_{d,χ} = \frac{1}{ϕ(d)} ∑_{u∈(Z/dZ)^{∗}} \overline{χ}(u)W_{d,u}

j’ai

∑_{(x,ψ)≤(d,λ)} e_{x,ψ} = ∑_{(y,ρ)≤(x,ψ)≤(d,λ)} χ̃](y, ρ), (x, ψ)[\frac{1}{ϕ(x)} ∑_{u∈(Z/xZ)^{∗}} \overline{ψ}(π_{x,y}(u))W_{y,π_{x,y}(u)}

ou encore

∑_{(x,ψ)≤(d,λ)} e_{x,ψ} = ∑_{(y,ρ)≤(x,ψ)≤(d,λ)} \frac{1}{ϕ(y)}χ̃](y, ρ), (x, ψ)[ ∑_{u∈(Z/yZ)^{∗}} \overline{ρ}(u)W_{y,u}

et la somme sur (x, ϕ) est nulle, sauf si (y, ρ) = (d, χ). Finalement

∑_{(x,ψ)≤(d,λ)} e_{x,ψ} = f_{d,λ}

Donc f_{n,χ} est un idempotent de E(G), qui est primitif si et seulement si le couple (n, χ) est minimal, i.e. si le caractère χ est primitif.

Mais d’autre part, l’idempotent e_{χ} de kExt(G)^{∗} associé à χ est

e_{χ} = \frac{1}{ϕ(n)} ∑_{u∈(Z/nZ)^{∗}} \overline{χ}(u).u

et son image naturelle dans E(G) est

ẽ_{G}^{G}e_{χ}ẽ_{G}^{G} = \frac{1}{ϕ(n)} ∑_{u∈(Z/nZ)^{∗}} \overline{χ}(u)Y_{n,u} = f_{n,χ}

Donc

Proposition 24: Les conditions suivantes sont équivalentes:

1. L’idempotent e_{χ} de C(Z/nZ)^{∗} reste primitif dans E(Z/nZ).

2. Le caractère χ est un caractère primitif modulo n.

10 Le foncteur des représentations complexes

Ici, la catégorie considérée est la catégorie C toute entière, et l’anneau A est le corps C des nombres complexes. Je vais étudier le foncteur G ↦C⊗R_{C}(G) des représentations complexes de G, ou, ce qui revient au même, des fonctions centrales à valeurs complexes sur G.

10.1 Caractères

Si G et H sont des groupes finis, si V est un CG-module, si X est un Hensemble-G et [X] le CG-module associé, alors [X]⊗_{G}V est un CH-module. Ceci définit par linéarité l’application C ⊗ R_{C}(X) de C ⊗ R_{C}(G) dans C ⊗ R_{C}(H). En termes de caractères, il n’est pas difficile de voir que cette correspondance se traduit par le

Lemme 23: Soient G et H sont groupes finis, soit V est un CG-module de caractère χ, et X un H-ensemble-G, alors le caractère X ⊗_{G} χ de X ⊗_{G} V est donné par la formule

X ⊗_{G} χ(h) = \frac{1}{|X|} ∑ ; \begin{matrix}x ∈ X, g ∈ G \\ hx = xg \end{matrix} χ(g)

Cette formule presque usuelle d’induction tient au fait que, en notant _{x}G le stabilisateur à droite dans G d’un élément x de X, alors X ⊗_{G} V s’identifie à ∑_{x∈X/G} V_{_{x}G} = ∑_{x∈X/G} V^{_{x}G}, le groupe H permutant les composantes.

L’analogue du lemme 15 est ici le

Lemme 24: Soit G un groupe fini, et X un G-ensemble. Si V est un CG-module, alors [X̃] ⊗_{G} V s’identifie au produit tensoriel [X] ⊗ V.

10.2 Sous-foncteurs et décomposition

Soient alors M ⊂ L des sous-foncteurs du foncteur C ⊗ R_{C}(), et H un groupe d’ordre minimal tel que L(H) ≠ M(H). La proposition 7 donne ici

L(H) = ẽ_{H}^{H}L(H) + M(H)

Or si V est un CH-module, alors ẽ_{H}^{H} ⊗_{H} V a pour caractère le produit du caractère de V par le caractère de e_{H}^{H} (cf. Lemme 23). Ce dernier vaut 1 sur les générateurs de H, et 0 ailleurs. Cela prouve que H est cyclique, et que si f ∈ ẽ_{H}^{H}L(H), alors f est nulle hors des générateurs de H.

En particulier, les seules sections simples S_{H,W} du foncteur C ⊗ R_{C}() correspondent à des groupes H cycliques.

D’autre part, si G est un groupe fini, et m un entier multiple de l’exposant de G, alors C ⊗ R_{C}(G) est un (Z/mZ)^{∗}-module naturel par l’intermédiaire des opérateurs d’Adams, définis par

Ψ^{(n)}(f)(g) = f(g^{n})

Il est alors naturel d’essayer de décomposer C⊗R_{C}(G) en fonction des C(Z/mZ)^{∗}- modules simples: il se trouve que cette décomposition peut être faite de manière fonctorielle pour la catégorie C:

Soit G un groupe fini. Si m est un entier, et ζ un caractère du groupe (Z/mZ)^{∗}, je pose

ε_{m,ζ} = \frac{1}{ϕ(m)} ∑_{i∈(Z/mZ)^{∗}} \overline{ζ}(i)Ψ^{(i)}

C’est un endomorphisme de C ⊗ R_{C}(G). Il est clair que si n est multiple de m, alors

ε_{n,ζ∘π_{n,m}} = ε_{m,ζ}

Si G est un groupe fini, si m est un entier, et ζ un caractère du groupe (Z/mZ)^{∗}, je noterai

ψ_{m,ζ,G} = ε_{mexp(G),ζ∘π_{mexp(G),m}}

l’endomorphisme de C ⊗ R_{C}(G) défini par

ψ_{m,ζ,G} = \frac{1}{ϕ(mexp(G))} ∑_{i∈(Z/mexp(G))^{∗}} \overline{ζ}(i)Ψ^{(i)}

J’ai ainsi construit en fait un endomorphisme du foncteur C ⊗ R_{C}():

Proposition 25: Soit m un entier naturel, et ζ un caractère de (Z/mZ)^{∗}. Si G et H sont des groupes finis, et X un H-ensemble-G, alors pour toute fonction centrale f sur G

X ⊗_{G} ψ_{m,ζ,G}(f) = ψ_{m,ζ,H}(X ⊗_{G} f)

En effet, dans le calcul de ψ_{m,ζ,G}(f), je peux choisir un entier n multiple de m et des exposants de G et H, et alors pour g ∈ G,

ψ_{m,ζ,G}(f)(g) = \frac{1}{ϕ(n)} ∑_{i∈(Z/nZ)^{∗}} \overline{ζ}(i)f(g^{i})

de sorte que

X ⊗_{G} ψ_{m,ζ,G}(f)(h) = \frac{1}{|X|ϕ(n)} ∑ ; x ∈ X, g ∈ G ; \begin{matrix}hx = xg \\ i ∈ (Z/nZ)^{∗} \end{matrix} \overline{ζ}(i)f(g^{i})

D’autre part

ψ_{m,ζ,H}(X ⊗_{G} f)(h) = \frac{1}{|X|ϕ(n)} ∑ ; i ∈ (Z/nZ)^{∗} ; \begin{matrix}x ∈ X, g ∈ G \\ h^{i}x = xg \end{matrix} \overline{ζ}(i)f(g)

Pour i fixé, il existe des entiers a et b tels que ai + bn = 1. Alors si h^{i}x = xg, j’ai aussi h^{ai}x = xg^{a} = h^{ai+bn}x = hx. Inversement, si hx = xg^{a}, alors h^{i}x = xg. Donc

ψ_{m,ζ,H}(X ⊗_{G} f)(h) = \frac{1}{|X|ϕ(n)} ∑ ; i ∈ (Z/nZ)^{∗} ; \begin{matrix}x ∈ X, g ∈ G \\ hx = xg^{a} \end{matrix} \overline{ζ}(i)f(g)

Les applications g ↦ g^{a} et g ↦ g^{i} sont alors des bijections de G inverses l’une de l’autre, et il suffit de remplacer g^{a} par g et g par g^{i} dans cette formule pour prouver la proposition.

Corrollaire: Les applications ψ_{m,ζ,G} : C ⊗ R_{C}(G) → C ⊗ R_{C}(G) définissent un endomorphisme ψ_{m,ζ} du foncteur C ⊗ R_{C}().

En fait, cet endomorphisme est un projecteur: pour tout groupe fini G, je note U_{m,ζ}(G) l’ensemble des fonctions centrales sur G telles que pour tout entier i premier à mexp(G), et pour tout g ∈ G

f(g^{i}) = ζ(i)f(g)

Alors si f ∈ U_{m,ζ}(G), il est clair que ψ_{m,ζ,G}(f) = f. Inversement, si j est un entier premier à mexp(G), si f ∈ C ⊗ R_{C}(G), et g ∈ G, alors

ψ_{m,ζ,G}(g^{j}) = \frac{1}{ϕ(mexp(G))} ∑_{i∈(Z/mexp(G)Z)^{∗}} \overline{ζ}(i)f(g^{ij})

et comme l’application i ↦ ij est une bijection de (Z/mexp(G)Z)^{∗}, telle que \overline{ζ}(i) = \overline{ζ}(ij)ζ(j), je vois que

ψ_{m,ζ,G}(g^{j}) = ζ(j)ψ_{m,ζ,G}(g)

et l’image de ψ_{m,ζ,G} est donc égale à U_{m,ζ}(G). Il en résulte que U_{m,ζ} est un sousfoncteur de C ⊗ R_{C}().

Il est clair de plus sur la définition des ψ_{m,ζ} que si n est multiple de m, alors

ψ_{n,ζ∘π_{n,m}} = ψ_{m,ζ}

et je peux donc considérer uniquement les couples (m, ζ), où ζ est un caractère primitif modulo m. Dans ces conditions, si G est un groupe fini, et f un élément non-nul de U_{m,ζ}(G), et si i est un entier congru à 1 modulo m ∨ exp(G), je dois avoir pour tout g ∈ G

f(g^{i}) = f(g) = ζ(i)f(g)

et ζ(i) = 1 si f est non-nulle. Alors, posant n = exp(G), la considération du diagramme exact

1  1  1
↓  ↓  ↓
1 → Ker π_{m∨n,(m,n)} → Ker π_{m∨n,n} → Ker π_{m,(m,n)} → 1
↓ ↓ ↓
1 → Ker π_{m∨n,m} → (Z/(m ∨ n)Z)^{∗} → (Z/mZ)^{∗} → 1
↓  ↓  ↓
1 → Ker π_{n,(m,n)} →  (Z/nZ)^{∗}  → (Z/(m, n)Z)^{∗} → 1
↓  ↓  ↓
1  1  1

montre que ζ vaut 1 sur l’image Ker π_{m,(m,n)} de Ker π_{m∨n,n} dans (Z/mZ)^{∗}, donc qu’il factorise par le groupe (Z/(m, n)Z)^{∗}. Comme ζ est primitif, cela montre que m divise n = exp(G).

D’autre part, l’espace C ⊗ R_{C}(G) est doté d’un produit scalaire hermitien naturel, que je noterai ( , )_{G}. Il est clair que ψ_{m,ζ,G} est auto-adjoint pour ce produit scalaire: en effet, je peux supposer que m divise l’exposant e de G, et alors

(ψ_{m,ζ,G}(f), f′)_{G} = \frac{1}{ϕ(e)|G|} ∑ ; \begin{matrix}i ∈ (Z/eZ)^{∗} \\ g ∈ G \end{matrix} \overline{ζ}(i)f(g^{i})\overline{f′}(g)

et en sommant sur l’inverse a de i dans (Z/eZ)^{∗}, j’ai ζ(a) = \overline{ζ}(i), donc

(ψ_{m,ζ,G}(f), f′)_{G} = \frac{1}{ϕ(e)|G|} ∑ ; \begin{matrix}a ∈ (Z/eZ)^{∗} \\ g ∈ G \end{matrix} ζ(a)f(g)\overline{f′}(g^{a}) = (f, ψ_{m,ζ,g}(f′))_{G}

Si ζ est un caractère primitif modulo m, si ζ′ est un caractère primitif modulo m′, si f ∈ U_{m,ζ}(G) − {0} et si f′ ∈ U_{m′,ζ′}(G) − {0}, alors m et m′ divisent l’exposant e de G, et pour tout entier j premier à e, j’ai

(f, f′)_{G} = \frac{1}{|G|} ∑_{g∈G} f(g)\overline{f′(g)} = \frac{1}{|G|} ∑_{g∈G} f(g^{j})\overline{f′(g^{j})} = ζ(j)\overline{ζ}′(j)(f, f′)_{G}

et (f, f′)_{G} = 0 sauf si ζ et ζ′ coïncident sur tous les entiers premiers à e. Alors le diagramme

(Z/mZ)^{∗}
↗  ↑  \begin{matrix}ζ \\ ↘ \end{matrix}
(Z/eZ)^{∗} → (Z/(m ∨ m′)Z)^{∗}  C
↘  ↓  \begin{matrix}↗ \\ ζ′ \end{matrix}
(Z/m′Z)^{∗}

montre que ζ ∘ π_{m∨m′,m} = ζ′ ∘ π_{m∨m′,m′}. Alors dans la suite exacte naturelle

1 → (Z/(m ∨ m′)Z)^{∗} → (Z/mZ)^{∗} × (Z/m′Z)^{∗} → (Z/(m, m′)Z)^{∗} → 1

le morphisme de (Z/mZ)^{∗} × (Z/m′Z)^{∗} dans C qui à (u, u′) associe ζ(u)\overline{ζ′}(u′) factorise par le groupe (Z/(m, m′)Z)^{∗}. En particulier ζ et ζ′ factorisent aussi par ce groupe, et comme ils sont primitifs, j’ai m = m′ = (m, m′). Alors ζ = ζ′.

En d’autre termes, les images des projecteurs ψ_{m,ζ,G} et ψ_{m′,ζ′,G} correspondant à des couples (m, ζ) et (m′, ζ′) primitifs et distincts sont orthogonales. Ces projecteurs étant auto-adjoints, celà prouve qu’ils sont orthogonaux, (i.e. que leur produit est nul).

Soit alors pour tout G,

U(G) = ∑_{m,ζ} U_{m,ζ}(G)

Alors U est un sous-foncteur de C⊗R_{C}(). Pour montrer qu’il est égal à C⊗R_{C}(), je considère un groupe H d’ordre minimal tel que U(H) ≠ C ⊗ R_{C}(H). Alors H est cyclique, et si f ∈ ẽ_{H}^{H}C ⊗ R_{C}(H), alors f est nulle en dehors des générateurs de H. Il est alors facile de voir que, en notant m l’ordre de H, la fonction f est combinaison linéaire de caractères primitifs modulo m. Comme ces caractères sont dans U(H), il en résulte que U(H) = C ⊗ R_{C}(H), contradiction prouvant que U = C ⊗ R_{C}(). Les projecteurs ψ_{m,ζ} étant deux à deux orthogonaux, et leur somme étant surjective, cette somme est donc l’identité. Donc:

Proposition 26: Les projecteurs ψ_{m,ζ}, pour m entier naturel et ζ caractère primitif modulo m, sont des projecteurs deux à deux orthogonaux et leur somme est le morphisme identité du foncteur C ⊗ R_{C}()

Il reste alors à identifier les foncteurs U_{m,ζ}, qui sont ce que tout le monde imagine...

10.3 Semi-simplicité

Soit m un entier naturel, et ζ un caractère primitif modulo m. Soit M un sous-foncteur propre de U_{m,ζ}, et H un groupe d’ordre minimal tel que M(H) ≠ U_{m,ζ}(H). Alors H est cyclique, par les remarques faites plus haut, et de plus

U_{m,ζ}(H) = ẽ_{H}^{H}U_{m,ζ}(H) + M(H)

Soit alors n l’ordre de H, et f ∈ ẽ_{H}^{H}C ⊗ R_{C}(H). Alors f est concentrée sur les générateurs de H. Mais comme f ∈ U_{m,ζ}(H) ≠ 0, je sais que m divise n, et que pour tout i premier à n, j’ai f(g^{i}) = ζ(i)f(g). En d’autres termes, l’espace ẽ_{H}^{H}C⊗R_{C}(H) est de dimension 1, engendré par Inf_{Z/mZ}^{Z/nZ}ζ, où je note abusivement ζ le prolongement (par 0) de ζ de (Z/mZ)^{∗} à Z/mZ.

Alors si m ≠ n, j’ai ζ ∈ M(Z/mZ), et f ∈ M(H). Donc m = n. Et comme U_{m,ζ}(Z/mZ) est de dimension 1, engendré par ζ, il en résulte que M(Z/mZ) = 0.

Alors si K est un groupe d’ordre minimal tel que M(K) ≠ 0, le groupe K est cyclique. Soit k son ordre. Comme M est un sous-foncteur de U_{m,ζ}, j’ai U_{m,ζ}(K) ≠ 0, et m divise k. De plus M(K) = ẽ_{K}^{K}M(K).

Alors si f ∈ M(K) − {0}, la fonction f est portée par les générateurs de K, et telle que f(g^{i}) = ζ(i)f(g) si i est premier à k, ou encore f(g.i) = ζ(i)f(g) en notation additive. Donc f(i) = ζ(i)f(1), et la fonction f est déterminée par f(1).

Mais en appliquant à f le foncteur de co-inflation de Z/kZ à Z/mZ, je dois trouver un élément f′ de M(Z/mZ), donc 0. Or il est clair que

f′(g) = ∑_{π_{k,m}(h)=g} f(h)

et en particulier f′(1) = ∑_{h∈Ker π_{k,m}} f(h). Mais si h ∈ Ker π_{k,m}, alors ζ(h) = 1, donc f(h) = f(1). Donc f′(1) = 0 = f(1)ϕ(k)/ϕ(m), donc f(1) = 0. Alors f est nulle, donc M est nul, et le foncteur U_{m,ζ} est simple. Comme le groupe H = Z/mZ est d’ordre minimal tel que U_{m,ζ}(H) ≠ 0, et comme (Z/mZ)^{∗} opère sur U_{m,ζ}(Z/mZ), de dimension 1, par multiplication par ζ, il en résulte que U_{m,ζ} est isomorphe au foncteur S_{Z/mZ,ζ}.

Proposition 27: Le foncteur C ⊗ R_{C}() est semi-simple, isomorphe à la somme directe des foncteurs S_{Z/mZ,ζ}, où m est un entier naturel et ζ un caractère primitif modulo m.

Remarques: a) La somme directe ci-dessus est “localement finie”, au sens où pour tout groupe fini, elle ne comporte qu’un nombre fini de termes non-nuls.

b) Le corollaire de la proposition 20 permet de montrer que pour m fixé, la somme directe des S_{Z/mZ,ζ}(G) pour ζ primitif modulo m peut-être vue comme le quotient de l’espace des représentations de G réalisables sur le m-ième corps cyclotomique par la somme des espaces des représentations réalisables sur les corps cyclotomiques strictement plus petits.

Bibliographie

[BO1] S.BOUC. Résolutions de foncteurs de Mackey. Rapport de Recherche du LMENS-91-11.Nov.1991

[BO2] S.BOUC. Homologie de certains ensembles ordonnés. C.R.Acad.Sc.Paris, t.299, Série I, n^{∘}2, 1984.

[DI-DU] R.DIPPER-J.DU. Harish-Chandra vertices à paraître au Journal de Crelle

[DI-MI] F.DIGNE-J.MICHEL. Representations of finite groups of Lie type. London Math. Soc. Student Texts 21. Cambridge University Press.

[CU1] C.W.CURTIS. Reduction Theorems for characters of finite groups of Lie type. Journal of Math. Soc. of Japan. 27(1975).666-888

[WE1] P.J.WEBB. Communication at the General Workshop on Representation theory. MSRI, Berkeley, Dec.1990.

Table des matières

1 Introduction 1

2 Notations. Généralités 2

3 Ensembles munis d’une double action 6 3.1 Notations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6 3.2 Formule de Mackey . . . . . . . . . . . . . . . . . . . . . . . . . . 7 3.3 Décomposition d’un morphisme . . . . . . . . . . . . . . . . . . . 7 3.4 Sous-catégories . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8

3.4.1 Ensembles (P, Q)-libres . . . . . . . . . . . . . . . . . . . . 9 3.4.2 Groupes réductifs . . . . . . . . . . . . . . . . . . . . . . . 10

4 Foncteurs simples 12

5 Une théorie de vortex et de source 14

6 Une seconde théorie de vortex et source 19

7 Le foncteur de Burnside 27 7.1 Un homomorphisme de b(G) dans End(G) . . . . . . . . . . . . . 27 7.2 Les sous-foncteurs du foncteur de Burnside en caractéristique 0 . . 32

7.2.1 Premier exemple . . . . . . . . . . . . . . . . . . . . . . . 32 7.2.2 Les constantes m_{G,N} . . . . . . . . . . . . . . . . . . . . . 33 7.2.3 Les b-groupes . . . . . . . . . . . . . . . . . . . . . . . . . 35 7.2.4 Les sous-foncteurs de b . . . . . . . . . . . . . . . . . . . . 39 7.2.5 Exemples de b-groupes . . . . . . . . . . . . . . . . . . . . 41

8 Exemples de foncteurs simples 47 8.1 Le cas des foncteurs de Mackey globaux . . . . . . . . . . . . . . 47 8.2 Les foncteurs S_{H,k} . . . . . . . . . . . . . . . . . . . . . . . . . . . 49 8.3 Certains foncteurs simples en caractéristique 0 . . . . . . . . . . . 51

9 L’algèbre e_{G}^{G}End(G) e_{G}^{G} 55 9.1 Une base naturelle . . . . . . . . . . . . . . . . . . . . . . . . . . 55 9.2 Multiplication . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56 9.3 Semi-simplicité . . . . . . . . . . . . . . . . . . . . . . . . . . . . 59

10 Le foncteur des représentations complexes 62 10.1 Caractères . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 62 10.2 Sous-foncteurs et décomposition . . . . . . . . . . . . . . . . . . . 62 10.3 Semi-simplicité . . . . . . . . . . . . . . . . . . . . . . . . . . . . 67