On propose dans cet article une preuve alternative du petit théorème de Fermat via des considérations combinatoires. On en profitera pour introduire la notion d’action de groupe, primordiale en théorie des groupes.

Introduction naïve

On s’intéresse aux nombres de façons de colorier les sommets d’un polygone régulier à $p$ côtés à l’aide de $n$ couleurs. Evidemment, le nombre total de coloriages possibles est $n^{p}$ (on peut colorier de $n$ façons chacun des $p$ côtés). Un coloriage étant donné, on s’intéresse aux nouveaux coloriages obtenus en faisant subir au polygone une rotation d’angle un multiple de $\frac{2 π}{p}$ .

Clairement, si tous les sommets du polygone initial sont de même couleur, on n’obtient aucun nouveau coloriage en faisant tourner le polygone.

Dans le cas général, pour revenir au coloriage initial par rotation (non égale à l’identité), il faut que le coloriage initial possède un motif “périodique”, la période étant nécessairement un diviseur de $p$ . Notamment, lorsque $p$ est premier, les “périodes” possibles ne peuvent qu’être égales à $1$ (coloriage uniforme) ou $p$ (coloriage non uniforme).

Lorsque $p$ est premier (ici $p = 7$ ), on ne retrouvera jamais le coloriage initial avant la $p^{ème}$ (à moins que le coloriage soit uniforme).

Lorsque $p$ n’est pas premier (ici $p = 6$ ), on peut retrouver le coloriage initial avant la $p^{ème}$ rotation si le motif est “périodique” (la “période” ici est $3$ ).

Puisque l’on dipose de $n$ couleurs, il existe exactement $n$ coloriages uniformes. De plus, chaque rotation d’angle $\frac{2 k π}{p}$ avec $k \in [[0, p - 1]]$ appliquée à un coloriage non uniforme donne un coloriage différent. En regroupant les coloriages non uniformes en “paquets” de coloriages différant d’une rotation d’un angle multiple de $\frac{2 π}{p}$ , on en déduit que le nombre de coloriages non uniformes est un multiple de $p$ . Le nombre total de coloriages étant égal à $n^{p}$ , on en déduit que $n^{p} \equiv n [p]$ .

Une relation d’équivalence

On propose maintenant une formalisation plus rigoureuse de l’approche précédente.

Pour $n \in N$ , on notera $N_{n}$ l’ensemble des entiers compris entre $1$ et $n$ ( $N_{n} = \emptyset$ lorsque $n = 0$ ). On notera également $A_{p, n}$ l’ensemble des applications de $N_{p}$ dans $N_{n}$ . Pour faire le lien avec l’approche précédente, les éléments de $A_{p, n}$ sont des coloriages : un coloriage n’est en effet qu’une manière d’associer une couleur à chacun des sommets.

Faire subir une rotation d’angle $\frac{2 π}{p}$ à notre polygone régulier revient en fait à permuter circulairement ses sommets. On note donc $c$ le cycle $(1, 2, \dots, p)$ . On munit l’ensemble $A_{p, n}$ de la relation d’équivalence suivante¹ :

\forall (f, g) \in A_{p, n}, f \sim g ⟺ \exists k \in Z, f = g \circ c^{k}

Il est évident que les classes d’équivalence des fonctions constantes sont des singletons. En effet, si $f$ est constante, $f \circ c^{k} = f$ pour tout $k \in Z$ .

On suppose maintenant $p$ premier. Le fait que $p$ soit premier entraîne que les classes d’équivalence d’une application non constante sont exactement de cardinal $p$ . Plus précisément, on va montrer que la classe d’équivalence de $f \in A_{p, n}$ est

C (f) = {f \circ c^{r}, r \in [[0, p - 1]]}

les éléments étant bien deux à deux distincts. L’inclusion de la droite vers la gauche est évidente. Réciproquement, si l’on se donne $g \in C (f)$ , il existe $k \in Z$ tel que $g = f \circ c^{k}$ . Puisque $c^{p}$ est l’identité, en notant $r$ le reste de la division euclidienne de $k$ par $p$ , on a bien $g = f \circ c^{r}$ avec $r \in [[0, p - 1]]$ .

Il ne reste plus qu’à montrer que les éléments sont bien deux à deux distincts. On peut raisonner par l’absurde : on suppose qu’il existe $(r, s) \in {[[0, p - 1]]}^{2}$ tel que $r \neq s$ et $f \circ c^{r} = f \circ c^{s}$ . En posant $t = r - s$ , on a donc $f \circ c^{t} = f$ et $t \in [[- p + 1, p - 1]] ∖ 0$ ; $t$ est donc premier avec $p$ car $p$ est premier. Il existe donc $(u, v) \in Z^{2}$ tel que $u t + v p = 1$ . Puisque $f \circ c^{t} = f$ , on obtient successivement $f \circ c^{u t} = f$ , puis $f \circ c^{1 - v p} = f$ et enfin $f \circ c = f$ puisque $c^{p}$ est l’identité. Il est alors clair que $f$ est constante.

Récapitulons :

Les classes d’équivalence des applications constantes sont des singletons. Il existe $n$ telles classes d’équivalences (autant que d’applications constantes).
Les autres classes d’équivalence sont toutes de cardinal $p$ . Notons $q$ leur nombre.

On sait que les classes d’équivalence forment une partition de $A_{p, n}$ qui est lui-même de cardinal $n^{p}$ . On en déduit que $n^{p} = n + q p$ et donc que $n^{p} \equiv n [p]$ . Ceci reste évidemment vrai lorsque $n$ est un entier négatif.

Action de groupe

Le bon cadre pour interpréter le raisonnement précédent est celui d’action de groupe.

Définition [Action de groupe] Soit $G$ un groupe et $X$ un ensemble. On appelle action de groupe toute application

\begin{aligned} G \times X & \to E \\ (g, x) & \mapsto g \cdot x \end{aligned}

vérifiant les conditions suivantes :

$\forall x \in X, e \cdot x = x$ où $e$ désigne l’élément neutre de $G$ ;
$\forall (g, h, x) \in G^{2} \times X, g \cdot (h \cdot x) = (g h) \cdot x$ .

On dit alors que le groupe $G$ agit ou opère sur l’ensemble $E$ . Dans notre exemple précédent, le sous-groupe $⟨ c ⟩$ du groupe symétrique $S_{p}$ engendré par le cycle $c = (1, 2, \dots, p)$ agit sur l’ensemble $A_{p, n}$ des applications de $N_{p}$ dans $N_{n}$ , l’action étant définie par

\begin{aligned} ⟨ c ⟩ \times A_{p, n} & \to A_{p, n} \\ (σ, f) & \mapsto f \circ σ \end{aligned}

Orbites

Les classes d’équivalence de notre exemple précédent sont en fait ce que l’on appelle des orbites pour l’action de groupe.

Définition [Orbite] Soit $G$ un groupe opérant sur un ensemble $X$ . On appelle orbite d’un élément $x$ de $X$ la partie $ω (x)$ de $X$ définie par

ω (x) = {g \cdot x, g \in G}

Si l’on définit la relation d’équivalence $\sim$ par

\forall (x, y) \in X^{2}, x \sim y ⟺ \exists g \in G, y = g \cdot x

l’orbite de $x \in X$ n’est autre que sa classe d’équivalence pour la relation $\sim$ . On en déduit notamment la proposition suivante.

Proposition Les orbites d’une action d’un groupe $G$ sur un ensemble $X$ forment une partition de $X$ .

On peut donner un exemple qui justifie l’appellation d’orbite. Si l’on considère l’action naturelle du groupe $S O_{2} (R)$ sur $R^{2}$

\begin{aligned} S O_{2} (R) \times R^{2} & \to R^{2} \\ (R, x) & \mapsto R x \end{aligned}

alors l’orbite d’un vecteur $x_{0} \in R^{2}$ est le cercle

{x \in R^{2}, ‖ x ‖ = ‖ x_{0} ‖}

Action d’un sous-groupe sur un groupe

Il faut maintenant parler d’un exemple fondamental d’action de groupe : un sous-groupe $H$ d’un groupe $G$ peut agir sur $G$ par multiplication à gauche ou à droite. Plus précisément, les deux actions de groupe sont

\begin{aligned} H \times G & \to G \\ (h, x) & \mapsto h x \end{aligned} et \begin{aligned} H \times G & \to G \\ (h, x) & \mapsto x h \end{aligned}

Les orbites d’un élément $x$ de $G$ pour chacune de ces deux actions de groupe sont alors respectivement $x H$ et $H x$ ². L’ensemble de ces orbites est classiquement noté $G / H$ et il est aisé de voir que si $H$ est fini, toutes les orbites ont même cardinal que $H$ (en effet, les applications $h \mapsto h x$ et $h \mapsto x h$ réalisent des bijection de $H$ sur $H x$ et $x H$ respectivement). Comme les orbites forment une partition de $G$ , on en déduit que $card (G / H) = card (G) / card (H)$ ³.

Dans la suite, on considérera des actions à droite.

Stabilisateur

On va maintenant établir un lien entre l’orbite d’un élément et un objet appelé stabilisateur.

Définition [Stabilisateur] Soit $G$ un groupe opérant sur un ensemble $X$ . On appelle stabilisateur d’un élément $x$ de $X$ l’ensemble

Stab (x) = {g \in G, g \cdot x = x}

C’est un sous-groupe de $G$ .

Dans notre exemple, le stabilisateur d’une application constante est évidemment $⟨ c ⟩$ en entier tandis que le stabilisateur d’une application non constante est réduit à l’identité. En effet, le stabilisateur d’une application $f$ est un sous-groupe de $⟨ c ⟩$ . Son ordre divise l’ordre de $⟨ c ⟩$ , à savoir le nombre premier $p$ : il vaut donc $1$ ou $p$ . Ainsi le stabilisateur de $f$ est soit $⟨ c ⟩$ en entier, soit réduit à l’identité. Dans le premier cas, le stabilisateur de $f$ contient $c$ et donc $c \cdot f = f \circ c = f$ , ce qui prouve aisément que $f$ est constante. Réciproquement, si $f$ est constante, il est clair que son stabilisateur est $⟨ c ⟩$ .

On retourne maintenant au cas général.

Proposition Soit $G$ un ensemble opérant sur un ensemble $X$ . Alors pour tout $x \in X$ , il existe une bijection de $G / Stab (x)$ sur $ω (x)$ .

On en déduit notamment que, si $G$ est d’ordre fini,

card (G / Stab (x)) = card (G) / card (Stab (x)) = card (ω (x))

En particulier, le cardinal d’une orbite divise le cardinal du groupe.

Il s’agit maintenant de prouver ce résultat. On peut en fait expliciter une bijection $ϕ$ de $G / Stab (x)$ sur $ω (x)$ . On pose pour $C \in G / Stab (x)$ , $ϕ (C) = g \cdot x$ où $g$ est un élément de $C$ .

Il faut déjà montrer que cette application est bien définie, autrement dit que si $g_{1}$ et $g_{2}$ appartiennent à une même classe de $G / Stab (x)$ , $g_{1} \cdot x = g_{2} \cdot x$ . Puisque $g_{1}$ et $g_{2}$ appartiennent à la même classe, il existe $g \in Stab (x)$ tel que $g_{2} = g_{1} g$ . Ainsi $g_{2} \cdot x = (g_{1} g) \cdot x = g_{1} \cdot (g \cdot x) = g_{1} \cdot x$ .
Il faut également montrer que $ϕ$ est surjective sur $ω (x)$ . Si l’on se donne $y \in ω (x)$ , il existe $g \in G$ tel que $y = g \cdot x$ . En notant $C$ la classe de $g$ , on a bien $y = ϕ (C)$ .
Enfin, il faut montrer l’injectivité de $ϕ$ . Notons $C_{1}$ et $C_{2}$ deux classes de $G / Stab (x)$ ainsi que $g_{1}$ et $g_{2}$ des éléments respectifs de ces classes. Supposons que $ϕ (C_{1}) = ϕ (C_{2})$ i.e. $g_{1} \cdot x = g_{2} \cdot x$ . On a donc $(g_{2}^{- 1} g_{1}) \cdot x = x$ et donc $g_{2}^{- 1} g_{1} \in Stab (x)$ . Ainsi $g_{1} \in g_{2} Stab (x) = c_{2}$ , puis $C_{1} = C_{2}$ .

On peut alors revenir une dernière fois à l’exemple traité initialement. Les cardinaux des orbites divisent le cardinal de $⟨ c ⟩$ , à savoir $p$ qui est premier : ces cardinaux valent donc tous $1$ ou $p$ .

Si $f$ est une application constante de $A_{p, n}$ , son orbite est évidemment de cardinal $1$ . Réciproquement, si $f$ est une application dont l’orbite est de cardinal $1$ , alors $c \cdot f = f \circ c = f$ . On prouve alors facilement que $f$ est constante.

Finalement, l’orbite de chaque application constante est de cardinal $1$ et il existe $n$ telles orbites tandis que les orbites des applications non constantes sont de cardinal $p$ . Comme $A_{p, n}$ est de cardinal $n^{p}$ et que les orbites forment une partition de cet ensemble, $n^{p} \equiv n [p]$ .

Variantes

On aurait pu établir le petit théorème de Fermat en utilisant d’autres actions de groupe.

Par exemple, on peut utiliser le groupe additif $F_{p} = Z / p Z$ . En effet, si on note maintenant $B_{p, n}$ l’ensemble des applications de $F_{p}$ dans $N_{n}$ , il suffit d’introduire l’action de groupe

\begin{aligned} F_{p} \times B_{p, n} & \to B_{p, n} \\ (x, f) & \mapsto f \circ τ_{x} \end{aligned}

où $τ_{x}$ désigne la translation $y \in F_{p} \mapsto x + y$ . On laisse la preuve de la suite au lecteur.

On aurait aussi pu utiliser l’action d’un autre groupe cyclique d’ordre $p$ , à savoir le groupe $U_{p}$ des racines $p^{èmes}$ de l’unité. On le fait alors agir sur l’ensemble $C_{p, n}$ des applications de $U_{p}$ dans $N_{n}$ de la manière suivante

\begin{aligned} U_{p} \times C_{p, n} & \to C_{p, n} \\ (ζ, f) & \mapsto f \circ τ_{ζ} \end{aligned}

où $τ_{ζ}$ désigne l’application $z \in U_{p} \mapsto ζ z$ . Là aussi, le lecteur saura se ramener à l’étude du premier exemple.

De manière générale, si $G_{p}$ désigne un groupe cyclique d’ordre $p$ ⁴, on peut le faire agir sur l’ensemble $N_{n}^{G_{p}}$ des applications de $G_{p}$ dans $N_{n}$ via l’action de groupe suivante

\begin{aligned} G_{p} \times N_{n}^{G_{p}} & \to N_{n}^{G_{p}} \\ (α, f) & \mapsto f \circ τ_{α} \end{aligned}

où $τ_{α}$ désigne l’application $β \in G_{p} \mapsto α β$ . A nouveau, le stabilisateur d’un élément $f$ de $N_{n}^{G_{p}}$ est un sous-groupe de $G_{p}$ . Son ordre divise donc $p$ . Or $p$ est premier donc le stabilisateur de $f$ est d’ordre $1$ ou $p$ .

Si $f$ est constante, son orbite est évidemment de cardinal $1$ . Réciproquement, si l’orbite de $f$ est de cardinal $1$ , alors $f \circ τ_{α} = f$ , ce qui permet de prouver que $f (α^{k}) = f (α)$ pour tout $k \in Z$ , et, comme $α$ engendre $G_{p}$ , $f (β) = f (α)$ pour tout $β \in G_{p}$ . L’application $f$ est donc bien constante.

Finalement, l’orbite de chaque application constante est de cardinal $1$ et il existe $n$ telles orbites tandis que les orbites des applications non constantes sont de cardinal $p$ . Comme $N_{n}^{G_{p}}$ est de cardinal $n^{p}$ et que les orbites forment une partition de cet ensemble, $n^{p} \equiv n [p]$ .

Bémol

Cette preuve du petit théorème de Fermat est relativement élégante et nous a permis d’introduire un concept-clé de la théorie des groupes, à savoir l’action de groupe.

Néanmoins, cette preuve n’est pas vraiment “efficace” lorsqu’on la compare à la preuve “classique”. On se permet de rappeler celle-ci pour mettre en exergue sa briéveté. On sait que les inversibles de l’anneau $F_{p}$ forment un groupe. Lorsque $p$ est premier, $F_{p}$ est un corps (il s’agit essentiellement du théorème de Bézout) de sorte que le groupe des inversibles est $F_{p}^{⋆}$ ( $F_{p}$ privé de l’élément nul). Ce groupe est donc d’ordre $p - 1$ . Ainsi pour tout $x \in F_{p}^{⋆}$ , $x^{p - 1} = 1$ . En termes d’entiers, pour tout entier $n$ premier avec $p$ , $n^{p - 1} \equiv 1 [p]$ . On en déduit quasi immédiatement que $n^{p} \equiv n [p]$ pour tout entier $n$ .

Notes

On laisse le soin au lecteur de vérifier qu’il s’agit bien d’une relation d’équivalence. ↩
Attention, les ensembles $x H$ et $H x$ ne coïncident pas forcément. Si $x H = H x$ pour tout $x \in G$ , on dit que $H$ est un sous-groupe distingué de $G$ . ↩
On a donc en particulier démontré le théorème de Lagrange : l’ordre d’un sous-groupe divise l’ordre d’un groupe. ↩
Un groupe $G_{p}$ d’ordre premier $p$ est forcément cyclique. En effet, l’ordre d’un élément divise l’ordre du groupe et vaut nécessairement $1$ ou $p$ . Or le seul élément d’ordre $1$ est l’élément neutre (qui est unique) et $G_{p}$ contient plus d’un élément (car $p > 1$ ). Il contient forcément un élément d’ordre $p$ : il est donc cyclique. ↩