Définition 5 : Soit $u \in \mathcal{L}(E)$. On appelle polynôme caractéristique de u l'unique polynôme de $\mathbb{K}[X]$, noté $\chi_u$, vérifiant :

$$\forall \lambda \in \mathbb{K}, \ \chi_u(\lambda) = \det(\lambda \mathrm{id}_E - u)$$

Remarque : Le polynôme caractéristique d'un endomorphisme de $E$ est égal à celui de sa matrice dans toute base de $E$.

Corollaire 19 : Soit $u \in \mathcal{L}(E)$. Le polynôme caractéristique de $u$ est un polynôme unitaire de degré $n$ et on a :

$$\chi_u(X) = X^n - \mathrm{tr}(u)X^{n-1} + \dots + (-1)^n \det(u)$$

Exemple : Soit E un espace vectoriel de dimension 4 et de base $\mathcal{B} = (e_1, e_2, e_3, e_4)$. Déterminer le polynôme caractéristique de l'endomorphisme f de E défini par :

$f(e_1) = 4e_1 - e_3$; $f(e_2) = 3e_2 + e_4$; $f(e_3) = 2e_1 + e_3$; $f(e_4) = 2e_2 + 2e_4$.

Proposition 20 : Soit F un sous-espace vectoriel de E stable par $u \in \mathcal{L}(E)$. Le polynôme caractéristique de l'endomorphisme de F induit par u divise $\chi_u$.

Démonstration :

Supposons que F est de dimension $p \in [1, n]$ et est stable par $u \in \mathcal{L}(E)$. La matrice de u dans une base $(e_1, \dots, e_n)$ de E adaptée à F est de la forme $M = \begin{pmatrix} A & C \\ 0 & B \end{pmatrix}$, où A est la matrice dans la base $(e_1, \dots, e_p)$ de l'endomorphisme $u_F$ de F induit par u.

On a alors : $\chi_u(\lambda) = \det \begin{pmatrix} \lambda I_p - A & -C \\ 0 & \lambda I_{n-p} - B \end{pmatrix} = \det(\lambda I_p - A) \det(\lambda I_{n-p} - B)$ et $\det(X I_{n-p} - B) \in \mathbb{K}[X]$ donc $\chi_{u_F}$ divise $\chi_u$.