Vous souhaitez démontrer que tout polynôme à coefficients complexes, non constant, admet au moins une racine complexe ?
C’est ici que cela se passe, grâce à une démonstration récente, due à Derken.

Vous aurez besoin de quelques notations à garder en tête pour tout cet article…

Notation $H_n$

Soit $n$ un entier naturel non nul.
Pour toute matrice $A\in M_n(\mathbb{C})$, notez $A^{*}$ la matrice conjuguée de la transposée de $A$.
Plus précisément, si $A = \left(a_{ij}\right)_{1\leq i \leq n \\ 1\leq j\leq n}$, alors $A^{*} = \left(\overline{a_{ji}}\right)_{1\leq i \leq n \\ 1\leq j\leq n}$.
Appellez « matrice hermitienne d’ordre $n$ » toute matrice $A\in M_n(\mathbb{C})$ telle que $A = A^{*}$.
Notez $H_n$ l’ensemble des matrices hermitiennes d’ordre $n$.

A quoi ressemble une matrice hermitienne d’ordre $3$ ?

Comme une matrice symétrique, avec apparition du conjugué de part et d’autre de la diagonale principale. En voici deux exemples.

$M_1=\begin{pmatrix} 4 & 1+i & -2 \\ 1-i & 7 & 3-2i \\ -2 & 3+2i & 9\end{pmatrix}.\quad$ $M_2=\begin{pmatrix} 0 & 1-i & 4i \\ 1+i & 7 & 3-2i \\ -4i & 3+2i & 1\end{pmatrix}.$

Applications $\alpha$ et $\beta$

Pour toute matrice $A\in M_n(\mathbb{C})$, définissez les applications $\alpha_A$ et $\beta_A$ qui vont toutes les deux de $H_n$ dans $M_n(\mathbb{C})$ par :
$\begin{align*}\forall B\in H_n, \quad & \alpha_A(B) = \dfrac{1}{2}\left(AB +BA^{*}\right)\\ &
\beta_A(B)=\dfrac{1}{2i} \left(AB-BA^{*}\right).
\end{align*}$

Lemme 1 : quels que soient les réels $a$ et $b$, si $\vert a\vert > \vert b \vert$, alors la somme $a+b$ est non nulle et elle a le même signe que celui de $a$

Soient $a$ et $b$ deux réels tels que $\vert a\vert > \vert b \vert$.

Supposez que $a$ est positif. Alors $a\geq \vert a\vert > \vert b \vert \geq -b$ donc $a>-b$ et $a+b>0$.

Supposez que $a$ est négatif. Alors $-a\geq \vert a\vert > \vert b \vert \geq b$ donc $-a>b$ et $0>a+b$.

Lemme 2 : tout polynôme réel $P$ de degré impair et unitaire prend une valeur strictement positive et une valeur strictement négative

Soit $P$ un polynôme réel de degré impair et unitaire, c’est-à-dire de coefficient dominant égal à $1$.
(Exemple pour fixer les idées : vous pouvez avoir $P(X) = X^5 +2X^4-X^3-X^2+X+1.$)

Il existe un entier naturel $n$ et une famille de réels $(a_i)_{0\leq i \leq 2n}$ telle que $P(X) = X^{2n+1}+\sum_{k=0}^{2n} a_kX^k.$
Notez $M = \mathrm{Max}\{ \vert a_k \vert, 0\leq k \leq 2n \}$ et $y = 1+(2n+1)M$. Vous avez $y\geq 1$.

Soit $x\in \{ y , -y\}$. Notez que $\vert x \vert = y$.

$\begin{align*}\left\vert \sum_{k=0}^{2n} a_kx^k \right\vert
&\leq \sum_{k=0}^{2n} \vert a_k \vert y^k \\
&\leq \sum_{k=0}^{2n} M y^k \\
&\leq M \sum_{k=0}^{2n} y^k \\
&\leq M \sum_{k=0}^{2n} y^{2n} \\
&\leq (2n+1)M y^{2n} \\
&< y \times y^{2n} \\
&\leq y^{2n+1} \\
&\leq {\vert x \vert}^{2n+1} \\
&\leq \left\vert x^{2n+1} \right\vert.
\end{align*}$

Ainsi, pour tout $x\in \{ y , -y\}$, $\displaystyle\left\vert x^{2n+1} \right\vert > \left\vert \sum_{k=0}^{2n} a_kx^k \right\vert.$

Puisque $y^{2n+1}$ est positif, vous en déduisez que $ P(y)$ est strictement positif.
Puisque $(-y)^{2n+1} = -y^{2n+1}$ est négatif, vous en déduisez que $ P(-y)$ est strictement négatif.

Lemme 3 : tout polynôme réel de degré impair admet une racine réelle

Puisque $0\in]-\infty,+\infty[$, d’après le théorème des valeurs intermédiaires, $0$ admet un antécédent par $P$ : il existe $a\in\mathbb{R}$ tel que $P(a)=0$.

Soit $P$ un polynôme réel de degré impair. Notez $p$ le coefficient dominant de $P$ et considérez le polynôme $Q$ défini par $Q(X)=\dfrac{1}{p} P(X)$. $Q$ est de degré impair et unitaire, donc il existe $a\in\mathbb{R}$ tel que $Q(a)=0$ et par suite $P(a)=0.$

Lemme 4 : pour tout $n\in\mathbb{N^{*}}$, l’ensemble $H_n$des matrices hermitiennes possédant $n$ lignes et $n$ colonnes est un $\mathbb{R}$-espace vectoriel de dimension $n^2$

Soit $A\in M_n(\mathbb{C})$ une matrice hermitienne, c’est-à-dire une matrice telle que $A = A^{*}$.
Alors les coefficients diagonaux de $A$ sont réels, ils sont au nombre de $n$.
Les coefficients complexes situés strictement au-dessus de la diagonale de $A$ sont au nombre de $1+\dots+(n-1) = \dfrac{(n-1)n}{2}$. Chaque coefficient complexe est associé à deux nombres réels exactement. Cela fait en tout $2\times \dfrac{(n-1)n}{2} = n(n-1)$ coefficients réels.
Au total vous avez $n+n(n-1) = n^2$ coefficients réels déterminant complètement la matrice $A$.

Pour bien comprendre le processus, supposez que $n=3$.
Une base de $H_3$, vu comme un $\mathbb{R}$-espace vectoriel, est : $(D_1,D_2,D_3,S_{12},S_{13},S_{23},T_{12},T_{13},T_{23})$ avec :

$D_1 = \begin{pmatrix}1 & 0 & 0 \\
0 & 0 & 0\\
0 & 0 & 0\end{pmatrix}$, $D_2 = \begin{pmatrix}0 & 0 & 0 \\
0 & 1 & 0\\
0 & 0 & 0\end{pmatrix}$, $D_3 = \begin{pmatrix}0 & 0 & 0 \\
0 & 0 & 0\\
0 & 0 & 1\end{pmatrix}$,

$S_{12} = \begin{pmatrix}0 & 1 & 0 \\
1 & 0 & 0\\
0 & 0 & 0\end{pmatrix}$, $S_{13} = \begin{pmatrix}0 & 0 & 1 \\
0 & 0 & 0\\
1 & 0 & 0\end{pmatrix}$, $S_{23} = \begin{pmatrix}0 & 0 & 0 \\
0 & 0 & 1\\
0 & 1 & 0\end{pmatrix}$,

$T_{12} = \begin{pmatrix}0 & i & 0 \\
-i & 0 & 0\\
0 & 0 & 0\end{pmatrix}$, $T_{13} = \begin{pmatrix}0 & 0 & i \\
0 & 0 & 0\\
-i & 0 & 0\end{pmatrix}$, $T_{23} = \begin{pmatrix}0 & 0 & 0 \\
0 & 0 & i\\
0 & -i & 0\end{pmatrix}.$

Lemme 5 : pour toute matrice $A\in M_n(\mathbb{C})$, les applications $\alpha_A$ et $\beta_A$ induisent des endomorphismes de $H_n$ en tant que $\mathbb{R}$-espace vectoriel

Soit $A\in \mathbb{C}$ et soit $B\in H_n$. Notez bien que $B = B^{*}.$
Le plus important c’est de voir que les éléments d’arrivée des applications $\alpha_A$ et $\beta_A$ sont bien dans $H_n$.

$\begin{align*}\left(\alpha_A(B)\right)^{*}&=\dfrac{1}{2}\left((AB)^{*}+(BA^{*})^{*} \right)\\ &
=\dfrac{1}{2}\left(B^{*}A^{*}+AB^{*} \right)\\ &=\dfrac{1}{2}\left(BA^{*}+AB \right) \\&=\alpha_A(B).
\end{align*}$

$\begin{align*}\left(\beta_A(B)\right)^{*}&=\dfrac{1}{-2i}\left((AB)^{*}-(BA^{*})^{*} \right)\\ &
=\dfrac{1}{-2i}\left(B^{*}A^{*}-AB^{*} \right)\\&= \dfrac{1}{2i}\left(AB^{*}-B^{*}A^{*} \right) \\&= \dfrac{1}{2i}\left(AB-BA^{*} \right) \\&=\beta_A(B).
\end{align*}$

Du coup, $\alpha_A(B)\in H_n$ et $\beta_A(B)\in H_n$.

La preuve de la $\mathbb{R}$-linéarité des applications $\alpha_A$ et $\beta_A$ est laissée de côté.

Lemme 6 : pour toute matrice $A\in M_n(\mathbb{C})$, les applications linéaires $\alpha_A$ et $\beta_A$ de $H_n$ commutent

Soit $A\in \mathbb{C}$ et soit $B\in H_n$. Notez bien que $B = B^{*}.$

$\begin{align*}\alpha_A(\beta_A(B)) &= \dfrac{1}{2}\left( A\beta_A(B) + \beta_A(B)A^{*} \right)\\&=
\dfrac{1}{2}A\beta_A(B) +\dfrac{1}{2}\beta_A(B) A^{*} \\&=
\dfrac{1}{2}A\left(\dfrac{1}{2i}AB-\dfrac{1}{2i}BA^{*}\right) +\dfrac{1}{2}\left(\dfrac{1}{2i}AB-\dfrac{1}{2i}BA^{*}\right) A^{*} \\&=
\dfrac{1}{4i}\left(A^2B – ABA^{*}+ABA^{*}-B(A^{*})^2\right) \\&=
\dfrac{1}{4i}\left((AA)B -BA^{*}A^{*}\right) \\&=
\dfrac{1}{4i}\left((AA)B -B(AA)^{*}\right) \\&=
\dfrac{1}{4i}\left((A^2)B -B(A^2)^{*}\right) \\&=
\dfrac{1}{2}\beta_{A^2}(B).
\end{align*}$

$\begin{align*}\beta_A(\alpha_A(B)) &= \dfrac{1}{2i}\left( A\alpha_A(B) )- \alpha_A(B)A^{*} \right)\\&=
\dfrac{1}{2i}\left( \dfrac{1}{2}A\left(AB+BA^{*}\right) )- \dfrac{1}{2}\left(AB+BA^{*}\right)A^{*} \right) \\&=
\dfrac{1}{4i}\left(AAB+ABA^{*}-ABA^{*}-BA^{*}A^{*}\right) \\&=
\dfrac{1}{4i}\left((A^2)B -B(A^2)^{*}\right) \\&=
\dfrac{1}{2}\beta_{A^2}(B).
\end{align*}$

Lemme 8 : pour toute matrice $A\in M_n(\mathbb{C})$, si $\alpha_A$ et $\beta_A$ ont un vecteur propre $B\in H_n$ en commun, alors $A$ admet une valeur propre $\lambda \in \mathbb{C}$

Soit $A\in M_n(\mathbb{C})$.

Supposez que $\alpha_A$ et $\beta_A$ ont un vecteur propre $B\in H_n$ en commun.
N’oubliez pas que $H_n$ est muni d’une structure de $\mathbb{R}$-espace vectoriel.
Il existe donc $a\in\mathbb{R}$ valeur de propre de $\alpha_A$ associée à $B$ telle que $\alpha_A(B)=aB$.
De même, il existe $b\in\mathbb{R}$ valeur de propre de $\beta_A$ associée à $B$ telle que $\beta_A(B)=bB$.

Remarquez que, pour toute matrice $M\in H_n$, $\alpha_A(M)+i\beta_A(M) = AM$.

Utilisez cette égalité avec $M=B$.

$\alpha_A(B)+i\beta_A(B) = AB$.

Utilisant le fait que $B$ est vecteur propre en commun, vous avez aussi :

$\alpha_A(B)+i\beta_A(B) = aB + i b B = (a+ib)B$.

Posez $\lambda = a+ib$, vous avez $\lambda \in \mathbb{C}$ et $AB = \lambda B$.

$B$ étant un vecteur propre de $H_n$, $B$ n’est pas la matrice nulle donc il existe une colonne $V$ de $B$ telle que $V\neq 0$. En développant la matrice $A$ vis-à-vis des colonnes de $B$ dans l’égalité $AB = \lambda B$ vous avez $AV = \lambda V$.

Lemme 9 : Pour tout corps $K$, si $f$ et $g$ sont deux endomorphismes d’un $K$-espace vectoriel tels que $f\circ g = g\circ f$ alors, pour tout $\lambda \in K$ les sous-espaces $\newcommand{\id}{\mathrm{Id}} \ker (f- \lambda \id)$ et $\newcommand{\id}{\mathrm{Id}}\DeclareMathOperator{\ima}{Im} \ima (f-\lambda \id)$ sont stables par $f$ et par $g$

Ce lemme est capital dans les preuves par récurrence.
Soit $E$ un $K$-espace vectoriel. Soient $f$ et $g$ deux endomorphismes de $E$ qui commutent et $\lambda$ un scalaire quelconque du corps $K$.

Lemme 10 : Si $f$ et $g$ sont deux endomorphismes d’un $\mathbb{R}$-espace vectoriel de dimension impaire tels que $f\circ g = g\circ f$, alors $f$ et $g$ ont un vecteur propre en commun

Pour tout entier naturel $n$, notez $P(n)$ la propriété : « Si $f$ et $g$ sont deux endomorphismes d’un $\mathbb{R}$-espace vectoriel de dimension $2n+1$ tels que $f\circ g = g\circ f$, alors $f$ et $g$ ont un vecteur propre en commun. »

Initialisation. Soient $f$ et $g$ deux endomorphismes qui commutent d’un espace vectoriel $E$ réel de dimension $1$. Notez $e$ un vecteur non nul de $E$. Alors il existe un réel $\lambda$ tel que $f(e) = \lambda e$ parce que la famille $(e,f(e))$ est liée. De même il existe un réel $\mu$ tel que $g(e)=\mu e$ car $(e,g(e))$ est liée. $e$ est un vecteur propre commun à $f$ et à $g$. Donc vous avez $P(0)$.

Hérédité par récurrence forte. Soit $n$ un entier naturel. Supposez $P(0)$, … ,$P(n)$. Vous allez montrer $P(n+1)$.
Soient $f$ et $g$ deux endomorphismes qui commutent d’un espace vectoriel $E$ de dimension $2n+3$.

L’application qui va de $\mathbb{R}$ dans $\mathbb{R}$ définie par $r(x) = \det (f – x Id)$ est polynomiale de degré $2n+3$ qui est impair. En vertu du lemme 1, il existe $\lambda \in \mathbb{R}$ tel que $r(\lambda)=0$ donc $\ker (f-\lambda Id) \neq {0}$. Autrement dit, $\lambda$ est une valeur propre de $f$.

De même, l’endomorphisme $g$ admet une valeur propre $\mu \in\mathbb{R}$.

Notez $F = \ker (f-\lambda Id)$ le sous-espace propre de $f$ associé à la valeur propre $\lambda$. $F$ est un sous-espace vectoriel de $E$ stable par $f$. Comme $f$ et $g$ commutent, $E$ est aussi stable par $g$.

Cas n°1. Supposez que la dimension de $F$ est impaire.
Si $F = E$ c’est que $f = \lambda Id$. Notez $v$ un vecteur propre associé à la valeur propre $\mu$ de $g$. Alors $v\neq 0$,$g(v) =\mu v$ et $f(v)=\lambda v$ donc $P(2n+3)$.
Sinon $F \neq E$ et $F \subset E$. La dimension de $F$ est strictement inférieure à $2n+3$. Comme elle est impaire, c’est que cette dimension vaut $2n+1$ au maximum. Vous considérez les restrictions de $f$ et $g$ à $F$, notées respectivement $f_{\vert F}$ et $g_{\vert F}$. L’hypothèse de récurrence s’applique à ces deux endomorphismes de $F$. $f_{\vert F}$ et $g_{\vert F}$ ont donc un vecteur propre en commun et ce vecteur propre est aussi un vecteur propre commun à $f$ et à $g$.

Cas n°2. Supposez que la dimension de $F$ est paire.
Dans ce cas, comment progresser ? L’idée est d’utiliser le théorème de rang pour se ramener à une dimension impaire. Vous avez $\DeclareMathOperator{\ima}{Im}\dim \ima (f-\lambda Id)) = \dim E – \dim \ker (f-\lambda Id) = \dim E – \dim F$.
Posez $G = \DeclareMathOperator{\ima}{Im} \ima (f-\lambda Id)$. Alors $G$ est de dimension impaire. Comme $\dim F \neq 0$, $G$ est strictement inclus dans $E$, donc de dimension impaire inférieure ou égale à $2n+1$.
Appliquez l’hypothèse de récurrence aux endomorphismes $f_{\vert G}$ et $g_{\vert G}$. Ils ont un vecteur propre en commun qui est aussi un vecteur propre en commun de $f$ et de $g$.