Votre navigateur n'accepte pas le Javascript.La navigation sur ce site risque de ne pas fonctionner correctement.

093. Meilleure approximation et orthogonalité

Le contexte

Dans cet article, on se place dans un espace vectoriel $V$ réel ou complexe muni d’un produit scalaire, appellé aussi espace préhilbertien. Ce produit scalaire sera noté $(.|.)$, dans le cas complexe ce produit scalaire sera linéaire pour la première variable et anti-linéaire vis-à-vis de la seconde variable. La norme associée à ce produit scalaire sera notée $||.||.$

Considérez un sous-espace vectoriel de $V$ que vous noterez $W.$

Soit $x$ un vecteur quelconque de $V$. Il s’agit d’approximer le mieux possible le vecteur $x$ parmi tous les vecteurs de $W$. Vous considérez la borne inférieure $\inf_{w\in W} ||x-w||$ qui est bien définie. En effet, puisque $W$ contient toujours le vecteur nul et $\forall w\in W, ||x-w||\geq 0$, l’ensemble $\{||x-w||, w\in W\}$ est non vide et minoré par $0.$

Que se passe-t-il s’il existe une meilleure approximation ?

Lorsque la borne inférieure $\inf_{w\in W} ||x-w||$ est atteinte, il existe un vecteur $y\in W$ de sorte que $\forall w\in W, ||x-y||\leq ||x-w||.$ Cette dernière inégalité permet de justifier l’appellation « meilleure approximation. »

Comment localiser un tel vecteur $y$, réalisant une meilleure approximation ?

Dans cette partie sera étudié le lien entre orthogonalité et meilleure approximation.

Supposez qu’il existe un vecteur $y\in W$ réalisant une meilleure approximation de $x$ parmi tous les vecteurs $w\in W.$ Autrement dit, supposez qu’il existe un vecteur $y\in W$ tel que $\forall w\in W, ||x-y||\leq ||x-w||.$

Maintenant les calculs débutent. Fixez un vecteur $w\in W.$ Dans le cas où l’espace $V$ est complexe, notez qu’on n’a pas, en général, la commutativité du produit scalaire et qu’il convient d’être vigilant sur l’ordre dans le développement.

\begin{aligned}
||x-y||&\leq ||x-w|| \\
||x-y||^2 &\leq ||x-w||^2 \\
(x-y|x-y) &\leq (x-w|x-w)\\
||x||^2+||y||^2-(x|y)-(y|x)&\leq ||x||^2+||w||^2-(x|w)-(w|x) \\
0&\leq ||w||^2-||y||^2+(x|y-w)+(y-w|x)
\end{aligned}

Comment aller plus loin ?

Regardez ce qui se passe quand $V$ est de dimension $2$ et que $W$ est de dimension $1$. Il apparaît géométriquement que le vecteur $y$ est tel que $x-y$ est orthogonal à tous les vecteurs de $W.$ Ce vecteur joue un rôle important, vous allez le faire apparaître dans vos calculs.

Vous allez donc écrire que $x = x-y + y$ dans les deux produits scalaires du dessus.

En développant, vous obtenez :

\begin{aligned}
(x|y-w)&= (x-y | y-w)+(y|y-w)\\
&=(x-y|y-w)+||y||^2-(y|w).
\end{aligned}

\begin{aligned}
(y-w|x)&= (y-w|x-y)+(y-w|y)\\
&=(y-w|x-y)+||y||^2-(w|y).
\end{aligned}

\begin{aligned}
0&\leq ||w||^2-||y||^2+(x|w-y)+(w-y|x) \\
0&\leq ||w||^2-||y||^2+2||y||^2+(x-y|w-y)+(w-y|x-y)-(y|w)-(w|y)\\
0&\leq ||w||^2+||y||^2+(x-y|w-y)+(w-y|x-y)-(y|w)-(w|y)\\
0&\leq (w-y|w-y)+(x-y|w-y)+(w-y|x+y)\\
0&\leq ||w-y||^2+(x-y|w-y)+(w-y|x-y).
\end{aligned}

Il a été établi que :

$\forall w\in W, 0\leq ||w-y||^2+(x-y|w-y)+(w-y|x-y).$

Note. Les lecteurs avertis réussiront à établir à cette inégalité beaucoup plus rapidement.

Soit $r\in W$. Posez $w=r+y.$ Alors $w\in W$ du coup, comme $r=w-y$ :

$0\leq ||r||^2+(x-y|r)+(r|x-y).$

Ainsi :

$\forall r\in W, 0\leq ||r||^2+(x-y|r)+(r|x-y).$

Cette propriété est trop forte : soit $w$ un vecteur quelconque de $W$.

$\forall k\in\R^{*}, k^2w\in W$
$\forall k\in\R^{*}, 0\leq ||k^2w||^2+(x-y|k^2w)+(k^2w|x-y)$
$\forall k\in\R^{*}, 0\leq k^4||w||^2+k^2(x-y|w)+k^2(w|x-y)$
$\forall k\in\R^{*}, 0\leq k^2||w||^2+(x-y|w)+(w|x-y)$

Faisant tendre $k$ vers $0$, il s’ensuit que : $(x-y|w)+(w|x-y) \geq 0.$

De même :

$\forall k\in\R^{*}, -k^2w\in W$
$\forall k\in\R^{*}, 0\leq ||-k^2w||^2-(x-y|k^2w)-(k^2w|x-y)$
$\forall k\in\R^{*}, 0\leq k^4||w||^2-k^2(x-y|w)-k^2(w|x-y)$
$\forall k\in\R^{*}, 0\leq k^2||w||^2-(x-y|w)-(w|x-y)$

Faisant tendre $k$ vers $0$, il s’ensuit que : $(x-y|w)+(w|x-y) \leq 0.$

Vous en déduisez que $\forall w\in W, (x-y|w)+(w|x-y) = 0.$

La conclusion où l’espace vectoriel $V$ est réel

Le produit scalaire est commutatif, donc $\forall w\in W, (x-y|w)+(w|x-y) = 2(x-y|w)$ et par suite $\forall w\in W, (x-y|w)=0.$

La conclusion où l’espace vectoriel $V$ est complexe

Le produit scalaire vérifie l’anti-linéarité par rapport à la seconde variable.

Soit $w\in W$. Alors vous utilisez le nombre $i\in \C$ qui vérifie $i^2 = -1.$ Comme $i w \in W$ :

\begin{aligned}
(x-y|iw)+(iw|x-y)&=0\\
-i(x-y|w)+i(w|x-y)&=0\\
-(x-y|w)+(w|x-y)&=0.
\end{aligned}

D’autre part $(x-y|w)+(w|x-y) = 0.$

Par différence vous obtenez $2(x-y|w)=0$ et finalement $(x-y|w)=0.$

Le lien est maintenant établi

Que l’espace $V$ soit réel ou complexe, un vecteur $y\in W$qui réalise le minimum de la borne inférieure $\inf_{w\in W} ||x-w||$ est tel que $x-y$ est orthogonal à tous les vecteurs de $W.$

Prolongement

Dans le cas où il existerait deux vecteurs $y_1\in W$ et $y_2\in W$ tels que $y_1$ et $y_2$ réalisent le minimum de la borne inférieure $\inf_{w\in W} ||x-w||$, a-t-on obligatoirement $y_1 = y_2$ ?

Dans le cas où la borne inférieure $\inf_{w\in W} ||x-w||$ est atteinte, peut-il y avoir plusieurs vecteurs réalisant un tel minimum ?

Partagez maintenant !

Aidez vos amis à découvrir cet article et à mieux comprendre le sujet.

Aidez-moi sur Facebook !

Vous appréciez cet article et souhaitez témoigner du temps que j'y ai passé pour le mettre en œuvre. C'est rapide à faire pour vous et c'est important pour moi, déposez un j'aime sur ma page Facebook. Je vous en remercie par avance.

Lisez d'autres articles !

Parcourez tous les articles qui ont été rédigés. Vous en trouverez sûrement un qui vous plaira !