Ortogonalizzazione di Gram-Schmidt

Vettori ortogonali e ortonormali

Definizione 3.1

Un sottoinsieme di vettori $X_{i}=\{x_{1},\dots ,x_{n}\}$$X_{i}=\{x_{1},\dots ,x_{n}\}$ si dice ortogonale se $x_{i}\perp x_{j}$$x_{i}\perp x_{j}$ quando $i\neq j$$i \neq j$. $X_{i}$$X_{i}$ si dice ortonormale se è ortogonale e se ogni elemento della famiglia ha norma 1.

 

Osservazione 3.1

Se il sottoinsieme $X_{i}$$X_{i}$ è ortonormale, allora $X_{i}$$X_{i}$ è linearmente indipendente.

 

Dimostrazione

Supponiamo per assurdo che $X_{i}$$X_{i}$ ortogonale non sia indipendente, allora esiste una combinazione lineare di vettori non nulli tale che

$$\alpha _{1}x_{1}+\alpha _{2}x_{2}+\dots +\alpha _{n}x_{n}=0$$

$$\alpha _{1}x_{1}+\alpha _{2}x_{2}+\dots +\alpha _{n}x_{n}=0$$

allora, il prodotto scalare di questo vettore che appartiene a $X_{i}$$X_{i}$ con $x_{1}$$x_{1}$ dev'essere 0 perché il primo vettore è nullo:

$$(\alpha _{1}x_{1}+\alpha _{2}x_{2}+\dots +\alpha _{n}x_{n})\cdot x_{1}=0$$

$$(\alpha _{1}x_{1}+\alpha _{2}x_{2}+\dots +\alpha _{n}x_{n})\cdot x_{1}=0$$

e siccome tutti i prodotti della forma $x_{i}\cdot x_{j}$$x_{i}\cdot x_{j}$ sono nulli per $i\neq j$$i \neq j$, rimane

$$=\alpha _{1}x_{1}\cdot x_{1}=\alpha _{1}\|x_{1}\|^{2}=0$$

$$=\alpha _{1}x_{1}\cdot x_{1}=\alpha _{1}\|x_{1}\|^{2}=0$$

quindi siccome $x_{1}\neq 0$$x_{1}\neq 0$, $\alpha _{1}=0$$\alpha _{1}=0$. Allo stesso modo sono nulli tutti gli altri coefficienti $\alpha _{i}$$\alpha _{i}$, cioè $X_{i}$$X_{i}$ è indipendente.

 

Un esercizio mostra che, se $M$$M$ è il sottospazio lineare generato dai vettori $e_{1},\dots ,e_{n}\subset X$$e_{1},\dots ,e_{n}\subset X$ ortonormali tra loro, allora $M$$M$ è chiuso. (in particolare ogni spazio vettoriale di dimensione finita è chiuso). Quindi è possibile definire la proiezione su $M$$M$.

Proposizione 3.2

Dato $M$$M$ sottospazio lineare ortonormale generato da $e_{1},\dots ,e_{n}$$e_{1},\dots ,e_{n}$, per ogni $x\in X$$x \in X$ vale l'uguaglianza

$$P_{M}(x)=\sum _{i}x\cdot e_{i}*e_{i}.$$

$$P_{M}(x)=\sum _{i}x\cdot e_{i}*e_{i}.$$

 

Dimostrazione

Chiamo $z=\sum _{i=1}^{n}x\cdot e_{i}*e_{i}$$z=\sum _{i=1}^{n}x\cdot e_{i}*e_{i}$. Questo vettore appartiene ad $M$$M$ essendo una combinazione lineare, allora

$$z\cdot e_{j}=\sum _{i=1}^{n}x\cdot e_{i}*e_{i}e_{j}$$

$$z\cdot e_{j}=\sum _{i=1}^{n}x\cdot e_{i}*e_{i}e_{j}$$

e $e_{i}\cdot e_{j}=0$$e_{i}\cdot e_{j}=0$ tranne quando $i=j$$i=j$ in cui vale 1, quindi

$$z\cdot e_{j}=x\cdot e_{j},\,\forall j=1,\dots ,n.$$

$$z\cdot e_{j}=x\cdot e_{j},\,\forall j=1,\dots ,n.$$

$$\longrightarrow \,(x-z)\cdot e_{j}=0,\,\forall j$$

$$\longrightarrow \,(x-z)\cdot e_{j}=0,\,\forall j$$

allora il prodotto scalare tra $x-z$$x-z$ e qualunque combinazione lineare $\sum _{i}\alpha _{i}e_{i}$$\sum _{i}\alpha _{i}e_{i}$ è nullo. Allora $(x-z)\cdot m=0,\,\forall m\in M$$(x-z)\cdot m=0,\,\forall m\in M$.

Concludo che $z=\sum _{i=1}^{n}x\cdot e_{i}*e_{i}$$z=\sum _{i=1}^{n}x\cdot e_{i}*e_{i}$ è la proiezione di $x$$x$ su $M$$M$.

 

Procedimento di ortogonalizzazione di Gram-Schmidt

Data una successione di vettori linearmente indipendente ma non ortonormale, con questo procedimento posso sostituire alla successione di partenza una successione ortonormale, tale che i primi $n$$n$ vettori della vecchia e della nuova successione generano lo stesso sottospazio.

Teorema 3.2

[ortogonalizzazione di Gram-Schmidt] Sia $(x_{n})_{n\in \mathbb {N} }$$(x_{n})_{n\in \mathbb {N} }$ una successione di vettori in $X$$X$ linearmente indipendenti. Allora esiste una successione $(y_{n})_{n\in \mathbb {N} }$$(y_{n})_{n\in \mathbb {N} }$ di vettori di $X$$X$ ortonormale e tale che per ogni $n$$n$, lo spazio ortonormale generato da $x_{1},\dots ,x_{n}$$x_{1},\dots ,x_{n}$ è uguale a quello generato da $y_{1},\dots ,y_{n}$$y_{1},\dots ,y_{n}$, cioè tale che valgano le proprietà:

$$y_{n}=a_{1n}x_{1}+\dots +a_{nn}x_{n},\,a_{nn}\neq 0,\,{\hbox{formula 1}}$$

$$y_{n}=a_{1n}x_{1}+\dots +a_{nn}x_{n},\,a_{nn}\neq 0,\,{\hbox{formula 1}}$$

$$x_{n}=b_{n1}y_{1}+\dots +b_{nn}y_{n},\,b_{nn}\neq 0,\,{\hbox{formula 2}}$$

$$x_{n}=b_{n1}y_{1}+\dots +b_{nn}y_{n},\,b_{nn}\neq 0,\,{\hbox{formula 2}}$$

e gli $y_{n}$$y_n$ sono determinati a meno del segno.

 

Dimostrazione

La dimostrazione è per induzione. PASSO BASE: Per $n=1$$n=1$, $x_{1}\neq 0$$x_{1}\neq 0$, allora cerco $y_{1}$$y_1$ tale che $y_{1}=\alpha x_{1}$$y_{1}=\alpha x_{1}$ e $\|y_{1}\|=1$$\|y_{1}\|=1$, allora $\alpha ={\frac {1}{\|x_{1}\|}}$$\alpha ={\frac {1}{\|x_{1}\|}}$, e pongo

$$y_{1}={\frac {x_{1}}{\|x_{1}\|}}.$$

$$y_{1}={\frac {x_{1}}{\|x_{1}\|}}.$$

PASSO INDUTTIVO: Supponiamo di aver costruito $y_{1},\dots ,y_{n-1}$$y_{1},\dots ,y_{n-1}$ con le prprietà richieste, e mostriamo che sappiamo costruire $y_{n}$$y_n$.
Considero $x_{n}$$x_n$ e lo proietto sul sottospazio generato da $y_{1},\dots ,y_{n}$$y_{1},\dots ,y_{n}$. Siccome per l'ipotesi induttiva gli $y_{i}$$y_i$ sono ortonormali, la proiezione su ${\rm {{Lin}(y_{1},\dots ,y_{n-1})}}$${\rm {{Lin}(y_{1},\dots ,y_{n-1})}}$ vale

$$P(x_{n})=\sum _{i=1}^{n-1}x_{n}\cdot y_{i}*y_{i}$$

$$P(x_{n})=\sum _{i=1}^{n-1}x_{n}\cdot y_{i}*y_{i}$$

allora dev'essere

$$(x_{n}-P(x_{n}))\cdot y_{i}=0$$

$$(x_{n}-P(x_{n}))\cdot y_{i}=0$$

per $i=1,\dots ,n-1$$i=1,\dots ,n-1$, e pongo $x_{n}-P(x_{n})=z_{n}$$x_{n}-P(x_{n})=z_{n}$ con $z_{n}$$z_{n}$ ortogonale a $y_{1},\dots ,y_{n-1}$$y_{1},\dots ,y_{n-1}$.
Mostro che $z_{n}$$z_{n}$ non può essere il vettore nullo, altrimenti si andrebbe contro l'ipotesi di lineare indipendenza. Infatti, se fosse nullo si avrebbe $x_{n}=p(x_{n})$$x_{n}=p(x_{n})$, allora $x_{n}$$x_n$ apparterrebbe a ${\rm {{Lin}(y_{1},\dots ,y_{n-1})}}$${\rm {{Lin}(y_{1},\dots ,y_{n-1})}}$ che per il passo induttivo e per le formule 1 e 2 è uguale a ${\rm {{Lin}(x_{1},\dots ,x_{n-1})}}$${\rm {{Lin}(x_{1},\dots ,x_{n-1})}}$; si avrebbe quindi, contro l'ipotesi, che $x_{1},\dots ,x_{n}$$x_{1},\dots ,x_{n}$ sono linearmente dipendenti.

Avendo dimostrato che $z_{n}\neq 0$$z_{n}\neq 0$, posso porre $y_{n}={\frac {z_{n}}{\|z_{n}\|}}$$y_{n}={\frac {z_{n}}{\|z_{n}\|}}$, infatti $\|y_{n}\|=1$$\|y_{n}\|=1$, e mostro che il nuovo insieme è ancora ortogonale, ma questo è già stato dimostrato (con $z_{n}$$z_{n}$ al posto di $y_{n}$$y_n$).

Mostriamo le formule 1 e 2. Si ha

$$x_{n}-\sum _{i=1}^{n-1}x_{n}\cdot y_{i}y_{i}=z_{n}=y_{n}*\|z_{n}\|,$$

$$x_{n}-\sum _{i=1}^{n-1}x_{n}\cdot y_{i}y_{i}=z_{n}=y_{n}*\|z_{n}\|,$$

allora

$$y_{n}={\frac {1}{\|z_{n}\|}}*[x_{n}-\sum _{i=1}^{n-1}x_{n}\cdot y_{i}y_{i}]$$

$$y_{n}={\frac {1}{\|z_{n}\|}}*[x_{n}-\sum _{i=1}^{n-1}x_{n}\cdot y_{i}y_{i}]$$

e per l'ipotesi induttiva, $\sum _{i=1}^{n-1}x_{n}\cdot y_{i}y_{i}=\sum _{i=1}^{n-1}\alpha _{i}x_{i}$$\sum _{i=1}^{n-1}x_{n}\cdot y_{i}y_{i}=\sum _{i=1}^{n-1}\alpha _{i}x_{i}$ per certi $\alpha _{i}$$\alpha _{i}$, quindi

$$y_{n}={\frac {1}{\|z_{n}\|}}*[x_{n}-\sum _{i=1}^{n-1}\alpha _{i}x_{i}]$$

$$y_{n}={\frac {1}{\|z_{n}\|}}*[x_{n}-\sum _{i=1}^{n-1}\alpha _{i}x_{i}]$$

e l'asserto vale perché $y_{n}$$y_n$ è stato espresso come combinazione lineare degli altri vettori.