Secondo problema dei minimi quadrati.
Ciao, ho il seguente problema, determinare la soluzione $\mathbf{c} \in RR^{n+1}$ nel senso dei minimi quadrati del seguente sistema
Sul libro da cui sto studiando viene fatta la seguente affermazione
E' ovvio che se $m>n$ l'eventuale soluzione ottima nel senso dei minimi quadrati non può dare che $r_i=0$ per ogni $i=0,1,...,m$.
Per dimostrare questa affermazione procedo nel seguente modo
Suppongo che la soluzione ottima esista e sia $\mathbf{c}^{**} \in RR^{n+1}$ tale che
Infatti, supponiamo per assurdo esista il vettore $\mathbf{c}^{**}$ tale che $\mathbf{Ac^{**}=y}$ con $\mathbf{y}$ che non abbia $p$ componenti nulle.
Dalla teoria sappiamo che esiste sempre la fattorizzazione QR di una matrice $\mathbf{A} \in RR^{m+1,n+1}$, cioè, presa una matrice $\mathbf{A} \in RR^{m+1,n+1}$ allora esistono due matrice $\mathbf{Q} \in RR^{m+1,m+1}$, ed $\mathbf{R} \in RR^{m+1,n+1}$ tali che
$\mathbf{Q} \in RR^{m+1,m+1}$ ortogonale
$\mathbf{R} \in RR^{m+1,n+1}$ rettangolare triangolare superiore con $r_{ij}=0$ se $i>j$.
Infine ricordiamo che
$||\mathbf{v}||=||\mathbf{Qv}||$, con $\mathbf{Q}$ ortogonale, allora è vero anche $||\mathbf{v}||=||\mathbf{Q^Tv}||$ ortogonale.
Abbiamo
$0=||\mathbf{A}\mathbf{c}^{**}-\mathbf{y}||_2^2$
$\quad=||\mathbf{Q}^T(\mathbf{A}\mathbf{c}^{**}-\mathbf{y})||_2^2$
$\quad=|| \mathbf{Q}^T\mathbf{A}\mathbf{c}^{**}-\mathbf{Q}^T\mathbf{y} ||_2^2$
$\quad=|| \mathbf{Q}^T\mathbf{QR}\mathbf{c}^{**}-\mathbf{Q}^T\mathbf{y} ||_2^2$
$\quad=||\mathbf{R}\mathbf{c}^{**}-\mathbf{Q}^T\mathbf{y} ||_2^2$
dalla fattorizzazione QR, abbiamo
invece, la matrice rimanente
Quindi otteniamo
$0=||\mathbf{R}\mathbf{c}^{**}-\mathbf{Q}^T\mathbf{y} ||_2^2$
\(\displaystyle \ \ =\begin{Vmatrix} \mathbf{A_1}-\mathbf{Rc^{*}} \\ \mathbf{A_2} \end{Vmatrix}_2^2 \)
$\quad =||\mathbf{A_1}-\mathbf{Rc^{**}}||_2^2+||\mathbf{A_2}||_2^2$.
In conclusione abbiamo ottenuto
cioè abbiamo una somma di quadrati la quale è nulla se tutti i termini sono nulli, quindi, in particolare
Potrebbe andare bene ?
ciao
$\mathbf{Ac+r=y}$
dove $\mathbf{A} \in RR^{m+1,n+1}, \mathbf{y,r} \in RR^{m+1}$. Sul libro da cui sto studiando viene fatta la seguente affermazione
E' ovvio che se $m>n$ l'eventuale soluzione ottima nel senso dei minimi quadrati non può dare che $r_i=0$ per ogni $i=0,1,...,m$.
Per dimostrare questa affermazione procedo nel seguente modo
Suppongo che la soluzione ottima esista e sia $\mathbf{c}^{**} \in RR^{n+1}$ tale che
$\mathbf{Ac^{**}=y}$
ossia quello che renda il residuo nullo cioè $\mathbf{r=0_{RR^{m+1}}$
segue che il vettore $\mathbf{y}$ è combinazione lineare delle colonne della matrice $\mathbf{A}$, poiché le colonne della matrice $\mathbf{A}$ sono $n+1$ e il vettore colonna $\mathbf{y}$ è di dimensione $m+1$, quindi il vettore $\mathbf{y}$ è combinazione lineare solo se il vettore $\mathbf{y}$ ha $p=m-n$ componenti nulle, se questo non avviene allora il vettore $\mathbf{c}^{**} \in RR^{n+1}$ siffatto non esiste.Infatti, supponiamo per assurdo esista il vettore $\mathbf{c}^{**}$ tale che $\mathbf{Ac^{**}=y}$ con $\mathbf{y}$ che non abbia $p$ componenti nulle.
Dalla teoria sappiamo che esiste sempre la fattorizzazione QR di una matrice $\mathbf{A} \in RR^{m+1,n+1}$, cioè, presa una matrice $\mathbf{A} \in RR^{m+1,n+1}$ allora esistono due matrice $\mathbf{Q} \in RR^{m+1,m+1}$, ed $\mathbf{R} \in RR^{m+1,n+1}$ tali che
$\mathbf{A=Q^TR}$
con $\mathbf{Q} \in RR^{m+1,m+1}$ ortogonale
$\mathbf{R} \in RR^{m+1,n+1}$ rettangolare triangolare superiore con $r_{ij}=0$ se $i>j$.
Infine ricordiamo che
$||\mathbf{v}||=||\mathbf{Qv}||$, con $\mathbf{Q}$ ortogonale, allora è vero anche $||\mathbf{v}||=||\mathbf{Q^Tv}||$ ortogonale.
Abbiamo
$0=||\mathbf{A}\mathbf{c}^{**}-\mathbf{y}||_2^2$
$\quad=||\mathbf{Q}^T(\mathbf{A}\mathbf{c}^{**}-\mathbf{y})||_2^2$
$\quad=|| \mathbf{Q}^T\mathbf{A}\mathbf{c}^{**}-\mathbf{Q}^T\mathbf{y} ||_2^2$
$\quad=|| \mathbf{Q}^T\mathbf{QR}\mathbf{c}^{**}-\mathbf{Q}^T\mathbf{y} ||_2^2$
$\quad=||\mathbf{R}\mathbf{c}^{**}-\mathbf{Q}^T\mathbf{y} ||_2^2$
dalla fattorizzazione QR, abbiamo
\(\displaystyle \mathbf{R}=\begin{array}{|c|} \hat{\mathbf{R}} \\ \mathbf{O} \end{array} \)
dove $hat{\mathbf{R}} \in RR^{n+1,n+1}$ è triangolare superiore, e $\mathbf{O} \in RR^{m-n,n+1}$ è la matrice nulla, per cui \(\displaystyle \mathbf{Rc^{*}}=\begin{array}{|c|} \hat{\mathbf{R}}\mathbf{c}^{*} \\ \mathbf{O} \end{array} \)
invece, la matrice rimanente
\(\displaystyle \mathbf{Q}^T\mathbf{y}=\begin{array}{|c|} \mathbf{A_1} \\ \mathbf{A_2} \end{array} \)
dove $\mathbf{A_1} \in RR^{n+1,n+1}$ e $\mathbf{A_2} \in RR^{m-n,n+1}$.Quindi otteniamo
$0=||\mathbf{R}\mathbf{c}^{**}-\mathbf{Q}^T\mathbf{y} ||_2^2$
\(\displaystyle \ \ =\begin{Vmatrix} \mathbf{A_1}-\mathbf{Rc^{*}} \\ \mathbf{A_2} \end{Vmatrix}_2^2 \)
$\quad =||\mathbf{A_1}-\mathbf{Rc^{**}}||_2^2+||\mathbf{A_2}||_2^2$.
In conclusione abbiamo ottenuto
$0=||\mathbf{A_1}-\mathbf{Rc^{**}}||_2^2+||\mathbf{A_2}||_2^2$
cioè abbiamo una somma di quadrati la quale è nulla se tutti i termini sono nulli, quindi, in particolare
$||\mathbf{A_2}||_2^2=0 \to \mathbf{A_2}=\mathbf{O}$
tale matrice l'abbiamo ottenuta dal prodotto delle ultime $m-n$ righe di $\mathbf{Q}^T$ per $\mathbf{y}$, essendo $\mathbf{Q}^T$ ortogonale, e quindi invertibile, allora il termine che annulla tale prodotto deve essere necessariamente $\mathbf{y}$, ma questo è assurdo perché si è supposto che il vettore $\mathbf{y}$ non avesse $p=m-n$ componenti nulle, pertanto, non può esistere un vettore $\mathbf{c}^{**}\ in RR^{n+1,n+1}$ tale che $\mathbf{A}\mathbf{c}^{**}=\mathbf{y}$ quando non ha $p$ componenti nulle.Potrebbe andare bene ?
ciao
Risposte
Fossi in te spiegherei meglio le notazioni usate![xdom="j18eos"]P.S.: essendo una nuova domanda, ho seprato gli argomenti.[/xdom]
j18eos grazie per il consiglio, ho provveduto a modificare simboli e formato.
Ciao
Ciao
Nessuno puoi aiutarmi?
Accedi a tutti gli appunti
Tutor AI: studia meglio e in meno tempo