Approssimazione minimi quadrati - dubbio
Salve,
ho iniziato ad affrontare questo argomento leggendolo dal Cormen. Ora, ho capito la "logica" di base dietro questo algoritmo.
Son arrivato a $n=Ac-y$ , dove :
n=vettore (dimensione m) errori di approssimazione
A=matrice dei valori delle funzioni di base nei punti dati (mxn)
c=vettore dei coefficenti c che vogliamo trovare (dimensione nx1)
y=vettore dimensione m dei dati rilevati
Otterrò un sistema sovradeterminato (n
Poi però il libro và avanti e ad un certo punto dice questo :
Per minimizzare gli errori di approssimazione, scegliamo di minimizzare la norma del vettore degli errori n.
Ora dico io : per quale motivo? Cioè...con questo metodo prenderò i valori più bassi tra le soluzioni possibili di $y=Ac-y$, ma perchè applicando la norma euclidea "minimizzo" tali vettori? Che corrispondenza c'è?
Una visualizzazione grafica (magari anche in 2 dimensioni) forse mi aiuterebbe, ma non la focalizzo
Saluti, e spero che qualcuno possa illuminarmi
ho iniziato ad affrontare questo argomento leggendolo dal Cormen. Ora, ho capito la "logica" di base dietro questo algoritmo.
Son arrivato a $n=Ac-y$ , dove :
n=vettore (dimensione m) errori di approssimazione
A=matrice dei valori delle funzioni di base nei punti dati (mxn)
c=vettore dei coefficenti c che vogliamo trovare (dimensione nx1)
y=vettore dimensione m dei dati rilevati
Otterrò un sistema sovradeterminato (n
Poi però il libro và avanti e ad un certo punto dice questo :
Per minimizzare gli errori di approssimazione, scegliamo di minimizzare la norma del vettore degli errori n.
Ora dico io : per quale motivo? Cioè...con questo metodo prenderò i valori più bassi tra le soluzioni possibili di $y=Ac-y$, ma perchè applicando la norma euclidea "minimizzo" tali vettori? Che corrispondenza c'è?
Una visualizzazione grafica (magari anche in 2 dimensioni) forse mi aiuterebbe, ma non la focalizzo
Saluti, e spero che qualcuno possa illuminarmi
Risposte
Su questo argomento avevo scritto un post dettagliato tempo fa, con anche una interpretazione geometrica:
https://www.matematicamente.it/forum/pos ... tml#388426
Ma spero ti possa essere utile... Fino adesso sembra che parliamo due lingue diverse.
https://www.matematicamente.it/forum/pos ... tml#388426
Ma spero ti possa essere utile... Fino adesso sembra che parliamo due lingue diverse.
effettivamente sembra davvero un'altra lingua.
Stessi argomenti capiti in modo diverso con tecniche diverse. Strano...molto strano...
Stessi argomenti capiti in modo diverso con tecniche diverse. Strano...molto strano...
guardando la tua soluzione, mi ritrovo nel risultato da te scritto al punto (4).
Infatti nel mio libro fà popo di discorso con le formule citate prima, passa al derivare $||n^2||$ rispetto a ciascun $ck$ e poi dice l'equazioni viste fin ora sono equivalenti a $A^T*A*c=A*T*y$ che è la stessa (appunto) che hai fornito al punto (4) (dicendo, inoltre, che in statistica questa è chiamata equazione normale).
Quindi si tratta di capire la mia da dove deriva, seguire i tuoi passaggi e arrivare a quella formula.
Infatti nel mio libro fà popo di discorso con le formule citate prima, passa al derivare $||n^2||$ rispetto a ciascun $ck$ e poi dice l'equazioni viste fin ora sono equivalenti a $A^T*A*c=A*T*y$ che è la stessa (appunto) che hai fornito al punto (4) (dicendo, inoltre, che in statistica questa è chiamata equazione normale).
Quindi si tratta di capire la mia da dove deriva, seguire i tuoi passaggi e arrivare a quella formula.
Eh si, se ho capito bene è una tecnica alternativa, più "concreta" rispetto a quella che ho usato io. Entrambi gli approcci hanno vantaggi e svantaggi. Credo che, essenzialmente, il tuo libro minimizzi il residuo quadratico usando gli strumenti classici del calcolo (i.e. dello studio di funzione). Il risultato finale ovviamente è lo stesso.
Accedi a tutti gli appunti
Tutor AI: studia meglio e in meno tempo