Metodo dei minimi quadrati

[BlackTazz]

Buona sera a tutti (anzi vista l'ora dovrei dire buona notte), vorrei chiedere l'aiuto di qualche anima pia x comprendere quello che sto leggendo su questo argomento.
Sto studiando il metodo dei minimi quadrati dalle dispense del mio professore ... fino a pag. 4 tutto ok, ma a pagina 5 su 10 sono impazzito :S

http://www.dmi.units.it/~bellen/Analisi ... drarti.pdf

Inizia a parlare di ortogonalità e del fatto che si dimostri con la formula A^T *(Ax-b)=0 che così introdotta dal nulla per me non significa niente. Nella dimostrazione fa sparire il termine rx^T*A(y-x) e A(y-x)^T*rx senza spiegare perchè...

Ed infine nella dimostrazione che A^T*A è non singolare dice cose che, forse perchè ormai ricordo veramente poco di algebra, per me significano poco. Ad esempio questa frase perchè è vera???
"Supponiamo che le colonne di A siano linearmente dipendenti; ciò significa
che esiste un x diverso da 0 tale che Ax=0 ed anche A^T*Ax=0. In tal caso A^T*A sarebbe singolare"

Non so più dove sbattere la testa ... va bene un qualsiasi consiglio, anche un link dove leggere le nozioni di algebra che mi mancano per comprendere quello che leggo (poichè credo che il problema sia proprio la mancanza di un forte background in algebra lineare).
Grazie in anticipo ^^

[hamming_burst]

Ciao,
posso chiederti a quale cdl appartiene il corso che stai seguendo? così si indirizza l'aiuto in modo ottimale.
Il metodo dei minimi quadrati lo si può formalizzare in alcuni modi, simili, ma con alcune parti teoriche, di base, differenti.