Calcolo valore atteso $ E[(Y-(aX+b))^2] $

[FunkyGallo]

salve a tutti, sto provando a risolvere questo esercizio:

Siano X e Y variabili aleatorie. Consideriamo la funzione lineare aX + b: si
determinino i valori di a e b tali che il valore atteso $ E[(Y-(aX+b))^2] $ sia minimo.
Si tratta quindi di determinare la migliore approssimazione di Y mediante una
funzione lineare di X in termini dello scarto quadratico medio.

Io ho provato a risolverlo così:

$ E[(Y-(aX+b))^2]= E[Y^2-2Y(aX+b)+(aX+b)^2]= $

$ =E[Y^2]-2(E[Y]*E[aX+b])+E([aX+b])^2= $

a questo punto non saprei come continuare nella risoluzione del valore atteso, nè come trovare i parametri a e b tali che il val atteso sia minimo.

Qualcuno ha qualche idea in merito?

Grazie a tutti

[Lo_zio_Tom]

"FunkyGallo":
Qualcuno ha qualche idea in merito?

derivi rispetto ad $a$ e $b$ e poni =0.

Troverai che

$b=E[Y]-aE[X]$

$a=(Cov(X,Y))/(V[X])$

Il punto trovato è già sicuramente di minimo...se vuoi convincertene puoi calcolare l'Hessiana e controllare che risulta definita positiva

[FunkyGallo]

ti ringrazio, non ci avevo minimamente pensato che fosse il metodo dei min quadrati.
Consiglio a chi dovesse risolvere questo esercizio di vedere questo video

che spiego il tutto molto bene

[Lo_zio_Tom]

"FunkyGallo":
Consiglio a chi dovesse risolvere questo esercizio di vedere questo video

mah, sinceramente.... 10 e rotti minuti di video per 3 passaggi in croce [nota]non ho considerato i termini che non dipendono dai parametri (anche se ho messo il simbolo =) e nelle derivate ho semplificato un 2 che compare in ogni termine, tanto nulla cambia per il risultato[/nota]

$E[Y-(aX+b)]^2=E[-2aXY-2bY+a^2X^2+2abX+b^2]=-2aE[XY]-2bE[Y]+a^2E[X^2]+2abE[X]+b^2=Q$

$(partialQ)/(partial a)=-E[XY]+aE[X^2]+bE[X]$

$(partialQ)/(partial b)=-E[Y]+aE[X]+b=0 rarr hat(b)=E[Y]-aE[X]$

sostituisco il risultato di $hat(b)=E[Y]-aE[X]$ nella prima espressione, pongo =0 e trovo immediatamente anche l'altro risultato

$hat(a)=(Cov(X,Y))/(V[X]$

fine.

Se proprio si vuole, con un altro passaggio si calcola l'Hessiana e si vede che è definita positiva