Stimatore ottimo
Consideriamo una coppia di variabili aleatorie $(X,Y)$. Vogliamo stimare una delle due variabili aleatorie conoscendo solo l'altra. I miei appunti dicono che lo stimatore ottimo (cioè quello che minimizza l'errore quadratico medio) è uno stimatore non lineare dato dalla media condizionale. Purtroppo i passaggi per arrivare a questo risultato non sono chiari... posto quanto leggo ($E$ è la media, $epsilon$ l'errore):
$hat X = g(Y)$
$E[epsilon^2] = E[(hat X - X)^2] = E[(g(Y) - X)^2] = int_(-oo)^(+oo) int_(-oo)^(+oo) (g(y)-x)^2 f_(XY) (x,y) dx dy =$
$= int_(-oo)^(+oo) int_(-oo)^(+oo) (g(y)-x)^2 f_(Y) (y) f_(X|Y) (X|Y=y) dx dy = int_(-oo)^(+oo) [ int_(-oo)^(+oo) (g(y)-x)^2 f_(X|Y) (X|Y=y) dx ] f_(Y) (y) dy$
A questo punto dovrebbe risultare chiaro che per minimizzare l'integrale interno si debba scegliere $g(y)=E[X|Y=y]$...
A me però non risulta chiaro...
$hat X = g(Y)$
$E[epsilon^2] = E[(hat X - X)^2] = E[(g(Y) - X)^2] = int_(-oo)^(+oo) int_(-oo)^(+oo) (g(y)-x)^2 f_(XY) (x,y) dx dy =$
$= int_(-oo)^(+oo) int_(-oo)^(+oo) (g(y)-x)^2 f_(Y) (y) f_(X|Y) (X|Y=y) dx dy = int_(-oo)^(+oo) [ int_(-oo)^(+oo) (g(y)-x)^2 f_(X|Y) (X|Y=y) dx ] f_(Y) (y) dy$
A questo punto dovrebbe risultare chiaro che per minimizzare l'integrale interno si debba scegliere $g(y)=E[X|Y=y]$...
A me però non risulta chiaro...
Risposte
$d/(dg(y))int_(-oo)^(+oo) (g(y)-x)^2 f_(X|Y) (X|Y=y) dx=int_(-oo)^(+oo) 2(g(y)-x) f_(X|Y) (X|Y=y) dx=0$
possiamo mandare via il 2:
$int_(-oo)^(+oo) g(y) f_(X|Y) (X|Y=y) dx=int_(-oo)^(+oo) x f_(X|Y) (X|Y=y) dx$
l'integrale al primo membro fa 1, quindi:
$g(y)=E[X|Y=y]$
possiamo mandare via il 2:
$int_(-oo)^(+oo) g(y) f_(X|Y) (X|Y=y) dx=int_(-oo)^(+oo) x f_(X|Y) (X|Y=y) dx$
l'integrale al primo membro fa 1, quindi:
$g(y)=E[X|Y=y]$
Perfetto...
In linea di principio però mi domando: è giusto porre semplicemente la derivata prima uguale a $0$? In realtà questa è una condizione necessaria di estremo relativo, non una condizione sufficiente di minimo assoluto... Andrebbero fatte altre ipotesi...
In linea di principio però mi domando: è giusto porre semplicemente la derivata prima uguale a $0$? In realtà questa è una condizione necessaria di estremo relativo, non una condizione sufficiente di minimo assoluto... Andrebbero fatte altre ipotesi...
Il funzionale in questione è convesso quindi il punto trovato è di minimo.
Per come è fatta la funzione... può avere solo un minimo. Di solito quando hai forme quadratiche (che guardano verso l'alto) vai a cercare un minimo.
Quando si tratta di scarti...
Certo, intuitivamente è chiaro... anche se ad essere precisi andrebbe dimostrato, magari sulla base di ciò che ha detto Andrea2976
se è per questo, vorrei far notare:
$d/(dg(y))$
e la derivazione (?) sotto il segno di integrale riguarda un integrale improprio
buonanotte e buon divertimento!
$d/(dg(y))$
e la derivazione (?) sotto il segno di integrale riguarda un integrale improprio
buonanotte e buon divertimento!
a proposito di stima...
qualche testo 'leggibile' e che spieghi le cose senza troppi calcoli, cioe' in modo un po' discorsivo?
gli appunti e il libro che ho (di cui non m isovviene il nome) sono aridi
ciao e grazie alex
qualche testo 'leggibile' e che spieghi le cose senza troppi calcoli, cioe' in modo un po' discorsivo?
gli appunti e il libro che ho (di cui non m isovviene il nome) sono aridi
ciao e grazie alex
Accedi a tutti gli appunti
Tutor AI: studia meglio e in meno tempo