Aspettazione condizionata e matrice di Fisher
Ciao a tutti! Vi chiedo per favore di aiutarmi. ho difficoltà a capire l'aspettazione condizionata che c'è alla fine. Non so se serve scrivere proprio tutto, spero si capisca anche così il mio dubbio che riguarda la probabilità e non la matrice di Fisher:
Assumiamo che le y_I siano le componenti del vettore $\mathbf{y} = \mathbf{\Phi} \theta + \mathbf{e} $ dove $\mathbf{e}$ è $N(0, \Sigma)$ mentre le entrate della matrice $\Phi$ sono variabili aleatorie indipendenti dal rumore. Sapendo che: $ E(\mathbf{\Phi} ^{T} \Sigma ^{-1} \mathbf{\Phi}) = A$ e sfruttando l'indipendenza tra $\mathbf{e}$ e $\mathbf{\Phi}$ condizionando su $\mathbf{\Phi}=\Phi$, la meno log likelihood diventa:
$-\log[p(y|\theta, \mathbf{\Phi}=\Phi)]= \frac{1}{2}\log(\det(2\pi \Sigma))+\frac{1}{2}(y-\Phi \theta)^T \Sigma ^{-1}(y-\Phi \theta)$
Utilizzando l'aspettazione condizionata, si ha allora (passaggio che non capisco) :
$I(\theta) = E_{\theta}((del ^2 l_{\theta})/(del \theta^2))=E(E((del ^2 l_{\theta})/(del \theta^2)|\mathbf{\Phi}=\Phi))$
Non capisco l'ultima uguaglianza? cosa vuol dire? Cioè da quello che mi ricordo in generale vale qualcosa del tipo:
$E(X)=\int_R E(X|Y=y) y dy$ dove $R$ è il dominio di $y$ che forse è uguale anche a $E(E(X|Y))$? può essere?
Allora se si in questo caso $y$ sarebbe il dominio di $\Phi$ ? non riesco a interpretarlo con le matrici mi confondo
Continuazione della spiegazione (non so se può servire ):
Assumiamo che le y_I siano le componenti del vettore $\mathbf{y} = \mathbf{\Phi} \theta + \mathbf{e} $ dove $\mathbf{e}$ è $N(0, \Sigma)$ mentre le entrate della matrice $\Phi$ sono variabili aleatorie indipendenti dal rumore. Sapendo che: $ E(\mathbf{\Phi} ^{T} \Sigma ^{-1} \mathbf{\Phi}) = A$ e sfruttando l'indipendenza tra $\mathbf{e}$ e $\mathbf{\Phi}$ condizionando su $\mathbf{\Phi}=\Phi$, la meno log likelihood diventa:
$-\log[p(y|\theta, \mathbf{\Phi}=\Phi)]= \frac{1}{2}\log(\det(2\pi \Sigma))+\frac{1}{2}(y-\Phi \theta)^T \Sigma ^{-1}(y-\Phi \theta)$
Utilizzando l'aspettazione condizionata, si ha allora (passaggio che non capisco) :
$I(\theta) = E_{\theta}((del ^2 l_{\theta})/(del \theta^2))=E(E((del ^2 l_{\theta})/(del \theta^2)|\mathbf{\Phi}=\Phi))$
Non capisco l'ultima uguaglianza? cosa vuol dire? Cioè da quello che mi ricordo in generale vale qualcosa del tipo:
$E(X)=\int_R E(X|Y=y) y dy$ dove $R$ è il dominio di $y$ che forse è uguale anche a $E(E(X|Y))$? può essere?
Allora se si in questo caso $y$ sarebbe il dominio di $\Phi$ ? non riesco a interpretarlo con le matrici mi confondo
Continuazione della spiegazione (non so se può servire ):
Risposte
"absinth":
(passaggio che non capisco):
$I(\theta) = E_{\theta}((del ^2 l_{\theta})/(del \theta^2))=E(E((del ^2 l_{\theta})/(del \theta^2)|\mathbf{\Phi}=\Phi))$
Non capisco l'ultima uguaglianza? cosa vuol dire? ....che $E(X)=E(E(X|Y))$? può essere?
Esattamente così... ed è anche di facile dimostrazione:
$E[E[X|Y]]=int_(-oo)^(+oo) E[X|Y]f_Y(y)dy=int_(-oo)^(+oo)[int_(-oo)^(+oo) x f_X(x|y)dx]f_Y(y)dy=$
$int_(-oo)^(+oo)int_(-oo)^(+oo) x f_X(x|y)f_Y(y)dxdy=int_(-oo)^(+oo)int_(-oo)^(+oo) xf_(XY)(x,y)dxdy=$
$int_(-oo)^(+oo) x[int_(-oo)^(+oo) f_(XY)(x,y)dy]dx=int_(-oo)^(+oo) xf_X(x)dx=E[X]$
Se guardi in questo forum di esercizi sull'applicazione delle proprietà della media condizionata ce ne sono diversi, anche molto interessanti
Invece la definizione di media che hai scritto è sbagliata. Quella corretta la trovi nella dimostrazione che ti ho fatto
Ciao
Grazie mille ciao
Accedi a tutti gli appunti
Tutor AI: studia meglio e in meno tempo