Distribuzione asintotica della deviazione standard campionaria
Testo:
Siano $ X1,...,Xn $ variabili aleatorie indipendenti $N$( $ mu $ , $ sigma^2 $ ) e $ s^2 $ la varianza
campionaria.
Trovare la distribuzione asintotica (per n grande) di $ s$ , la radice quadrata di $ s^2 $.
Buona sera, ho trovato difficoltà nello svolgimento dell'esercizio.
Qualcuno può aiutarmi? Grazie
Siano $ X1,...,Xn $ variabili aleatorie indipendenti $N$( $ mu $ , $ sigma^2 $ ) e $ s^2 $ la varianza
campionaria.
Trovare la distribuzione asintotica (per n grande) di $ s$ , la radice quadrata di $ s^2 $.
Buona sera, ho trovato difficoltà nello svolgimento dell'esercizio.
Qualcuno può aiutarmi? Grazie
Risposte
"francisgiz":
Buona sera, ho trovato difficoltà nello svolgimento dell'esercizio.
leggo e rileggo il tuo post ma non riesco a capire quali siano queste difficoltà. Ad ogni modo nel titolo scrivi "Distribuzione asintotica varianza campionaria" quando per la varianza capionaria $S^2$ puoi calcolarne anche la distribuzione esatta, partendo dal fatto noto che, in un modello gaussiano, $(n-1)S^2/sigma^2~chi_((n-1))^2$
...poi nel testo del topic chiedi la distribuzione asintotica di $S$ .... cerca di essere preciso e postare i tentativi fatti.....
per la distribuzione asintotica conviene utlizzare le proprietà asintotiche degli stimatori di massima verosimiglianza
Ho fatto alcuni esercizi in cui ho applicato il metodo delta e le proprietà asintotiche degli stimatori di massima verosimiglianza a variabili aleatorie che potevo approssimare con $N$($0,1$). Sul mio libro non c'è l'approssimazione si $S^2$ tramite la funzione chi-quadro quindi non so come muovermi. Sai indicarmi qualche dispensa su cui poter studiare oppure esercizi svolti che mi aiutino a capire come devo svolgere l'esercizio? Grazie
1) calcoli lo stimatore di massima verosimiglianza di $sigma$ che sarà in funzione di $S$
2) Tale stimatore si distribuisce asintoticamente come una normale di media $sigma$ e varianza
$1/(nmathbb{E}_theta{partial/(partialtheta)logf(x|theta)}^2)$
se l'espressione viene complicata nei calcoli può essere utile riscriverla così
$1/(-nmathbb{E}_theta{partial^2/(partialtheta^2)logf(x|theta)})$
invocando la Seconda Identità di Bartlett
Un modo alternativo di procedere è cercare lo stimatore di massima verosimiglianza di $sigma^2$ e ricondursi alla distribuzione asintotica di $S$ utilizzando il "Metodo Delta", ovvero moltiplicando la varianza precedente per $(g'(theta))^2$
2) Tale stimatore si distribuisce asintoticamente come una normale di media $sigma$ e varianza
$1/(nmathbb{E}_theta{partial/(partialtheta)logf(x|theta)}^2)$
se l'espressione viene complicata nei calcoli può essere utile riscriverla così
$1/(-nmathbb{E}_theta{partial^2/(partialtheta^2)logf(x|theta)})$
invocando la Seconda Identità di Bartlett
Un modo alternativo di procedere è cercare lo stimatore di massima verosimiglianza di $sigma^2$ e ricondursi alla distribuzione asintotica di $S$ utilizzando il "Metodo Delta", ovvero moltiplicando la varianza precedente per $(g'(theta))^2$
Ok ora mi é chiaro il procedimento, ma non capisco una cosa. La $ f(X, vartheta ) $ é la funzione si $ S^2$ calcolata in $X $e $ vartheta $, che è il mio stimatore. Quindi nel mio caso devo fare le derivate rispetto a $ vartheta $ della funzione dove al posto di $ sigma ^2 $ scrivo $ vartheta $ ??
La $f(x|theta)$ è la densità del modello, nel tuo caso una normale. Il parametro ignoto lo puoi definire tu, puoi metterci $theta$ al posto di $sigma$ oppure al posto di $sigma^2$, come preferisci. Io ti consiglio di esprimerla già in funzione del parametro che vuoi analizzare.
Non voglio risolverti l'esercizio perché ad un esame del genere si suppone che tu sappia destreggiarti bene ed anche perché questa è la politica del forum; ora provo a farti vedere un esercizio semplicissimo giusto per spiegarti il procediemento e magari più tardi cerco di buttarne giù uno un po' più articolato così vedi come si procede nei casi più complessi
Come sappiamo, $T$ è lo stimatore di massima verosimiglianza di $theta$
quindi per le note proprietà, $T$ è asintoticamente normale di media $theta$ (cioè di media pari al parametro che si va a stimare) e di varianza come ti ho scritto sopra:
$logf=logtheta-thetax$
$partial/(partialtheta)logf=1/theta-x$
$partial^2/(partialtheta^2)logf=-1/theta^2$
quindi
$1/(-nmathbb{E}_theta{partial^2/(partialtheta^2)logf(x|theta)})=theta^2/n$
in definitiva $Tdot~N(theta;theta^2/n)$
volendo usare l'altra formulazione per il calcolo della varianza ottieni sempre
$1/(nmathbb{E}_theta{partial/(partialtheta)logf(x|theta)}^2)=1/(nmathbb{E}_theta(1/theta-x)^2)$
a questo punto osservi che $mathbb{E}_theta(x-1/theta)^2=1/theta^2$ essendo proprio la definizione di varianza della popolazione e quindi il risultato è il medesimo (grazie a San Bartlett, sempre sia lodato
)
Ora cercherò in rete qualche cosa di interessante....c'è tutto, ti assicuro, basta saper cercare!
Ne ho trovato uno interessante (senza la soluzione) e l'ho messo QUI; come di consueto, un topic un esercizio.
Buon lavoro
Non voglio risolverti l'esercizio perché ad un esame del genere si suppone che tu sappia destreggiarti bene ed anche perché questa è la politica del forum; ora provo a farti vedere un esercizio semplicissimo giusto per spiegarti il procediemento e magari più tardi cerco di buttarne giù uno un po' più articolato così vedi come si procede nei casi più complessi
Esempio (facilissimo)
Prendiamo un campione casuale $(X_1,...,X_n)$ estratto da una distribuzione esponenziale $f(x|theta)=thetae^(-thetax)$ e cerchiamo la distribuzione asintotica di $T=1/bar(X)_n$
Come sappiamo, $T$ è lo stimatore di massima verosimiglianza di $theta$
quindi per le note proprietà, $T$ è asintoticamente normale di media $theta$ (cioè di media pari al parametro che si va a stimare) e di varianza come ti ho scritto sopra:
$logf=logtheta-thetax$
$partial/(partialtheta)logf=1/theta-x$
$partial^2/(partialtheta^2)logf=-1/theta^2$
quindi
$1/(-nmathbb{E}_theta{partial^2/(partialtheta^2)logf(x|theta)})=theta^2/n$
in definitiva $Tdot~N(theta;theta^2/n)$
volendo usare l'altra formulazione per il calcolo della varianza ottieni sempre
$1/(nmathbb{E}_theta{partial/(partialtheta)logf(x|theta)}^2)=1/(nmathbb{E}_theta(1/theta-x)^2)$
a questo punto osservi che $mathbb{E}_theta(x-1/theta)^2=1/theta^2$ essendo proprio la definizione di varianza della popolazione e quindi il risultato è il medesimo (grazie a San Bartlett, sempre sia lodato
)Ora cercherò in rete qualche cosa di interessante....c'è tutto, ti assicuro, basta saper cercare!
Ne ho trovato uno interessante (senza la soluzione) e l'ho messo QUI; come di consueto, un topic un esercizio.
Buon lavoro
Ciao, ho provato a scrivere qualcosa e sono arrivato a una conclusione ma non so se sia giusto. Riporto il procedimento:
Nella densità di una $N( mu , sigma ^2 )$ sostituisco a $sigma$ il parametro $theta$.
A questo punto $f(X,theta)= 1/ (sqrt(2*pi ) *theta )*e^-(((x-mu )^2)/(2theta ^2)) $ .
$ ln f(x,theta )=-ln(sqrt(2*pi)*theta )-(((x-mu )^2)/(2theta ^2)) $ .
Calcolo ora le derivate rispetto a $theta$:
$ (partial^1 f)/(partial theta)=-1/theta+((x-mu)^2)/theta^3 $
$ (partial^2 f)/(partial theta^2)=1/theta^2-3((x-mu)^2)/theta^4 $.
Perciò facendo calcoli ho trovato che la varianza asintotica è:
$ 1/(-n*E[1/theta^2-3((x-mu)^2)/theta^4])=1/(n*(3/theta^4-1/theta^2)) $.
Non sono sicuro però di aver trovato esattamente la distribuzione di s.
Nella densità di una $N( mu , sigma ^2 )$ sostituisco a $sigma$ il parametro $theta$.
A questo punto $f(X,theta)= 1/ (sqrt(2*pi ) *theta )*e^-(((x-mu )^2)/(2theta ^2)) $ .
$ ln f(x,theta )=-ln(sqrt(2*pi)*theta )-(((x-mu )^2)/(2theta ^2)) $ .
Calcolo ora le derivate rispetto a $theta$:
$ (partial^1 f)/(partial theta)=-1/theta+((x-mu)^2)/theta^3 $
$ (partial^2 f)/(partial theta^2)=1/theta^2-3((x-mu)^2)/theta^4 $.
Perciò facendo calcoli ho trovato che la varianza asintotica è:
$ 1/(-n*E[1/theta^2-3((x-mu)^2)/theta^4])=1/(n*(3/theta^4-1/theta^2)) $.
Non sono sicuro però di aver trovato esattamente la distribuzione di s.
Questo esercizio l'ho cercato, risolto e postato apposta per te 
la densità che hai scritto è sbagliata, ci hai messo $theta$, $mu$ e pure $sigma^2$....boh...
dov'è il calcolo dello stimatore di massima verosimiglianza?
ecc ecc
la densità è questa, dove pongo $theta=sigma^2$:
$f(x,mu,theta)=1/sqrt(theta 2pi) e^(-1/(2theta)(x-mu)^2)$
Intanto occorre sapere se $mu$ è noto oppure no. Supponiamo che non lo sia (anche perché se fosse nota allora non avresti la varianza campionaria $S^2=1/(n-1)Sigma_x(x-bar(x))^2$ ma un'altra statistica)
La verosimiglianza è questa (già dopo aver calcolato la verosimiglianza profilo per $mu$ ed averlo stimato):
$L(theta) prop theta^(-n/2)e^(-1/(2theta)Sigma_x(x-bar(x))^2$
....conticini....
$-mathbb{E}[partial^2/(partialtheta^2)logL(theta)]=(n-2)/(2theta^2$
Quindi lo stimatore di massima verosimiglianza della varianza della popolazione ha una distribuzione asintotica normale così definita:
$hat(theta) dot~N(theta;(2theta^2)/(n-2))=N(sigma^2;(2sigma^4)/(n-2))$
Il tuo stimatore $S$ è in funzione dello stimatore di max verosimiglianza? direi di si, viene
$hat(theta)=(n-1)/nS^2$
quindi puoi applicare il metodo delta per calocolare la distribuzione asintotica di $S$.
(ho fatto i conti velocemente mentre mangiavo un panino.....ricontrolla)
la densità che hai scritto è sbagliata, ci hai messo $theta$, $mu$ e pure $sigma^2$....boh...
dov'è il calcolo dello stimatore di massima verosimiglianza?
ecc ecc
la densità è questa, dove pongo $theta=sigma^2$:
$f(x,mu,theta)=1/sqrt(theta 2pi) e^(-1/(2theta)(x-mu)^2)$
Intanto occorre sapere se $mu$ è noto oppure no. Supponiamo che non lo sia (anche perché se fosse nota allora non avresti la varianza campionaria $S^2=1/(n-1)Sigma_x(x-bar(x))^2$ ma un'altra statistica)
La verosimiglianza è questa (già dopo aver calcolato la verosimiglianza profilo per $mu$ ed averlo stimato):
$L(theta) prop theta^(-n/2)e^(-1/(2theta)Sigma_x(x-bar(x))^2$
....conticini....
$-mathbb{E}[partial^2/(partialtheta^2)logL(theta)]=(n-2)/(2theta^2$
Quindi lo stimatore di massima verosimiglianza della varianza della popolazione ha una distribuzione asintotica normale così definita:
$hat(theta) dot~N(theta;(2theta^2)/(n-2))=N(sigma^2;(2sigma^4)/(n-2))$
Il tuo stimatore $S$ è in funzione dello stimatore di max verosimiglianza? direi di si, viene
$hat(theta)=(n-1)/nS^2$
quindi puoi applicare il metodo delta per calocolare la distribuzione asintotica di $S$.
(ho fatto i conti velocemente mentre mangiavo un panino.....ricontrolla)
Scusa ho ricontrollato ora quello che ho scritto qui nello svolgimento e ho scritto una funzione assolutamente sbagliata, scrivendola dal tablet ho sbagliato a riportarla. Quella che ho calcolato io é la stessa che hai scritto tu. Ho capito ora come svolgerlo. Per quanto riguarda l'esercizio che mi hai linkato , io avevo provato a farlo in modo diverso ma mi sono bloccato negli ultimi passaggi, ho visto come lo hai fatto tu e l'ho capito perciò ora provo a rifarlo da solo. Grazie dell'aiuto!
La distribuzione asintotica di $S$ mi viene così:
APPROFONDIMENTO E COMMENTI:
E' un esercizio un po' del "piffero" perché media e varianza di $S$ (partendo da un modello gaussiano) si possono calcolare con precisione, quindi in maniera esatta e non solo approssimata...
Infatti, ricordando che $U=((n-1)S^2)/sigma^2~"Gamma"((n-1)/2;1/2)$
da cui $S=sigma/sqrt(n-1) sqrt(u)$
Otteniamo quindi facilmente[nota]non so se tu sia abituato a calcolare questi integrali....nel dubbio ti metto tutti i passaggi[/nota]
$mathbb{E}=sigma/sqrt(n-1)int_(0)^(oo)(1/2)^((n-1)/2)/(Gamma((n-1)/2))sqrt(u) *u^(((n-1)/2)-1)e^(-u/2)du=$
$=sigma/sqrt(n-1)(1/2)^(-1/2)(Gamma(n/2))/(Gamma((n-1)/2))int_(0)^(oo)(1/2)^(n/2)/(Gamma(n/2))u^(n/2-1)e^(-u/2)du=sqrt(2/(n-1))(Gamma(n/2))/(Gamma((n-1)/2))*sigma$
ed anche per la varianza, molto più semplicemente, si ottiene
$V=mathbb{E}[S^2]-mathbb{E}^2=mathbb{E}[sigma^2/(n-1)U]-mathbb{E}^2=sigma^2/(n-1)mathbb{E}-mathbb{E}^2=sigma^2[1-2/(n-1)((Gamma(n/2))/(Gamma((n-1)/2)))^2]$
puoi controllare che il valore dei parametri asintotici tendono a quelli esatti....(io ho già controllato
)
$Sdot~N(sqrt(n/(n-1))sigma;(nsigma^2)/(2(n-1)(n-2)))$
APPROFONDIMENTO E COMMENTI:
E' un esercizio un po' del "piffero" perché media e varianza di $S$ (partendo da un modello gaussiano) si possono calcolare con precisione, quindi in maniera esatta e non solo approssimata...
Infatti, ricordando che $U=((n-1)S^2)/sigma^2~"Gamma"((n-1)/2;1/2)$
da cui $S=sigma/sqrt(n-1) sqrt(u)$
Otteniamo quindi facilmente[nota]non so se tu sia abituato a calcolare questi integrali....nel dubbio ti metto tutti i passaggi[/nota]
$mathbb{E}
$=sigma/sqrt(n-1)(1/2)^(-1/2)(Gamma(n/2))/(Gamma((n-1)/2))int_(0)^(oo)(1/2)^(n/2)/(Gamma(n/2))u^(n/2-1)e^(-u/2)du=sqrt(2/(n-1))(Gamma(n/2))/(Gamma((n-1)/2))*sigma$
ed anche per la varianza, molto più semplicemente, si ottiene
$V
puoi controllare che il valore dei parametri asintotici tendono a quelli esatti....(io ho già controllato
)
Ciao, sto rifacendo questo esercizio ma la speranza matematica mi viene diversa:
$ -E[(partial^2 logL(theta))/(partial x^2)]=-E[n/(2theta^2)-1/theta^3*sum_(x) (x-bar(x))^2] $
Ho sostituito a $sum_(x\) (x-bar(x))^2 $ :$ntheta$ dalla relazione che ricavo ponendo nulla la derivate prima dello funzione logverosimiglianza.
Ricavo che quella speranza matematica scritta sopra è:
$ -E[n/(2theta^2)-1/theta^3*ntheta]=n/(2theta) $
C'è qualcosa di sbagliato?
$ -E[(partial^2 logL(theta))/(partial x^2)]=-E[n/(2theta^2)-1/theta^3*sum_(x) (x-bar(x))^2] $
Ho sostituito a $sum_(x\) (x-bar(x))^2 $ :$ntheta$ dalla relazione che ricavo ponendo nulla la derivate prima dello funzione logverosimiglianza.
Ricavo che quella speranza matematica scritta sopra è:
$ -E[n/(2theta^2)-1/theta^3*ntheta]=n/(2theta) $
C'è qualcosa di sbagliato?
"francisgiz":
Ho sostituito a $sum_(x\) (x-bar(x))^2 $ :$ntheta$
C'è qualcosa di sbagliato?
Sì, ci sono diversi errori: $Sigma_x(x-bar(x))^2=(n-1)S^2$ il cui valore atteso è $(n-1)theta$. Diverso sarebbe se partissi da un modello gaussiano con media nota, ad esempio $N(2; sigma^2)$. In questo caso però non avresti come statistica la varianza campionaria ma un'altra statistica, con la media vera al posto di quella campionaria che ha una distribuzione con un grado di libertà in più..e quindi si spiega come mai trovi una speranza matematica con un $n$ più alto.
In ogni caso la sostituzione che hai fatto e che ho citato è sbagliata. Anche inserendo $mu$ al posto della media campionaria non puoi fare quella sostituzione. Devi calcolarne la speranza matematica per ottenere il risultato che ti aspetti.
Ecco come sarebbe il passaggio corretto
$mathbb{E}[Sigma_x(x-mu)^2]=nmathbb{E}[x-mu]^2=nV[X]=ntheta$
Attento ai refusi nello scrivere: nel primo passaggio, pur avendo fatto i conti per bene, hai scritto erroneamente la derivata rispetto a $x$ invece è rispetto a $theta$. Nell'ultimo passaggio il risultato non può avere come denominatore $2theta$ ma sarà $2theta^2$. Prova a rifare i conti con la media nota e vedrai che il tuo risultato, una volta corretti i refusi, è giusto.
Ecco comunque tutti i passaggi: parti dal fatto che
$S^2=1/(n-1)Sigma_x(x-bar(x))^2$
Si dimostra facilmente[nota]se non lo sai fare devi studiartelo, è un risultato base molto importante[/nota] che $mathbb{E}[S^2]=sigma^2=$ (nel nostro caso)$=theta$
Quindi ripartendo dal tuo passaggio ottieni
$-mathbb{E}[n/(2theta^2)-1/theta^3 Sigma_x(x-bar(x))^2]=-mathbb{E}[n/(2theta^2)-((n-1)S^2)/theta^3]=$
$=-n/(2theta^2)+(n-1)/theta^3mathbb{E}[S^2]=-n/(2theta^2)+(n-1)/theta^2=(n-2)/(2theta^2)$
[ot]ma quanto è bello ed utile questo forum, l'avessi avuto io quando ero studente
...allora non c'era nemmeno l'internet...mi raccomando, pubblicizzatelo fra amici e parenti....[/ot]
Accedi a tutti gli appunti
Tutor AI: studia meglio e in meno tempo