Esercizio Strumenti dell'informazione - Entropia su un urna
Salve ragazzi, ho un nuovo esame all'Uni, un esame che non mi esalta molto
infatti ho già le prime difficoltà. E chi meglio di voi può aiutarmi...
L'esercizio è questo:
Si consideri un'urna contenente 20 biglie bianche e 10 nere. Si preleva dall'urna una biglia alla volta senza reinserirla. Sia $X_i$ la variabile casuale relativa al colore della i-ma biglia estratta. Determinare, $H(X_1)$, $H(X_2)$, $H(X_1|X_2)$.
Sapreste dirmi da dove iniziare
mi scuso se ho sbagliato sezione, mi sembrava quella più indicata.
Grazie mille a tutti

L'esercizio è questo:
Si consideri un'urna contenente 20 biglie bianche e 10 nere. Si preleva dall'urna una biglia alla volta senza reinserirla. Sia $X_i$ la variabile casuale relativa al colore della i-ma biglia estratta. Determinare, $H(X_1)$, $H(X_2)$, $H(X_1|X_2)$.
Sapreste dirmi da dove iniziare

mi scuso se ho sbagliato sezione, mi sembrava quella più indicata.
Grazie mille a tutti
Risposte
Dunque:
$X_1$ può assumere due stati $S={\text{bianco},\text{nero}}$ con probabilità rispettivamente $P(X_1= bianca)=2/3$ e $P(X_1= \text{nera})=1/3$, quindi:
$H(X_1)=E[log (1/( P[X_1]))]=sum_(X_1 in S) P(X_1)*log(1/(P(X_1)))=1/2*log 3 + 2/3 * log (3/2)$
Per quanto riguarda $X_2$ avremo:
$P[X_2=bianco]=P[X_2=bianco|X_1=\text{nero}]*P(X_1=\text{nero})+P[X_2=bianco|X_1=bianco]*P(X_1=bianco)=20/29*1/3+19/29*2/3$
$P[X_2=\text{nero}]=P[X_2=\text{nero}|X_1=\text{nero}]*P(X_1=\text{nero})+P[X_2=\text{nero}|X_1=bianco]*P(X_1=bianco)=9/29*1/3+10/29*2/3$
Ora, per il calcolo di $H(X_2)$ applichi la formla usata nel caso precedente.
Per il calcolo di $H(X_1|X_2)$ devi trovare $P(X_1|X_2)=P(X_2|X_1)*(P(X_1))/(P(X_2))$ che (dagli svolgomenti sopra) è già tutto fatto.
Ora, non ti rimane che calcolare $H(X_1|X_2)=E[log (1/(P(X_1|X_2)))]=sum_(X_1 in S) sum_(X_2 in S) P(X_2,X_1) * log(1/(P(X_1|X_2)) )$
con $P(X_2,X_1)=P(X_2|X_1)*P(X_1)$.
$X_1$ può assumere due stati $S={\text{bianco},\text{nero}}$ con probabilità rispettivamente $P(X_1= bianca)=2/3$ e $P(X_1= \text{nera})=1/3$, quindi:
$H(X_1)=E[log (1/( P[X_1]))]=sum_(X_1 in S) P(X_1)*log(1/(P(X_1)))=1/2*log 3 + 2/3 * log (3/2)$
Per quanto riguarda $X_2$ avremo:
$P[X_2=bianco]=P[X_2=bianco|X_1=\text{nero}]*P(X_1=\text{nero})+P[X_2=bianco|X_1=bianco]*P(X_1=bianco)=20/29*1/3+19/29*2/3$
$P[X_2=\text{nero}]=P[X_2=\text{nero}|X_1=\text{nero}]*P(X_1=\text{nero})+P[X_2=\text{nero}|X_1=bianco]*P(X_1=bianco)=9/29*1/3+10/29*2/3$
Ora, per il calcolo di $H(X_2)$ applichi la formla usata nel caso precedente.
Per il calcolo di $H(X_1|X_2)$ devi trovare $P(X_1|X_2)=P(X_2|X_1)*(P(X_1))/(P(X_2))$ che (dagli svolgomenti sopra) è già tutto fatto.
Ora, non ti rimane che calcolare $H(X_1|X_2)=E[log (1/(P(X_1|X_2)))]=sum_(X_1 in S) sum_(X_2 in S) P(X_2,X_1) * log(1/(P(X_1|X_2)) )$
con $P(X_2,X_1)=P(X_2|X_1)*P(X_1)$.
Ottimo grazie!!!!
dopo mangiato faccio tutto!
gentilissimo, ti ringrazio ancora
dopo mangiato faccio tutto!
gentilissimo, ti ringrazio ancora
ottimo grazie ci sono riuscito, non so se devo scrivere risolto, o qualcosa di simile...
cmq grazie mille ancora
cmq grazie mille ancora