Esercizio Strumenti dell'informazione - Entropia su un urna

alfox1
Salve ragazzi, ho un nuovo esame all'Uni, un esame che non mi esalta molto :D infatti ho già le prime difficoltà. E chi meglio di voi può aiutarmi...
L'esercizio è questo:

Si consideri un'urna contenente 20 biglie bianche e 10 nere. Si preleva dall'urna una biglia alla volta senza reinserirla. Sia $X_i$ la variabile casuale relativa al colore della i-ma biglia estratta. Determinare, $H(X_1)$, $H(X_2)$, $H(X_1|X_2)$.


Sapreste dirmi da dove iniziare :D

mi scuso se ho sbagliato sezione, mi sembrava quella più indicata.

Grazie mille a tutti

Risposte
clrscr
Dunque:

$X_1$ può assumere due stati $S={\text{bianco},\text{nero}}$ con probabilità rispettivamente $P(X_1= bianca)=2/3$ e $P(X_1= \text{nera})=1/3$, quindi:
$H(X_1)=E[log (1/( P[X_1]))]=sum_(X_1 in S) P(X_1)*log(1/(P(X_1)))=1/2*log 3 + 2/3 * log (3/2)$

Per quanto riguarda $X_2$ avremo:
$P[X_2=bianco]=P[X_2=bianco|X_1=\text{nero}]*P(X_1=\text{nero})+P[X_2=bianco|X_1=bianco]*P(X_1=bianco)=20/29*1/3+19/29*2/3$
$P[X_2=\text{nero}]=P[X_2=\text{nero}|X_1=\text{nero}]*P(X_1=\text{nero})+P[X_2=\text{nero}|X_1=bianco]*P(X_1=bianco)=9/29*1/3+10/29*2/3$

Ora, per il calcolo di $H(X_2)$ applichi la formla usata nel caso precedente.

Per il calcolo di $H(X_1|X_2)$ devi trovare $P(X_1|X_2)=P(X_2|X_1)*(P(X_1))/(P(X_2))$ che (dagli svolgomenti sopra) è già tutto fatto.

Ora, non ti rimane che calcolare $H(X_1|X_2)=E[log (1/(P(X_1|X_2)))]=sum_(X_1 in S) sum_(X_2 in S) P(X_2,X_1) * log(1/(P(X_1|X_2)) )$

con $P(X_2,X_1)=P(X_2|X_1)*P(X_1)$.

alfox1
Ottimo grazie!!!!
dopo mangiato faccio tutto!

gentilissimo, ti ringrazio ancora

alfox1
ottimo grazie ci sono riuscito, non so se devo scrivere risolto, o qualcosa di simile...
cmq grazie mille ancora

Rispondi
Per rispondere a questa discussione devi prima effettuare il login.