Come (nasce)...Come si massimizza l'indice di entropia?
Ciao a tutti...Vorrei sapere come nasce l'indice di entropia Hx utilizzato per l'Analisi di variabili categoriali...MA SOPRATTUTTO mi piacerebbe tanto sapere i passaggi per la massimizzazione vincolata di tale indice s.a. della sommatoria di tutte le frequenze relative.
(Scusate se ve lo chiedo ma sono fatto così...Se non conosco la dimostrazione delle formule, esse non mi entrano nel cervello...Non so il perché.)
Ps:
quando cerco di massimizzare la funzione mi viene 1 perché "fj" è costante moltiplicativa, mentre ln(fj) derivato va ad "1/fj"...
Tuttavia ciò mi pare assurdo perchè il libro dice che il massimo esiste ed è fj=1/K
Aspetto con molta ansia eventuali chiarimenti...A presto
(Scusate se ve lo chiedo ma sono fatto così...Se non conosco la dimostrazione delle formule, esse non mi entrano nel cervello...Non so il perché.)
Ps:
quando cerco di massimizzare la funzione mi viene 1 perché "fj" è costante moltiplicativa, mentre ln(fj) derivato va ad "1/fj"...
Tuttavia ciò mi pare assurdo perchè il libro dice che il massimo esiste ed è fj=1/K
Aspetto con molta ansia eventuali chiarimenti...A presto
Risposte
Ciao,
ti chiedo di modificare il titolo, seguendo quanto dice il nostro regolamento
3.4 Soprattutto sono da evitare titoli e testo in grassetto o in maiuscolo
Grazie per la comprensione.
ti chiedo di modificare il titolo, seguendo quanto dice il nostro regolamento
3.4 Soprattutto sono da evitare titoli e testo in grassetto o in maiuscolo
Grazie per la comprensione.
ok scusami...
di solito si usano i moltiplicatori di Lagrange
Emm ecco la funzione indice di entropia è la seguente ed è ad una sola variabile e serve per misurare il livello di etereogenità di una distribuzione di frequenza relativa a variabili categoriali, e risulta ovvio che il protocollo più omogeneo si ottiene quando tutte le osservazioni assumono la stessa categoria mentre quello più eterogeneo si ottiene quando esistono k categorie con la stessa frequenza 1/k(parole riprese dalle dispense). Ecco dunque l'indice di entropia:
Hx=-$\sum_{j=1}^kfjlnfj
...TUttavia la funzione è vincolata dalla sommatoria delle frequenze. In simboli il problema diviene:
Diviene un problema di massimo vincolato
max (-$\sum_{j=1}^kfjlnfj)
f1,f2,...,fk
s.a $\sum_{j=1}^kfj=1
...Ho provato a rifarla...E ho superato pure gli errori di distrazione...Arrivato in fondo... Succede che per trovare il punto stazionario di Hx, (derivandola una volta rispetto ad fj ed eguagliandola a 0):
-$\sum_{j=1}^k(lnfj+1)= 0
quindi:
$\sum_{j=1}^kln(fj)= -k
per la proprietà dei logaritmi:
ln($\prod_{j=1}^k(fj))= -k
ne consegue che:
$\prod_{j=1}^k(fj) = e(^(-k)) = 1/e^k
allora fj= (1/e^k)/(f1*f2***fk$!=$fj)
il che è decisamente diverso dal risultato che ripropongono le dispense che ho ( fj=1/k)
PS: il moltiplicatore di Lagrange va usato solo per le funzioni a 2 variabili o più credo, ma non ne sono certo...Si può utilizzare per le funzioni ad una variabile?
Hx=-$\sum_{j=1}^kfjlnfj
...TUttavia la funzione è vincolata dalla sommatoria delle frequenze. In simboli il problema diviene:
Diviene un problema di massimo vincolato
max (-$\sum_{j=1}^kfjlnfj)
f1,f2,...,fk
s.a $\sum_{j=1}^kfj=1
...Ho provato a rifarla...E ho superato pure gli errori di distrazione...Arrivato in fondo... Succede che per trovare il punto stazionario di Hx, (derivandola una volta rispetto ad fj ed eguagliandola a 0):
-$\sum_{j=1}^k(lnfj+1)= 0
quindi:
$\sum_{j=1}^kln(fj)= -k
per la proprietà dei logaritmi:
ln($\prod_{j=1}^k(fj))= -k
ne consegue che:
$\prod_{j=1}^k(fj) = e(^(-k)) = 1/e^k
allora fj= (1/e^k)/(f1*f2***fk$!=$fj)
il che è decisamente diverso dal risultato che ripropongono le dispense che ho ( fj=1/k)
PS: il moltiplicatore di Lagrange va usato solo per le funzioni a 2 variabili o più credo, ma non ne sono certo...Si può utilizzare per le funzioni ad una variabile?
Qui le variabili sono k.
E l'approccio standard e' usare i moltiplicatori di Lagrange.
Comunque questo e' un esercizio standard sia sull'entropia che sui moltiplicatori di Lagrange, per cui se cerchi in rete penso che troverai tutto gia' bell'e fatto.
E l'approccio standard e' usare i moltiplicatori di Lagrange.
Comunque questo e' un esercizio standard sia sull'entropia che sui moltiplicatori di Lagrange, per cui se cerchi in rete penso che troverai tutto gia' bell'e fatto.
Si è vero! Che errore stupido ho fatto (nuova). Sono più variabili, ed è impossibile massimizzare una funzione senza la lagrangiana, se è a più variabili...Adesso ci provo.
oddio non ci posso credere....Per ripassare i moltiplicatori di lagrange ho trovato un esempio similissimo al mio...VAI PROBLEMA RISOLTO!
http://it.wikipedia.org/wiki/Metodo_dei ... i_Lagrange
http://it.wikipedia.org/wiki/Metodo_dei ... i_Lagrange
ok, calma ho esultato troppo presto....
Dunque io non so come fa wikipedia a fare i passaggi così spediti: al terzo passaggio come è possibile che abbia fatto un'unica derivata come se ne valesse contemporanemante k??? SI PUO' FARE QUESTA COSA? scusate io ho derivato la lagrangiana rispetto ad f1, f2 e ad fk... e viene sempre un sistema così:
ln(f1)=e^($\lambda$-1)=lnf2=...=ln(fk).
Ma qual'è il quel valore di landa che mi permette di ottenere f1=f2=...=fk= 1/k.
Dunque risolvendo l'equazione mi ricavo lambda, cioè:
λ = 1-lnk
verrebbe lnf1=lnf2=...=lnfj=....lnfk= e^((1-lnk)-1)= 1/(e^lnf1)= 1/(e^lnf2)=...= 1/(e^lnfj)=....= 1/(e^lnfk)
e ora per ritrovarmi il valore di fj , devo risolvere l'equazione col metodo grafico. Giusto?
1/(e^lnfj)=ln(fj)
AIUTOOOO.... Vanno bene questi passaggi?
PS: ho fatto un pò di Edit, perchè col passare delle prove, mi sto rendendo conto degli errori che faccio....
Dunque io non so come fa wikipedia a fare i passaggi così spediti: al terzo passaggio come è possibile che abbia fatto un'unica derivata come se ne valesse contemporanemante k??? SI PUO' FARE QUESTA COSA? scusate io ho derivato la lagrangiana rispetto ad f1, f2 e ad fk... e viene sempre un sistema così:
ln(f1)=e^($\lambda$-1)=lnf2=...=ln(fk).
Ma qual'è il quel valore di landa che mi permette di ottenere f1=f2=...=fk= 1/k.
Dunque risolvendo l'equazione mi ricavo lambda, cioè:
λ = 1-lnk
verrebbe lnf1=lnf2=...=lnfj=....lnfk= e^((1-lnk)-1)= 1/(e^lnf1)= 1/(e^lnf2)=...= 1/(e^lnfj)=....= 1/(e^lnfk)
e ora per ritrovarmi il valore di fj , devo risolvere l'equazione col metodo grafico. Giusto?
1/(e^lnfj)=ln(fj)
AIUTOOOO.... Vanno bene questi passaggi?
PS: ho fatto un pò di Edit, perchè col passare delle prove, mi sto rendendo conto degli errori che faccio....
Accedi a tutti gli appunti
Tutor AI: studia meglio e in meno tempo