Fisher információ — példa számítás

A Fisher információ lényegében a megfigyelésünkből kinyert információ (a maximum likelihood esetünkben) varianciája. Vagyis megmondja nekünk, hogy konkrét n megfigyelés esetén mekkora varianciára számíthatunk az egyes mintavételek között. Nézzünk egy példát, hogy számítjuk.


Ebben a példában a Paraméterbecslés Maximum likelihood módszerrel című bejegyzésben megismert populációval fogunk dolgozni. Tehát van egy 100 elemű mintánk egy populációból, aminek a sűrűségfüggvénye:

(1)  f_{\theta }(x) = \frac{x}{\theta^2} \cdot exp\left(-\frac{x^2}{2 \theta^2} \right)

Tehát még egyszer a biztonság kedvért, hogy milyen kérdésre válasz a Fisher információ: ha sokszor megismételnénk a mintavételünket, akkor az egyes mintavételekből számított maximum likelihood varianciája mekkora lesz.

Maga a számítás triviális: kétszer deriváljuk a sűrűségfüggvény logaritmusát thétára, majd az x-helyére behelyettesítjük annak elvárt értékét, és végül az egészet szorozzuk -1-el. Akkor nézzük:

(2)  E \left [ ln\left(   f_{\theta }(x)  \right)  \right] = -2 ln(\theta) + log(x) -\frac{x^2}{2\theta^2}

Dobjuk ami nem függ thétától:

(3)  E \left [ ln\left(   f_{\theta }(x)  \right)  \right]  = -2 ln(\theta) -\frac{x^2}{2\theta^2}

Deriváljuk:

(4)  \frac{d^2}{d\theta d\theta}   E \left [ ln\left(   f_{\theta }(x)  \right)  \right]    = \frac{2 \cdot \theta^2-3\cdot x^2}{\theta^4}

Most helyettesítsük be az x helyére annak elvárt értékét és szorozzuk -1-gyel. Vegyük észre, hogy itt x négyzete szerepel, tehát a Paraméterbecslés Maximum likelihood módszerrel (5) eredményét kell behelyettesíteni. Ha egyszerűsítünk akkor a végén a következőt kapjuk a Fisher információra:

(5)  F = \frac{4}{\theta^2 }

Készen is vagyunk.

Ennek az információnak a reciproka pedig megadja nekünk a Maximum likelihood asymptotic eloszlás varianciáját. Vagyis:

(6)  Var(\theta) = \frac {\theta^2 }{4}

Hírdetés

Fisher információ — példa számítás” bejegyzéshez egy hozzászólás

Vélemény, hozzászólás?

Adatok megadása vagy bejelentkezés valamelyik ikonnal:

WordPress.com Logo

Hozzászólhat a WordPress.com felhasználói fiók használatával. Kilépés /  Módosítás )

Twitter kép

Hozzászólhat a Twitter felhasználói fiók használatával. Kilépés /  Módosítás )

Facebook kép

Hozzászólhat a Facebook felhasználói fiók használatával. Kilépés /  Módosítás )

Kapcsolódás: %s