Delta módszer — példa számítás

A Delta módszer egy nagyon gyakran használt számítási lépés aszimptotikus esetekben. Nézzük, hogyan valósítjuk meg.


Aszimptotikus esetekben végzett paraméterbecslés ugye a Centrális határeloszlás-tétel csak az átlag kiszámításában van segítségünkre. Ez nem gond addig, amíg az átlag és a paraméter amit keresünk ugyanaz. Ez ugye igaz a Gaussian vagy a Poisson eloszlásra, de sokszor nem ez a helyzet. Nézzünk egy példát.

A Centrális határeloszlás-tételről szóló posztban egy olyan Exponenciális eloszlás volt a példa, aminek a nem ismert lambda paramétere 0,1 volt. Maradjunk ennél a példánál. A korábbi posztban láttuk, hogy a mintaátlagok, a következő Normál eloszlást követik:

(1)  N \left (\frac{1}{\lambda}, \frac{Var(X)}{n} \right)

Azt is tudjuk, hogy Exponenciális eloszlásoknál az átlag és a paraméter kapcsolata:

(2)  E[X] = \frac{1}{\lambda}

Innen nem nehéz látni, hogy ahhoz, hogy a lambdára a legjobb becslés:

(3)  \lambda = \frac{1}{E[X]}

Tehát a Slutsky’s tételt felhasználva, még mindig a korábbi numerikus példánál maradva a becslésünk a lambdára:

(4)  \lambda = \frac{1}{\bar{x}} = \frac{1}{ 9.3718 }

Ugye ez elég közel van a keresett 0,1-hez, de ezt ugye nem tudjuk. De vajon milyen becslést adhatunk erre a távolságra? A Centrális határeloszlás tétele ugye segít nekünk arra nézve, mekkora távolságon belül gondoljuk a populáció válós átlagát a mintaátlaghoz. A Delta módszer lényegében ennek a tudásnak a felhasználása a becsült és a valós paraméter távolságára. Maga a módszer lényegében azt mondja, hogy a paraméterbecslés a következő Gaussian eloszlást fogja követni:

(5)  N \left (\lambda, \frac{(g'(E[X]))^2\cdot Var(X)}{n} \right)

Ha a fentieket összehasonlítjuk az (1)-el akkor látjuk, hogy lényegében csak a variancia fog változni, mégpedig egy (g'(E[x]))^2 szorzóval. Oké. mi ez? A g az a függvény, aminek segítségével a mintaátlagból eljutunk a keresett paraméterhez. Tehát ebben az esetben a (3)-as. Vegyük észre, a jelet, ami ugye azt jelenti, hogy deriváljuk ezt a g függvényt. Ennek a derivált függvénynek az elvárt érték lesz a bemenete. Amit Slutsky alapján a minta átlaggal fogunk helyettesíteni. Végül az egészet négyzetre kell emelni. Tehát a lépések. Először megnézzük a g deriváltját, vegyük észre hogy a \bar{x} -et x -re cseréltem:

(6)  g'(x) = \frac{du}{dx} \frac{1}{x} = \frac{-1}{x^2}

Majd behelyettesítjük a E[X]-et, és négyzetre emelünk. Ennek megfelelően:

(7)  Var(\lambda)= \left(\frac{-1}{E[X]^2}\right)^2 \cdot \frac{Var(X)}{n}

Amit ugye lehet egyszerűsíteni:

(8)  Var(\lambda)= \left(\frac{-1}{E[X]^2}\right)^2 \cdot  \frac{ E[X]^2 }{n} =  \frac{1}{\frac{1}{\hat{\lambda}^4}  } \frac{\frac{1}{\hat{\lambda}^2}}{n}  = \hat{\lambda}^4 \frac{ 1}{ \hat{\lambda}^2 \cdot n} = \frac{ \hat{\lambda}^2}{n}

Numerikusan a fenti példára:

(9)  Var(\lambda)= \frac{1 }{  9,3718^2  \cdot 50 }

Vagyis a becslésünk szerint a valós paraméter a következő Gaussian-ra illeszkedik:

(9)  N\left(\frac{1}{ 9,3718 },  \frac{1 }{   9,3718^2 \cdot 50 } \right)

Lényegében ennyi a Delta módszer. Teszteljük. Vegyünk 10 000 mintát és nézzük meg, hogy alakul a paraméterbecslésünk.

# a valós lambda amit nem ismerünk
l = 0.1

# paraméterbecslés 
parameter_becsles  = []
j = 10000
for i in range(j):
    # mintavétel
    x = np.random.exponential(scale=b, size=n)
    # átlag számítás
    parameter_becsles.append(1/np.mean(x))

# ábra
plt.clf()
# a megfigyelt becslések a paraméterre
plt.hist(parameter_becsles, label="Paraméter becslés", density=True, )
# a delta módszer által elvárt eloszálása a becsült paraméternek
bins = [ x/1000 for x in range(200)]
normalpdf = stats.norm.pdf(bins, l, np.sqrt(l**2/n))
plt.plot(bins, normalpdf, label="Normál eloszlás")

plt.legend()
plt.plot()

Mint látható a becsült eloszlás elég jól illeszkedik a mintavétel eredményére, tehát a Delta módszer tényleg jól használható a paraméterbecslés kritikus értékeinek meghatározására.

Hírdetés

Delta módszer — példa számítás” bejegyzéshez egy hozzászólás

Vélemény, hozzászólás?

Adatok megadása vagy bejelentkezés valamelyik ikonnal:

WordPress.com Logo

Hozzászólhat a WordPress.com felhasználói fiók használatával. Kilépés /  Módosítás )

Twitter kép

Hozzászólhat a Twitter felhasználói fiók használatával. Kilépés /  Módosítás )

Facebook kép

Hozzászólhat a Facebook felhasználói fiók használatával. Kilépés /  Módosítás )

Kapcsolódás: %s