Delta módszer — példa számítás

A Delta módszer egy nagyon gyakran használt számítási lépés aszimptotikus esetekben. Nézzük, hogyan valósítjuk meg.

---

Aszimptotikus esetekben végzett paraméterbecslés ugye a Centrális határeloszlás-tétel csak az átlag kiszámításában van segítségünkre. Ez nem gond addig, amíg az átlag és a paraméter amit keresünk ugyanaz. Ez ugye igaz a Gaussian vagy a Poisson eloszlásra, de sokszor nem ez a helyzet. Nézzünk egy példát.

A Centrális határeloszlás-tételről szóló posztban egy olyan Exponenciális eloszlás volt a példa, aminek a nem ismert lambda paramétere 0,1 volt. Maradjunk ennél a példánál. A korábbi posztban láttuk, hogy a mintaátlagok, a következő Normál eloszlást követik:

(1)  

Azt is tudjuk, hogy Exponenciális eloszlásoknál az átlag és a paraméter kapcsolata:

(2)  

Innen nem nehéz látni, hogy ahhoz, hogy a lambdára a legjobb becslés:

(3)  

Tehát a Slutsky’s tételt felhasználva, még mindig a korábbi numerikus példánál maradva a becslésünk a lambdára:

(4)  

Ugye ez elég közel van a keresett 0,1-hez, de ezt ugye nem tudjuk. De vajon milyen becslést adhatunk erre a távolságra? A Centrális határeloszlás tétele ugye segít nekünk arra nézve, mekkora távolságon belül gondoljuk a populáció válós átlagát a mintaátlaghoz. A Delta módszer lényegében ennek a tudásnak a felhasználása a becsült és a valós paraméter távolságára. Maga a módszer lényegében azt mondja, hogy a paraméterbecslés a következő Gaussian eloszlást fogja követni:

(5)  

Ha a fentieket összehasonlítjuk az (1)-el akkor látjuk, hogy lényegében csak a variancia fog változni, mégpedig egy szorzóval. Oké. mi ez? A g az a függvény, aminek segítségével a mintaátlagból eljutunk a keresett paraméterhez. Tehát ebben az esetben a (3)-as. Vegyük észre, a ‘ jelet, ami ugye azt jelenti, hogy deriváljuk ezt a g függvényt. Ennek a derivált függvénynek az elvárt érték lesz a bemenete. Amit Slutsky alapján a minta átlaggal fogunk helyettesíteni. Végül az egészet négyzetre kell emelni. Tehát a lépések. Először megnézzük a g deriváltját, vegyük észre hogy a -et -re cseréltem:

(6)  

Majd behelyettesítjük a E[X]-et, és négyzetre emelünk. Ennek megfelelően:

(7)  

Amit ugye lehet egyszerűsíteni:

(8)  

Numerikusan a fenti példára:

(9)  

Vagyis a becslésünk szerint a valós paraméter a következő Gaussian-ra illeszkedik:

(9)  

Lényegében ennyi a Delta módszer. Teszteljük. Vegyünk 10 000 mintát és nézzük meg, hogy alakul a paraméterbecslésünk.

# a valós lambda amit nem ismerünk
l = 0.1

# paraméterbecslés 
parameter_becsles  = []
j = 10000
for i in range(j):
    # mintavétel
    x = np.random.exponential(scale=b, size=n)
    # átlag számítás
    parameter_becsles.append(1/np.mean(x))

# ábra
plt.clf()
# a megfigyelt becslések a paraméterre
plt.hist(parameter_becsles, label="Paraméter becslés", density=True, )
# a delta módszer által elvárt eloszálása a becsült paraméternek
bins = [ x/1000 for x in range(200)]
normalpdf = stats.norm.pdf(bins, l, np.sqrt(l**2/n))
plt.plot(bins, normalpdf, label="Normál eloszlás")

plt.legend()
plt.plot()

Mint látható a becsült eloszlás elég jól illeszkedik a mintavétel eredményére, tehát a Delta módszer tényleg jól használható a paraméterbecslés kritikus értékeinek meghatározására.