Cenzúrázott és csonkított Gaussian eloszlások Bayesian paraméterbecslése

A Gaussian eloszlás az egyik leggyakrabban szembejövő eloszlás a gyakorlati életben. Sajnos bizonyos esetekben a mintavételünk torzított ( jellemzően a farok tartományokban ) és ezért a paraméterbecslésünk nehéz lehet. A mai bejegyzésben két ilyen torzítást fogunk körbejárni: a cenzúrázást és a csonkítást. Cenzúrázott Gaussian eloszlás Cenzúrázott adatokról akkor beszélünk, ha a megfigyeléseink bizonyos értékhatár alatt … Cenzúrázott és csonkított Gaussian eloszlások Bayesian paraméterbecslése olvasásának folytatása →

Markov-lánc Monte Carlo

Ahogy a Bayesian szemlélettel foglalkozó bejegyzésben említettem, végtelen nagyságú tér esetén mintavételt kell alkalmaznunk ahhoz, hogy a teret leírjuk. A mai bejegyzés egy olyan mintavételi eljárásról szól, a Markov-lánc Monte Carloról (Markov chain Monte Carlo, MCMC ), amit gyakran alkalmaznak erre a feladatra, és nem csak Bayesian hanem más területen is pl: megerősítéses tanulás. Kezdjük … Markov-lánc Monte Carlo olvasásának folytatása →

Bayesian szemlélet — statisztika alapok

Az elöző bejegyzésben megismerkedtünk a Bayes-tételel, ma körbejárjuk a tétel köré épített szemlélet miben tér el a klasszikus statisztikai szemlélettől. Szóval mi olyan különleges a Bayes-tételben? Bár elsőre talán nem látszik, de ez egy teljesen eltérő hozzáállás az adatokhoz és a tudományos bizonyításhoz, mint a klasszikus megközelítés. A klasszikus tudományos bizonyítás során az Megfigyelésből indulunk … Bayesian szemlélet — statisztika alapok olvasásának folytatása →

Bayes-tétel — statisztika alapok

Az egyik legizgalmasabb terület számomra a statisztikában a Bayesian gondolkodás. Korábban írtam egy bejegyzést erről a témáról, de az elmélettel még nem foglalkoztam. Most ezt fogom pótolni. Kicsit távolról indítok, de feltétlenül tisztáznunk kell az elvárásokat a Bayesian statisztikával szemben, hogy értékelni lehessen a jelentőségét. Amikor Statisztikai analízist végzünk belülről haladunk kifele. Először megépítjük a … Bayes-tétel — statisztika alapok olvasásának folytatása →

Elvárás-maximalizáló algoritmus

Ma egy olyan robusztus osztályozó eljárást ismertetek, amit hiányos adatsorokra is tudunk alkalmazni. Az Elvárás-maximalizáló algoritmust 1977-ben publikálta Arthur Dempster, Nan Laird és Donald Rubin.1 A céljuk az volt, hogy kidolgozzanak egy olyan általános eljárást, amivel hiányos adatok esetén is lehetséges a maximum likelihood modellezés. Kezdjük egy egyszerű osztályozási problémával: van sok megfigyelésünk, amik K … Elvárás-maximalizáló algoritmus olvasásának folytatása →

A Robusztus Bayes lineáris regresszió

A lineáris regresszió a mindennapi elemzések egyik legegyszerűbb és leggyakrabban alkalmazott eljárása. Ennek egyik érdekes változata a mai poszt tárgya. Munkahelyi problémaként merült fel néhány napja, amit az egyik mobil szolgáltató szeretett volna megtudni: melyek azok az LTE (4G) átjátszótornyok, amelyeknek Downlink (DL) Througput-ja lassan deklarálódik. Adtak néhány ezer idősort. Nézzünk egy példát, nevezzük cella … A Robusztus Bayes lineáris regresszió olvasásának folytatása →

Az Improper prior

Az improper prior egyszerűen az jelenti, hogy a prior eloszlás nem integrálható 1-re. Értelemszerűen ennek a definíciónak csak folytonos eloszlások esetén van értelme. Nehéz ilyen priort találni? Nem igazán. Például Béta eloszlás ahol alfa és béta egyaránt 0.: (1) $latex \pi(\theta) \propto \theta^{-1}\cdot(1-\theta)^{-1} &s=2$ Nézzük meg mi ennek az integráltja, vagyis a: (2) $latex \int_0^1\theta^{-1}\cdot(1-\theta)^{-1} … Az Improper prior olvasásának folytatása →