Bayesiánská analýza VIII. Úvod do časových řad Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 1 / 52 Obsah tématu 1 Local level model Věrohodnostní funkce a apriorní hustota Posteriorní hustota Empirické bayesovské metody Empirická ilustrace 2 Obecný stavový model Bayesovský výpočet Empirická ilustrace 3 Rozšíření Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 2 / 52 Úvod Stavové modely. Hierarchická podstata – atraktivita odpovídajících metod. Bauwens, Lubrano, Richard – bayesiánská analýza alternativního přístup. Stavový zápis = jiný pohled na stejnou problematiku. Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 3 / 52 Časové řady Viz analýza autokorelovaných náhodných složek. AR(p) proces: (1 − ρ1L − . . . − ρpLp )yt = ut. V podstatě lineární regresní model: yt = ρ1yt−1 + . . . + ρpyt−p + ut. Zobecnění: yt = ρ1yt−1 + . . . + ρpyt−p + β0xt + β1xt−1 + . . . + βqxt−q + ut. Řešené problémy: restrikce kladené na koeficienty, definování apriorních hustot. Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 4 / 52 Local level model Obsah tématu 1 Local level model Věrohodnostní funkce a apriorní hustota Posteriorní hustota Empirické bayesovské metody Empirická ilustrace 2 Obecný stavový model Bayesovský výpočet Empirická ilustrace 3 Rozšíření Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 5 / 52 Local level model Úvod Local level model: yt = αt + t. t je i.i.d. N(0, h−1). Jedinečnost = nepozorované αt jako náhodná procházka: αt+1 = αt + ut. ut je i.i.d. N(0, ηh−1) a t a us jsou vzájemně nezávislé pro všechna t a s. t = 1, . . . , T resp. pro α t = 1, . . . , T − 1. Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 6 / 52 Local level model Pojmy α1 = počáteční podmínka. Rovnice měření (pozorování): yt = αt + t. Stavová rovnice: αt+1 = αt + ut. αt má stochastický trend. Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 7 / 52 Local level model Stochastický trend Nestacionární vývoj řady, náhodnost trendu. Deterministický trend: αt = α + βt. Stochastické trendové chování: αt = α1 + t−1 j=1 uj. Při zanedbání počátečních podmínek: var(αt) = (t − 1)ηh−1. αt a αt−1 mají tendenci ležet blízko u sebe (tj. E(αt|αt−1) = αt−1). Stochastický trend: variabilita jako rostoucí funkce času × pozvolna se měnící αt. Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 8 / 52 Local level model Dekompozice časové řady Local level model: yt = αt + t. Trendová komponenta a nepravidelná komponenta t. Trend = dlouhodobý růst ekonomiky × nepravidelná komponenta = náhodné krátkodobé šoky. Stavové modely: dekompozice řady na různé složky; např. i sezónní složka. Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 9 / 52 Local level model Local level model – analýza Měření relativní velikosti trendu a nepravidelné složky. Rozptyly h−1 a ηh−1 ⇒ η jako relativní poměr variability náhodné procházky a náhodné složky. η → 0 náhodná složka vypadává a αt = α1 pro všechna t (model yt = α1 + t → fluktuace kolem konstantní úrovně). Pro rostoucí η roste rozptyl ut ⇒ narůst role stochastického trendu. Test η = 0 jako způsob testování jednotkového kořene. Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 10 / 52 Local level model Další interpretace a apriorní hustota αt je střední hodnota (či úroveň, tedy level) pro yt. Měnící se střední hodnota ⇒ local level model. LRM s měnící se úrovňovou konstantou = model v čase proměnných parametrů (time varying parameters model). Obecnější stavové modely: v čase proměnné parametry (regresní koeficienty) nebo v čase proměnné rozptyly náhodných složek. Vektor α = (α1, . . . , αT ) ⇒ definice apriorní hustoty. Z rovnice náhodné procházky: hierarchická apriorní hustota pro α (podobně jako model individuálních vlivů s T = 1). Bayesovské metody pro nezávislou normální-gama apriorní hustotu = odvození Gibbsova vzorkovače (viz obecný stavový model). Zde přirozeně kojungovaná apriorní hustota pro zavedení empirických bayesiánských metod. Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 11 / 52 Local level model Věrohodnostní funkce a apriorní hustota Obsah tématu 1 Local level model Věrohodnostní funkce a apriorní hustota Posteriorní hustota Empirické bayesovské metody Empirická ilustrace 2 Obecný stavový model Bayesovský výpočet Empirická ilustrace 3 Rozšíření Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 12 / 52 Local level model Věrohodnostní funkce a apriorní hustota Značení y = (y1, . . . , yT ) a = ( 1, . . . , T ) : y = IT α + . Standardní požadavky: má vícerozměrné normální rozdělení se střední hodnotou 0T a kovarianční maticí h−1IT ⇒ normální lineární regresní model (α jako T-rozměrný vektor regresních koeficientů). Standardní podoba věrohodnostní funkce. Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 13 / 52 Local level model Věrohodnostní funkce a apriorní hustota Značení Konjugovaná podoba hierarchické hustoty na základě stavové rovnice. Matice prvních diferencí rozměru (T − 1) × T: D =      −1 1 0 0 · · · · · · 0 0 −1 1 0 · · · · · · 0 · · · · · · · · · · · · · · · · · · · · · 0 · · · · · · 0 0 −1 1      Platí: Dα =      α2 − α1 · · αT − αT−1      . Stavová rovnice: Dα = u, kde u = (u1, . . . , uT−1) ; normalita u ⇒ stavová rovnice definuje normální hierarchickou apriorní hustotu pro Dα. Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 14 / 52 Local level model Věrohodnostní funkce a apriorní hustota Specifikace apriorních hustot – pokračování Apriorní hustota pro h a α1. Zápis: y = W θ + , kde θ =        α1 α2 − α1 · · αT − αT−1        W = 1 0T−1 ιT−1 C . ιT−1 je (T − 1)-rozměrný vektor jedniček Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 15 / 52 Local level model Věrohodnostní funkce a apriorní hustota Specifikace apriorních hustot – pokračování Lze ukázat (maticovým násobením) ekvivalenci zápisů. C je dolní trojúhelníková matice rozměru (T − 1) × (T − 1) se všemi nenulovými prvky rovnými jedné (inverze matice D s vynechaným prvním sloupcem). C má všechny prvky na a pod hlavní diagonálou rovny jedné a všechny prvky nad hlavní diagonálou rovny nule. Přirozeně konjugovaná apriorní hustota pro θ a h: θ, h ∼ NG(θ, V , s−2 , ν). Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 16 / 52 Local level model Věrohodnostní funkce a apriorní hustota Specifikace apriorních hustot – dokončení Specifická struktura pro θ a V (zahrnuje apriorní informaci obsaženou ve stavové rovnici): θ =        θ1 0 · · 0        V = V 11 0T−1 0T−1 ηIT−1 . ⇒ αt+1 − αt odpovídá normální hustotě, N(0, ηh−1). Apriorní hustota závisí na η ⇒ hierarchická podoba. Apriorní hustota pro počáteční podmínku α1 ∼ N(θ1, h−1V 11). Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 17 / 52 Local level model Posteriorní hustota Obsah tématu 1 Local level model Věrohodnostní funkce a apriorní hustota Posteriorní hustota Empirické bayesovské metody Empirická ilustrace 2 Obecný stavový model Bayesovský výpočet Empirická ilustrace 3 Rozšíření Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 18 / 52 Local level model Posteriorní hustota Výsledky Standardní výsledky z kapitoly 3. p(θ, h|y) odpovídá NG(θ, V , s−2, ν): θ = V (V −1 θ + W y) V = (V −1 + W W )−1 ν = ν + T νs2 = νs2 + (y − W θ) (y − W θ) + (θ − θ) V −1 (θ − θ) Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 19 / 52 Local level model Posteriorní hustota Zpětná parametrizace p(θ|h, y) je normální + lin. kombinace normálních veličin je normální náhodná veličina. Pokud p(θ, h) odpovídá NG(θ, V , s−2, ν), je posteriorní rozdělení (α, h) analogické rozdělení NG(α, V α, s−2, ν), kde α = W θ, V α = W V W . Analytické výsledky (analyticky např. porovnání modelů). Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 20 / 52 Local level model Posteriorní hustota Další otázky Local level model: regresní model, kde počet regresních parametrů = počet pozorování. Hodnotná posteriorní analýza díky apriorní informaci. Proč nezískáváme degenerované posteriorní rozdělení v bodě y = α? Pro αt = yt pro všechna t máme perfektně padnoucí model ( t = 0 pro všechna t). Lze ukázat, že věrohodnostní funkce nabývá v tomto bodě nekonečně velké hodnoty × bayesiánská posteriorní hustota není do tohoto bodu nekonečné věrohodnosti umístěna díky apriorní informaci. Stavová rovnice říká: αt+1 a αt leží velmi blízko u sebe → posteriorní hustota dále od bodu perfektní shody modelu s daty. Tento jev nazýván vyhlazením (smoothing) stavového vektoru. Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 21 / 52 Local level model Empirické bayesovské metody Obsah tématu 1 Local level model Věrohodnostní funkce a apriorní hustota Posteriorní hustota Empirické bayesovské metody Empirická ilustrace 2 Obecný stavový model Bayesovský výpočet Empirická ilustrace 3 Rozšíření Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 22 / 52 Local level model Empirické bayesovské metody Úvod Subjektivní formulace apriorní hustoty nebo neinformativí apriorní hustota. V našem případě volba: θ, V , s−2, ν nebo neinformativních hodnoty ν = 0 a V −1 = 0T×T (θ a s−2 irelevantní). Nevýhody obou přístupů. Empirické bayesovké metody: hlavně u hierarchických apriorních hustot × využitelné všude × kritika „dvojpočtu“ s daty. Odhad apriorních hyperparametrů z dat → ideální nástroj marginální věrohodnost (hledání apriorních hyperparametrů zvyšujících marginální věrohodnost) × výpočetně náročné ⇒ jen pro některé parametry. Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 23 / 52 Local level model Empirické bayesovské metody Local level model – úvod Apriorní hustota: pět hyperparametrů; η, θ1, V 11, s−2 a ν. Nejvýznamnější η (podíl komponenty náhodné procházky ve stavovém modelu). Zjevná „neinformativní“ volba η → ∞ nesmyslná → stochastický trend převáží nad nesystematickou komponentou (dost "informativní"). Zaměření na η + předpoklad o schopnosti subjektivně definovat θ1, V 11, s−2 a ν. Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 24 / 52 Local level model Empirické bayesovské metody Marginální věrohodnost Marginální věrohodnost: p(y|η) = c |V | |V | 1 2 (νs2 )−ν 2 , kde c = Γ ν 2 (νs2) ν 2 Γ ν 2 π T 2 . Marginální věrohodnost jako funkce η. Standardní přístup: η = η, pro které bude maximalizována p(y|η) → vstupuje do apriorních hustot + standardní posteriorní analýza. Pro local level model: grid search method = potenciální hodnoty η v „mřížce“ → η maximalizující p(y|η). Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 25 / 52 Local level model Empirické bayesovské metody Formální přístup η jako parametr. p(η|y) ∝ p(y|η)p(η), kde p(η) je apriorní hustota: p(η|y) = c |V | |V | 1 2 (νs2 )−ν 2 p(η). Posteriorní hustota pro analýzu η. Pokud zájem i o ostatní prametry: p(θ, h, η|y) = p(θ, h|y, η)p(η|y). p(θ, h|y, η) je normální-gama hustota podmíněná specifickou hodnotou η (platí předchozí posteriorní výsledky) a p(η|y) je jednorozměrná hustota. Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 26 / 52 Local level model Empirické bayesovské metody Generování η MC integrace: výběr z p(η|y) ∝ p(y|η)p(η) a tímto podmíněn výběr z p(θ, h|y, η). Výběr z p(η|y) podle p(η): možnost aproximací diskrétní alternativou. Vyhodnocení p(η|y) v B různých bodech mřížky η1, . . . , ηB → p(η1|y), . . . p(ηB|y). Výběry η z diskrétního rozdělení (definované pravděpodobnostmi p(η = ηi ) = p(ηi |y) pro i = 1, . . . , B) → aproximativně odpovídají výběrům z p(η|y) (rostoucí B vede k růstu kvality aproximace). Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 27 / 52 Local level model Empirické bayesovské metody Další otázky Vyžadován výběr θ1, V 11, s−2 a ν (případně p(η) při využití druhého přístupu). Obvyklá neinformativních volba (ve většině modelů dobře funguje). Nefunguje pro případ local level modelu. Nastavení ν = V −1 11 = 0 → hodnoty s−2 a θ1 irelevantní ⇒ p(θ, σ−2|y, η) je dobře definovaná posteriorní hustota. Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 28 / 52 Local level model Empirické bayesovské metody Problémy Nedeterminovatelná integrační konstanta × při zaměření jen na η (nebo modely se stejnou apriorní hustotou) → c buď do vztahů nevstoupí nebo se vykrátí. Vážnější problém: νs2 se blíží nule pro η → ∞. Neinformativní výsledky: θ = (W W )−1W y a y − W θ = 0T → marginální věrohodnost nekonečno (bez důkazu). Empirická bayesovská analýza nastaví η → ∞ pro jakoukoliv datovou sadu ⇒ E(α|y) = y (žádné vyhlazení). Závěr: empirické bayesovské metody selhávají v rámci local level model při ν a V −1 11 na neinformativních hodnotách. Důvod: počet vysvětlujících proměnných je roven počtu pozorování (přesné proložení dat). Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 29 / 52 Local level model Empirické bayesovské metody Problémy – pokračování Nastavením ν > 0 nebo V −1 11 > 0 (a volbou s2 nebo θ1 adekvátním způsobem) → možné použití empirických bayesovských metod. νs2 se pro η → ∞ nebude blížit nule ⇒ nepotřebná informativní apriorní hustota pro h i θ1. Pro alternativní přístup (η jako parametr) problém pro ν = V −1 11 = 0 a pro nepravý prior pro η. V případě ν = V −1 11 = 0 a p(η) jako nepravou U(0, ∞) → p(η|y) není platná hustota. Pro ν > 0 nebo V −1 11 > 0 anebo p(η) jako platná p.d.f. → p(η|y) platná posteriorní hustota. Pro η jako neznámý parametr → bayesiánská analýzu v případě informativního η, h nebo θ1. Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 30 / 52 Local level model Empirická ilustrace Obsah tématu 1 Local level model Věrohodnostní funkce a apriorní hustota Posteriorní hustota Empirické bayesovské metody Empirická ilustrace 2 Obecný stavový model Bayesovský výpočet Empirická ilustrace 3 Rozšíření Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 31 / 52 Local level model Empirická ilustrace Příklad BUDE ČASEM DOPLNĚNO! Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 32 / 52 Obecný stavový model Obsah tématu 1 Local level model Věrohodnostní funkce a apriorní hustota Posteriorní hustota Empirické bayesovské metody Empirická ilustrace 2 Obecný stavový model Bayesovský výpočet Empirická ilustrace 3 Rozšíření Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 33 / 52 Obecný stavový model Úvod Obecnější (ne zcela) stavový model: yt = Xtβ + Ztαt + t, kde αt+1 = Ttαt + ut. αt je p × 1 rozměrný vektor obsahující p stavových rovnic. Předpokládáme, že t je i.i.d. N(0, h−1) × ut je p × 1 rozměrný vektor i.i.d. N(0, H−1). t a us vzájemně nezávislé pro všechna s a t. Xt a Zt vektory rozměru 1 × k a 1 × p obsahující vysvětlující proměnné a (nebo) známé konstanty. Matice Tt známých konstant rozměru p × p (možné i neznámé parametry). Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 34 / 52 Obecný stavový model Varianty Local level model: p = 1, k = 0, Tt = 1 a Zt = 1. Normální lineární regresní model: Zt = 0. Normální lineární regresní model s v čase proměnnými parametry: Zt obsahuje některé nebo všechny vysvětlující proměnné. Strukturální modely časových řad: lze převést do podoby stavového modelu. Jeden z běžných strukturálních modelů časových: local linear trend model: yt = µt + t µt+1 = µt + νt + ξt νt+1 = νt + ζt ξt je i.i.d. N(0, σ2 ξ ), ζt je i.i.d. N(0, σ2 ζ ) a všechny náhodné chyby jsou vzájemně nezávislé. Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 35 / 52 Obecný stavový model Local linear trend model Stavová podoba: αt = µt νt ut = ξt ζt Tt = 1 1 0 1 Zt = 1 0 H−1 = σ2 ξ 0 0 σ2 ζ a β = 0. Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 36 / 52 Obecný stavový model Bayesovský výpočet Obsah tématu 1 Local level model Věrohodnostní funkce a apriorní hustota Posteriorní hustota Empirické bayesovské metody Empirická ilustrace 2 Obecný stavový model Bayesovský výpočet Empirická ilustrace 3 Rozšíření Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 37 / 52 Obecný stavový model Bayesovský výpočet Úvod Metody posteriorní analýzy v řadě komplikovaných modelů lze odvodit jednoduchou kombinací výsledků jednodušších modelů. Pro posteriorní simulaci nastává komplikace toho rázu, že posteriorní hustoty pro α nebudou v čase nezávislé → αt a αt−1 nebudou vzájemně nezávislé. Nejsme schopni najednou generovat výběry pro αt → přímá implementace Gibbsova vzorkovače by zahrnovala výběry z T-rozměrného normálního rozdělení. De Jong a Shephard (1995): efektivní metoda Gibbsova vzorkovače pro tuto třídu modelů. Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 38 / 52 Obecný stavový model Bayesovský výpočet Postup V případě známého αt pro t = 1, . . . , T → normální lineární regresní model: y∗ t = Xtβ + t, kde y∗ t = yt − Ztαt. Gibbsův vzorkovač s obohacenými daty (data augmentation). Zavedení nepozorovaných dat či latentních proměnných (resp. latentních dat). Gibbsův vzorkovač v závislosti na p(β, h|y, α1, . . . , αT ) bude mít známou podobu. Pokud známé αt pro i = 1, . . . , T → stavové rovnice jako varianta SUR modelu a p(H|y, α1, . . . , αT ) má známou formu. Případ Tt s neznámými parametry: p(H, T1, . . . , Tt|y, α1, . . . , αT ) → „v čase neměnném“ (T1 = . . . = Tt): p(H, T1, . . . , Tt|y, α1, . . . , αT ) podoba SUR modelu. Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 39 / 52 Obecný stavový model Bayesovský výpočet Apriorní hustoty Gibbsův vzorkovač, pokud umíme výběry z p(α1, . . . , αT |y, β, h, H). β a h s nezávislou normální-gama apriorní hustotou, matice H má Wishartovu apriorní hustotu a α1, . . . , αT apriorní hustotu implikovanou stavovou rovnicí: p(β, h, H, α1, . . . , αT ) = p(β)p(h)p(H)p(α1, . . . , αT |H), kde p(β) = fN(β|β, V ), p(h) = fG(h|s−2 , ν), p(H) = fW (H|νH, H). Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 40 / 52 Obecný stavový model Bayesovský výpočet Hierarchická apriorní hustota stavů Pro t = 0, 1, . . . , T) a za předpokládu α0 = 0: p(α1, . . . , αT |H) = p(α1|H)p(α2|α1, H) . . . p(αT |αT−1, H), kde pro t = 1, . . . , T − 1 p(αt+1|αt, H) = fN(αT+1|Ttαt, H) a p(α1) = fN(α1|0, H). H má podobnou roli jako η v local level modelu (matice p × p ⇒ nevhodné použít empirických bayesovských metod.) Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 41 / 52 Obecný stavový model Bayesovský výpočet Posteriorní hustota pro β a h Z předchozích kapitol: β|y, h, α1, . . . , αT ∼ N(β, V ) h|y, β, α1, . . . , αT ∼ G(s−2 , ν), kde V = V −1 + h T t=1 Xt Xt −1 , β = V V −1 β + h T t=1 Xt (yt − Ztαt) , ν = T + ν, s2 = T t=1(yt − Xtβ − Ztαt)2 + νs2 ν . Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 42 / 52 Obecný stavový model Bayesovský výpočet Posteriorní hustota pro H Z analýzy SUR modelu: H|y, α1, . . . , αT ∼ W (νH, H), kde νH = T + νH, H = H−1 + T−1 t=0 (αt+1 − Ttαt)(αt+1 − Ttαt) −1 . Pro úplnost Gibbsova vzorkovače: p(α1, . . . , αT |y, β, h, H) a způsob generování výběrů. Lze jako vícerozměrné normální rozdělení × T-rozměrné rozdělení a vysoce korelované prvky. Efektivní způsob generování náhodných výběrů: Carter a Kohn (1994) a DeJong a Shephard (1995). Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 43 / 52 Obecný stavový model Bayesovský výpočet DeJong a Shephard – značení Podoba stavového modelu: yt = Xtβ + Ztαt + Gtνt, αt+1 = Ttαt + Jtνt. pro t = 1, . . . , T resp. t = 0, . . . , T a α0 = 0. Náhodná složka νt je i.i.d. N(0, h−1Ip+1); ostatní stejné. Ekvivalence s původní formulací pro: νt = t ut . Gt řádkový vektor rozměru (p + 1): Gt = 1 0 . . 0 . Jt rozměru p × (p + 1): Jt = 0p A , kde A je matice p × p implicitně definována vztahem H−1 = 1 h AA . Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 44 / 52 Obecný stavový model Bayesovský výpočet DeJong a Shephard – princip Simulační vyhlazovač. Podmíněné posteriorní hustoty p(α1, . . . , αT |y, β, h, H) → neznámé jen αt a νt. Příspěvek DeJonga a Shepharda: návrh efektivního algoritmu pro výběry ηt = Ftνt pro různé volby Ft. Výběry z ηt lze transformovat do výběrů z αt. Možné arbitrární Ft, obvyklá volba Ft = Jt ⇒ výběry chyb stavové rovnice, které lze přímo transformovat do požadovaných výběrů z αt. Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 45 / 52 Obecný stavový model Bayesovský výpočet Filtrace Nastavení a1 = 0, P1 = J0J0 a výpočet následujících veličin pro t = 1, . . . , T (běh Kalmanova filtru): et = yt − Xtβ − Ztαt Dt = ZtPtZt + GtGt Kt = (TtPtZt + JtGt )D−1 t at+1 = Ttat + Ktet Pt+1 = TtPt(Tt − KtZz) + Jt(Jt − KtGt) Uložení et, Dt a Kt. Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 46 / 52 Obecný stavový model Bayesovský výpočet Smoothing Výpočet nové sady veličin v obrácené časové posloupnosti (tj. t = T, T − 1, . . . , 1). Nastavení rT = 0 a UT = 0 a výpočet Ct = Ft(I − Gt D−1 t Gt − [Jt − KtGt] Ut[Jt − KtGt])Ft ξt ∼ N(0, h−1 Ct) Vt = Ft(Gt D−1 t Zt + [Jt − KtGt] Ut[Tt − KtZt]) rt−1 = Zt D−1 t et + (Tt − KtZt) rt − Vt C−1 t ξt Ut−1 = Zt D−1 t Zt + (Tt − KtZt) Ut(Tt − KtZt) + Vt C−1 t Vt ηt = Ft(Gt D−1 t et + [Jt − KtGt] rt) + ξt kde G0 = 0. Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 47 / 52 Obecný stavový model Bayesovský výpočet Výsledek Získáme η = (η0, . . . , ηT ) a lze dokázat, že se jedná o náhodný výběr z p(η|y, β, h, H). Podle podoby Ft lze tento výběr transformovat na náhodný výběr αt pro t = 1, . . . , T. Při Ft = Jt → výběry náhodných chyb ve stavové rovnici (tj. ηt = Jtνt) → transformace na výběry z αt za využití stavové rovnice a skutečnosti α0 = 0. Jednoduché počítačové zpracování (matice nízkých rozměrů a náhodný výběr z normálního rozdělení pro získání ξt). Umíme sekvenční výběry z podmíněných hustot → standardní posteriorní analýza. Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 48 / 52 Obecný stavový model Empirická ilustrace Obsah tématu 1 Local level model Věrohodnostní funkce a apriorní hustota Posteriorní hustota Empirické bayesovské metody Empirická ilustrace 2 Obecný stavový model Bayesovský výpočet Empirická ilustrace 3 Rozšíření Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 49 / 52 Obecný stavový model Empirická ilustrace Příklad BUDE ČASEM DOPLNĚNO! Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 50 / 52 Rozšíření Obsah tématu 1 Local level model Věrohodnostní funkce a apriorní hustota Posteriorní hustota Empirické bayesovské metody Empirická ilustrace 2 Obecný stavový model Bayesovský výpočet Empirická ilustrace 3 Rozšíření Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 51 / 52 Rozšíření Úvod BUDE ČASEM DOPLNĚNO! Bayesiánská analýza (BAAN) VIII. Časové řady Podzim 2015 52 / 52