1. Úvod do studia stochastických procesů Při studiu základních partií počtu pravděpodobnosti a matematické statistiky se nebere do úvahy závislost náhodných veličin na čase. Zkoumá se pravděpodobnost jevů definovaných pomocí náhodných veličin nezávisle na čase. Jakmile však vezmeme do úvahy i časový vývoj náhodných veličin, dostáváme se do oblasti stochastických procesů. Stochastické procesy nacházejí uplatnění v celé řadě oborů, např. v ekonomii, bankovnictví, biologii, klimatologii, technice, demografii i jinde. Teorie stochastických procesů se začala vytvářet na počátku 20. století a podíleli se na ni mnozí význační matematici, např. Markov, Kolmogorov, Chinčin, Cramér a jiní. Zvláštním typem stochastických procesů jsou markovské řetězce. Základy jejich teorie položil ruský matematik Andrej Andrejevič Markov (1856 – 1922). Pro markovský řetězec je charakteristické, že jeho budoucí stav závisí pouze na stavu přítomném a nikoliv na stavech minulých. Jde o tzv. proces bez paměti. 1.1. Motivace: V této kapitole zavedeme pojem stochastického procesu, naučíme se rozlišovat stochastický proces s diskrétním časem a spojitým časem a stochastický proces s diskrétními stavy a spojitými stavy, budeme definovat pravděpodobnostní rozložení stochastického procesu, poznáme vlastnosti pravděpodobnostního rozložení stochastického procesu, naučíme se klasifikovat stochastické procesy podle různých kritérií. 1.2. Definice: Definice stochastického procesu (SP) Nechť ( )ΑΩ, je měřitelný prostor, R množina reálných čísel, ≠Τ ∅ neprázdná množina (nejčastěji jí přisuzujeme význam času). Nechť zobrazení RT:X →×Ω má tyto dvě vlastnosti: a) Tt ∈∀ je X(.,t) náhodná veličina vzhledem k jevovému poli A. Značí se Xt. b) Ω∈ω∀ je X(ω,.) prvkem množiny všech reálných funkcí definovaných na T. Zobrazení X s těmito dvěma vlastnostmi se nazývá stochastický proces definovaný na T. Značí se { }Tt;Xt ∈ . 1.3. Definice: Definice složky SP, realizace SP a realizace složky SP příslušné možnému výsledku Nechť { }Tt;Xt ∈ je stochastický proces. a) Pro libovolné, ale pevně dané Tt ∈ se náhodná veličina X(.,t) = Xt nazývá t-tá složka stochastického procesu. b) Pro libovolné, ale pevně dané Ω∈ω se reálná funkce X(ω,.) nazývá realizace stochastického procesu příslušná k možnému výsledku ω. c) Pro libovolná, ale pevně daná Tt ∈ a Ω∈ω se číslo X(ω,t) nazývá realizace t-té složky stochastického procesu příslušná k možnému výsledku ω. 1.4. Příklad: Vývoj hmotnosti novorozených dětí Nechť Ω je množina novorozenců, ω novorozenec, )∞= ,0T časový interval počítaný od narození novorozence, t je časový okamžik. Zavedeme stochastický proces { }Tt;Xt ∈ , který popisuje průběh hmotnosti kteréhokoliv náhodně vybraného novorozence. a) Xt = X(.,t) je náhodná veličina udávající hmotnost kteréhokoliv náhodně vybraného novorozence v okamžiku t (fixovaný okamžik, libovolný novorozenec). b) X(ω,.) je reálná funkce popisující průběh hmotnosti daného novorozence ω (libovolný okamžik, fixovaný novorozenec). c) X(ω,t) je číselná realizace náhodné veličiny Xt příslušná k možnému výsledku ω, tj. konkrétní hmotnost daného novorozence v daný časový okamžik (fixovaný okamžik, fixovaný novorozenec). 1.5. Definice: Definice časové řady a náhodné funkce Nechť { }Tt;Xt ∈ je stochastický proces. a) Je-li množina T spočetná a lineárně uspořádaná, tj. t0 < t1 < ..., jde o stochastický proces s diskrétním časem (tj. o časovou řadu). b) Je-li množina T interval, jde o stochastický proces se spojitým časem (tj. o náhodnou funkci). 1.6. Definice: Definice SP s diskrétními stavy a spojitými stavy Nechť { }Tt;Xt ∈ je stochastický proces. a) Jestliže pro Tt ∈∀ je náhodná veličina Xt diskrétní, jde o stochastický proces s diskrétními stavy. b) Jestliže pro Tt ∈∀ je náhodná veličina Xt spojitá, jde o stochastický proces se spojitými stavy. Množina všech hodnot, jichž může náhodná veličina Xt nabývat, se nazývá množina stavů a značí se J. 1.7. Příklad: Příklad stochastického procesu s diskrétním časem a diskrétními stavy: Dva hráči, označme je A a B, dali do hry dohromady vklad 5 Kč, z toho hráč A 3 Kč a hráč B 2 Kč. Hráč A hází mincí. Když padne líc, vyhraje 1 Kč, když rub, prohraje 1 Kč. Hra trvá tak dlouho, až je jeden z hráčů ruinován. Zavedeme stochastický proces { }Tt;Xt ∈ , kde t = 1, 2, ... je pořadové číslo hodu mincí a Xt = j, když hráč A má po t-tém hodu j Kč, tedy J = {0, 1, 2, 3, 4, 5}. Např. pro posloupnost hodů {L, R, R, L, R , R, R} je odpovídající realizace stochastického procesu x(t) = {4, 3, 2, 3, 2, 1, 0}. Grafické znázornění: -1 0 1 2 3 4 5 6 7 8 t -1 0 1 2 3 4 5 x(t) 1.8. Příklad: Příklad stochastického procesu s diskrétním časem a spojitými stavy: Po určité výrobní operaci měříme velikost opotřebení obráběcího nože. Nůž se po N výrobních operacích vymění. Stochastický proces nabývá hodnot, které odpovídají opotřebení nože. Máme tedy stochastický proces { }Tt;Xt ∈ , kde T = {1, 2, ..., N} (t je pořadové číslo výrobní operace), JXt ∈ , kde { }ax0;RxJ ≤≤∈= , přičemž a je maximální opotřebení obráběcího nože. Grafické znázornění: 1.9. Příklad: Příklad stochastického procesu se spojitým časem a diskrétními stavy: Sledujeme určité zařízení, které může být v každém okamžiku buď v provozu (stav 1) nebo v opravě (stav 0). Zavedeme stochastický proces { }Tt;Xt ∈ , kde { }0t;tT ≥= , JXt ∈ , J = {0, 1}. Grafické znázornění: Označme t1, t2, … okamžiky poruch, t1 ’ , t2 ‘ , … okamžiky oprav. 1.10. Příklad: Příklad stochastického procesu se spojitým časem a spojitými stavy: Sledujeme šumové napětí na výstupu nějakého elektrického přístroje. Stochastický proces nabývá hodnot, které odpovídají tomuto šumovému napětí. Zavedeme stochastický proces { }Tt;Xt ∈ , kde { }0t;tT ≥= , JXt ∈ , kde { }∞<<−∞= x;xJ . Grafické znázornění: 1.11. Definice: Definice pravděpodobnostního rozložení SP Nechť { }Tt;Xt ∈ je stochastický proces. Pro Tt ∈∀ lze pravděpodobnostní rozložení náhodné veličiny Xt popsat distribuční funkcí: ).xX(P)x(:Rx tt ≤=Φ∈∀ (Tato distribuční funkce je obecně funkcí dvou proměnných t a x a popisuje jednorozměrné rozložení stochastického procesu. Nepodává však úplný popis pravděpodobnostního chování stochastického procesu, protože neobsahuje informace o závislostech náhodných veličin Xt při různých hodnotách t. Úplný popis pravděpodobnostního chování stochastického procesu podává teprve systém distribučních funkcí.) Nechť ( ) Tt,,t n1 ∈K je uspořádaná n-tice indexů, ( )n1 tt X,,X K je marginální vektor daného stochastického procesu. Pro ( ) n n1 Rx,,x ∈∀ K označme ( ) ( )nt1tn1tt xXxXPx,,x n1n1 ≤∧∧≤=Φ KKK marginální distribuční funkci náhodného vektoru ( )n1 tt X,,X K . Systém ( ){ }Tt,,t,,2,1n;x,,xF n1n1ttT n1 ∈=Φ= KKKK se nazývá pravděpodobnostní rozložení stochastického procesu { }Tt;Xt ∈ . 1.12. Věta: Věta o vlastnostech pravděpodobnostního rozložení SP Nechť FT je pravděpodobnostní rozložení stochastického procesu { }Tt;Xt ∈ . Pak systém FT má tyto vlastnosti: a) FT je symetrický systém distribučních funkcí, tj. ( ) ( ) ( )n1ni1in1 iittn1tt n n1n1 x,,xx,,x:Rx,,xTt,,tNn KKKK KK Φ=Φ∈∀∈∀∈∀ , kde { }n1 i,,i K je libovolná permutace množiny indexů { }n,,1 K . b) FT je konzistentní systém distribučních funkcí, tj. je-li { } { } { }n,,1l,,kj,,i KKK =∪ disjunktní rozklad množiny indexů { }n,,1 K , pak ( ) ( )n1tt x x jitt x,,xlimx,,x n1 l k ji KK K M K Φ=Φ ∞→ ∞→ . Důkaz: plyne z vlastností distribuční funkce. 1.13. Věta: Kolmogorovova věta Každý systém distribučních funkcí, který je symetrický a konzistentní, je pravděpodobnostním rozložením nějakého stochastického procesu. 1.14. Definice: Definice stochasticky ekvivalentních SP Řekneme, že dva stochastické procesy jsou stochasticky ekvivalentní, mají-li stejné pravděpodobnostní rozložení. 1.15. Příklad: Odvození pravděpodobnostního rozložení SP Nechť X je náhodná veličina s distribuční funkcí Ψ(x) a f(t) je reálná funkce taková, že a) f(t) > 0 pro Tt ∈∀ b) f(t) < 0 pro Tt ∈∀ . Pro Tt ∈∀ položme Xt = f(t)X. Odvoďte pravděpodobnostní rozložení stochastického procesu { }Tt;Xt ∈ . Řešení: ad a) ( ) ( ) ( ) . )t(f x min )t(f x minXP )t(f x X )t(f x XP xX)t(fxX)t(fPxXxXPx,,x i i ni1 i i ni1 n n 1 1 nn11nt1tn1tt n1n1       Ψ=      ≤=      ≤∧∧≤= =≤∧∧≤=≤∧∧≤=Φ ≤≤≤≤ K KKKK ad b) ( ) ( ) ( ) . )t(f x maxXP )t(f x max1 )t(f x maxXP )t(f x maxXP1 )t(f x maxXP )t(f x X )t(f x XP xX)t(fxX)t(fPxXxXPx,,x i i ni1 i i ni1 i i ni1 i i ni1 i i ni1 n n 1 1 nn11nt1tn1tt n1n1       =+      Ψ−= =      =+      ≤−=      ≥=      ≥∧∧≥= =≤∧∧≤=≤∧∧≤=Φ ≤≤≤≤ ≤≤≤≤≤≤ K KKKK Je-li X spojitá náhodná veličina, pak       = ≤≤ )t(f x maxXP i i ni1 = 0. 1.16. Poznámka: Dělení SP podle různých kritérií a) Rozdělení stochastických procesů podle závislosti jejich pravděpodobnostního rozložení na čase – striktně stacionární procesy (je pro ně charakteristická určitá stálost v čase): ( ) ( )n1hthtn1tt x,,xx,,x n1n1 KK KK ++Φ=Φ , kde h > 0 – evoluční procesy (mají výrazný časový trend) b) Rozdělení stochastických procesů podle toho, zda k určení jejich pravděpodobnostního rozložení stačí znát pouze dvourozměrné distribuční funkce či nikoliv: – definitní procesy – hereditní procesy c) Rozdělení definitních procesů podle toho, zda jejich pravděpodobnostní rozložení závisí pouze na rozdílu časových okamžiků, nikoliv na jejich umístění na časové ose – homogenní procesy – nehomogenní procesy. 2. Funkcionální charakteristiky stochastických procesů 2.1. Motivace: V této kapitole zavedeme trend, rozptyl a směrodatnou odchylku stochastického procesu, autokovarianční a autokorelační funkci stochastického procesu, poznáme vlastnosti těchto funkcionálních charakteristik, budeme definovat centrovaný a standardizovaný stochastický proces slabě stacionární stochastický proces. 2.2. Definice: Definice střední hodnoty a rozptylu SP, definice centrovaného a standardizovaného SP Nechť { }Tt;Xt ∈ je stochastický proces. a) Jestliže pro Tt ∈∀ existuje střední hodnota ( )tXE , pak zavedeme reálnou funkci ( )tµ vztahem: ( ) ( )tXEt:Tt =µ∈∀ . Tato funkce se nazývá střední hodnota (trend) SP. ( ( )tµ charakterizuje polohu realizací SP na časové ose.) b) Jestliže pro Tt ∈∀ existuje rozptyl ( )tXD , pak zavedeme reálnou funkci ( )t2 σ vztahem: ( ) ( )t 2 XDt:Tt =σ∈∀ . Tato funkce se nazývá rozptyl SP. Funkce ( ) ( )tt 2 σ=σ se nazývá směrodatná odchylka SP. ( ( )t2 σ charakterizuje variabilitu realizací stochastického procesu kolem trendu.) c) Nechť stochastický proces má střední hodnotu ( )tµ a rozptyl ( )t2 σ , který je konečný a nenulový. Transformovaný stochastický proces { }Tt;Yt ∈ , kde ( )tXY tt µ−= , se nazývá centrovaný SP. Transformovaný stochastický proces { }Tt;Zt ∈ , kde ( ) ( )t tX Z t t σ µ− = , se nazývá standardizovaný SP. (Lze snadno ukázat, že centrovaný SP má nulovou střední hodnotu a rozptyl stejný jako původní SP. Standardizovaný SP má nulovou střední hodnotu a jednotkový rozptyl.) 2.3. Příklad: Nechť náhodná veličina X má střední hodnotu E(X) = 2 a rozptyl D(X) = 9. Zavedeme SP { }Tt;Xt ∈ , kde Xt = X.cos ωt, ω > 0 je konstanta. Najděte střední hodnotu a rozptyl tohoto SP. Řešení: ( ) ( ) ( ) ( ) tcos2XEtcostcosXEXEt t ω=⋅ω=ω⋅==µ ( ) ( ) ( ) ( ) tcos9XDtcostcosXDXDt 22 t 2 ω=⋅ω=ω⋅==σ Např. pro ω = 1 dostaneme: -2 0 2 4 6 8 10 12 14 t -3 -2 -1 0 1 2 3 4 5 6 7 8 9 10 trend -2 0 2 4 6 8 10 12 14 t -3 -2 -1 0 1 2 3 4 5 6 7 8 9 10rozptyl 2.4. Poznámka: Další funkcionální charakteristiky stochastického procesu Podobně jako u náhodných veličin lze pro stochastický proces zavést další momentové charakteristiky, např. šikmost a špičatost. Všechny tyto charakteristiky, které vycházejí ze znalosti jednorozměrného rozložení stochastického procesu, však nepostačují k popisu pravděpodobnostního chování stochastického procesu, protože neobsahují informace o závislostech mezi složkami stochastického procesu. 2.5. Definice: Definice autokovarianční a autokorelační funkce SP Nechť { }Tt;Xt ∈ je stochastický proces. Předpokládáme, že pro Tt ∈∀ existuje střední hodnota ( )tXE a ( ) ∞< 2 tXE . a) Reálnou funkci ( )21 t,tγ dvou proměnných danou vztahem ( ) ( ) ( )[ ] ( )[ ]( )2t1ttt2121 tXtXEX,XCt,t:Tt,t 2121 µ−µ−==γ∈∀ nazveme autokovarianční funkcí stochastického procesu. b) Reálnou funkci ( )21 t,tρ dvou proměnných danou vztahem ( ) ( ) ( ) ( ) ( )21 21 tt2121 tt t,t X,XRt,t:Tt,t 21 σσ γ ==ρ∈∀ nazveme autokorelační funkcí stochastického procesu. (Autokovarianční funkce je zobecněním varianční matice náhodného vektoru a autokorelační funkce je zobecněním korelační matice náhodného vektoru. Tyto funkce obsahují informace o lineárních závislostech mezi složkami SP.) 2.6. Věta: Věta o vlastnostech autokovarianční funkce SP Pro autokovarianční funkci stochastického procesu platí: a) ( ) ( )tt,t:Tt 2 σ=γ∈∀ b) ( ) ( )122121 t,tt,t:Tt,t γ=γ∈∀ c) ( ) ( ) ( )212121 ttt,t:Tt,t σσ≤γ∈∀ (zobecněná Cauchyho – Schwarzova – Buňakovského nerovnost) Důkaz: Plyne z vlastností kovariance. 2.7. Příklad: Najděte autokovarianční a autokorelační funkci SP z příkladu 2.3. V tomto příkladu byl SP zaveden vztahem Xt = X.cos ωt, přičemž E(X) = 2, D(X) = 9 Řešení: ( ) ( ) ( ) ( ) ( ) 2121 2121tt21 tcostcos9XDtcostcos X,XCtcostcostcosX,tcosXCX,XCt,t 21 ω⋅ω=⋅ω⋅ω= =⋅ω⋅ω=ω⋅ω⋅==γ ( ) ( ) ( ) ( ) 1 tcos9tcos9 tcostcos9 tt t,t t,t 2 2 1 2 21 21 21 21 ±= ωω ω⋅ω = σσ γ =ρ 2.8. Věta: Věta o střední hodnotě a autokovarianční funkci transformovaného SP Nechť { }Tt;Xt ∈ je stochastický proces se střední hodnotou ( )tXµ a autokovarianční funkcí ( )21X t,tγ . Nechť f(t) je reálná funkce definovaná na T. a) Zavedeme stochastický proces { }Tt;Yt ∈ , kde Yt = Xt + f(t). Pak platí: ( ) ( ) ( )tftt:Tt XY +µ=µ∈∀ ( ) ( )21X21Y21 t,tt,t:Tt,t γ=γ∈∀ b) Zavedeme stochastický proces { }Tt;Yt ∈ , kde Yt = f(t) Xt. Pak platí: ( ) ( ) ( )ttft:Tt XY µ=µ∈∀ ( ) ( ) ( ) ( )21X2121Y21 t,ttftft,t:Tt,t γ=γ∈∀ Důkaz: Plyne z vlastností střední hodnoty a kovariance. 2.9. Definice: Definice slabě stacionárního SP Stochastický proces { }Tt;Xt ∈ se nazývá slabě stacionární, jestliže platí: a) ( ) ct:Tt =µ∈∀ (trend je konstantní) b) ( ) ∞<σ∈∀ t:Tt 2 (rozptyl je konečný) c) ( ) ( )212121 t,tht,ht:0h,Tt,t γ=++γ>∀∈∀ (kovariance libovolných dvou složek SP závisí pouze na jejich vzdálenosti na časové ose a nikoliv na jejich umístění na časové ose) 2.10. Poznámka: Vztah mezi striktní a slabou stacionaritou SP, zavedení autokovarianční funkce slabě stacionárního SP a) Je-li stochastický proces striktně stacionární, je i slabě stacionární. b) Je-li stochastický proces slabě stacionární, pak pro ( ) ( )122121 tt,0t,t:Tt,t −γ=γ∈∀ . Znamená to, že autokovarianční funkce závisí pouze na rozdílu argumentů t2 – t1 =: h. V tomto případě zavádíme funkci jedné proměnné, kterou značíme rovněž symbolem γ , vztahem ( ) ( )h,0h:Th γ=γ∈∀ . Je to autokovarianční funkce slabě stacionárního SP. 2.11. Věta: Věta o vlastnostech autokovarianční funkce slabě stacionárního SP Autokovarianční funkce slabě stacionárního stochastického procesu má tyto vlastnosti: a) ( ) ( ) 22 0t:Tt σ=γ=σ∈∀ (všechny složky SP mají týž rozptyl) b) ( ) ( )hh:0h −γ=γ>∀ (autokovarianční funkce je sudá) c) ( ) ( )0h:0h γ≤γ>∀ Důkaz: Důkaz vlastností a) , b) je triviální. Ad c) Uvažme centrovaný slabě stacionární SP { }Tt;Xt ∈ (tj. pro ( ) 0t:Tt =µ∈∀ ). Pak ( ) ( ) ( ) ( )[ ] ( )2 t 2 t 2 tt 2 XEXEXEXDt =−==σ . Dále ( ) ( ) ( ) ( )htthtt XXEX,XCht,th ++ ⋅==+γ=γ . Počítáme [ ]( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( )[ ]h02hth2tXEXXE2XEXXE 222 hthtt 2 t 2 htt γ±γ=+σ+γ±σ=+±=± +++ . Protože [ ]( ) 0XXE 2 htt ≥± + , plyne odtud, že ( ) ( )0h:0h γ≤γ>∀ . 2.12. Příklad: Nechť Y, Z jsou standardizované náhodné veličiny (tj. E(Y) = 0, E(Z) = 0, D(Y) = 1, D(Z) = 1), které jsou stochasticky nezávislé. Zavedeme SP { }Tt;Xt ∈ , kde Xt = Y.cos ωt + Z.sin ωt, ω > 0 je konstanta. Najděte střední hodnotu a rozptyl tohoto SP a ukažte, že je slabě stacionární. Řešení: ( ) ( ) ( ) ( ) ( ) 0ZEtsinYEtcostsinZtcosYEXEt t =⋅ω+⋅ω=ω⋅+ω⋅==µ ( ) ( ) ( ) ( ) ( ) 1tsintcosZDtsinYDtcostsinZtcosYDXDt 2222 t 2 =ω+ω=⋅ω+⋅ω=ω⋅+ω⋅==σ . Aby byl SP slabě stacionární, musí mít konstantní střední hodnotu, konečný rozptyl a pro jeho autokovarianční funkci musí platit γ(h) = γ(t, t+h). První dvě podmínky jsou splněny, ověříme třetí: ( ) ( ) ( ) ( )( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( )( ) ( ) ( ) ( )hhcoshcoshttcos htsintsinhtcostcosZDhtsintsinYDhtcostcos Z,ZChtsintsin Z,YChtsintcosY,ZChtcostsinY,YChtcostcos htsinZhtcosY,tsinZtcosYCX,XCht,t htt γ==−=+−= =+⋅++⋅=⋅+⋅+⋅+⋅= =⋅+⋅+ +⋅+⋅+⋅+⋅+⋅+⋅= =+⋅++⋅⋅+⋅==+γ + 2.13. Věta: Věta o vlastnostech autokorelační funkce slabě stacionárního SP Pro autokorelační funkci slabě stacionárního SP platí: ( ) ( ) ( )0 h h:Th γ γ =ρ∈∀ . Důkaz: ( ) ( ) ( ) ( )21 21 2121 tt t,t t,t:Tt,t σσ γ =ρ∈∀ . Je-li SP slabě stacionární, pak ( ) ( ) ( ) ( ) ( )0tt,ht,t 2 2 1 2 21 γ=σ=σγ=γ , tedy ( ) ( ) ( )0 h h γ γ =ρ . 2.14. Příklad: Nechť je dán SP { }Tt;Xt ∈ , kde náhodné veličiny K,X,X 21 tt jsou stochasticky nezávislé a mají všechny stejnou distribuční funkci Φ(x). Určete střední hodnotu, rozptyl a autokorelační funkci tohoto SP. Řešení: Protože náhodné veličiny Xt, t∈T mají všechny stejnou distribuční funkci Φ(x), mají i stejnou střední hodnotu ( ) µ=tXE a stejný rozptyl ( ) 2 tXD σ= . Dále počítáme autokovarianční funkci ( ) ( )    ≠ =σ ==γ 21 21 2 tt21 ttpro0 ttpro X,XCt,t 21 . Jedná se tedy o slabě stacionární SP. Nyní spočteme autokorelační funkci ( ) ( ) ( ) ( )    ≠ = = σσ γ =ρ ttpro0 ttpro1 tt t,t t,t 21 21 21 21 21 . Znamená to, že neexistuje žádná závislost mezi realizacemi SP ve dvou různých okamžicích.