PŘÍRODOVĚDECKÁ FAKULTA Teorie pravděpodobnosti Studijní text ke kurzu M A 750 Ondřej Pokora 4. prosince 2017 Ustav matematiky a statistiky, Přírodovědecká fakulta, Masarykova univerzita, Brno Konstrukce pravděpodobnostního prostoru Definice (Konečná aditivita) Nechť A,B jsou disjunktní jevy. Vlastnost P(AuB) = P(A)+P(B) se nazývá (konečná) aditivita. Indukcí lze rozšířit na konečný počet disjunktních jevů Al5 ...,An, p(\jAk) = ±P(Ak). \k=l / k=l l_ _ Definice (Spočetná aditivita, a-aditivita) Necht Ai,A2,A3) ... je spočetná (konečná či nekonečná) posloupnost vzájemně disjunktních jevů. Vlastnost / oo \ oo P(UA'I = Ep(A<) \/=l / i=l se nazývá spočetná aditivita (cr-aditivita). i_ _ 1/117 Příklad Pro podmnožinu A c [0;l] a číslo r e [0;1] definujme tzv. r-posun množiny A: Aer={a + r; a e A,a + r <1} u {a + r-1; a £ A, a + r - 1 > 0} . Pro náhodnou veličinu X~£s([0;l]) by mělo platit P(Aer) =P(A), A c [0;l],r [0;1] s vlastnostmi: ► P je spočetně aditivní, ► P(C1) = 1. Dvojice (Cl, A) se nazývá jevové pole (měřitelný prostor) (measurable space). Prvky At A nazýváme jevy (events) nebo měřitelné množiny (measurable sets). Jsou to takové podmnožiny A^Q, pro které je pravděpodobnost P(A) korektně definována. Na příkladu jsme viděli, že A obecně nemusí obsahovat všechny podmnožiny Cl. i_ Tvrzení (Vlastnosti pravděpodobnosti) Pro A,B,Ai,A2, ~ - £ A platí: ► P(0) = 0, ► P(Ä)=1-P(A), ► P(A) < P(£) pro A c 5, (monotonie pravděpodobnosti) ► P(A u 5) = P(A) + P(B) - P(A n B), (princip inkluze a exkluze) i oo \ oo ► P U A/ ) < E P(AŽ). (a-subaditivita) \k=l / Jfc=l Tvrzení Necht Q je konečná nebo spočetná, neprázdná množina. Necht p : Q -> [0;1] je libovolné zobrazení splňující Y p(^) = 1- Potom coeQ. (Cl,A,P), kde A = 2n a P (Á) = Y Je pravděpodobnostní prostor. Tvrzení říká, že konstrukce pravděpodobnostního prostoru je pro nejvýše spočetný základní prostor Q přímočará. Bez obav lze jako a-algebru jevů zvolit množinu všech podmnožin a pravděpodobnost jevů definovat tak, jak ji známe z příkladů náhodných veličin diskrétního typu. Příklad (Klasická pravděpodobnost) Uvažujme konečný základní prostor Cl í 0, A = 2n a pravděpodobnost P(Á) = p|, kde | • | označuje počet prvků množiny. Potom (ří,^4,P) je pravděpodobnostní prostor. Nazývá se rovnoměrné rozdělení na Q, Ro(Cl). Jednoduše ověříme, že p (co) = P ({co}) = \, kde n = |ŕí|, jedná se o velmi dobře známý případ, jde o klasickou pravděpodobnost. 7/117 V případě nespočetného základního prostoru Cl je však situace zcela odlišná. Představme si Q = [0;1]. Jak zvolíme a-algebru A a na ní pravděpodobnost P? Již víme, že ani pro tak jednoduchý základní prostor nelze vzít A = 2n, protože pro některé podmnožiny A c [0;1] nelze pravděpodobnost P(A) vůbec definovat. Na druhou stranu, z praktických důvodů, určitě chceme, aby A obsahovala alespoň všechny intervaly I ^ [0;1] a jednobodové podmnožiny: J = {všechny intervaly tvarů [a, b], (a, b), [a, b), (a, b), {a}}, J 9 A. Z rovnoměrného spojitého rozdělení l?s([0;1]) jsme totiž zvyklí pravděpodobnost takových intervalů I g / počítat jako jejich délku, P(7) = b-a, P({a}) = 0. Ověřte, že J je semialgebra. Ověřte, že když do J přidáme všechna konečná sjednocení prvků z J, obdržíme algebru. Ale ani poté, co do J přidáme všechna konečná a spočetná sjednocení, nestane se a-algebrou. Zjišťujeme, že zkonstruovat korektní a-algebru A i na jednoduchém nespočetném základním prostoru Cí = [0;1] není triviálním úkolem. 8/117 Tvrzení (Věta o rozšíření) Necht J je semialgebra podmnožin množiny Cl a necht zobrazen P J [0; 1] má následující vlastnosti: ► p(0) = o, p(n) = i, ► pro vzájemně disjunktní A1? A2, ..., A„ e J7\ U"=i^/ G i7- / n \ n P I LM* I - X^(^')> (konečná superaditivita) \i=l ) f=l ► proAi,A2,...€ AcU^A,-: oo P(A) < ^P(Af). (o-monotonie) i=l Potom existuje o-algebra A, J ^ A, a spočetně aditivní pravděpodobnostní míra P* na A, tak, že P*(A)=P(A)y AeJ, a (Q>A>P*) je pravděpodobnostní prostor. i_ Věta o rozšíření dává návod na konstrukci pravděpodobnostního prostoru, když máme definovanou pravděpodobnost P na semialgebře J. Musíme přitom vyřešit dvě otázky: jak definovat P*(Ä) pro množiny A e A \ J a jak zkonstruovat a-algebru A, jejíž existence je Větou zaručena. Ověřování podmínek ve výše uvedené Větě může být velmi obtížné. Existují i alternativní ekvivalentní formulace těchto předpokladů, které nyní uvedeme. Ekvivalentní předpoklady Věty o rozšíření ► p(0) = o, p(n) = i, ► P(A) < P(B) pro A B g J, A c B, ► P je konečně superaditivní, ► P je a-subaditivní. i_ _ Ekvivalentní předpoklady Věty o rozšíření pro pravděpodobnost ► P(0) = 1, ► P je a-aditivní. Míra, vnější míra Definice (Míra) Nechť (Cl,A) je měřitelný prostor. Míra (measure) je zobrazení [i : A -> [0; oo] s vlastnostmi: ► ii(Á) > 0 pro A e A, ► ^(0) = 0. Míra p je: ► nekonečná, pokud [4(Cl) = oo, ► a-konečná, pokud ^(O) = oo, ale přitom existuje úplný systém jevů {Ai,A2, ... } na Cl takový, že ^(A^) < oo, k = 1,2, ..., ► konečná, pokud [í(Q) < oo, ► pravděpodobnostní, pokud [í(Q) = 1. Trojice (Cl, A,\i) je prostor s mírou. I_ - 11/117 pro disjunktní A1? A2, • • • € „4. Definice (Vnější míra) Vnější míra (outer measure) je zobrazení :2n -> [0;oo] s vlastnostmi: ► ^°(0) =0. ► p°(A) < i*°(B) pro Ac5, (oo \ oo UA* -Ž>°(A*) proAi,A2,...cn. i_ — Speciální vnější míru lze definovat pomocí míry na algebře A^ 2n: oo íi*(A)=inf^íi(Alk), kde infimum je počítáno přes všechna spočetná pokrytí množiny A množinami z algebry A tj. přes všechny Ai,A2, £ A, A c (J^ A/. 12/117 Tvrzení (Vlastnosti míry) Necht (Cí,A,[i) je prostor s mírou. Potom platí: ► \i je konečně aditivní, ► ii(A) < p(B) pro A^B, ► [i je o-subaditivní, tj. t*(\J™=lAk) < Zk=iVÍAk)- i_ Tvrzení (Vlastnosti vnější míry) ► Vnější míra \i° je nezáporná. ► Vnější míra \i° je konečně subaditivní. ► Míra je restrikce vnější míry \i° na o-algebru A 2n. ► Zobrazení {i* je vnější mírou (tzn. ^* je speciální případ ► {i* je rozšíření míry \i ze o-algebry A na všechny podmnožiny 2 ► Je-li {i o-konečná na A, potom je y* o-konečná na 2n. ► Je-li {i konečná na A, potom je konečná na 2n. i_ Porovnejte definici a vlastnosti míry s definicí a vlastnostmi pravděpodobnosti. Pravděpodobnost je vlastně speciální mírou, P = ^, když [í(Q) = 1. Naopak, na míru lze nahlížet jako na zobecnění pravděpodobnosti, kdy jevy (měřitelné množiny) ohodnocujeme nezáporným číslem (včetně nekonečna), ^(A) e [0;oo]. Vnější míra je důležitý koncept pro konstrukci míry (pravděpodobnosti). Na rozdíl od míry (pravděpodobnosti) je totiž definována pro všechny podmnožiny A c Q a nevyžaduje a-algebru A. 14/117 Tvrzení (Carathéodoryho věta o rozšíření) Necht \i je míra na algebře J podmnožin množiny Q. Potom platí: ► Míru \i lze rozšířit na o-algebru A generovanou algebrou J. ► Je-li \i o-konečná na J, její rozšírení na A je jednoznačné a o-konečné. ► Je-li \i konečná na J, její rozšíření na A je jednoznačné a konečné. i_ _ V předchozí formulaci Věty o rozšíření sice stačí, aby J byla jen semialgebra, navíc je ale požadováno splnění dalších vlastností pravděpodobnosti P. Pokud míra \i na J není konečná ani a-konečná, její rozšíření na A nemusí být jednoznačné, tzn. může existovat více (až nekonečně mnoho) I XI f I V fW f rozdílných rozšířeni. Pokud pracujeme s pravděpodobnostní mírou, \i = P, Carathéodoryho věta říká, že rozšíření P z algebry J na a-algebru A existuje a je jednoznačné. Nutnou podmínkou přitom je, že míra ^, resp. pravděpodobnost P, je korektně definována na algebře J. Definice (Množiny měřitelné vzhledem ke vnější míře) Nechť \i° je vnější míra. Množina A g 2n je tzv. ^°-měřitelná, pokud pro všechny testovací množiny E € 2n platí p°(E) = iŕ(A n E) + n E), tzn. pokud je \i° aditivní na množinách A n E a A n E. i_ _ ^°-měřitelné množiny existují, např. si ověřte, že 0, Q jsou vždy ^-měřitelné. Dále, pokud je nějaká množina A ^-měřitelná, pak je i její doplněk A ^°-měřitelný. 16/117 Následující věta je důležitá. Dává totiž návod, jak na Cl zkonstruovat a-algebru a na ní míru. Vychází přitom jen z existence vnější míry. Tvrzení Systém všech \i°-měřitelných množin, A={At2n : p°(E) = ti°(A n E) + y0 (Ä n E) pro všechny £g2°}5 je vždy o-algebrou na Cl a vnější míra \i° je dokonce mírou na této o-algebfe A. i_ — Nyní se vraťme k Větě o rozšíření. Zobrazení P* je vlastně vnější mírou počítanou pomocí pravděpodobnosti P na semialgebře J\ oo P*(A)=inf£P(A,), k=l kde infimum je počítáno přes všechna spočetná pokrytí množiny A množinami z J, tj. přes všechny Ai,A2, ••• € J} A c \J™=lAk. 17/117 Na základě předchozích tvrzení si shrňme důležité poznatky: u P*(0) = 0, 2> P*(A) -4.2>^2) jsou dva prostory s mírou. Součinový prostor (product space) je kartézský součin Hi x í]2 = {(cúi,cú2) : 0)i g Cllyo)2 ^ ^2}- Na systému = {Ai x A2 : A\ e ^4l5 A2 e ^l2} definujeme součinovou míru (product measure) ft(Ai x A2) = ^i(Ai)^2(A2). Množina A\ x A2 g J je tzv. měřitelný obdélník (measurable rectangle), A\ a A2 jsou jeho strany. i_ _ Ověřte, že J je semialgebra. V případě, že oba prostory jsou pravděpodobnostní, tzn. \i\ = P1( ^2 = P2, definujeme analogicky P(Ai x A2) = Pi(Ai)P2(A2). Ověřte, že platí P(0 x 0) = O, x Q2) = 1. 19/117 Příklady konstrukcí pravděpodobnostních prostorů Vraťme se k nespočetnému základnímu prostoru Q = [0;1]. Zvolme systém J = {všechny intervaly tvarů [a, b], (a, b), [a, b), (a, b), {a}}. Systém J je semialgebra na Q. Pro intervaly I e J definujeme P(I) jako délku daného intervalu, např. P([a, b]) = b - a, P({a}) = 0, P(0) = 0, P([0;1]) = 1. Zobrazení P má na J vlastnosti pravděpodobnosti. Veta o rozšířeni zaručuje existenci jednoznačného rozšírení P na a-algebru a, J <= A tak, že (0,A-P) je pravděpodobnostní prostor. Tento pravděpodobnostní prostor se nazývá Lebesgueova míra (Lebesgue measure) na [0;1]. Zkonstruovaná pravděpodobnostní míra se někdy označuje A = P. £>[o;i] = &{J) Je tzv- borelovská a-algebra na intervalu [0;1], jedná se o a-algebru generovanou systémem J. tzn. že je to nejmenší a-algebra obsahující systém J. Pro a-algebru a z Věty o rozšíření musí tedy platit bm g a. Lze ukázat, že Lebesgueova míra na £>[0;1] však není úplná, zatímco na a úplná je. 20/117 Již víme, že A([a, b]) = b - a, \({a}) = 0. Ze a-aditivity míry dokonce víme, že A(A) = 0 pro libovolnou spočetnou množinu A c [0;1], protože takovou A lze zapsat jako spočetné sjednocení disjunktních jednoprvkových množin, které mají nulovou míru. Např. tedy také víme, že A(Q) = 0. Připomeňme, že s Lebesgueovou mírou vlastně pracujeme v případě náhodné veličiny X s rozdělením X ~ £s([0;l]). Vybíráme-li tedy náhodně reálné číslo X z intervalu [0;1], víme, že P(X gQ) = A(Q) = 0. Existují dokonce nespočetné množiny, které mají nulovou Lebesgueovu míru. Tzv. Cantorova množina K je definována následujícím postupem. Interval [0;1] rozdělíme na třetiny a prostřední část ve tvaru otevřeného intervalu odebereme. Na zbylé intervaly použijeme stejný postup, ten dále induktivně opakujeme, tzn. v fc-tém kroku odstraníme 2k~l prostředních třetin (odstraňujeme je ve formě otevřených intervalů) zbylých intervalů, které v aktuálním kroku mají délku ^. Cantorova množina K je tvořena těmi body, které zůstanou neodstraněné. 21/117 Počítejme Lebesgueovu míru doplňku Cantorovy množiny, X(K) = l.-+2--+4- — + • • • = V 2k~l • 4- = L v J 3 9 27 jkťi 3* Lebesgueova míra na [0;1] je pravděpodobnostní, tedy platí \(K) = 1-\(K) = 0, Lebesgueova míra Cantorovy množiny je nulová. Cantorova množina je zároveň nespočetná. Totiž, pro x e K označme d k (x) = 0, resp. d k (x) = 1, pokud v fc-tém kroku konstrukce K byl bod nalevo, resp. napravo, od nejbližšího odstraňovaného otevřeného intervalu. Definujeme funkci g: K -> [0;1] předpisem = ££!=i Protože = [0;1] a interval [0;1] je nespočetná množina, musí být i Cantorova množina K nespočetná. Borelovská a-algebra na IR je cr-algebra B = o{J) generovaná systémem J všech intervalů na R. Lze ukázat, že B = a(M), kde M = {(-oo,b);b € R}. Házíme n-krát mincí. Jako pravděpodobnostní prostor přímočaře volíme \A\ Cl = {(bi, ..., bn); bk € {0; 1}, fc = 1, ..., n}, A = 2n, P(A) = ^. 23/117 Pokračujme nyní nekonečným házením mincí. Základní prostor definujeme jako množinu všech posloupností čísel 0 (rub) a 1 (líc), £l = {(bi,b2, e{0;l},fc€ N}. Jak zkonstruujeme a-algebru A a na ní pravděpodobnost P, abychom dostali pravděpodobnostní prostor? Pro n e N a a\, a2, ..., an e {0; 1} definujeme jevy Aaia2...an = {(h> b2, ...) tCl: ak = bk pro k = 1, ..., n} . Jakým situacím tyto jevy (při konkrétní volbě 0 a 1 za ak) odpovídají Intuitivně na základě znalosti z konečného házení mincí chceme, aby P(AaiCl2^Mn) = jz- Pomocí těchto jevů vytvoříme systém J, J = {Aaia2...an; n e N, akt {0; 1}, k = 1, ..., n} u {0, Q}. Ověřte, že J je semialgebra a že P je na J (konečně) aditivní. Lze ukázat (obtížný důkaz), že P je na J dokonce a-aditivní. Použijeme alternativní formulaci Věty o rozšíření, která tvrdí, že P lze rozšířit na a-algebru A obsahující J. Tato a-algebra A však bude velmi složitá, neočekávejme žádný její explicitní popis. Důležité je vědět, že vůbec existuje. Pro n e N definujeme jevy Hn = {(&i, b2, ...) £ &<' bn = 1}. Interpretujte je a pomocí vhodných jevů A... a a-aditivity P ověřte, že P(Hn) = \ . Zajímavý postřeh je, že každé číslo x e [0;1] lze jednoznačně zapsat ve tvaru binárního rozvoje x = ^ —-, kde fo^ g {0;l}, /c = 1,2,____Každé číslo *=i 2 x g [0;1] lze tedy jednoznačně ztotožnit s jednou z posloupností (&i, &2> • • •) £ ŕi- Pravděpodobnostní prostor při nekonečném házení mincí tedy v postatě odpovídá Lebesgueově míře na [0;1]. 25/117 Příklad Uvažujme algebry Ji = {0,fi,A,X}, J2 = {0,Q,B,B} pro A ŕ B, AnB í 0 a zaveďme J jako algebru generovanou sjednocením Jx u J2. Definujeme pravděpodobnostní míry \i\ a \i2\ pk(0) = 0, iik(Q) = 1, iik(A) = 0,40, p*(fl) = 0,35, k = 1,2; uB) = 0,50, ^2(Auí)= 0,60. Nalezněte všechny prvky J a rozšiřte \i\ a ^2 na celé J. Všimněte si, že rozšířeni míry z J\ u J2 na J není jednoznačné. Je to důsledkem toho, že původní systém J\ u J2, z něhož jsme generovali J není algebrou. Příklad Uvažujte konečný, resp. spočetný, základní prostor Cl. Pro A c Q definujme zobrazení ^, ^(A) = jako počet prvků A (příp. oo). Ověřte, že ^ je míra na 2n, a že je konečná, resp. a-konečná. Nazývá se čítací míra (counting measure). 26/117 Příklad Uvažujte Cl = {(0\,0^,0)3,0)4} a J = {0, H, {(Ol, (o2}> {(0\y 0)3}, {co2y 0)4}, {0)3, (04}}. Definujeme: A 0 D, {wi} {w2} {o)3} {o)4} {a>i,a>2} {a>i,a>3} {a)2,a)4} {0)3,0)4} 0 6 3 3 3 3 12 2 1 2 112 ].► Ověřte, že J není algebra. 2^ Ověřte, že \i je míra na J. 3^ Dodefinujte ^ a ^2 tak, aby obě byly míry na 2n. 4^ Ověřte, že \i\ a ^2 jsou dvě rozšíření \i z J na 2n. 5^ Spočítejte vnější míru ^* na 2n pomocí \i. 6^ Všimněte si, že \i\ + \i2 ± • Důvodem je to, že J není algebra. 27/117 Příklad Uvažujte n = N0, A = {lichá přirozená čísla}, J = {0,Cl,A,A}. Nechť ^ je čítači míra na J a definujme f*i(A) = ^2(A) = 2|A| pro A e 2n. ].► Ověřte, že J je algebra. 2^ Ověřte, že ^ není a-konečná míra. 3^ Ověřte, že \i\ a ^2 jsou rozšíření ^ z na 2n. 4^ Ověřte, že ^ a ^2 jsou a-konečné míry. 5^ Spočítejte vnější míru ^*. 6^ Ověřte, že a-algebra ^-měřitelných množin je rovna 2n, tj. že všechny podmnožiny Cl jsou zde ^*-měřitelné. 28/117 Náhodné veličiny Definice (Náhodná veličina) Uvažujme pravděpodobnostní prostor (0,A-P)- Náhodná veličina (random variable) je zobrazení X : Cl -> M splňující podmínku {co e Cl: X(cú) < x} e A pro všechna xeR. i_ _ Uvedená podmínka je tzv. měřitelnost. Lze ji zapsat také ve tvaru {X < x} £ A nebo X~l((-oo,x]) e A. Protože doplňky, sjednocení i průniky jsou v úplných vzorech zachovávány, je podmínka ekvivalentní X~\B) = {XeB} = {coeQ: X(co) e B} e A pro všechny B e B. Podmínka vlastně zajišťuje, že pro libovolnou borelovskou množinu B je vůbec definována pravděpodobnost P(X e B). 29/117 Definice (Indikátorová funkce) Indikátorová funkce množiny A je zobrazení 1a ' Q -> {0;l} definované ÍO, co{A; 1A((0) = 1 [1, Cú € A. I_ _ Ne každé zobrazení X : Cl -> M je náhodnou veličinou. Např. pro Lebesgueovu míru (íl = [0;1],AA) uvažujme neměřitelnou množinu H, Hcfl,H/Aa zobrazení X = 1^. Potom X"1 ((-oo, i)) = X"1 ({0}) = {íi)GÍ]:o)e H} = H A, tzn. zobrazení X není náhodnou veličinou. Definice (borelovsky měřitelná funkce) Funkce h : M -> M je borelovsky měřitelná, pokud h~l(B) e £> pro všechny B e B, tzn. je vlastně náhodnou veličinou na měřitelném prostoru (Q = RiA = B). Tvrzení (Jak tvořit náhodné veličiny) ► Indikátorová funkce, X = 1a, jevu A e A je náhodnou veličinou. ► Pokud X, Y jsou náhodné veličiny aceR, potom také X + c, cX, X2, X + Y, XY jsou náhodné veličiny. ► Pokud Xi,X2, ... je posloupnost náhodných veličin taková, že limita číselné posloupnosti lim Xn(co) existuje pro všechna co £ Cl, potom X(co) = lim Xn(co) je náhodnou veličinou. ► Pokud X je náhodná veličina a h : M -> M je borelovsky měřitelná funkce, potom zobrazení Y = h o X = h(X), kde Y (co) = f(X)(co) = h(X(co)) pro všechna co e Cl, je náhodnou veličinou (na stejném pravděpodobnostním prostoru). i_ _ Každá spojitá nebo po částech spojitá funkce je borelovsky měřitelná. Tvrzení říká, že všechny rozumné způsoby transformací náhodných veličin jsou správné. Speciálně si připomeňme funkce h(x) =xk, vedoucí k náhodným veličinám Y = h(X) = Xk, ícgN. 31/117 Definice (Nezávislost náhodných jevů) Jevy A,B e A jsou (stochasticky) nezávislé (independent events), pokud P (A nB) = P(A)P(B). Systém jevů {Ai}i£l je nezávislý, pokud pro každé n e N a každou volbu indexů fi, z indexové množiny I platí P f] Aik = fl P(Aik). Náhodné veličiny X, Y jsou nezávislé (independent), pokud jsou pro každé Bi,B2 e B nezávislé jevy X~l(B\) a Y~l(B2), tzn. P(X e Bls 7 e B2) = P(X M borelovsky měřitelné funkce. Potom náhodné veličiny g o X = g(X) a h o Y = h(Y) jsou opět nezávislé. i_ _ Tvrzení Necht X a Y jsou náhodné veličiny na stejném pravděpodobnostním prostoru. Potom X a Y jsou nezávislé o P(X - A„ \ A označuje Ax 2 A2 2 A3 2 P|A„=A. n=l l_ _ Následující věta říká, že pokud v jistém smyslu konverguje posloupnost jevů, konverguje i posloupnost pravděpodobností. Tvrzení (O spojitosti pravděpodobnosti) Pokud An z< A, nebo An \ A, potom lim P(An) = P(Á). Podstatným předpokladem přitom je vnoření jevů v posloupnosti An z< A, nebo An \ A. I pokud posloupnost jevů konverguje, ale jevy nejsou správně vnořené, rovnost lim P(An) = P(Á) nemusí platit, dokonce limita pravděpodobností ani nemusí existovat. 34/117 Příklad Uvažujme posloupnost jevů An = Cl pro lichá n, An = 0 pro sudá n. Dostáváme A = (JZ\An = ^ a P (A) = P (Cl) = 1, resp. B = 07=1 An = 0 a P(B) = P(0) = 0. Ale limita pravděpodobností lim P(An) neexistuje, neboť posloupnost pravděpodobností {P(An)}™=l osciluje, liminfP(A„) =0, limsupP(A„) =1. 35/117 Definice (Limitní jevy) Projevy Ai,A2, ••• tA v pravděpodobnostním prostoru (Cl,A,P) definujeme limitní jevy 1* An nekonečně často (infinitely often, i. o.) oo oo lim sup An = {íi)GÍ]:v nekonečně mnoha jevech An} = P| A^, n n=\k=n 2> An skoro vždy (almost always, a. a.) oo oo liminf An = {co e Cl: ve všech kromě konečně mnoha An} = U Pl ^k- n n=lk=n i_ _ Příklad (Ověřte, že platí:) limsup An> liminf An e A, n n 2+ lim sup An = liminfAn a tedy P(limsupAn) = 1 - P(liminf An), n n n n 3^ liminfA^ = limsupA„ a tedy P(liminfA„) = 1 - P(limsup An). 36/117 Tvrzení P(liminf AM) 3}) = |, P(W) = Zvolme posloupnost jevů An = {0)1,0)2} pro lichá n, An = {co2y 0)3} pro sudá n Ověřte, že liminfn An = {co2}. 2> Ověřte, že limsup^ An = {cúi,cú2,cú3}. 3^ Ověřte, že P(liminf„ An) = |. 4^ Ověřte, že liminf^^oo P(An) = \ . 5^ Ověřte, že limsup^^ P(An) = ^ 6^ Ověřte, že P(liminfn An) = ^ 10 37/117 Tvrzení (Borelovo-Cantelliho lemma) Nechť Ai,A2, ••• e A. oo ► Po/cuc/ £ P(A„) < oo, potom P(limsupAn) = 0. n=l n oo ► Pokud P(An) = oo 3 jevy Ai, A2, ... nezávislé, potom n=l P(limsup An) = 1. l_ Toto tvrzení je zajímavé tím, že říká, že pro nezávislé jevy je P(limsupAn) rovna buď 0, anebo 1, nikdy žádnému jinému číslu. n Používá se při výpočtech pravděpodobností jevů, které mají nastat nekonečně často nebo skoro vždy. 38/117 Příklad (Nekonečně mnoho líců/rubů) Vraťme se k náhodnému pokusu s nekonečným házením mincí a opět pro n e N definujeme jevy Hn = {(&i, b2, ...) £ O,: bn =1}. 1 ► Interpretujte jevy lim sup Hn a lim inf Hn. n n 2> Ověřte, že limsupP(An) = ^ a dokažte, že P(limsupAn) > |. 3^ Pomocí B-C lemmatu dokažte, že pravděpodobnost padnutí nekonečně mnoha líců je rovna 1 a pravděpodobnost padnutí konečně mnoha rubů je rovna 0. 4^ Pomocí B-C lemmatu dokažte, že pravděpodobnost padnutí nekonečně mnoha rubů je rovna 1 a pravděpodobnost padnutí konečně mnoha líců je rovna 0. 5^ Dávají výsledky smysl? Mohou být pravděpodobnosti padnutí nekonečně mnoha líců i nekonečně mnoha rubů obě rovny 1? 39/117 Střední hodnota Definice (Jednoduchá náhodná veličina) Náhodná veličina X na pravděpodobnostním prostoru (Q,A,P) je jednoduchá (simple random variable), pokud její obor hodnot je konečná množina, {X(co); co e Cl} = {x\, .. .,*„}. Jednoduchou náhodnou veličinu lze zapsat ve tvaru n k=l kde Ak = X_1({^}), k = 1, ..., n, jsou úplné vzory obrazů xk. i_ Definice (Střední hodnota jednoduché náhodné veličiny) Pro jednoduchou náhodnou veličinu definujeme střední hodnotu (expected value, expectation, mean) předpisem E(X) = Y,xkP(Ak) = £**P(X = xk). k=l k=l l_ Uvedený předpis pro střední hodnotu je ne náhodou podobný vzorci pro výpočet střední hodnoty náhodné veličiny diskrétního typu. Zde je však omezujeme jen na konečné součty. Všimněme si využití zápisu jednoduché náhodné veličiny n n ,fc=i / fc=i Příklad Na pravděpodob. prostoru (Q = [0;l],A,X) definujme náhodné veličiny 2, w € ,5, io > i X(w) = { 3, a) < 5 Y(w) = 4, w = & 6, co < |, co £ 8, jinak Ověřte, že E(X) = ^,E(ľ) = f 41/117 Vlastnosti jednoduchých náhodných veličin a střední hodnoty: 1> E(1A) = P(A) pro AgA neboť E (1A) = E (0 • rA\{0}) + 1 • rA\{l})) = 0 • P(Ä) + 1 • P(A). 2^ E (c) = c pro c g R, neboť E (c) = E (cln) = cP(íl) = c. 3^ Střední hodnota je lineárni operátor, tzn. E(al + fcľ) = aE(X)+bE(7) pro náhodné veličiny X, 7 a a,fe e R. Totiž pokud X = Zk-i xklAh, y = Em 7/^ , potom E (a X + b 7) = = E (£2=i E?=1(aX + b 7)1A^) = ELi Em^+^/W*^) = = a ELi^ ^(A*) + & E" i7/ = aE(X) + feE(y). 4* E(X) < E(7) pokud X < 7. V případě X(co) < 7(a)) pro všechna co £ Cl totiž máme 7 - X > 0, což dle definice znamená E(7 - X) > 0 a z linearity obdržíme E(7)-E(X) >0. 42/117 5. |E(X)| M funkce, potom 7 = /zoX = /z(X) = j^h(xk)lAk k=l je opět jednoduchá náhodná veličina a platí E(7)=E[/z(X)] = f/z(^)P(A,). 8^ Při speciální volbě h(x) = [x - E(X)]2 dostáváme Y = h(X) = [X-E(X)]2 a definujeme rozptyl (variance) náhodné veličiny X jako Var(X) =E(7) = E ([X - E(X)]2) . 43/117 9» Var(X) = E(X2)-[E(X)]2 a 0 < Var(X) < E (X2). 10► Var(aX + fo) = a2Var(X) pro a, b e R. 11 ► Var(X+ Y) = Var(X) + Var(7) + 2Cov(X, 7), kde Cov(X, Y) = E ([X - E(X)][Y - E(Y)]) = E(X Y) - E(X) E(7) je tzv. kovariance (covariance). 12 ► Var(X+ Y) = Var(X) + Var(7), pokud jsou X, Y nezávislé, neboť v tom prípade je Cov(X, Y) = 0. 13► Pokud Var(X) > 0, Var(7) > 0, definujeme tzv. korelaci , . . v . / N Cov(X, Y) (correlation) předpisem CoríX, Y) = —. g -1;1 . v/Var(X)V/Vaí(Ť) Vztahy platné pro součet, resp. lineární kombinaci, dvou (nezávislých) jednoduchých náhodných veličin je přitom indukcí možné zobecnit na součet, resp. lineární kombinaci, libovolného počtu (nezávislých) jednoduchých náhodných veličin. 44/117 Definice (Střední hodnota nezáporné náhodné veličiny) Střední hodnotu nezáporné náhodné veličiny X > 0, tzn. X(co) > 0 pro všechna co t Q, jako supremum E(X) = sup {E( Y) : Y je jednoduchá náhodná veličina, Y < X} . i_ Tato definice funguje i pro jednoduché náhodné veličiny (stačí zvolit Y = X). Funguje však nyní i v případě E(X) = oo. Na pravděpodobnostním prostoru (Cl = [0;1],AA) definujme náhodnou veličinu X: X(co) = 2k pro ^ < co < ^r, k = 1,2,____ E(X) = sup{E(Y) : Y jednoduchá, Y < X} > E(Yn) = tedy E(X) = oo. Náhodné veličiny Yn jsou přitom jednoduché. Příklad pro každé n e N, 45/117 Definice (Monotónní konvergence) Posloupnost náhodných veličin Xi,X2, ... konverguje monotónně k náhodné veličině X, Xn z1 X, pokud Xi < X2 < ••• a lim Xn(co) = X(co) pro všechna co £ Q. Tvrzení (O monotónní konvergenci) Necht náhodné veličiny Xi,X2, ... konvergují monotónně k náhodné veličině X, Xn / X, a E{X{) > -oo. Potom platí lim E(X„) = E(X). Rovnost lim E(Xn) = E(X) platí i v případě, když Xn Z X skoro jistě, tzn. kdyžXi < X2 < ••• a lim Xn(co) = X{co) pro všechna co £ B, B^Q, P(B) = 1. i_ _ 46/117 Príklad Na pravděpodobnostním prostoru (Cl = [0;1],AA) definujme posloupnost náhodných veličin Xn = nl(0. ju, n = 1,2, — Potom Xn -> 0, neboť pro co e [0;1] máme Xn(co) = 0, když n > ^. Přitom však E(Xn) = n (- - o) + 0 (l - ^) = 1 pro všechna n = 1,2, .... Vidíme, že lim E(X„) = 1^0 = E(0). Máme sice Xn -> 0, ale nikoliv Xn s 0. 47/117 Pro n = 1,2, ... zaveďme funkce í I*2MJ1 Tn (x) = min j n, —^— >, pro x > 0. Jedná se o směrem dolů na nejbližší násobek ^ zaokrouhlené x, navíc useknuté v n, tj. = n pro x > n. Nakreslete grafy těchto funkcí pro n = 1,2,3. Ověřte, že obor hodnot funkce je konečný (funkce nabývá právě \ + n2n hodnot a že pro libovolné pevně zvolené x > 0 je /* x. Tvrzení Necht X nezáporná náhodná veličina. Položme Xn = ^„(X). Potom každá náhodná veličina Xn> n = 1,2, je jednoduchá, a posloupnost monotónně konverguje k náhodné veličině X, Xn / X. i_ _ Ke každé nezáporné náhodné veličině X tedy existuje posloupnost jednoduchých náhodných veličin Xn / X; dokonce takovou posloupnost umíme zkonstruovat. 48/117 Všechny vlastnosti střední hodnoty jednoduchých náhodných veličin zůstávají v platnosti i pro nezáporné náhodné veličiny. K důkazu linearity střední hodnoty nezáporné náhodné veličiny ale nyní potřebujeme umět konstruovat posloupnost monotónně konvergující k takové náhodné veličině. Předchozí věty nám pak např. zaručují, že lze důkaz linearity vést takto: E(aX+bY) = lim E(aXn+bYn) = lim [aE(Xn) + bE(Yn)] = aE(X)+foE(7). Analogicky se postupuje i u důkazů ostatních vlastností. Navíc obdržíme dokonce spočetnou linearitu pro nezáporné náhodné veličiny Xi,X2, ...: (oo \ oo k=l I k=l 49/117 Definice (Střední hodnota náhodné veličiny) Střední hodnotu náhodné veličiny definujeme předpisem E(X) =E(X+)-E(X"), kde X+ = max{X,0} a X" = max{-X,0}. ► E(X+) = oo, E(X") = oo => E(X) není definována, ► E(X+) = oo, E(X") < oo => E(X) = oo, ► E(X+) < oo, E(X") = oo => E(X) = -oo, ► E(X+) < oo, E(X") < oo => E(X) e l_ Náhodné veličiny X+ a X" jsou nezáporné. Pro obecnou náhodnou veličinu X tedy střední hodnotu definujeme jako rozdíl středních hodnot nezáporných veličin X+ a X" podle předchozích definic. 50/117 Definice (Momenty) k-tý moment náhodné veličiny je E (X*), k eN. Říkáme, že k-tý moment je konečný nebo že X má konečný k-tý moment, pokud E(|x*|) < oo. i_ _ Protože \x\k~l < max{|x|*,l} < \x\k +1 pro všechna xeR, platí, že pokud náhodná veličina X má konečný k-tý moment, potom má konečný i každý l-tý moment, / = 1,2, ..., k - 1. Vlastnosti střední hodnoty se přenáší z vlastností střední hodnoty nezáporné náhodné veličiny. U součtu i součinu náhodných veličin však nyní musíme být opatrní b známé vztahy definujeme pouze pro náhodné veličiny s konečným prvním momentem. 51/117 Integrál podle míry Definice (Integrál podle míry) Pro náhodnou veličinu X na prostoru s mírou (q,a,^) definujeme integrál podle míry ^, fQXd^ = f Xd^, následovně: n 1> pro nezápornou jednoduchou náhodnou veličinu X= Y, xklAk'- k=l n f Xdp = Y,xkp(Ak). J n k=l 2> pro nezápornou náhodnou veličinu / Xáji = lim / Xn d\i J Ct n^oo J q pro libovolnou posloupnost nezáporných náhodných veličin Xn / X. 3^ pro obecnou náhodnou veličinu: f Xd^= f X+d[í- [ X"d^, Jet Jet Jet pokud alespoň jeden z integrálů vpravo existuje; přitom X+ = max{X, 0} a X" = max{-X, 0}. i_ 52/117 Definice Náhodná veličina je integrovatelná, pokud fQX+ d[i < oo a fQX~dfí < oo, tj. pokud fQXdfí existuje a je konečný, \fQXdfí\ < oo. Pro A t A definujeme integrál na měřitelné množině A předpisem í Xd^= í (X1A) d\i. J A J CL l_ _ Pro pravděpodobnostní míru, \i = P, máme fnXd[í = fnXdP = E(X). 53/117 Vlastnosti integrálu: !► Pro nezáporné náhodné veličiny X, Y platí f (X + Y) d\i = j Xd\i + y Xd^. 2^ Pokud existují integrály /Xd^, / Y d\i a /Xd^+ / Yd[í, potom existuje integrál /(X+ 7)d^ a platí f (X + Y) d\i = y Xd^ + y Xd^. 3^ Nechť A,5 £ ^4, AnB = 0. Pokud existuje integrál fAuBXd^, existují i integrály fAXd[í a fBXd[í a platí /* Xd^= f Xd^+ f Xd^. 54/117 4^ Nechť A,B e A, A n B = 0. Pokud existují integrály fAXd[í, fBXd[í a fAXd[í+ fBXd[í, potom existuje integrál fAuBXd[í a platí /" Xd^ = f Xd^ + /" Xd^. ^Au5 J a Jb 5^ Pokud existuje integrál /Xd^, potom existují integrály fAXdp, fAXd^L pro libovolnou A e A a platí í Xd\i = /" Xd^+ [_Xd\i. J Ja Ja Pokud je X integrovatelná (na Cl), potom je integrovatelné i na libovolné A e A. 6^ Pokud existuje integrál /Xd^ a al, potom existuje integrál fAcXd[í a platí j cXd[í = c j Xd\i. 7* Pokud je X nezáporná náhodná veličina, potom / Xd^ > 0. 55/117 8^ Pokud X < Y a existují integrály / Id/i a / Yd^, potom /Xd^ < / Ydfí. {)► Pokud X < 7 a /X~d^ < oo, potom existuje integrál f Yd^ a / Xd^ < / Ydp. 10 + Pokud X < Y a / 7+d^ < oo, potom existuje integrál / Xd^ a / Xd^ < / Ydp. 11 ► Pokud existuje integrál /Xd^, potom \f Xd^\ < f\X\dft. 12► Pokud X = Y skoro všude a existuje integrál / Xd^, potom existuje integrál / Xd^ a platí / Xd^ = / Yd^. 13 + X je integrovatelná o \X\ je integrovatelná. 14► Pokud |X| < Y a existuje integrál / Y d^, potom je X integrovatelná 56/117 Příklad V pravděpodobnostním prostoru (Cl = [0;1],AA) s Lebesgueovou mírou uvažujme náhodnou veličinu X(co) =1q(o)). Tato náhodná veličina (měřitelná funkce) není Riemannovsky integrovatelná. Je však Lebesgueovsky integrovatelná a E(X) = / XdP = 1. Příklad Uvažujme prostor s mírou (Cl = {-2;-l;3;-4},*A = 2n,^), kde ft({-2}) = 2, ^({-1}) = 1, ^({3}) = 3, ^({7}) = 7, a náhodnou veličinu X, X(-2) = X(-l) = -1, X(3) = X(7) = 1. Spočítejte integrál / Xd^ pro A = {-2;3;7}. [8] 57/117 Příklad Uvažujme prostor s Lebesgueovou mírou (Cl = (-5;5),*A = £>(_5;5),A) na o>e(-5;2) intervalu (-5;5) a náhodnou veličinu X, X(co) = 3' co = 2 1, (oe(2;3] 0, co e (3; 5) Spočítejte integrál / XdA pro A = [-1;4] J a [f] 58/117 Nerovnosti pro náhodné veličiny Tvrzení (Markovova nerovnost) Necht X je nezáporná náhodná veličina na pravděpodobnostním prostoru Potom pro všechna a > 0 platí P(X>a) < a i_ _ Tvrzení (Cebyševova nerovnost) Necht X je náhodná veličina s konečnou střední hodnotou na pravděpodobnostním prostoru (Q,a,P). Potom pro všechna a > 0 platí P(\X-E(X)\>a)< Var(X). a1 i_ _ 59/117 Tvrzení (Cauchyova-Schwarzova nerovnost) Necht X, Y je náhodné veličiny s konečnými druhými momenty na pravděpodobnostním prostoru (Q,A,P). Potom platí [E(|X7|)]2 M je libovolná konvexní funkce. Potom platí E(/z(X))>/z(E(X)). i_ _ 60/117 Příklad Pro náhodnou veličinu X ~ Rs([0;4]) spočítejte pro a = 0;1;2;3;4 pravděpodobnosti P(X > a) a zároveň je odhadujte pomocí Markovovy nerovnosti. Dále spočítejte pravděpodobnosti P(|X - 2| > a - 2) a zároveň je odhadujte pomocí Cebyševovy nerovnosti. Příklad Nechť X je náhodná veličina s konečnou střední hodnotou a rozptylem a2 na pravděpodobnostním prostoru (H,A,P). Dokažte, že potom pro všechna c > 0 platí P(|X-E(X)| > co) < ±. Příklad Ověřte, že pro náhodnou veličinu X, P(X = a) = P(X = -a) = \ pro a > 0, dává Cebyševova nerovnost přesný odhad pravděpodobnosti, tj. že 1 = P(|X-E(X)| > a) < 1. Příklad Nechť E (2X) = 4. Dokažte, že P(X > 3) < \. 61/117 Konvergence náhodných veličin Definice (Bodová konvergence) Posloupnost náhodných veličin Xi,X2, ... na pravděpodobnostním prostoru (0,A-P) konverguje bodově (pointwise convergence) k náhodné veličině X, Xn —> X, lim Xn = X, pokud n—>oo l_ lim Xn(co) = X(co) pro každé co e Cl. Definice (Konvergence skoro jistě) Posloupnost náhodných veličin Xi,X2, ... na pravděpodobnostním prostoru (0,A-P) konverguje skoro jistě (s. j.) (almost surely, a. s.) s.j. k náhodné veličině X, Xn —> X, pokud P ( lim Xn = X ) = 1, t. j. pokud P ^ jo) e Cl : lim Xn(co) = X(o))|j = 1. l_ 62/117 Definice (Konvergence podle pravděpodobnosti) Posloupnost náhodných veličin Xi,X2, ... na pravděpodobnostním prostoru (0,A-P) konverguje podle pravděpodobnosti (in p probability) k náhodné veličině X, Xn —> X, pokud Vč > 0 : lim P(\Xn - x| > e) = 0, t. j. pokud V£ > 0 : P({co e Cl : \Xn - X\ > e}) —> 0. l_ Definice (Lp konvergence, p = 1,2, ...) Posloupnost náhodných veličin Xi,X2, ... na pravděpodobnostním prostoru (0,A-P) konverguje v p-tém momentu (in the p-th mean) lp (v Lp) k náhodné veličině X, Xn —> X, pokud lim E(|Xn -X|p) —-> 0. n—too Pro p = 1 jde o tzv. limitu podle středu (V/m/r in the mean): lim E(|X„ -X|) —+ 0. Pro p = 2 jde o tzv. limitu podle kvadratického středu (limit in the mean-square): lim e(|X„ -X|2) —> 0. l_ 64/117 Definice (Konvergence skoro všude) Posloupnost náhodných veličin Xi,X2, ... na prostoru s mírou konverguje skoro všude (s. v.) (almost everywhere, a. e.) k náhodné s .v. veličině X, Xn —-> X, pokud ^ í \ co £ Q : lim Xn() ŕ X(o)) = 0, t. j. pokud lim Xn(cú) = X(o)) pro všechna co £ Q \ N, p(N) = 0. Množina N, ^(N) = 0, je tzv. ^-nulová množina. i_ Pokud je míra pravděpodobnostní, ^ = P, potom je s.v. konvergence vlastně konvergencí s.j.. 65/117 Definice (Konvergence podle míry) Posloupnost náhodných veličin Xi,X2, ... na prostoru s mírou (Cl,A,{i) konverguje podle míry (in measure) k náhodné veličině X, Xn —> X, pokud Vč > 0 : lim [í(\Xn - X\ > e) = 0, n—>oo t. j. pokud Vč > 0 : p({o) € Cl : \Xn - X\ > e}) —► 0. I_ Pokud je míra pravděpodobnostní, \i = P, potom je konvergence podle míry vlastně konvergencí podle pravděpodobnosti. 66/117 Vlastnosti: s.j. !► Pokud Xn —> X, potom Xn —> X. 2> Pokud pro každé e> 0 je P(\Xn-X\>e nekonečně často) = 0, s.j. potom Xn —> X. oo 3^ Pokud pro každé £>0 je £p(|X„-X| >e) s.j. n=1 potom Xn —> X. , , s.V. fi 4^ Pokud je míra \i konečná a Xn —> X, potom Xn —> X; s.j. p speciálně: pokud Xn —> X, potom Xn —> X. 5» Pokud I^Ial^ľ, potom ^(X ŕ 7) = 0. 6^ Pokud Xn —> X, potom existuje podposloupnost {Xnk} c {Xn} nk s.v. a náhodná veličina Y tak, že X„fc —-> 7, a ^(X * 7) = 0 7^ Pokud I^Ial^ľ, potom ^(X ŕ Y) = 0. 8» Pokud I^Ial^ľ, potom P(X = 7) = 1. 9» Pokud I^Ial^ľ, potom ^(X ŕ 7) = 0. l2 p 10 ► Pokud Xn —> X, potom Xn —> X. 11 ► Pokud I^Ial^ľ, potom P(X = 7) = 1. 67/117 Příklad Uvažujte posloupnost náhodných veličin {X„}^lj, P(X„=l) = iP(Xň = 0)=l-i p s-i- Ověřte, že Xn —> 0, ale Xn —/-> 0. Využijte přitom Borelovo-Cantelliho lemma k výpočtu P(Xn = 1 nekonečně často) = 1. Příklad Na pravděpodobnostním prostoru (Cl = [0;l],A,X) s Lebesgueovou mírou uvažujte posloupnost náhodných veličin {Xn}™=1, *1 = 1[0;±)> x2 X} = lr i.i v X5 = l\i.r L 4 ' 2 J L 2 ' 4 , )> x6 -1 x7 = 1N)' • • • , Xi4=l|-z;1], Ověřte, že Xn —► 0, ale Xn —/-> 0. 68/117 Příklad Uvažujme Lebesgueovu míru (Cl = M,^4 = £>, A) na M a posloupnost náhodných veličin {Xn}™=1, Xn = l(noo). s v A Ověřte, že Xn —> 0 a Xn —> 0, ale Xn -/-> 0. Lebesgueova míra A na M totiž není konečná. Příklad Uvažujme prostor (Cl = N,A = 2n,^) s čítací mírou ft a posloupnost náhodných veličin {Xn}™=1, Xn =1{\,...,«}■ s .v. Ověřte, že Xn —> 1 a Xn —> 1, ale Xn -/-> 1. Citací míra ^ na N totiž není konečná. Zákony velkých čísel Tvrzení (Slabý zákon velkých čísel) Necht Xi,X2, ... je posloupnost náhodných veličin se stejnou střední hodnotou [i = E(X^) a se stejným rozptylem a2 = Var(Xfc), který je shora omezený. Potom pro každé e > 0 platí _ n tzn. posloupnost částečných průměrů Sn = - Y, konverguje pro k=l — p n -> oo v pravděpodobnosti k [i, Sn —> [i. i_ Tvrzení (Silný zákon velkých čísel) Necht Xi,X2, ... je posloupnost náhodných veličin se stejnou střední hodnotou fí = E(X^) a se stejným čtvrtým centrálním momentem E[(Xk - /O4]. Potom platí P í lim Sn = [i J = 1, tj. Sn —> fí. l_ _ 70/117 Definice (i.d. a i.i.d. náhodné veličiny) Náhodné veličiny v systému {Xk}keI jsou i.d. (identically distributed), pokud pro libovolnou borelovsky měřitelnou funkci h : IR. -> M střední hodnota E[/z(X^)] nezávisí na volbě kel, tj. pokud pro všechna kel stejná. Náhodné veličiny v systému {Xk}k€l jsou i.i.d. (independent identically distributed), pokud jsou i.d. a nezávislé. i_ _ Tvrzení (Slabý a silný zákon velkých čísel pro i.i.d.) Necht X1,X2, ... je posloupnost i.i.d. náhodných veličin s konečnou (stejnou) střední hodnotou. Potom platí: "7! p ► sn —► ^, - s.j. ► Sn —► I_ _ 71/117 Rozdělení pravděpodobnosti Definice (Rozdělení pravděpodobnosti) Nechť X je náhodná veličina na pravděpodobnostním prostoru (0,A-P)- Rozdělení pravděpodobnosti (probability distribution, law) náhodné veličiny X je zobrazení Px ' B -> [0;1], dané předpisem Px (B)=P(XtB)=P (X-\B)) =P({o)£Q: X((ú) é B}) pro B [0;1], dané předpisem F(x) =Fx(x) =Px((-oo,jc]) =P(X — oo x—>oo l_ _ Tvrzení (Change of varíablé) Necht X je náhodná veličina na pravděpodobnostním prostoru (Cl>a,P) a h : M -> M je borelovsky měřitelná funkce. Potom platí EP(h(X)) = f h(X)dP= f h(x)dPx = f h(x)dFx = EPx(h), n r r pokud alespoň jedna střední hodnota existuje. i_ _ Věta říká, že střední hodnotu transformované náhodné veličiny h(X) vzhledem k pravděpodobnosti P lze počítat jako střední hodnotu funkce h vzhledem k rozdělení pravděpodobnosti Px. Borelovsky měřitelná funkce h je totiž vlastně náhodnou veličinou na měřitelném prostoru (M,Z3). Tvrzení (Důsledek) Necht X, Y jsou náhodné veličiny na obecně různých pravděpodobnostních prostorech. Potom Px = Py, právě když E(/z(X)) = E(/z(7)) pro všechny borelovsky měřitelné funkce h : pro které alespoň jedna ze středních hodnot existuje. i_ _ Tvrzení (Důsledek) Necht X, Y jsou náhodné veličiny na stejném pravděpodobnostním prostoru a necht P(X = Y) = 1. Potom p/ar/"E(/z(X)) = E(/z(7)) pro všechny borelovsky měřitelné funkce h : M -> M, pro /cŕeré alespoň jedna ze středních hodnot existuje. i_ _ Tvrzení Necht P\,P2, - -- je posloupnost rozdělení pravděpodobnosti na (R,B). Potom existuje pravděpodobnostní prostor (Cl>A,P) a na něm náhodné veličiny Xi,X2, ... tak, že Px = Pn, n = 1,2,____ i_ 74/117 Uvažujme náhodnou veličinu X, P (X = c) = 1 pro nějaké pevně zvolené x e R. Rozdělení pravděpodobnosti Px nazýváme degenerované (koncentrované) v bodě c, a značíme Px = Sc. Platí Px(B) = ôc(B)=lB(c) = \1> C)B pro B e B. [0, c je B Pro distribuční funkci takové náhodné veličiny s Sc rozdělením pravděpodobnosti platí M*) - {° 0} .X/ *C £ľ TT-r\ , pro x e M. x > c Spočítáme střední hodnotu borelovské transformace h: Ep(h(X))=EPx(h) = f h(x)d8c = h(c), tzn. střední hodnota je vlastně vyhodnocení funkce h v bodě c, Nyní již lehce dokážeme známé vlastnosti: E(X) = c, E(X2) = c2, Var(X) = 0. Tvrzení Nechť PxlyPx2y • • • Je nejvýše spočetná posloupnost rozdělení pravděpodobnosti a ai,a2, ••• > O nezáporné konstanty. Potom pro oo Px = E an Pxn 3 libovolnou borelovsky měřitelnou funkci h : IR. -> M p/aŕ/ y /ídpx=f>„y /ídpx„. r "=1 r OO Pokud navíc Y, an = 1, je Px rozdělení pravděpodobnosti a platí n=l oo n=l l_ _ Věta říká, že pokud je Px konvexní kombinací nejvýše spočetně mnoha rozdělení pravděpodobnosti, lze střední hodnotu vzhledem k Px počítat jako stejnou konvexní kombinaci středních hodnot vzhledem k jednotlivým rozdělením pravděpodobnosti. 76/117 Uvažujme náhodnou veličinu X ~ Po(A). Vime, že P(X = x) =e"A —, x = 0,1,2, ... x! Pro každou B e B nyní lze psát xeB x' x=0 x' a x oo Máme konvexní kombinaci Px = E a* 8X a podle předchozích vět tedy dostáváme známý vztah oo oo J^X Uvědomte si, že uvedený postup lze použít pro každou náhodnou veličinu diskrétního typu. 77/117 Pro libovolnou borelovsky měřitelnou funkci / :R^Rs vlastnostmi f(x) >0, f f(x)d\(x) = 1, kde A je lebesgueova míra na M, definujeme r rozdělení pravděpodobnosti PY(B) = f f(x)lB(x)d\(x), B £ B. r Taková funkce / se nazývá hustota (rozdělení) pravděpodobnosti (vzhledem k Lebesgueově míře) (pdf, probability density function). Často se zkráceně píše Py(B) = ff=f fdX, B B dPy dokonce lze symbolicky psát dPY = fdX, resp. / = ——. dA Později zjistíme, že hustota pravděpodobnosti / je vlastně Radonovou-Nikodymovou derivací rozdělení pravděpodobnosti Py vzhledem k Lebesgueově míře A a odtud plyne i pojmenování, že Y je náhodnou veličinou absolutně spojitého typu. Tvrzení Necht rozdělení pravděpodobnosti Py má hustotu f vzhledem k Lebesgueově míře X. Pro libovolnou borelovsky měřitelnou funkci h : IR. -> M potom platí EPx(h) = f hdPx= f f(x)h(x)dX(x)9 pokud alespoň jedna strana rovnosti existuje. i_ _ Integrál vpravo v tvrzení věty je přitom Lebesgueův. Z teorie míry je známo, že existuje-li Riemannův integrál, oba integrály mají stejnou hodnotu, //W*W tj. X~N(0;l)] 2* Ověřte, že P(|X| = |y|) = 1. 3* Ověřte, že X, Y nejsou nezávislé. 4> Ověřte, že Cov(X, Y) = 0. 5* Zamyslete se nad výsledky předchozích dvou podúkolů. 82/117 Lebesgueova-Stieljesova míra, Lebesgueův-Stieljesův integrál Tvrzení Necht F : IR. -> M je neklesající a zprava spojitá funkce a J je systém intervalu J - {(a,b]; a,b, Gl,a M je neklesající a zprava spojitá funkce. Potom existuje právě jedna míra [íf definovaná na B, taková, že ^((a,b]) = ŕ^fc) - pro a,kK, a < b. i_ _ Definice Míra : £> -> M z předchozí věty se nazývá Lebesgueova-Stieltjesova míra indukovaná funkcí F. i_ _ Lebesgueova míra A je speciálním případem Lebesgueovy-Stieltjesovy míry \iF pro identickou funkci F, F(x) = x. V tom případě totiž máme ^((a, ž?]) = F(b) - F(a) = b - a = A((a, &]). 83/117 (D) Uvažujme posloupnost nezáporných čísel ai,a2, ••• > 0, jejíž řada E^Li an konverguje. Nechť X\,x2, ...je lib. posloupnost reálných čísel Položme F (x) = Y, an- Potom F(x) je neklesající a zprava spojitá. i_ (S) Nechť / : M -> M je (lebesgueovsky) integrovatelná nezáporná funkce. x Potom funkce F(x) = f f(u)áu je neklesající a zprava spojitá. — oo Podmínku neklesající a zprava spojité funkce splňuje mj. každá distribuční funkce F. Náhodným veličinám odpovídají určité distribuční funkce a tedy i určité Lebesgueovy-Stieltjesovy míry [íf. Tvrzení Necht F : M -> M je neklesající a zprava spojitá funkce a necht lim F(x) = 0, lim F(x) = 1. Potom existuje náhodná veličina X X—^—oo x—>oo taková, že F je její distribuční funkcí, tzn. Fx = F. i_ _ 84/117 Definice Nechť F : IR. -> IR. je neklesající a zprava spojitá funkce, ^ je touto funkcí indukovaná Lebesgueova-Stieltjesova míra a h : M -> M je borelovsky měřitelná funkce. Integrál / hd^íp se nazývá Lebesgueův-Stieltjesův integrál funkce h vzhledem k funkci F a označuje se také / hd^p = f hdF. Pro B £ B definujeme oo J h(x)dF(x) = j hd[íF = j h(x)lB d[iF = J h(x)lB(x) d[íF(x) b br -oo l_ Lebesgueův-Stieltjesův integrál je speciálním případem integrálu podle míry, / káp, pro \i = [íf. Lebesgueův integrál je speciálním případem Lebesgueova-Stieltjesova integrálu pro \iF = A, F(x) = x. 85/117 Za podmínek (D) je borelovsky měřitelná funkce h integrovatelná oo vzhledem k funkci F, právě když řada Y h(xn)pn absolutně konverg n=l oo tj. když Y,\h(xn)\pn < oo. V tom případě máme n=l oo /oo oo h(x) dF(x) = Kxn) Pn = Y, h(Xn) AF(xn). ,—i ,—i n=l n=l — oo Za podmínek (S) je borelovsky měřitelná funkce h integrovatelná vzhledem k funkci F, právě když existuje integrál f™h(x)f(x)dx. V tom případě máme oo oo j h(x)dF(x) = j h{x)f{x)dx. -OO OO oo a pro B e B dále J h(x)dF(x) = j h(x) f(x) lB(x) dx. b oo Je-li F diferencovatelná, máme dF(x) = F'{x) dx = f(x) dx. Záměna integrálu a derivace, momentová vytvořující funkce Uvažujme posloupnost náhodných veličin Xi,X2, ... konvergujících skoro s .j. jistě, Xn —> X. Znamená to také, že lim E(Xn) = E(X)? Vime, že n—>oo obecně to neplatí. Věta o monotónní konvergenci říká, že za podmínek Xn z1 X a E(Xx) > -oo opravdu platí lim E(Xn) = E(X). n—>oo Tvrzení (O dominované konvergenci) Necht X,X1,X2, ... jsou náhodné veličiny na pravděpodobnostním i s. j. prostom (H, A,P), necht Xn —> X a existuje náhodná veličina Y, E(7) < oo, \Xn\ ••• náhodných veličin Xi,X2, ... konverguje slabě (weak convergence) k rozdělení pravděpodobnosti Px náhodné veličiny X, pokud pro všechny omezené spojité funkce h : IR. -> M platí Slabá konvergence rozdělení pravděpodobnosti je ekvivalentní konvergenci náhodných veličin v distribuci (in distribution), Xn -—► X, definované jako bodová konvergence distribučních funkcí lim Fn(x) = lim P(Xn < x) = Fx(x) pro všechna xel, kde je F(x) spojitá. i_ _ n r r 93/117 Tvrzení Následující vyjádření jsou ekvivalentní: 1+ posloupnost rozděleníPi,P2, ... slabě konverguje k Px> 2+ lim Fn(x) = Fx{x) pro všechna xeR, Px({x}) = O, 3 + lim Pn(B) = PX(B) pro všechny B e B, s nulovou mírou hranice, Px(dB)=0. 4^ lim / hdPn = / hdPx pro všechny omezené borelovské funkce h n^°°r r s nulovou mírou bodů nespojitosti, 5+ Skorochodova věta (Skorohoďs theorem): na stejném pravděpodobnostním prostoru existují náhodné veličiny 7, Yi, Y2y • • • , takové, že PY = Px> Pyn = Pn, n = 1,2, ..., s.j. i_ _ Tvrzení (postačující podmínka konvergence v distribuci) p d Pokud Xn —> X, potom Xn —> X. i_ _ 94/117 Shrňme si poznatky o konvergencích: Xn —> X Xn —> X => Xn —> X => Xn —> X. Opačná poslední implikace neplatí obecně, pouze ve tvaru Skorochodovy d s.j. věty: Xn —> X => Yn —> Y. Konvergence v distribuci totiž neříká nic o vztahu náhodných veličin X,X1,X2, hovoří jen o jejich rozdělení pravděpodobnosti. Speciálně v případě konstantní náhodné veličiny X = c však ekvivalence platí v celém řetězci konvergencí. Příklad Uvažujme i.i.d. náhodné veličiny X,Xi,X2, ..., P(X = ±1) = |, P(Xn = ±l) = \, n = 1,2, ... Zřejmě Xn X. Ale P(\Xn - X| > 2) = ±, lim P(\Xn - X\ > 2) = \± 0, 2 p s.j. takže Xn -/-> X a tedy Xn —f+ X. 95/117 Následující tvrzení je velmi užitečným nástrojem ve statistice. Tvrzení (Slutského věta, Slutsky theorem) Nechť X,Xi,X2, ..., Yí, Y2, ... jsou náhodné veličiny takové, že Xn —> X, Yn —> c, c g Potom platí: ► Xn + Yn —> X + c, Xn — Yn —> X — c, ^ Xn Yn —> c X, Xn d X ►--> — pro c ± 0. Y c 96/117 Charakteristická funkce, centrální limitní věta Definice (Charakteristická funkce) Charakteristická funkce (characteristic function) náhodné veličiny X na pravděpodobnostním prostoru (Q,A,P) je funkce fx : R -> C, fx(t)=EP(eitx) = EPx(eitx), t e R. i_ _ Vlastnosti charakteristické funkce: ► fx(0) = 1, ► pro nezávislé náhodné veličiny X, Y je yOŕ+y(0 = f x (t) Vr(0» ► protože |e'ŕ*| = 1, vždy platí |Vx(OI ^ 1> ► i^x je vždy stejnoměrně spojitá funkce, ► pro 7~N(0;1) je fY(t) = exp[-\t2]. 97/117 Tvrzení (výpočet momentů) Necht X je náhodná veličina s konečným n-tým momentem, tj. E(|X"|) < oo, a s charakteristickou funkcí fx(t). Potom pro k = 0,1, ..., n platí V<*\t)=E[(iX)ke»x], #(o) = dtk fx(t) = ikE(Xk) t=o i_ Tvrzení (Fourierova věta o jednoznačnosti) Necht X, Y jsou náhodné veličiny. Potom Px = Py, pravé když y/x = fy i_ 98/117 Tvrzení (Fourierova věta o inverzi) Necht fx je charakteristická funkce náhodné veličiny X s rozdělením pravděpodobnosti Px. Pro a,b, eR, a < b, Px({a}) = Px({b}) = 0, potom platí t . + . +, Px([a,b])= lim /---fx(t)át. -t l_ Tvrzení (O spojitosti) Necht P,Pi,P2, ... jsou rozdělení náhodných veličin X,Xi,X2, ... s odpovídajícími charakteristickými funkcemi y, y/i,i//2>____ Potom {Pn}^=l konverguje slabě k P, tj. Xn -^-> X, právě když lim y/n(t) = y/(t) pro všechna reR, tj. právě když posloupnost charakteristických funkcí konverguje bodově. i_ 99/117 Tvrzení (Centrální limitní věta, Central Limit Theorem) Nechť Xi,X2, ... je posloupnost náhodných veličin s konečnou střední hodnotou m a konečným rozptylem s2. Označme částečné součty n Sn = Y, Xk- Potom pro n -> co rozdělení pravděpodobnosti náhodných k=l veličin ———— slabě konverguje /cN(0;l) rozdělení pravděpodobnosti, syn Sn - m n d , —►y, y-N(o;i). S\/n i_ ► Pro každé x e R: lim P I n _ < x ) = 0. Potom rozdělení pravděpodobnosti Px je určené svými momenty, tedy i určené svoji momentovou vytvořující funkcí i_ _ Tvrzení Necht rozdělení pravděpodobnosti Px je určené svými momenty Dále nechť P\,P2, • • • jsou rozdělení pravděpodobnosti posloupnosti náhodných veličin Xi,X2, ..., taková, že f xk dPn(x) < oo pro každé fc, n e N a lim f xk dPn(x) = f xk dPx(x) pro každé hN. Potom n^°°r r Xn —> X, tzn. posloupnost rozdělení pravděpodobnosti slabě konverguje k Px. i_ _ Tvrzení vlastně říká, že z konvergence momentů plyne slabá konvergence, resp. konvergence v distribuci. 102/117 Radonova-Nikodymova derivace, dekompozice rozdělení pravděpodobnosti Definice (Absolutní spojitost měr) Nechť \i, v jsou a-konečné míry na měřitelném prostoru (Cl, A). Míra \i je absolutně spojitá (absolutely continuous) vzhledem k míře v, \i « v, pokud pro všechny Ae A platí: v (A) = 0 => [i(A) = 0. i_ _ Tvrzení (Radonova-Nikodymova věta) Necht fíyV jsou a-konečné míry na měřitelném prostoru (Q,Á). Potom \i « v, právě když existuje nezáporná měřitelná funkce f : Q -> M, taková, že ,{A)-J f(u>) dv(o,) = / f(u>) 1,(0,) dv(o,) pro A € A Tato funkce f je přitom určena jednoznačně až na množinu míry nula. i_ _ Definice (Radonova-Nikodymova derivace) Funkce / z Radonový-Nikodymovy věty se nazývá Radonova-Nikodymova derivace a často se značí f(co) = —j-(co) L dv 103/117 Radonova-Nikodymova derivace je vlastně náhodnou veličinou. Pro každou náhodnou veličinu (měřitelnou funkci) X: Q -> IR. a každou A £ A platí í X(co)du(cú)= ľ X(co)^(cú)dv(cú). J J dv a a Pokud obě uvažované míry jsou pravděpodobnostní, P = \i, Q = v, P « Q, dostáváme r r dP / X(ú))dP(ú))= / X(ú))—(ú))dQ((ú). J J dQ a a Speciálně pro A = Q pak obdržíme vzorec pro výpočet střední hodnoty náhodné veličiny vzhledem ke dvěma pravděpodobnostním mírám P « Q, EP(X) = f X(w)dP(w) = f X(w)j^(w)dQ(w) = EQ (xj?- 104/117 Definice Rozdělení pravděpodobnosti Px je: ► diskrétní, pokud PxO&) = E Px({x}) pro nejvýše spočetnou množinu McR. xeM ► absolutně spojité (vzhledem k Lebesgueově míře A), pokud existuje nezáporná borelovsky měřitelná funkce / : M -> M, taková, že pro každou B e B platí Px(B) = f f(x)dX(x) = f f(x)lB(x)dX(x). b r ► singulární spojité (vzhledem k Lebesgueově míře A), pokud Px({x}) = 0 pro všechna xel, ale přitom existuje množina McR; A(M) =0, PX(M) = 0. 105/117 Tvrzení (Lebesgueova dekompozice rozdělení pravděpodobnosti) Každé rozdělení pravděpodobnosti Px lze jednoznačně rozložit do tvaru Px = PD + Pas + Ps, kde ► Pd je diskrétní rozdělení pravděpodobnosti, ► ^as je rozdělení pravděpodobnosti absolutně spojité vzhledem k X, ► Ps je rozdělení pravděpodobnosti singulární spojité vzhledem k X. Tvrzení (Lebesgueova dekompozice měr) Pokud fíyV jsou dvě o-konečné míry na měřitelném prostoru (Cl>A), potom \i lze jednoznačně rozložit do tvaru V = Vas + ^s> kde ► í^as je míra absolutně spojitá vzhledem k v, ^as « v, ► je singulární míra vzhledem k v, tj. existuje množina M c R; v(M) = 0, ^s(Af) = 0. 106/117 Podmíněná pravděpodobnost, podmíněná střední hodnota, martingal Vime, že pro podmíněnou pravděpodobnost platí P(A\C) = , pokud P(C) > 0. Obecněji, pokud Y je náhodná veličina a P(C) > 0, lze definovat Y\C, rozdělení pravděpodobnosti náhodné veličiny Y podmíněné jevem C, předpisem / x , x P(YtBnC) PYlc(B)=P(YzB\C)= V ;, Podobně lze definovat i podmíněnou střední hodnotu, E(Y1C) E(y|0./,dJV-^. Uvedený postup však zcela selhává v případě P (C) = 0. Podmíněné pravděpodobnosti a podmíněné střední hodnoty i za podmínky s nulovou pravděpodobnostní však v praxi běžně potřebujeme, např. při výpočtech marginálních charakteristik ve vícerozměrných rozděleních pravděpodobnosti. Pro korektní definici tak musíme zvolit zcela jiný, neintuitivní, přístup. 107/117 Definice Nechť (0,A-P) je pravděpodobnostní prostor. Množina H je sub-a-algebra, pokud H <= A a je a-algebrou na H. Náhodná veličina X na (0,A-P) je H-měřitelná, pokud {co e Cl: X(co) < x} e H pro všechna xgI. Dále definujeme a(X) = {{X £B}:BtB} = {{a)£Cl: X((ú) e B} : B e i l_ Uvědomte si, že splňuje E[P(A|X)l{XeB}]=P[An{X€B}]. i_ _ Podmíněnou pravděpodobnost i podmíněnou střední hodnotu zavádíme jako náhodné veličiny na (t(X), což je zcela neintuitivní. Jsme totiž zvyklí s pravděpodobností i se střední hodnotou pracovat jako s čísly. Tento nový přístup však umožňuje překonat problémy s podmiňováním jevy s nulovou pravděpodobností. 1( Při volbě B = R dostáváme E[P(A IX) 1{X€M}] = P[A n {X € R}] = P(A nfl) = P(A), E[E(y | x) i{X€R}] = E[y i{X€R}] = E(y • i) = E(y). To znamená, že v průměru přes všechny možné hodnoty náhodné veličiny X se P(A\X) chová jako P (A) a E(7|X) jako E(7). Již víme, že střední hodnoty nejsou ovlivněny změnami na množině míry nula. Podmíněné pravděpodobnosti a podmíněné střední hodnoty jsou proto určeny jednoznačně až na množinu míry nula. Tvrzení Necht X, Y jsou náhodné veličiny na pravděpodobnostním prostoru (Cl, A,P) a A e A je jev. Potom podmíněná pravděpodobnost P(A\X) a podmíněná střední hodnota E(7|X) vždy existují a jsou určeny jednoznačně až na množinu míry nula. i_ _ 110/117 Konstrukce Pro H g a(X) zavedeme následující míry: ► P0 jako restrikci P na o(X), tj. P0(H) = P(H), ► v předpisem v(H) =P(Anff), ► \r,\T předpisy ^(H) = E(Y+1E) a p-(H) =E(Y~ 1E). Všechny zavedené míry jsou přitom absolutně spojité vzhledem k P0, v « P0, [ŕ « Po a ^" « P0. Podle Radonový-N ikodymovy tedy věty M.. dv / x d^+ / x du~ existuji Radonový-N i kodymovy derivace ——(co), ——(co) a ——(co) dP0 dP0 dP0 a jsou určeny jednoznačně až na množinu míry (P0) nula. Nyní definujeme ► E(y|X)(a,) = ^(a,)-^(a>), dP0 dP0 dv ► P(A\X)(o>) = —(o>). dP0 111/117 Definice (podmiňování sub-a-algebrou) Obecně definujeme podmíněnou střední hodnotu E(A\H)(co) a podmíněnou pravděpodobnost P (A\H)(lo) za podmínky dané sub-a-algebrou 1~L jako 7^-měřitelné náhodné veličiny splňující pro všechny H é % podmínky E[E(y|W)lH] =E[71H], E[P(A IH) 1h] = E[E(1A I H) 1h] = P[A n H]. Konstrukce Pro H zavedeme následující míry: ► P0 jako restrikci P na H, tj. P0(H) = P(H), ► v předpisem v(fí) =P(Anfí), ► p+,jT Podpisy ^+(H) =E(Y+1H) a p"(H) =E(y-lH). Nyní definujeme ► E(y|«)(«) = Í^(w)-f£(«), ► P(A|«)(W) = -^-(«). ^ dP0 112/117 Při volbě T-L = o(X) zjistíme, že vlastně platí P(A | a(X)) = P(A | X), E(A | a(X)) = E(A | X). Při volbě T-L = {0,Cl} obdržíme konstantní náhodné veličiny P(A\{0,a})(co)=P(A), E(A\{0,a})(w) = E(7) Při volbě % = .4. obdržíme P(A\a)(w) =lA(u)), E(A\a)(w) = Y(w) Definice Podmíněný rozptyl náhodné veličiny Y při dané náhodné veličině X, resp. při dané sub-a-algebře %, je Var(71X) = E[(7 - E(71X))2 | x], Var(7|H) =e[(Y-E(Y\H))2\h]. i_ Podmíněný rozptyl kvantifikuje rozptyl Y při znalosti X. Tvrzení Pokud Var(7) < oo, potom platí Var(y) =E[Var(7|X)] + Var[E(71X)], Var(7) = E[Var(71 H)] + Var[E(71 H)\ i_ Nepodmíněný rozptyl lze rozložit na střední hodnotu podmíněného rozptyl a rozptyl podmíněné střední hodnoty. 114/117 Tvrzení Necht X, Y jsou náhodné veličiny na pravděpodobnostním prostoru (fi,AP), E(7) < oo, E(Xľ) Roussas G. G. (2014) An Introduction to Measure-Theoretic Probability 3^ Riečan B. (2015) Miniteória pravděpodobnosti 4^ Riečan B. (1972) O pravděpodobnosti a miere 117/117