Motivace: Matematická statistika je věda, která analyzuje a interpretuje data především za účelem získání předpovědi a zlepšení rozhodování v různých oborech lidské činnosti. Přitom se řídí principem statistické indukce, tj. na základě znalostí o náhodném výběru z určitého rozložení pravděpodobností se snaží učinit závěry o vlastnostech tohoto rozložení. Ústředním pojmem matematické statistiky je tedy pojem náhodného výběru. Osnova: náhodný výběr z jednorozměrného a vícerozměrného rozložení statistika jako funkce náhodného výběru bodové a intervalové odhady parametrů a parametrických funkcí Definice náhodného výběru: a) Nechť X1? Xn jsou stochasticky nezávislé náhodné veličiny, které mají všechny stejné rozložení L(i3-). Řekneme, že Xi, Xn je náhodný výběr rozsahu n z rozložení L(i3-). (Číselné realizace Xi, xn náhodného výběru Xi? Xn uspořádané do sloupcového vektoru odpovídají datovému souboru zavedenému v popisné statistice.) b) Nechť (X^YO, (Xn,Yn) jsou stochasticky nezávislé dvourozměrné náhodné vektory, které mají všechny stejné dvourozměrné rozložení h2(ů). Řekneme, že (Xi,Yi), (Xn,Yn) je dvourozměrný náhodný výběr rozsahu n h2(ů). (Číselné realizace (x^yO, (xn,yn) náhodného výběru (X^Y^, (Xn,Yn) uspořádané do matice typu 2xn odpovídají dvourozměrnému datovému souboru zavedenému v popisné statistice.) c) Analogicky lze definovat p-rozměrný náhodný výběr rozsahu n z p-rozměrného rozložení Lp($). Definice statistiky: Libovolná funkce T = T(X1? Xn) náhodného výběru X1? Xn (resp. T = T(Xi,Yi, Xn,Yn) náhodného výběru (Xi,Yi), (Xn,Yn)) se nazývá (výběrová) statistika. Definice důležitých statistik: a) Nechť X1?Xn je náhodný výběr, n > 2. 1 11 2 1 n I- Označme M = — Y X; ... výběrový průměr, S =-V (x; - m)2 ... výběrový rozptyl, S = vS2 ... výběrová směrodatná odchylka Pro libovolné, ale pevně dané reálné číslo x je statistikou též hodnota výběrové distribuční funkce Fn(x) = — card{i;X; < x} n b) Nechť je dáno r > 2 stochasticky nezávislých náhodných výběrů o rozsazích ni > 2, ..., nr > 2. r Celkový rozsah je n = ^iij. 2 2 ? Označme Mi, ..., Mr výběrové průměry a Si , ..., Sr výběrové rozptyly jednotlivých výběrů. Nechť Ci, ..., cr jsou reálné konstanty, aspoň jedna nenulová. cj^j • • • lineární kombinace výběrových průměrů, S«2 = —-... vážený průměr výběrových rozptylů. j=i n"r c) Nechť (Xi,Yi), (Xn,Yn) je náhodný výběr z dvourozměrného rozložení o rozsahu n. Označme M, =— V X;, M2 =— Y Y; výběrové průměry, =-Y(x; -Mj2, S22 =-Tl(Yi ~M2)2 výběrové rozptyly. ÍS, 1 11 Si2 =-X(Xí ~ Mi )(Yi ~ M2) • • • výběrová kovariance, Ri2 = ' n_li^ [o jinak Pro libovolnou, ale pevně zvolenou dvojici reálných čísel x,y je statistikou též hodnota výběrové simultánní distribuční funkce Fn(x, y) = —card{i;X; < x a Y; < y}. SjS2 pro SXS2 # 0 .. výběrový koeficient korelace. Upozornění: Číselné realizace statistik M, S2, S, Si2, R12 odpovídají číselným charakteristikám m, s2, s, Si2, rí2 zavedeným v popisné statistice, ale u rozptylu, směrodatné odchylky, kovariance a koeficientu korelace je multiplikativní konstanta —!—, nikoliv —, jak tomu bylo v popisné statistice. Jak uvidíme později, uvedené číselné realizace mohou být považovány n-1 n za odhady číselných realizací náhodných veličin zavedených v počtu pravděpodobnosti. Charakteristika vlastnosti Počet pravděpodobnosti Matematická statistika Popisná statistika poloha E(X) = \i M m variabilita D(X) = o2 S2 n-1 , -s n variabilita Vd(x) = a S n-1 V n společná variabilita C(Xi, X2) = a 12 S12 n-1 S12 n těsnost vztahu R(Xi, X2) = p R12 r 12 rozložení O(x) F„(x) F(x) Desetkrát nezávisle na sobě byla změřena jistá konstanta (i. Výsledky měření byly: 2 1,8 2,1 2,4 1,9 2,1 2 1,8 2,3 2,2. Tyto výsledky považujeme za číselné realizace náhodného výběru X1? X10. Vypočtěte realizaci m výběrového průměru M, realizaci s2 výběrového rozptylu S2, realizaci s výběrové směrodatné odchylky S a hodnoty výběrové distribuční funkce Příklad (výpočet realizace výběrového koeficientu korelace): U 11 náhodně vybraných aut jisté značky bylo zjišťováno jejich stáří (náhodná veličina X - v letech) a cena (náhodná veličina Y - v tisících Kč). Výsledky: (5, 85), (4, 103), (6, 70), (5, 82), (5, 89), (5, 98), (6, 66), (6, 95), (2, 169), (7, 70), (7, 48). Vypočtěte a interpretujte číselnou realizaci rí2 výběrového koeficientu korelace Ri2. v Řešení: m, = -Jx1=-í-(5 + 4 + ... + 7) = 5,28 ntŕ 11 = -fyi = — (85 + 103 + . .. + 48) = 88, nj-f 11 í n n-H i Z*, 2 2 -nm, 1 V i=i í n = — (52 +42 +... + 72 -ll-5,282)=2,02 10 n-1 1 2 2 -nm, V i=i í n = — (852 +1032 +... + 482 -11 • 88,632) = 970,85 J 10 '12 r!2 = n-1 S12 ■nnijirij Vi=i J -40,82 = —(5-85 + 4-103 + .. . + 7- 48-11-5,28-88,63) = -40,89 10 = -0,92 srs2 7^Ô2--\/970,85 Mezi náhodnými veličinami X a Y existuje silná nepřímá lineární závislost. Čím starší auto, tím nižší cena. Bodové a intervalové odhady parametru a parametrických funkcí Vycházíme z náhodného výběru Xi, Xn z rozložení L(#), které závisí na parametru ů. Množinu všech přípustných hodnot tohoto parametru označíme S. Tato množina se nazývá parametrický prostor. Např. je-li Xi, Xn náhodný výběr z rozložení N(u.,g2), pak ů = (p.,02) a v tomto případě parametrický prostor S = (— oo5oo)x ^0,00) . Parametr ů neznáme a chceme ho odhadnout pomocí daného náhodného výběru (případně chceme odhadnout nějakou p rametrickou funkci h($)). Bodovým odhadem parametrické funkce h(ů) je statistika Tn = T(Xi, Xn), která nabývá hodnot blízkých h(ů), ať je hodnota parametru ů jakákoliv. Existují různé metody, jak konstruovat bodové odhady (např. metoda momentů či metoda maximální věrohodnosti, ale těmi se zde zabývat nebudeme) a také různé typy bodových odhadů. Omezíme se na odhady nestranné, asymptoticky nestranné a konzistentní. Intervalovým odhadem parametrické funkce h(ů) rozumíme interval (D, H), jehož meze jsou statistiky D = D(Xi, Xn), H = H(Xi, Xn) a který s dostatečně velkou pravděpodobností pokrývá h(ů), ať je hodnota parametru ů jakákoliv. Typy bodových odhadů Nechť Xi, Xn je náhodný výběr z rozložení L(ů), h(ů) je parametrická funkce, T, Tl5 T2, ... jsou statistiky. a) Řekneme, že statistika T je nestranným odhadem parametrické funkce h(ů), jestliže VůeZ: E(T) = h(ů). (Význam nestrannosti spočívá v tom, že odhad T nesmí parametrickou funkci h(ů) systematicky nadhodnocovat ani podhodnocovat. Není-li tato podmínka splněna, jde o vychýlený odhad.) b) Jsou-li Ti, T2 nestranné odhady téže parametrické funkce h(ů), pak řekneme, že Ti je lepší odhad než T2, jestliže V-ôeS: D(Ti) 0: lim P(ÍTn - h(ů)\ > e) = 0. (Význam konzistence spočívá v tom, že s rostoucím rozsahem výběru klesá pravděpodobnost, že odhad se bude realizovat „daleko" od parametrické funkce h(ů).) Lze dokázat, že z nestrannosti odhadu vyplývá jeho asymptotická nestrannost a z asymptotické nestrannosti vyplývá konzistence, pokud posloupnost rozptylů odhadu konverguje k nule. Vlastnosti důležitých statistik a) Případ jednoho náhodného výběru: Nechť X1?Xnje náhodný výběr z rozložení se střední hodnotou li, rozptylem o a distribuční funkcí 2. Označme Mn výběrový průměr, Sn výběrový rozptyl a pro libovolné, ale pevně dané x g R označme Fn(x) hodnotu výběrové distribuční funkce. Pak pro libovolné hodnoty parametrů li , o2 a libovolné, ale pevně dané reálné číslo x platí: E(Mn) = li, D(Mn) = ^, E(Sn2) = a2, D(Sn2) = — _a (n kde y4 je 4. centrální moment, n n(n-l) E(Fn(x)) = 2 stochasticky nezávislých náhodných výberu: Nechť xn,...,xln , xrl,...,xm je r stochasticky nezávislých náhodných výběrů o rozsazích n! > 2, nr > 2 z rozložení se středními hodnotami fi1? fir a rozptylem o2. Celkový rozsah r je n = ^iij. Nechť Ci, cr jsou reálné konstanty, aspoň jedna nenulová. Pak pro libovolné hodnoty parametrů (ii, ..., (ir a o H platí: f r V -H J H E(S* ) = o . r Znamená to, že lineární kombinace výběrových průměrů 2]cjmj Je nestranným odhadem lineární kombinace středních hod- H not ^cjl^j a vážený průměr výběrových rozptylů Sa j=i 2 _ j=l n -r 2 je nestranným odhadem rozptylu o c) Případ jednoho náhodného výběru z dvourozměrného rozložení: Nechť (X^Y^, (Xn,Yn) je náhodný výběr z dvourozměrného rozložení s kovariancí cl2 a koeficientem korelace p. Pak pro libovolné hodnoty parametrů cl2 a p platí: E(Si2) = a i2, E(R12) ~ p (shoda je vyhovující pro n > 30). Znamená to, že výběrová kovariance Si2 je nestranným odhadem kovariance aí2, avšak výběrový koeficient korelace Ri2 je vychýleným odhadem koeficientu korelace p. Pojem intervalu spolehlivosti Nechť Xi,Xn je náhodný výběr z rozložení L(ů), h(ů) je parametrická funkce, ae(0,l), D = D(Xi, Xn), H = H(Xi, Xn) jsou statistiky. a) Interval (D, H) se nazývá 100(l-a)% (oboustranný) interval spolehlivosti pro parametrickou funkci h(ů), jestliže: s :P(D < h(ť>) < H) > 1-a. b) Interval (D, oo) se nazývá 100(l-a)% levostrar nterval spolehlivosti pro parametrickou funkci h(ů), jestliže: \/ůe s :P(D < hO)) > 1-a. c) Interval (-00, H) se nazývá 100(l-a)% pravostrar nterval spolehlivosti pro parametrickou funkci h(ů), jestliže: v#e s :P(h(» < H) > 1-a. Číslo a se nazývá riziko (zpravidla a = 0,05, méně často 0,1 či 0,01), číslo 1 - a se nazývá spolehlivost. Postup při konstrukci intervalu spolehlivosti a) Vyjdeme ze statistiky V, která je nestranným bodovým odhadem parametrické funkce h(ů). b) Najdeme tzv. pivotovou statistiku W, která vznikne transformací statistiky V, je monotónní funkcí h(ů) a přitom její rozložení je známé a na h(ů) nezávisí. Pomocí známého rozložení pivotové statistiky W najdeme kvantily w^, Wi.o/2, takže platí: V$e S: P(Wo^ < W < Wi.^) > 1 - a. c) Nerovnost < W < Wj.^ převedeme ekvivalentními úpravami na nerovnost D < h(ů) < H. d) Statistiky D, H nahradíme jejich číselnými realizacemi d, h a získáme tak 100(l-a)% empirický interval spolehlivosti, o němž prohlásíme, že pokrývá h(ů) s pravděpodobností aspoň 1 - a. (Tvrzení, že (d,h) pokrývá h(ů) s pravděpodobností aspoň 1 - a je třeba chápat takto: jestliže mnohonásobně nezávisle získáme realizace xi,xn náhodného výběru Xi, Xn z rozložení L(ů) a pomocí každé této realizace sestrojíme 100(l-a)% empirický interval spolehlivosti pro h(ů), pak podíl počtu těch intervalů, které pokrývají h(ů) k počtu všech sestrojených intervalů bude přibližně 1 - a.) Ilustrace: Jestliže lOOx nezávisle na sobě uskutečníme náhodný výběr z rozložení se střední hodnotou 11 a pokaždé sestrojíme 95% empirický interval spolehlivosti pro 11, pak přibližně v 95-ti případech bude ležet parametr 11 v intervalech spolehlivosti a asi v 5-ti případech interval spolehlivosti ii nepokryje. Volba oboustranného, levostranného, nebo pravostranného intervalu: závisí na konkrétní situaci. Např. oboustranný interval spolehlivosti použije konstruktér, kterého zajímá dolní i horní hranice pro skutečnou délku fi nějaké součástky. Levostranný interval spolehlivosti použije výkupčí drahých kovů, který potřebuje znát dolní mez pro skutečný obsah zlata fi v kupovaném slitku. Pravostranný interval spolehlivosti použije chemik, který potřebuje znát horní mez pro obsah nečistot fi v analyzovaném vzorku. Příklad: Nechť Xl5Xn je náhodný výběr z rozložení N(li,o2), kde n > 2 a rozptyl o2 známe. Sestrojte 100(l-a)% interval spolehlivosti pro neznámou střední hodnotu li. Řešení: V tomto případě parametrická funkce h(ů) = li. Nestranným odhadem střední hodnoty je výběrový průměr M = 1 ^ n ;= 2]x; . Protože M je lineární kombinací normálně rozložených náhodných veličin, bude mít také normální rozložení se í=i střední hodnotou E(M) = li a rozptylem D(M) = —. Pivotovou statistikou W bude standardizovaná náhodná veličina n u = M-u_ ^n(0?1) a Kvantll Wo/2 = = -Ul-a/2, Wi-a/2 = Ui. a/2- VŮG S : 1 - tt < PC-Ui.a/2 < U < Ui.a/2) = P Ul-a/2 < M-(i a < u l-a/2 M--^Ul-a/2 <(^, m + —j= u j_ V Vn Dosadíme-li do vzorců pro dolní a horní mez číselnou realizaci m výběrového průměru M, dostaneme 100(l-a)% empirický interval spolehlivosti. Postup si ukážeme na následujícím numerickém příkladu. Příklad: 10 krát nezávisle na sobě byla změřena jistá konstanta u.. Výsledky měření byly: 2 1,8 2,1 2,4 1,9 2,1 2 1,8 2,3 2,2. Výsledky považujeme za číselné realizace náhodného výběru Xi, Xi0 z rozložení N(u,, a2), kde fi neznáme a a2 = 0,04. Najděte 95% empirický interval spolehlivosti pro u., a to a) oboustranný, b) levostranný, c) pravostranný. Řešení: Vypočteme realizaci výběrového průměru: m = 2,06. Riziko a je 0,05. V tabulkách najdeme kvantil u0,975 = 1,96 pro oboustranný interval spolehlivosti a kvantil u0,95 = 1,64 pro jednostranné intervaly spolehlivosti. ad a) d = m —= Ui-a/2 = 2,06 0,2 Viď 1,96 = 1,94 h = m + ui-ofc = 2,06 + -^L 1,96 = 2,18 Vn VlO 1,94 < fi< 2,18 s pravděpodobností aspoň 0,95. ad b) d = m —= Ui_a = 2,06 Vn 0,2 1,64 = 1,96 1,96 < (i s pravděpodobností aspoň 0,95. ad c) h = m + Ul.a = 2,06 + -^L 1,64 = 2,16 Vn VlO fi< 2,16 s pravděpodobností aspoň 0,95. Šířka intervalu spolehlivosti Nechť (d, h) je 100(l-a)% empirický interval spolehlivosti pro h(ů) zkonstruovaný pomocí číselných realizací xl9xn náhodného výběru X1?Xn z rozložení L($). a) Při konstantním riziku klesá šířka h-d s rostoucím rozsahem náhodného výběru. b) Při konstantním rozsahu náhodného výběru klesá šířka h-d s rostoucím rizikem. Ilustrace ad a) Grafické znázornění závislosti dolních a horních meze 95% empirických intervalů spolehlivosti pro střední hodnotu normálního rozložení při známém rozptylu na rozsahu náhodného výběru: 0 10 20 30 40 50 SO 70 80 90 Šířka intervalu spolehlivosti klesá se zvětšujícím se rozsahem náhodného výběru, zprvu rychle a pak stále pomaleji, ad b) Grafické znázornění závislosti dolních a horních mezí 100(l-a)% empirických intervalů spolehlivosti pro střední hodnotu normálního rozložení při známém rozptylu a konstantním rozsahu výběru na riziku: Vidíme, že šířka intervalu spolehlivosti s rostoucím rizikem klesá. Příklad: (stanovení minimálního rozsahu výběru z normálního rozložení) Nechť X1? Xn je náhodný výběr z N(u, o2), kde o2 známe. Jaký musí být minimální rozsah výběru n, aby šířka 100(l-a)% empirického intervalu spolehlivosti pro střední hodnotu fi nepřesáhla číslo A? Řešení: Požadujeme, aby A > h - d = m + —j=ul_a/2 -(m-—j=ul_a/2) =-=Uj_a/2. Z této podmínky dostaneme, že n > . Za rozsah výběru zvolíme nejmenší přirozené číslo vyhovující této podmínce. Příklad: Hloubka moře se měří přístrojem, jehož systematická chyba je nulová a náhodné chyby měření mají normální rozložení se směrodatnou odchylkou o = 1 m. Kolik měření je nutno provést, aby se hloubka stanovila s chybou nejvýše + 0,25 m při spolehlivosti 0,95? Řešení: Hledáme rozsah výběru tak, aby šířka 95% intervalu spolehlivosti pro střední hodnotu fi nepřesáhla 0,5 m. Přitom o známe. Z předešlého příkladu vyplývá, že n > 4°2Ui-a/22 4-1,96' 0,5 2 - 61,4656. Nejmenší počet měření je tedy 62.