Literatura Střední hodnota, rozptyl a kvantilová funkce Kovariance Momentová funkce Matematika III – 10. týden Číselné charakteristiky – střední hodnota, rozptyl, kovariance, korelace, momenty Jan Slovák Masarykova univerzita Fakulta informatiky 23.–27. 11. 2015 Literatura Střední hodnota, rozptyl a kvantilová funkce Kovariance Momentová funkce Obsah přednášky 1 Literatura 2 Střední hodnota, rozptyl a kvantilová funkce 3 Kovariance 4 Momentová funkce Literatura Střední hodnota, rozptyl a kvantilová funkce Kovariance Momentová funkce Kde je dobré číst? Karel Zvára, Josef Štěpán, Pravděpodobnost a matematická pravděpodobnost statistika, Matfyzpress, 2006, 230pp. J. Slovák, M. Panák, M. Bulant, Matematika drsně a svižně, Muni Press, Brno 2013, v+773 s., elektronická edice www.math.muni.cz/Matematika_drsne_svizne Marie Budíková, Štěpán Mikoláš, Pavel Osecký, Teorie pravděpodobnosti a matematická statistika (sbírka příkladů), Masarykova univerzita, 3. vydání, 2004, 117 stran, ISBN 80-210-3313-4. Marie Budíková, Tomáš Lerch, Štěpán Mikoláš, Základní statistické metody, Masarykova univerzita, 2005, 170 stran, ISBN 80-210-3886-1. Riley, K.F., Hobson, M.P., Bence, S.J. Mathematical Methods for Physics and Engineering, second edition, Cambridge University Press, Cambridge 2004, ISBN 0 521 89067 5, xxiii + 1232 pp. Literatura Střední hodnota, rozptyl a kvantilová funkce Kovariance Momentová funkce Střední hodnota Nechť X je náhodná veličina s diskrétním rozdělením. Jestliže řada ∞ k=1 xi P(X = xi ) konverguje absolutně (zejména tedy pro všechny X s konečně mnoha možnými hodnotami xi ), pak její součet E X nazýváme střední hodnotou X. Je-li X náhodná veličina se spojitým rozdělením s hustotou f (x) a nevlastní integrál ∞ −∞ xf (x)dx konverguje absolutně, pak jeho hodnota E X se nazývá střední hodnota X. Je tedy E X = np, je-li X ∼ Bi(n, p), zatímco pro rovnoměrné rozdělení na intervalu (a, b) dostaneme dle očekávání E X = b a x b − a dx = 1 2 b2 − a2 b − a = 1 2 (a + b). Literatura Střední hodnota, rozptyl a kvantilová funkce Kovariance Momentová funkce Vlastnosti střední hodnoty Theorem Uvažme náhodné veličiny X, Y , skaláry a, b ∈ R, náhodný vektor W = (X1, . . . , Xn) a čtvercovou skalární matici B s n řádky. Pro konstantní náhodnou veličinu X = a ∈ R je E a = a. E(a + bX) = a + b E X. E(X + Y ) = E X + E Y . E(a + BW ) = a + B(E W ). Theorem Jsou-li veličiny X a Y nezávislé, pak E(XY ) = E X E Y . Literatura Střední hodnota, rozptyl a kvantilová funkce Kovariance Momentová funkce Rozptyl Další charakteristika popisuje, jak moc se dá čekat, že se hodnoty náhodné veličiny „hemží“ kolem nějaké hodnoty. Definition Nechť X je náhodná veličina s konečnou střední hodnotou. Pak definujeme rozptyl veličiny X výrazem var X = E(X − E X)2 , pokud taková konečná hodnota existuje. Odmocnina z rozptylu √ var X se nazývá směrodatná odchylka náhodné veličiny X. Jde o zjevnou obdobu definice kvadrátu vzdálenosti vektorů nebo funkcí. Zachycujeme tak „očekávanou vzdálenost“ hodnot X od její střední hodnoty. Literatura Střední hodnota, rozptyl a kvantilová funkce Kovariance Momentová funkce Theorem Jestliže má náhodná veličina X konečný rozptyl, pro libovolné skaláry a, b ∈ R platí var X = E X2 − (E X)2 var(a + bX) = b2 var X var(a + bX) = |b| √ var X. Občas přiřazujeme k X normovanou veličinu Z, Z = X − E X √ var X , která má zjevně nulovou střední hodnotu a jednotkový rozptyl. Literatura Střední hodnota, rozptyl a kvantilová funkce Kovariance Momentová funkce Normální rozdělení Z má hustotu ϕ(z) = 1√ 2π e−z2/2 distribuční funkci Φ(z) = z −∞ ϕ(t)dt = z −∞ 1√ 2π e−z2/2dt. Náhodná veličina Y = µ + σZ, µ, σ ∈ R, σ > 0 má distribuční funkci FY (y) = y−µ σ −∞ 1 √ 2π e−z2/2 dz {substituce x = µ + σz} = y −∞ 1 √ 2πσ exp − (x − µ)2 2σ2 dx Takové rozdělení je normální, píšeme Y ∼ N(µ, σ2). Parametry odpovídají střední hodnotě a rozptylu. Literatura Střední hodnota, rozptyl a kvantilová funkce Kovariance Momentová funkce Uvažme Z ∼ N(0, 1) a podívejme se na náhodnou veličinu X = Z2. FX (x) = P[Z2 < x] = √ x − √ x 1 √ 2π e−z2/2 dz = x 0 1 √ 2π t−1/2 e−t/2 dt s hustotou fX (x) = 1 √ 2π t−1/2 e−t/2 . Říkáme mu rozdělení χ2, píšeme X ∼ χ2(1). Literatura Střední hodnota, rozptyl a kvantilová funkce Kovariance Momentová funkce kvantilová funkce Je-li F(x) distibuční funkce náhodné veličiny X, pak F−1 (u) = inf{x ∈ R; F(x) ≥ u}, 0 < u < 1 je kvantilová funkce náhodné veličiny X. Hodnota F−1(α) se nazývá α-kvantil. Tzv. kritické hodnoty pro veličinu X jsou pak F−1(1 − α). Literatura Střední hodnota, rozptyl a kvantilová funkce Kovariance Momentová funkce Čebyševova nerovnost Theorem Má-li X rozptyl a > 0 je libovolné, pak platí P(|X − E X| ≥ ) ≤ var X 2 . Literatura Střední hodnota, rozptyl a kvantilová funkce Kovariance Momentová funkce Kovariance veličin Jsou-li X a Y dvě náhodné veličiny, pro které existují jejich konečné royptyly, pak definijeme jejich kovarianci vztahem cov(X, Y ) = E(X − E X)(Y − E Y ). Evidentně je cov(X, X) = var X a cov(X, Y ) = cov(Y , X). Theorem Nechť existují konečné rozptyly veličin X a Y . Pak cov(X, Y ) = E(XY ) − (E X)(E Y ) pro jakékoliv skaláry a, b, c, d platí cov(a + bX, c + dY ) = bd cov(X, Y ) var(X + Y ) = var X + var Y + 2 cov(X, Y ). Literatura Střední hodnota, rozptyl a kvantilová funkce Kovariance Momentová funkce Od kovariance snadno odvodíme tzv. korelační koeficient dvou náhodných veličin X a Y . Definujeme jej jako kovarianci příslušných normovaných veličin: ρX,Y = cov X − E X √ var X , Y − E Y √ var Y = cov(X, Y ) √ var X varY . Theorem ρa+bX,c+dY = sign(bd)ρX,Y , pro bd = 0 ρX,X = 1 ρX,Y = 0, pokud jsou veličiny X a Y nezávislé. pokud je ρX,Y definován, pak je v absolutní hodnotě roven jedné právě, když existují konstanty a, b, c tak, že P(aX + bY = c) = 1. Literatura Střední hodnota, rozptyl a kvantilová funkce Kovariance Momentová funkce Varianční matice Uvažme náhodný vektor W = (X1, . . . , Xn) takový, že pro všechny jeho komponenty existuje rozptyl. Pak varianční matice var W je dána var W =     var X1 cov(X1, X2) . . . cov(X1, Xn) cov(X2, X1) var X2 . . . cov(X2, Xn) . . . cov(Xn, X1) cov(Xn, X2) . . . var Xn     . Theorem Pro náhodný vektor X, skaláry a, matice skalárů B platí var(a + BX) = B var XBT . Literatura Střední hodnota, rozptyl a kvantilová funkce Kovariance Momentová funkce Momenty Podobně jako rozptyl můžeme uvažovat výrazy vyšších řádů: µk = E Xk , µk = E(X − E X)k . Nazýváme je k-tý moment a k-tý centrální moment náhodné veličiny X. Momenty lze všechny dostat jako koeficienty v mocninné řadě následujícím způsobem. Pro volný reálný parametr t definujeme momentovou vytvořující funkci pro náhodnou veličinu X vztahem MX (t) = E etX . Tato funkce (za docela rozumných předpokladů následující věty) zcela určuje náhodné veličiny a má řadu užitečných vlastností (tj. stejná momentová funkce na nějakém netriviálním intervalu =⇒ stejná distribuční funkce). Literatura Střední hodnota, rozptyl a kvantilová funkce Kovariance Momentová funkce Theorem Nechť X je náhodná veličina pro kterou na intervalu (−a, a) existuje její analytická momentová vytvořující funkce. Pak na tomto intervalu je MX (t) dána absolutně konvergující řadou Mt(X) = ∞ k=0 tk k! E Xk . Theorem Pro součet náhodných veličin platí: MX+Y (t) = MX (t)MY (t). Literatura Střední hodnota, rozptyl a kvantilová funkce Kovariance Momentová funkce Momentová vytvořující funkce pro X ∼ Bi(0, 1) Často je jednodušší počítat momenty z jejich vytvořující funkce než přímo. Pro alternativní rozdělení náhodné veličiny Y ∼ A(p) spočteme snadno MY (t) = E etY = e0 (1 − p) + et p = p(et − 1) + 1. Protože je binomické rozdělení X ∼ Bi(n, p) dáno jako součet n alternativních rozdělení Yi ∼ A(p), je zjevně v tomto případě M(t) = MX (t) = (p(et − 1) + 1)n . Obecně platí µk = dk dtk MX (t)|t=0. Je tedy např. první moment binomického rozdělení skutečně np (první derivace M(t) v nule), což je střední hodnota. Druhý moment je np(1 − p), čímž jsme ověřili výsledek pro rozptyl. Literatura Střední hodnota, rozptyl a kvantilová funkce Kovariance Momentová funkce Momentová vytvořující funkce pro Z ∼ N(0, 1) MZ (t) = ∞ −∞ etx 1 √ 2π exp(−x2 /2)dx = ∞ −∞ 1 √ 2π exp − x2 − 2tx + t2 − t2 2 dx = exp(t2 /2) ∞ −∞ 1 √ 2π exp − (x − t)2 2 dx = exp(t2 /2). (V předposledním řádku je integrálem dána pravděpodobnost jakékoliv hodnoty pro normální rozdělení, proto je to jednička.) Derivováním: (MZ ) (0) = 0 a (MZ ) (0) = (tet2/2) (0) = 1. Je tedy skutečně E Z = 0, var Z = 1.