Statistika
Přírodovědecká fakulta Masarykovy univerzity
RNDr. Marie Budíková, Dr., Monika Kroupová, Jitka Šályová

Zákon velkých čísel

Zákon velkých čísel popisuje skutečnost, že s rostoucím počtem opakovaných nezávislých pokusů se empirické charakteristiky, které popisují výsledky těchto pokusů, blíží k teoretickým charakteristikám.

Slabý zákon velkých čísel

Uvažujeme nekonečnou posloupnost náhodných veličin $X_1, X_2, \dots$, které jsou stochasticky nezávislé, pocházejí ze stejného rozdělení a mají stejnou konečnou střední hodnotu $E(X_n)$ a stejný konečný rozptyl $D(X_n)$. Pak náhodná veličina $\overline{X_n}=\frac{1}{n} (X_1+X_2+\dots+ +X_n)$ konverguje ke střední hodnotě $E(X_n)$ tak, že pro libovolné $\varepsilon > 0$ platí

\begin{align} \lim_{n \rightarrow \infty} P(|\overline{X_n}-E(X_n)| \leq \varepsilon) = 1. \tag{2.5} \end{align}

Vztah můžeme ekvivalentně zapsat jako

\begin{align} \overline{X_n} \xrightarrow[n \rightarrow \infty]{P} E(X_n). \tag{2.6} \end{align}

Tedy při velkém počtu nezávislých pokusů se aritmetický průměr výsledků jednotlivých pokusů liší od střední hodnoty jen málo. Střední hodnotu $E(X_n)$ můžeme odhadnout pomocí průměru výsledků jednotlivých pokusů při dostatečně velkém $n$.

Markovova nerovnost

Nechť $X$ je nezáporná náhodná veličina, která má střední hodnotu $E(X)$. Nechť $\varepsilon$ je libovolné kladné číslo. Pravděpodobnost toho, že veličina $X$ nabude hodnotu alespoň $\varepsilon$, je

\begin{align} P(X > \varepsilon) \leq \frac{E(X)}{\varepsilon}. \tag{2.7} \end{align}

Vztah (2.7) můžeme ekvivalentně zapsat ve tvaru

\begin{align} P(X> \varepsilon \cdot E(X)) \leq \frac{1}{\varepsilon}. \tag{2.8} \end{align}

Čebyševova nerovnost

Nechť $X$ je náhodná veličina, která má střední hodnotu $E(X)$ a rozptyl $D(X)$. Nechť $\varepsilon$ je libovolné kladné číslo. Pravděpodobnost toho, že absolutní odchylka $|X-E(X)|$ nabude hodnotu větší než $\varepsilon$, je

\begin{align} P(|X-E(X)| > \varepsilon) \leq \frac{D(X)}{\varepsilon^2}. \tag{2.9} \end{align}

Když položíme $\varepsilon=t\cdot \sqrt{D(X)}$, můžeme vztah (2.9) ekvivalentně zapsat ve tvaru

\begin{align} P(|X-E(X)| > t\cdot \sqrt{D(X)}) \leq \frac{1}{t^2}. \tag{2.10} \end{align}

Pokud neznáme rozdělení dané náhodné veličiny, můžeme použít k odhadu uvedených pravděpodobností Markovovy, nebo Čebyševovy nerovnosti.

Čebyševova věta

Nechť $X_1, X_2, \dots$ jsou nekorelované náhodné veličiny, jejichž střední hodnoty splňují vztah

\begin{align*} \lim_{n \rightarrow \infty} \frac{1}{n}\sum_{i=1}^n E(X_i)=\mu \end{align*}

a rozptyly jsou shora ohraničené stejným číslem $\delta$, tedy $D(X_n) \leq \delta$ pro $n=1, 2, \dots$, kde $\delta$ je konstanta nezávislá na $n$. Pak posloupnost aritmetických průměrů

\begin{align*} \left\{X_1, \frac{1}{2}\sum_{i=1}^2 X_i, \dots, \frac{1}{n}\sum_{i=1}^n X_i, \dots \right\} \end{align*}

konverguje podle pravděpodobnosti k číslu $\mu$, čili splňuje slabý zákon velkých čísel.

Zapisujeme

\begin{align} \lim_{n \rightarrow \infty} P \left(\left| \frac{1}{n}\sum_{i=1}^n X_i – \mu \right| \leq \varepsilon \right)=1. \tag{2.11} \end{align}

Označujeme

\begin{align} \overline{X_n} \xrightarrow[n \rightarrow \infty]{P} \mu. \tag{2.12} \end{align}

Bernoulliova věta

Nechť $n$ je počet nezávislých opakování určitého pokusu a nechť $Y_n$ je náhodná veličina, která udává počet úspěchů v dané posloupnosti $n$ pokusů. Úspěch nastává v každém pokusu s pravděpodobností $\vartheta$, $0\lt \vartheta\lt 1$. Pak posloupnost relativních četností

\begin{align*} \left\{Y_1, \frac{1}{2}Y_2, \dots, \frac{1}{n}Y_n, \dots \right\} \end{align*}

konverguje podle pravděpodobnosti k pravděpodobnosti úspěchu $\vartheta$.

Zapisujeme

\begin{align} \lim_{n \rightarrow \infty} P \left(\left| \frac{Y_n}{n} – \vartheta \right| \leq \varepsilon \right)=1. \tag{2.13} \end{align}

Označujeme

\begin{align} \frac{Y_n}{n} \xrightarrow[n \rightarrow \infty]{P} \vartheta. \tag{2.14} \end{align}

Chinčinova věta

Nechť $X_1, X_2, \dots$ je posloupnost nezávislých, stejně rozdělených náhodných veličin s konečnou střední hodnotou $E(X_i)=\mu$ pro $i=1, 2, \dots$. Pak platí konvergence podle pravděpodobnosti

\begin{align} \overline{X_n} \xrightarrow[n \rightarrow \infty]{P} \mu \tag{2.15} \end{align}

a je splněn slabý zákon velkých čísel.

Věty (2.2.4), (2.2.5) a (2.2.6) popisují slabý zákon velkých čísel (jde v nich o konvergenci podle pravděpodobnosti). Existují však věty, v nichž je popsán silný zákon velkých čísel (jejich tvrzení se vztahují ke konvergenci jistě). Jednu z nich si uvedeme.

Kolmogorova věta

Nechť $X_1, X_2, \dots$ je posloupnost nezávislých, stejně rozdělených náhodných veličin s konečnou střední hodnotou $E(X_n)=\mu$. Pak platí konvergence skoro jistě

\begin{align} \overline{X_n} \xrightarrow[n \rightarrow \infty]{} \mu \tag{2.16} \end{align}

a je splněn silný zákon velkých čísel.