Příklad. Roztržitý profesor s sebou nosí deštník, ale s nějakou pravděpodobností jej zapomene tam, odkud zrovna odchází. Ráno odchází z domova do práce, a protože bývá po ránu v kondici, pravděpodobnost, že deštník zapomene doma je pouze 1/3. Z práce chodí odpoledne do restaurace a pravděpodobnost, že deštník zapomene v práci, je 1/2. V restauraci si dá pozdní oběd a jde domů, přičemž pravděpodobnost, že zapomene deštník v restauraci je rovna 2/3. Uvažujme pro jednoduchost, že nikam jinam po dostatečně dlouhou dobu profesor nechodí a že v restauraci zůstává deštník na profesorově oblíbeném místě, odkud si ho může následující den (pokud nezapomene) vzít. Napište matici tohoto Markovova procesu. (Je vhodné za časovou jednotku vzít jeden den od půlnoci do půlnoci.) Jaká je pravděpodobnost, že se po mnoha dnech bude deštník nalézat o půlnoci doma? Řešení. Následující diagram popisuje, s jakou pravděpodobností profesor přenese deštník o jedno místo dál. D P R 1 3 2 3 1 2 1 2 1 3 2 3 Pan profesor však může přenést deštník o více než jedno místo. Předpokládejme, že deštník měl dnes doma, jsou 2 možnosti, jak jej může mít večer doma. Buď jej doma ráno zapomene: 1 3 , nebo se mu jej podaří přenést přes práci a restauraci až domů: 2 3 · 1 2 · 1 3 = 1 9 . Dohromady, pravděpodobnost, že deštník začne i skončí doma je 1 3 + 1 9 = 4 9 . Aby např. deštník donesl z domu do práce, nesmí jej zapomenout doma a musí jej zapomenout v práce, tedy pravděpodobnost je 2 3 · 1 2 . Dále si uvědomme, že pokud byl deštník ráno v restauraci, nemůže skončit večer v práci. V matice Markovova procesu nám sloupce označují, kde deštník začal, a řádky, kde skončí. D P R         D 1 3 + 2 3 · 1 2 · 1 3 1 2 · 1 3 1 3 P 2 3 · 1 2 1 2 0 R 2 3 · 1 2 · 2 3 1 2 · 2 3 2 3         4 9 1 6 1 3 = 1 3 1 2 0 2 9 1 3 2 3 Jak bude vypadat rozložení pravděpodobností po mnoha dnech zjistíme nalezením vlastního vektoru k vlastnímu číslu 1. (Vysvětlení pod čarou1 .)     4 9 − 1 1 6 1 3 1 3 1 2 − 1 0 2 9 1 3 2 3 − 1     ∼     1 3 −1 2 0 2 3 1 −1 −5 3 1 2 1     ∼     1 3 −1 2 0 0 2 −1 0 0 0     → (3, 2, 4) 1 Označíme-li si M spočítanou matici a x vektor pravděpodobností, kde se deštník nachází ráno, pak M · x nám značí, kde bude s jakou pravděpodobností deštník večer. Protože nás zajímá stav po mnoha dnech, zajímá nás, na jakých hodnotách se bude vektor ustalovat po opakovaném násobení maticí M. Hledaný vektor x0 je takový, který se nám již násobení maticí M nezmění, tedy Mx0 = x0, tedy x0 je vlastním vektorem k vlastnímu číslu 1. To, že matice má vskutku vl. číslo 1 plyne z toho, že je matice primitivní (matice M má pro dostatečně velkou mocninu Mn všude nenulové kladné prvky) a že je to matice stochastická (v každém sloupci máme součet prvků roven 1). 1 Našli jsme nějaký vlastní vektor, upravíme jej, abychom dostali vektor pravděpodobností 1 3+2+4 (3, 2, 4) = (3 9 , 2 9 , 4 9 ), Tedy pravděpodobnost, že deštník bude po mnoha dnech doma je 3 9 . 2