9. Absorpční homogenní markovské řetězce 9.1. Definice: Definice absorpčního stavu Nechť { }0n Nn;X ∈ je homogenní markovský řetězec s množinou stavů J. Řekneme, že stav Jj∈ je absorpční stav, jestliže pjj = 1 (tzn., že ze stavu j není dosažitelný žádný jiný stav). Když řetězec vstoupí do absorpčního stavu, pak řekneme, že je absorbován. 9.2. Věta: Věta o vztahu mezi absorpčním stavem a trvalým stavem Každý absorpční stav je trvalým stavem. Důkaz: Plyne přímo z definice trvalého stavu. 9.3. Definice: Definice absorpčního homogenního markovského řetězce Homogenní markovský řetězec s konečnou množinou stavů se nazývá absorpční, jestliže každý jeho trvalý stav je absorpční. 9.4. Příklad: Nechť { }0n Nn;X ∈ je homogenní markovský řetězec s množinou stavů J = {0,1, ..., 5} a maticí přechodu                     = 100000 001000 010000 4/304/1000 0003/103/2 000010 P . Zjistěte, zda jde o absorpční řetězec. Řešení: Přechodový diagram JT = {3,4}∪ {5}, JP = {0, 1, 2}. Stavy 3 a 4 jsou trvalé, ale nejsou absorpční. Řetězec tedy není absorpční. 0 1 2/3 1 2 1/3 3 3/4 1/4 4 1 1 5 1 9.5. Definice: Definice fundamentální matice absorpčního řetězce Nechť { }0n Nn;X ∈ je absorpční řetězec s konečnou množinou stavů, který má r absorpčních a s neabsorpčních stavů. Stavy přečíslujeme tak, aby po množině JA r absorpčních stavů následovala množina JN s neabsorpčních stavů. Matici přechodu P přepíšeme do kanonického tvaru       = QR 0I P , kde I je jednotková matice řádu r, 0 je nulová matice typu r x s, R je matice typu s x r obsahující pravděpodobnosti přechodu z neabsorpčních do absorpčních stavů a Q je čtvercová matice řádu s obsahující pravděpodobnosti přechodu mezi neabsorpčními stavy. Matice ( ) 1− −= QIM (kde I je jednotková matice řádu s) se nazývá fundamentální matice absorpčního řetězce. Vysvětlení: Prvek mij matice M udává střední hodnotu počtu kroků, které řetězec stráví v neabsorpčním stavu j před přechodem do absorpčního stavu, pokud vyšel z neabsorpčního stavu i. Inverzní matice existuje, pokud Qn konverguje k 0. 9.6. Poznámka: Význam součtu prvků v i-tém řádku fundamentální matice M Střední hodnotu počtu kroků, které řetězec stráví v neabsorpčních stavech, když vychází z neabsorpčního stavu i a skončí v absorpčním stavu, vypočítáme jako součet prvků v i-tém řádku fundamentální matice M. Maticový zápis: t = Me, kde e je sloupcový vektor typu s x 1 ze samých jedniček. 9.7. Příklad: Dva hráči A a B dali dohromady do hry vklad 4 Kč. Hráč A hází mincí. Když padne líc, vyhrává 1 Kč, když rub, prohrává 1 Kč. Hra trvá tak dlouho, až je jeden z hráčů zruinován. a) Popište situaci pomocí homogenního markovského řetězce. Najděte matici přechodu a nakreslete přechodový diagram. b) Ukažte, že řetězec je absorpční. c) Najděte fundamentální matici a interpretujte její prvky. b) Vypočtěte střední hodnotu počtu kroků, které řetězec stráví v neabsorpčních stavech. Řešení: ad a) Zavedeme homogenní markovský řetězce { }0n Nn;X ∈ s množinou stavů J = {0,1, 2, 3, 4}, přičemž Xn = j, když v ntém kroku hry má hráč A právě j Kč. Matice přechodu:                 = 10000 2/102/100 02/102/10 002/102/1 00001 P Přechodový diagram: ad b) JT = {0}∪ {4}, JP = {1, 2, 3}. Trvalé stavy 0 a 4 jsou absorpční, řetězec je tedy absorpční. 0 1 1 1/2 2 1/2 1/2 3 1/2 1/2 4 1/2 1 ad c) Matici přechodu v kanonickém tvaru získáme tak, že nejprve zapíšeme pravděpodobnosti přechodu vztahující se k absorpčním stavům 0 a 4 a poté pravděpodobnosti přechodu vztahující se k neabsorpčním stavům 1, 2, 3. Původní matice přechodu:                 = 10000 2/102/100 02/102/10 002/102/1 00001 P Matice přechodu v kanonickém tvaru:                 = 02/102/10 2/102/100 02/1002/1 00010 00001 P Pro výpočet fundamentální matice M potřebujeme matici Q obsahující pravděpodobnosti přechodu mezi neabsorpčními stavy: 321           − −− − =−           = 12/10 2/112/1 02/11 , 02/10 2/102/1 02/10 QIQ , ( )           =−= − 2/312/1 121 2/112/3 3 2 1 1 QIM Interpretace: Podívejme se např. na druhý řádek matice M. Má-li hráč A v daném okamžiku 2 Kč, pak lze očekávat, že před skončením hry bude mít v průměru jedenkrát 1 Kč, dvakrát 2 Kč a jedenkrát 3 Kč. ad d) Podle poznámky 8.6. dostáváme: t = Me =           =           ⋅           3 4 3 1 1 1 2/312/1 121 2/112/3 Interpretace: Má-li hráč A v daném okamžiku buď 1 Kč nebo 3 Kč, tak v průměru po třech krocích hra skončí. Má-li hráč A v daném okamžiku 2 Kč, pak v průměru po čtyřech krocích hra skončí. 9.8. Věta: Věta o pravděpodobnostech přechodu do absorpčních stavů Označme bij pravděpodobnost, že řetězec vycházející z neabsorpčního stavu i bude absorbován ve stavu j. Sestavíme matici B = ( ) Jj,iijb ∈ . Pak B = MR, kde M je fundamentální matice absorpčního řetězce a R je matice v levém dolním rohu matice přechodu P v kanonickém tvaru. Důkaz: Nechť i je neabsorpční a j absorpční stav. Stavu j může být dosaženo 1. krokem s pravděpodobností pij nebo přechodem do neabsorpčního stavu k s pravděpodobností pik a odtud přechodem do absorpčního stavu j s pravděpodobností bkj. Tedy ∑∈ = Jk kjikij bpb . Maticově: B = R + QB, B – QB = R, (I – Q)B = R, B = (I – Q)-1 R = MR. 9.9. Definice: Definice matice přechodu do absorpčních stavů daného absorpčního řetězce Matice B se nazývá matice přechodu do absorpčních stavů daného absorpčního řetězce. 9.10. Příklad: Pro zadání z příkladu 9.7. vypočtěte matici přechodu do absorpčních stavů a interpretujte její prvky. Pro připomenutí: Dva hráči A a B dali dohromady do hry vklad 4 Kč. Hráč A hází mincí. Když padne líc, vyhrává 1 Kč, když rub, prohrává 1 Kč. Hra trvá tak dlouho, až je jeden z hráčů zruinován. Řešení: Matice přechodu v kanonickém tvaru:                 = 02/102/10 2/102/100 02/1002/1 002/110 00001 P , tedy           = 2/10 00 02/1 R . Již jsme vypočetli, že           = 2/312/1 121 2/112/3 M , tedy B = MR =           =           ⋅           4/34/1 2/12/1 4/14/3 2/10 00 02/1 2/312/1 121 2/112/3 . Interpretace: Má-li hráč A v daném okamžiku 1 Kč, pak bude s pravděpodobností 3/4 zruinován on a s pravděpodobností 1/4 bude zruinován hráč B. Má-li hráč A v daném okamžiku 2 Kč, pak bude s pravděpodobností 1/2 zruinován on a s pravděpodobností 1/2 bude zruinován hráč B. Má-li hráč A v daném okamžiku 3 Kč, pak bude s pravděpodobností 1/4 zruinován on a s pravděpodobností 3/4 bude zruinován hráč B. 9.11. Poznámka: Charakteristiky absorpčního řetězce můžeme v MATLABu vypočítat pomocí funkce absorb.m: function [Pk,M,B,t]=absorb(P) % funkce pro výpočet základních charakteristik absorpčního řetězce % Autor: Stanislav Tvrz % function [Pk,M,B,t]=absorb(P) % vstupní parametr: matice přechodu P % výstupní parametry: Pk ... matice přechodu v kanonickém tvaru % M ... fundamentální matice % B ... matice přechodu do absorpčních stavů % t ... vektor středních hodnot počtu kroků před absorpcí %vypíše pro kontrolu přechodovou matici P P vel=size(P); [i,j]=find(P==1); % najdu prvky matice P o hodnotě 1 vi=size(i); st=0; % počet nalezených absorpčních stavů %převod P na kanonický tvar for k=1:vi if i(k)==j(k) st=st+1; if st==1 % varianta pro první nalezený absorpční stav if (i(k)>1)&(i(k)st+1)&(i(k)