Téma č. 8.: Snížení dimenze dat metodou hlavních komponent Příklad: Máme k dispozici datový soubor z roku 1979 o 26 evropských zemích, který obsahuje údaje o procentuálním zastoupení ekonomicky činného obyvatelstva v různých odvětvích národního hospodářství: X1 ... zemědělství X2 ... těžba X3 ... průmyslová výroba X4 ... energetika X5 ... stavebnictví X6 ... místní hospodářství X7 ... finanční sektor X8 ... služby X9 ... doprava a komunikace. 1 Stát 2 X1 3 X2 4 X3 5 X4 6 X5 7 X6 8 X7 9 X8 10 X9 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 Belgie 3,3 0,9 27,6 0,9 8,2 19,1 6,2 26,6 7,2 Dánsko 9,2 0,1 21,8 0,6 8,3 14,2 6,5 32,2 7,1 Francie 10,8 0,8 27,5 0,9 8,9 16,8 6 22,6 5,7 Záp. Německo 6,7 1,3 35,8 0,9 7,3 14,4 5 22,5 6,1 Irsko 23,2 1 20,7 1,3 7,5 16,8 2,8 20,6 6,1 Itálie 15,9 0,6 27,6 0,5 10 18,1 1,5 20,1 5,7 Lucembursko 7,7 3,1 30,8 0,8 9,2 18,5 4,5 19,2 6,2 Nizozemsko 6,3 0,1 22,5 1 9,9 18 6,9 28,5 6,8 Velká Británie 2,7 1,4 30,2 1,4 6,9 16,9 5,8 28,3 6,4 Rakousko 12,7 1,1 31,4 1,4 8 16,8 4,9 16,7 7 Finsko 13 0,4 25,9 1,3 7,4 14,7 5,5 24,2 7,6 Řecko 41,4 0,6 17,6 0,6 8,1 11,5 2,4 11,1 6,7 Norsko 9 0,5 22,4 0,8 8,6 16,9 4,7 27,7 9,4 Portugalsko 27,8 0,3 24,5 0,6 8,4 13,3 2,7 16,7 5,7 Španělsko 22,9 0,8 28,5 0,7 11,5 9,7 8,5 11,9 5,5 Švédsko 6,1 0,4 25,9 0,8 7,2 14,4 6 32,4 6,8 Švýcarsko 7,7 0,2 37,8 0,8 9,5 17,5 5,3 15,5 5,7 Turecko 66,8 0,7 7,9 0,1 2,8 5,5 1,1 11,9 3,2 Bulharsko 23,6 1,9 32,3 0,6 7,9 8 0,7 18,2 6,8 Československo 16,5 2,9 35,5 1,2 8,7 9,2 0,9 17,9 7,2 Vých. Německo 4,2 2,9 41,2 1,3 7,6 11,2 1,2 22,1 8,3 Maďarsko 21,7 3,1 29,6 1,9 8,2 9,4 0,9 17,2 8 Polsko 31,1 2,5 25,7 0,9 8,4 7,5 0,9 16,1 6,9 Rumunsko 34,7 2,1 30,1 0,6 8,7 5,9 1,3 11,6 5 Sovětský svaz 23,7 1,4 25,8 0,6 9,2 6,1 0,5 23,4 9,3 Jugoslávie 48,7 1,5 16,8 1,1 4,9 6,4 11,3 5,3 4 Tento datový soubor analyzujte metodou hlavních komponent. Řešení v systému STATISTICA: Vazby mezi dvojicemi proměnných posoudíme pomocí maticových grafů: Grafy - Maticové grafy - Proměnné X1 - X9 - OK - OK. Maticový graf staty1979.sta 10v*26c X1 X2 X3 X4 X5 X6 X7 X8 X9 Dále data znázorníme pomocí krabicových diagramů: Krabicový graf Všechny případy Medián 25%-75% Min-Max X1 X2 X3 X4 X5 X6 X7 X8 X9 -10 0 10 20 30 40 50 60 70 Proměnné vykazují značně rozdílnou variabilitu. Analýzu tedy založíme na výběrové korelační matici R: Statistiky - Vícerozměrné průzkumné techniky - Hlavní komponenty & klasifikační analýza Proměnné X1 až X19, OK - OK - Popisné statistiky - Korelační matice. Korelace (staty1979.sta) Proměnná X1 X2 X3 X4 X5 X6 X7 X8 X9 X1 X2 X3 X4 X5 X6 X7 X8 X9 1,00 0,04 -0,67 -0,40 -0,53 -0,73 -0,22 -0,75 -0,56 0,04 1,00 0,44 0,41 -0,02 -0,40 -0,44 -0,28 0,16 -0,67 0,44 1,00 0,39 0,48 0,21 -0,15 0,15 0,36 -0,40 0,41 0,39 1,00 0,03 0,20 0,11 0,13 0,37 -0,53 -0,02 0,48 0,03 1,00 0,33 0,01 0,17 0,38 -0,73 -0,40 0,21 0,20 0,33 1,00 0,36 0,57 0,17 -0,22 -0,44 -0,15 0,11 0,01 0,36 1,00 0,11 -0,25 -0,75 -0,28 0,15 0,13 0,17 0,57 0,11 1,00 0,56 -0,56 0,16 0,36 0,37 0,38 0,17 -0,25 0,56 1,00 Tato korelační matice má bohužel determinant blízký 0 (říkáme, že je špatně podmíněná), nelze tedy provést Bartlettův test. Je však vidět, že některé korelační koeficienty jsou v absolutní hodnotě dostatečně velké a zřejmě tedy bude mít smysl provést analýzu hlavních komponent. Nyní získáme vlastní čísla výběrové korelační matice a procento vysvětleného rozptylu: na záložce Základní výsledky vybereme Vlastní čísla. Pořadí vl.č. vl. číslo % celk. rozptylu Kumulativ. vl. číslo Kumulativ. % 1 2 3 4 5 6 7 8 3,466490 38,51655 3,466490 38,5166 2,135004 23,72227 5,601494 62,2388 1,115581 12,39534 6,717075 74,6342 0,989394 10,99326 7,706468 85,6274 0,539211 5,99123 8,245679 91,6187 0,382111 4,24568 8,627790 95,8643 0,233226 2,59140 8,861015 98,4557 0,138985 1,54428 9,000000 100,0000 První hlavní komponenta tedy vysvětluje 38,52% variability obsažené v devíti sledovaných proměnných, druhá 23,72%, třetí 12,40% atd. Celkové procento variability vysvětlené prvními třemi hlavními komponentami je 74,63%. Sestrojíme sutinový graf (scree plot): na záložce Základní výsledky vybereme Sutinový graf. 38,52% 23,72% 12,40% 10,99% 5,99% 4,25% 2,59% 1,54% -1 0 1 2 3 4 5 6 7 8 9 10 11 Pořadí vl. čísla -0,5 0,0 0,5 1,0 1,5 2,0 2,5 3,0 3,5 4,0Vlast.číslo 38,52% 23,72% 12,40% 10,99% 5,99% 4,25% 2,59% 1,54% Počet m hlavních komponent zvolíme tři na základě sutinového grafu, na základě vysvětleného rozptylu a na základě Kaiserova kritéria (první tři vlastní čísla jsou větší než 1). V nabídce Výsledky hlavních komponent snížíme počet faktorů na 3. Vypočteme korelační koeficienty prvních tří hlavních komponent a původních devíti proměnných: na záložce Proměnné vybereme Korelace faktorů & proměnných. Korelace faktorů a proměnných (faktor. zátěže) podle korelací (staty1979.sta) Proměnná Faktor 1 Faktor 2 Faktor 3 X1 X2 X3 X4 X5 X6 X7 X8 X9 0,978776 0,081725 -0,049455 -0,000898 0,901105 0,216344 -0,652174 0,513343 0,112868 -0,474888 0,378598 0,649962 -0,595263 0,073032 -0,304047 -0,698213 -0,513734 0,119592 -0,136193 -0,663299 0,589451 -0,727506 -0,327637 -0,251642 -0,684094 0,304809 -0,337074 Získáme 2D graf faktorových souřadnic proměnných: Projekce proměnných do faktorové roviny ( 1 x 2) Aktiv. X1 X2 X3 X4 X5 X6 X7 X8 X9 -1,0 -0,5 0,0 0,5 1,0 Faktor 1 : 38,52% -1,0 -0,5 0,0 0,5 1,0 Faktor2:23,72% X1 X2 X3 X4 X5 X6 X7 X8 X9 Velmi důležité jsou proměnné X1 (zemědělství) a X2 (těžba) , nejméně důležitá je pak proměnná X5 (stavebnictví). X1 záporně koreluje se všemi proměnnými kromě X2. Podívejme se rovněž na vektory souřadnic (v systému STATISTICA se jim říká faktorové souřadnice případů): na záložce Případy vybereme Faktorové souřadnice případů. Faktorové souřadnice případů podle korelací (staty1979.sta) Případ Faktor 1 Faktor 2 Faktor 3 Belgie Dánsko Francie Záp. Německo Irsko Itálie Lucembursko Nizozemsko Velká Británie Rakousko Finsko Řecko Norsko Portugalsko Španělsko Švédsko Švýcarsko Turecko Bulharsko Československo Vých. Německo Maďarsko Polsko Rumunsko Sovětský svaz Jugoslávie -1,68273 -1,20656 0,16668 -0,90831 -2,05598 -0,85147 -0,74050 -1,11048 0,38553 -0,85647 -0,03165 0,56466 0,11153 -0,40400 0,53134 -0,36366 -0,74902 -1,29050 -1,04022 0,74294 0,46327 -1,65732 -1,98866 -0,08729 -1,61201 -0,39776 1,35031 -1,01103 0,16508 1,16804 -0,97223 -0,73166 0,54475 2,07154 -0,33521 -0,92274 -1,66538 -1,05092 -1,14341 0,99709 -0,74259 -0,75474 0,43244 -0,60818 0,31825 -1,07387 -1,55390 -0,22815 -1,04031 -0,74707 0,28216 6,19519 -1,04930 -0,64265 0,67558 1,48159 -1,03101 -0,48005 2,63421 0,07902 -1,73669 2,73412 0,26970 -0,57526 3,07981 1,09460 1,08637 1,87264 -0,54684 2,01536 1,57550 -0,48595 -0,04779 1,26246 -2,30671 3,87872 -0,78542 3,07316 1. HK vysoce kladně koreluje s proměnnou X1 (zemědělství) a záporně se všemi ostatními proměnnými. Tato hlavní komponenta tedy rozlišuje země na zemědělské a průmyslové. Povšimněte si, že souřadnice této hlavní komponenty jsou nejvyšší u Turecka (6,2) a Jugoslávie (3,9). 2. HK vysoce kladně koreluje s proměnnou X2 (těžba) a podstatně slaběji s proměnnou X3 (průmyslová výroba). Vysoké hodnoty souřadnic této hlavní komponenty najdeme u Maďarska, Východního Německa a Československa. 3. HK středně silně koreluje s proměnnou X4 (energetika) a X7 (finanční sektor). Nejvyšší hodnotu najdeme u Jugoslávie. Nyní znázorníme rozmístění zemí na ploše prvních dvou hlavních komponent: Na záložce Případy vybereme 2D graf fakt. souřadnic příp. Projekce případů do faktorové roviny ( 1 x 2) Případy se součtem cos()^2 >= 0,00 Belgie Dánsko Francie Záp. Německo Irsko Itálie Lucembursko Nizozemsko Velká Británie Rakousko Finsko Řecko Norsko Portugalsko Španělsko Švédsko Švýcarsko Turecko Bulharsko ČeskoslovenskoVých. Německo Maďarsko Polsko Rumunsko Sovětský svaz Jugoslávie -5 -4 -3 -2 -1 0 1 2 3 4 5 6 7 8 Faktor 1: 38,52% -4 -3 -2 -1 0 1 2 3 4 5 Faktor2:23,72% Belgie Dánsko Francie Záp. Německo Irsko Itálie Lucembursko Nizozemsko Velká Británie Rakousko Finsko Řecko Norsko Portugalsko Španělsko Švédsko Švýcarsko Turecko Bulharsko ČeskoslovenskoVých. Německo Maďarsko Polsko Rumunsko Sovětský svaz Jugoslávie Můžeme se ještě pokusit o znázornění zemí v prostoru prvních tří hlavních komponent: přepneme se v pracovním sešitě na tabulku Faktorové souřadnice případů dle korelací. Označíme myší 3 hlavní komponenty. Klikneme pravým tlačítkem, vybereme Grafy bloku dat - Vlastní graf bloku podle sloupce - 3D XYZ grafy - Bodové grafy - Běžný - OK, 2x klikneme na pozadí grafu Popisy bodů - zaškrtneme Zobrazovat popisy bodů. 3D bodový graf z Faktor 3 proti Faktor 1 a Faktor 2 Tabulka33 3v*26c Turecko Jugoslávie Rumunsko Řecko Polsko Bulharsko Portugalsko Španělsko Sovětský svaz Irsko Maďarsko Československo Itálie Francie Lucembursko Záp. Německo Rakousko Finsko Švýcarsko Švédsko Dánsko Vých. Německo Velká Británie Norsko Belgie Nizozemsko Turecko Jugoslávie Rumunsko Řecko Polsko Bulharsko Portugalsko Španělsko Sovětský svaz Irsko Maďarsko Československo Itálie Francie Lucembursko Záp. Německo Rakousko Finsko Švýcarsko Švédsko Dánsko Vých. Německo Velká Británie Norsko Belgie Nizozemsko Nakonec posoudíme reprodukovanou a reziduální korleační matici: Statistiky - Vícerozměrné průzkumné techniky - Faktorová analýza - Proměnné 1 - 12, OK - Max. počet faktorů 2 - OK - Výklad rozptylu - Reproduk./ rezid. korelace. Reprodukované korelace (staty1979.sta) Extrakce: Hlavní komponenty Proměnná X1 X2 X3 X4 X5 X6 X7 X8 X9 X1 X2 X3 X4 X5 X6 X7 X8 X9 0,96 0,07 -0,60 -0,43 -0,58 -0,73 -0,19 -0,74 -0,64 0,07 0,81 0,46 0,34 0,07 -0,46 -0,60 -0,29 0,28 -0,60 0,46 0,69 0,50 0,43 0,19 -0,25 0,31 0,60 -0,43 0,34 0,50 0,37 0,31 0,14 -0,19 0,22 0,44 -0,58 0,07 0,43 0,31 0,36 0,38 0,03 0,41 0,43 -0,73 -0,46 0,19 0,14 0,38 0,75 0,44 0,68 0,32 -0,19 -0,60 -0,25 -0,19 0,03 0,44 0,46 0,32 -0,11 -0,74 -0,29 0,31 0,22 0,41 0,68 0,32 0,64 0,40 -0,64 0,28 0,60 0,44 0,43 0,32 -0,11 0,40 0,56 Reziduální korelace (staty1979.sta) Extrakce: Hlavní komponenty (Označená rezidua jsou > ,100000) Proměnná X1 X2 X3 X4 X5 X6 X7 X8 X9 X1 X2 X3 X4 X5 X6 X7 X8 X9 0,04 -0,04 -0,08 0,03 0,05 -0,01 -0,03 -0,01 0,08 -0,04 0,19 -0,02 0,06 -0,09 0,07 0,15 0,01 -0,11 -0,08 -0,02 0,31 -0,11 0,06 0,01 0,10 -0,15 -0,25 0,03 0,06 -0,11 0,63 -0,28 0,06 0,30 -0,09 -0,07 0,05 -0,09 0,06 -0,28 0,64 -0,05 -0,03 -0,24 -0,04 -0,01 0,07 0,01 0,06 -0,05 0,25 -0,08 -0,11 -0,15 -0,03 0,15 0,10 0,30 -0,03 -0,08 0,54 -0,20 -0,14 -0,01 0,01 -0,15 -0,09 -0,24 -0,11 -0,20 0,36 0,17 0,08 -0,11 -0,25 -0,07 -0,04 -0,15 -0,14 0,17 0,44 Nejmenší rezdiuální korelace vidíme u proměnné X1, naopak největší u proměnné X4. Příklad k samostatnému řešení: Datový soubor osoby.sta obsahuje následující údaje o 32 náhodně vybraných osobách: Sex (1 muž, 2 žena) Věk (věk osoby v dosažených letech) Výška (výška osoby v cm) Hmotnost (hmotnost osoby v kg) BMI (Body Mass Index se počítá podle vzorce 22 mvvýška kgvhmotnost BMI . Osoby, které mají BMI pod 18,5, trpí podvýživou, BMI mezi 18,5 a 25 ukazuje na normální stav, hodnoty mezi 25 a 30 svědčí o nadváze a hodnoty nad 30 pak o obezitě.) Křestním jménem osoby jsou označeny jednotlivé případy v datovém souboru. Proveďte analýzu hlavních komponent pro tento datový soubor. Interpretace: 1. hlavní komponenta odlišuje muže a ženy, 2. hlavní komponenta pak odlišuje osoby podle věku.