Cvičení 11.: Pokročilé metody v jednoduché lineární regresi
Příklad 1.: Na podzim byla uskladněna zimní jablka. Po čase bylo vždy odebráno několik
kusů a u každého byla posuzována chuť, tvrdost, kvalita slupky a celkový vzhled jablka.
Vyšší počet bodů odpovídá lepší kvalitě ovoce. Doba, která uplynula od uskladnění, je
nezávisle proměnná veličina X, počet bodů závisle proměnná veličina Y.
X Y
0 5 6 4 5
2 9 7 8
4 9 8 10 10 8
6 8 5 7 4 6
8 3 1 2
Na hladině významnosti 0,05 testujte hypotézu, že regresní přímka je vhodný model závislosti
Y na X.
Řešení v systému STATISTICA:
Načteme datový soubor jablka.sta se dvěma proměnnými X a Y a 20 případy.
Data znázorníme graficky:
-1 0 1 2 3 4 5 6 7 8 9
X
0
2
4
6
8
10
12
Y
Je zřejmé, že přímka nebude vhodným regresním modelem.
Odhadneme parametry regresní přímky:
Výsledky regrese se závislou proměnnou : Y (jablka.sta)
R= ,32440757 R2= ,10524027 Upravené R2= ,05553140
F(1,18)=2,1171 p<,16288 Směrod. chyba odhadu : 2,5200
N=20
Beta Sm.chyba
beta
B Sm.chyba
B
t(18) Úroveň p
Abs.člen
X
7,472222 1,011487 7,38737 0,000001
-0,324408 0,222955 -0,305556 0,209998 -1,45504 0,162877
Sestavíme tabulku ANOVA:
Vrátíme se do Výsledky – vícenásobná regrese – Detailní výsledky – ANOVA.
Analýza rozptylu (jablka.sta)
Efekt
Součet
čtverců
sv Průměr
čtverců
F Úroveň p
Regres.
Rezid.
Celk.
13,4444 1 13,44444 2,117132 0,162877
114,3056 18 6,35031
127,7500
Vidíme, že SR = 13,4444, ST = 127,75
Provedeme jednofaktorovou analýzu rozptylu, abychom získali skupinový součet čtverců:
Statistiky – Základní statistiky a tabulky – Rozklad & jednofakt. ANOVA – OK – Proměnné
– Závislé – Y, Grupovací - X – OK – OK – Analýza rozptylu.
Analýza rozptylu (jablka.sta)
Označ. efekty jsou význ. na hlad. p < ,05000
Proměnná
SČ
efekt
SV
efekt
PČ
efekt
SČ
chyba
SV
chyba
PČ
chyba
F p
Y 107,7500 4 26,93750 20,00000 15 1,333333 20,20313 0,000007
Zde najdeme SA = 107,75.
Vypočteme testovou statistiku
( ) ( )
( ) ( )
576,23=
1,3333
4352,31
=
520/75,10775,127
25/4444,1375,107
=F
−−
−−
a najdeme
kritický obor W = <F0,95(3,15), ∞) = <3,2874, ∞). Jelikož F∈W, zamítáme na hladině
významnosti 0,05 hypotézu, že přímka je vhodným regresním modelem závislosti kvality
jablek na době uskladnění.
Test adekvátnosti modelu můžeme též provést pomocí Obecných regresních modelů:
Statistiky – Pokročilé lineární/nelineární modely – Obecné regresní modely – Jednorozměrná
regrese - OK – na záložce Možnosti zaškrtneme Kvalita proložení – OK – Závislá Y, Spoj.
nezáv. prom. X – OK – Více výsledků – Celkové R – ve stromové struktuře vlevo vybereme
Test kvality modelu.
Test of Lack of Fit (zimni_jablka.sta)
Dependnt
Variable
SS
Residual
df
Residual
MS
Residual
SS
Pure Err
df
Pure Err
MS
Pure Err
SS Lack
of Fit
df Lack
of Fit
MS Lack
of Fit
F p
Y 114,3056 18 6,350309 20,00000 15 1,333333 94,30556 3 31,43519 23,57639 0,000006
Hodnota testové statistiky je 23,576 a odpovídající p-hodnota je blízká 0. Na hladině
významnosti 0,05 tedy zamítáme hypotézu, že přímka je vhodným modelem k popisu
závislosti kvality jablek na době skladování.
Použijeme-li model 2
210 xxy β+β+β= , nemůžeme na hladině významnosti 0,05 zamítnout
hypotézu, že tento model je adekvátní, neboť odpovídající p-hodnota je 0,4619:
Test of Lack of Fit (zimni_jablka.sta)
Dependnt
Variable
SS
Residual
df
Residual
MS
Residual
SS
Pure Err
df
Pure Err
MS
Pure Err
SS Lack
of Fit
df Lack
of Fit
MS Lack
of Fit
F p
Y 22,16943 17 1,304084 20,00000 15 1,333333 2,169434 2 1,084717 0,813538 0,461919
Odhadnuté parametry:
Regression Summary for Dependent Variable: Y (zimni_jablka.sta)
R= ,90909975 R2= ,82646235 Adjusted R2= ,80604616
F(2,17)=40,481 p<,00000 Std.Error of estimate: 1,1420
N=20
b* Std.Err.
of b*
b Std.Err.
of b
t(17) p-value
Intercept
X
Xkv
5,038438 0,542163 9,29322 0,000000
2,32875 0,331422 2,193419 0,312162 7,02653 0,000002
-2,78576 0,331422 -0,325953 0,038779 -8,40547 0,000000
Výsledný model má tvar: y = 5,0384 + 2,1934x – 0,3260x2
.
Vidíme rovněž, že poměr determinace (uvedený ve výstupní tabulce regrese pod označením
R2) vzrostl z 10,52% na 82,64%.
Příklad 2.: Jsou známy údaje o počtu obyvatel USA v letech 1815 až 1975 (v miliónech
osob):
181518251835184518551865187518851895190519151925 1935 1945 19551965 1975
8,3 11 14,7 19,7 26,7 35,2 44,4 55,9 68,9 83,2 98,8 114,2127,1140,1164 190,9214,3
Předpokládáme, že růst populace se řídí exponenciální regresní funkcí
x10
ey β+β
= , kde y je
počet jedinců a x je čas, x = 1815, 1825, …, 1975.
Odhadněte parametry exponenciální regresní funkce. Znázorněte data s proloženou regresní
funkcí. Pomocí D-W statistiky testujte hypotézu, že mezi rezidui neexistuje pozitivní
autokorelace.
Návod: Data jsou uložena v souboru populace_USA.sta. V datovému souboru přidáme novou
proměnnou lnY, do jejíhož Dlouhého jména napíšeme Log(Y). Provedeme regresní analýzu
se závisle proměnnou LnY a nezávisle proměnnou X.
Výsledky regrese se závislou proměnnou : lny (populace_USA.sta)
R= ,98522411 R2= ,97066655 Upravené R2= ,96871099
F(1,15)=496,36 p<,00000 Směrod. chyba odhadu : ,18230
N=17
b* Sm.chyba
z b*
b Sm.chyba
z b
t(15) p-hodn.
Abs.člen
X
-34,0828 1,710803 -19,9221 0,000000
0,985224 0,044222 0,0201 0,000902 22,2792 0,000000
Výsledný model má tedy tvar: y = e-34,0828+0,201.x
Dílčí t-testy vedou k zamítnutí hypotéz o nevýznamnosti regresních parametrů β0, β1, obě phodnoty
jsou blízké 0. Testová statistika celkového F-testu nabývá hodnotu 496,36,
odpovídající p-hodnota je také velmi blízká 0. Exponenciální model vysvětluje variabilitu
počtu osob v USA v letech 1815 – 1975 z 97%.
Grafické znázornění dat s proloženou regresní funkcí:
1800 1820 1840 1860 1880 1900 1920 1940 1960 1980 2000
X
-50
0
50
100
150
200
250
300
D-W statistika nabývá hodnoty 0,1532. Kritické hodnoty pro α = 0,05, n = 15, p = 2 jsou: dL =
0,95, dU = 1,54. Testová statistika je menší než dL, tedy jsme na hladině významnosti 0,05
prokázali existenci pozitivní autokorelace reziduí.
Nepovinný úkol: Postupem popsaným v přednášce odstraňte problém autokorelovaných
reziduí.
Příklad k samostatnému řešení: Ředitel státní správy nebyl spokojen s prací jistého
oddělení. Nařídil proto, aby po dobu půl roku nejméně jednou měsíčně byla práce pracovníků
tohoto oddělení kontrolována a hodnocena. Po půl roce obdržel výsledky hodnocení a chtěl
vědět, zda se práce zlepšila. V tabulce jsou uvedeny průměrné hodnoty bodového hodnocení
(škála 1 až 10, 1 nejlepší, 10 nejhorší) za příslušné měsíce:
body 8,0 7,8 7,3 6,4 6,0 5,6
měsíc leden leden leden únor únor únor
body 5,4 4,8 5,7 5,0 4,8 4,7
měsíc březen březen březen duben květen červen
Proveďte test adekvátnosti přímkového modelu [p = 0,043] a kvadratického modelu [p = 0,6].
Pomocí kvadratického modelu najděte 95 % empirický interval spolehlivosti pro predikci
bodového hodnocení pro měsíc červen a pomocí statistického softwaru nakreslete graf 95 %
pásu spolehlivosti. [predikce = 4,896, dolní mez = 4,128, horní mez = 5,664]