PSY117/454
Statistická analýza dat v psychologii
Přednáška 6
Vztahy mezi dvěma
proměnnými III
Statistická predikce, modelování
Lineární regrese, parciální korelace
The only useful action for a statistician is to make predictions, and thus to
provide basis for action.
William Edwards Deming
Statistická predikce
 Jaký výsledek v inteligenčním testu lze nejspíše očekávat od náhodně
přišedšího, víme-li, že test má přibližně normální rozložení s průměrem
100 a směrodatnou odchylkou 15 ?
 Jaká informace by nám pomohla zpřesnit náš odhad?
 délka vlasů
 vzdělání
 výsledek v testu paměti
 výsledek v jiném inteligenčním testu
 Statistická predikce je předpovídání (kvalifikované odhadování)
nejpravděpodobnější hodnoty proměnné z údajů, které již známe, a to
pomocí modelu vztahu mezi predikovanou proměnnou a jejími
koreláty.
AJ: statistical prediction, estimate, predicted value
Dhodobá adaptace sluchu
hlasitost [%] výdrž [s]
25 5
31 9
55 20
42 13
47 18
53 17
40 15
35 10
28 10
Lidé, kteří poslouchají osobní
přehrávač na vysokou hlasitost
[% z maxima přehrávače],
vydrží nepříjemný hlasitý zvuk
déle?
K predikci je třeba funkce
 fce = jak ze známé hodnoty X vypočítat tu neznámou Y : Y = f (X )
 různé fce: - stanovené výčtem
- trigonometrické, exponnciální a logaritmické ...
- polynomické: lineární: Y = bX +a (rovná čára)
kvadratické: Y = cX 2+bX +a (jedna zatáčka)
Ve statistice...
 tuto funkci odhadujeme (modelujeme)
 Jak dobře dokážeme vyjádřit (=predikovat) Y pomocí X a funkce f ?
 říkáme výsledku výpočtu odhad (Y ') a stanovení té funkce říkáme regrese
 regrese Y na X : Y ' = f (X ) + e ,kde e = Y ­Y ' (1)
 e je reziduální hodnota (reziduum), Y je závislá p., X je prediktor (nezáv.)
 e představuje všechny ostatní zdroje variability vyjma X
AJ: function, polynomial, linear, quadratic, estimation, modelling, estimate n., regression, residual n., predictor, sources
of variablity(variance), dependent and independent variable
Lineární regrese I. - odhad
Je-li Pearsonova korelace dobrým popisem vztahu mezi dvěma proměnnými,
lze popsat vztah mezi nimi lineární funkcí
Y ' = a +bX
b ­ směrnice
a ­ průsečík
Y = Y' + e
Y = a + bX + e
Odhad metodou
nejmenších čtverců
b = rxy(sy/sx)
a = my ­ bmx
Jsou-li X a Y vyjádřeny v z-skórech, pak b = rxy
AJ: slope, intercept, least squares (estimation), regression coefficents (a,b)
Lineární regrese II. ­ příklad
mh=39,6
sh = 10,7
mv=13,0
sv = 4,9
r = 0,95
výdrž' = 0,43.hlasitost - 4,15
Predikované hodnoty a rezidua
hlasitost [%] výdrž [s] výdrž' [s] reziduum [s]
25 5 6,69 -1,69
31 9 9,29 -0,29
55 20 19,70 0,30
42 13 14,06 -1,06
47 18 16,23 1,77
53 17 18,83 -1,83
40 15 13,19 1,81
35 10 11,02 -1,02
28 10 7,99 2,01
Lineární regrese II. ­ příklad
160 170 180 190
výška
16
18
20
22
pid



 
  
  
  
 


pid = 1,40 + 0,10 * výška
R-Square = 0,23
mvýška=172,9
svýška = 9,14
mpíď=18,9
spíď = 2,14
Lineární regrese III. ­ úspěšnost predikce
 sy
2 = sreg
2 + sres
2 (ssy=ssres+ssreg)
 R 2 = sreg
2 / sy
2
 Koeficient determinace (R 2)
 Podíl vysvětleného rozptylu
 Je ukazatelem kvality, úspěšnosti regrese
 Vyjadřuje shodu modelu s daty
 Pro jednoduchou lin. regr. platí R 2 = r 2
AJ: regression and residual variance (sum of squares), explained variance, model fit with the data, coefficient of
determination (R square)
1
)( 2
2
-
-
=

n
Ym
s
y
reg
1
)( 2
2
-
-
=

n
YY
sres
1
)( 2
2
-
-
=

n
mY
s
y
y
Lineární regrese IV. ­ předpoklady, platnost
Předpoklady oprávněnosti použití lineárně-regresního modelu
 jako u Pearsonovy korelace
 konceptuální předpoklad: vztah je ve skutečnosti lineární
 rezidua mají normální rozložení
s průměrem 0
 homoskedascita
 =rozptyl reziduí (chyb odhadu)
se s rostoucím X nemění
 Platnost modelu je omezena daty, z nichž byl získán, a teorií.
 Extrapolace, neoprávněná extrapolace (jako generalizace nad rámec empirických dat)
 Pozor na odlehlé hodnoty ­ jako u všech ostatních momentových statistik
AJ: assumptions of the linear regression model, residuals normally distributed, homoscedascity,
Další druhy regrese
Zde je prezentovaná pouze jednoduchá lineární regrese, tj. s jednou závislou
a jednou nezávislou proměnnou. Potřeb a možností je více.
 mnohočetná (mnohonásobná) lineární regrese
 Y = a +b1X1 + b2X2 + ... + bmXm
 komplikují ji vztahy mezi nezávislými proměnnými - prediktory
 logistická regrese
 pokud je závislá dichotomie, nominální proměnná
 predikuje se tak pravděpodobnost jednotlivých hodnot závislé
 Není-li vztah lineární
 snažíme se transformovat proměnné tak, aby byl lineární.
 dělíme vzorek na podskupiny, v nichž vztah za lineární považovat lze
AJ: multiple regression, logistic regression, nonlinear regression
Vztah mezi třemi proměnnými
Parciální a semiparciální korelace
Zjistili jsme, že účastníci našeho experimentu se nám opili.
To nám vadí, protože opilost snižuje citlivost na
podněty a zvyšuje obě naše proměnné.
Bylo by možné zjistit korelaci mezi hlasitostí a výdrží, bez
vlivu alkoholu?
A
H
V
0,9?
A
H
V
Jak ale rozdělovat ty rozptyly?
Regrese dělí proměnnou na sdílený rozptyl a reziduální rozptyl....
Parciální korelace rHV.A
 Uděláme regresi výdrže na alkohol ­ reziduum výdrže bez alkoholu
 Uděláme regresi hlasitosti na alkohol ­ reziduum hlasitosti bez
alkoholu
 Korelace dvou reziduí je PARCIÁLNÍ KORELACE
Semiparciální korelace rV(H.A)
 Korelace rezidua (V.A) se závislou proměnnou (H)
22.
11 VAHA
VAHAHV
AHV
rr
rrr
r
--
-
=
2).(
1 VA
VAHAHV
AVH
r
rrr
r
-
-
=
AJ: partial correlation, part (semi-partial) correlation
Korelace mezi hlastiostí a výdrží ,
kontrolujeme-li statisticky* alkohol je...
A
H
V
hlasitost vydrz alkohol
hlasitost 1,000 ,949**
,864**
vydrz ,949**
1,000 ,902**
alkohol ,864**
,902**
1,000
rHV.A = 0,78
* Též, ,,pokud by alkohol byl konstantní"
Shrnutí
 Pro praktické účely (predikce/odhad) je korelace málo, je třeba
uvažovat o funkčním vztahu mezi proměnnými.
 Vztah můžeme znát analyticky nebo ho zkoušet modelovat.
 Lineární regrese je model lineár. vztahu mezi proměnnými.
 Model se vždy liší od skutečných dat
 díky zjednodušení
 díky chybě měření
 Míra shody modelu s daty je ukazatelem vhodnosti modelu.
 U lineární regrese R 2 ­ podíl vysvětleného rozptylu
 Vliv nežádoucích třetích proměnných lze někdy eliminovat
použitím parciální nebo semiparciální korelace.
 Hendl: kapitoly 7.3 ­ 7.3.2, 7.3.6, 7.4