Pozor, během přednášky jsem si všiml, že je na slidu 40 (Smíšená D-studie: Příklad) chyba. V powerpointové prezentaci jsem ji již opravil, měla jen minimální vliv na odhady chyby měření a reliability, ale rychlý pokus o opravu během přednášky byl sám o sobě nedostatečný.
Týden 6: Teorie zobecnitelnosti | 23. 10. 2023
Setkání se zaměřuje na teorii zobecnitelnosti (Generalizability Theory, GT) jako rozšíření klasické testové teorie. Očekávána je konceptuální znalost modelu, schopnost sestavit adekvátní design G-studie i D-studie a odhadnout chybu měření/reliabilitu pro konkrétní (jednoduchý) design.
Stručný obsah
- Konceptuální východiska GT. Souvislosti s CTT, předpoklady.
- 1, 2, n-fasetový design. Odlišnosti termínu faseta od jiných oblastí psychometriky :-)
- Prostor zobecnění (universe of generalization), ideální skór (universe score).
- G-studie, D-studie. Absolutní vs. relativní design a faseta, smíšený design.
- Využití ANOVA a smíšeného lineárního modelu (linear mixed model, LMM) pro odhad rozptylových komponent. Výhody a nevýhody obou přístupů.
- Absolutní a relativní chyba. Postup jejich odhadu pro různé D-studie.
- Koeficient zobecnitelnosti (generalizability coef.) a spolehlivosti (dependability coef.) a jejich interpretace.
- Využití teorie zobecnitelnosti v praxi: vývoj testu, odhad chyby měření, chyba odhadu skupinových skórů, další praktické aplikace.
- Další předpoklady a omezený: skryté (hidden) a vnořené (nested) fasety.
- Praktická ukázka: hodnocení bakalářských prací jako přijímací zkouška do NMGR PSY na FSS MU.
Přednáška 06: Teorie zobecnitelnosti
Prezentace.
Chyba v prezentaci na přednášce
Chyba: Odkazovaný objekt neexistuje nebo nemáte právo jej číst.
https://is.muni.cz/el/fss/podzim2023/PSYn4790/um/videa/PSYn4790_2023_P06_GT.video5
Studijní zdroje
Povinné
Jeden z následujících dvou zdrojů. Oba se hodně překrývají, ale každý má své výhody a nevýhody. Vyberte si dle své preference ;-)
- Shavelson, R. J., & Webb, N. M. (2005). Generalizability theory. In J.L. Green, G. Camilli, G. & P. B. Elmore (Eds.), Complementary Methods for Research in Education (3rd ed., 599–612). Washington, DC: AERA.
- Furr, R. M., & Bacharach, V. R. (2014). Psychometrics : An Introduction. Sage. Strany 569–608.
Chyba: Odkazovaný objekt neexistuje nebo nemáte právo jej číst.
https://is.muni.cz/el/fss/podzim2023/PSYn4790/um/literatura/shavelson2005.pdf
Chyba: Odkazovaný objekt neexistuje nebo nemáte právo jej číst.
https://is.muni.cz/el/fss/podzim2023/PSYn4790/um/literatura/furr.pdf
Doplňující a rozšiřující zdroje
- Velmi čtivý úvod do GT včetně jednoduchého úvodu s motivy, k čemu to celé je. Může jít o alternativu k povinné literatuře.
Briesch, A. M., Swaminathan, H., Welsh, M., & Chafouleas, S. M. (2014). Generalizability theory : A practical guide to study design , implementation , and interpretation. Journal of School Psychology, 52(1), 13–35. https://doi.org/10.1016/j.jsp.2013.11.008 - Implementace do R:
Christopher T. Moore (2016). gtheory: Apply Generalizability Theory with R. R package version 0.1.2. https://CRAN.R-project.org/package=gtheory
(Tento balíček ale moc nedoporučuji, má určité nevýhody a chyby.) - Kompletní přehled GT:
Brennan, R. L. (c2001). Generalizability theory. Springer.
(K vypůjčení v kanc. 2.47. Pozor, knížka je zastaralá po statistické stránce, zcela chybí odhad prostřednictvím maximum-likelihood estimátoru a smíšeného lineárního modelu, jinak je ale perfektní a po konceptuální stránce vyčerpávající. Brennan byl přímým Cronbachovým spolupracovníkem) - Úvod do teorie včetně jednoduché implementace do R a řady příkladů:
Desjardins, C. D., & Bulut, O. (2018). Handbook of educational measurement and psychometrics using R. CRC Press, Taylor & Francis Group. Strany 55–73.
(Součástí jsou skripty v nepublikovaném balíčku hemp.) - Ilustrace GT na hodnocení bakalářských prací pro účely přijímacího řízení na naší fakultě. GT je zmíněna okrajově v on-line appendixu a pro vyvážení přísnosti hodnotitelů byl využit multifasetový Raschův model, jde nicméně o příbuzný model ke GT. Může posloužit jako ilustrace postupu.
Cígler, H., Ježek, S., Širůček, J., & Lacinová, L. (2022). Hodnocení bakalářských prací jako přijímací kritérium do navazujícího magisterského studia: psychometrická kazuistika. Studia paedagogica, 27(1), 93-124. https://dx.doi.org/10.5817/SP2022-1-4
Chyba: Odkazovaný objekt neexistuje nebo nemáte právo jej číst.
https://is.muni.cz/el/fss/podzim2023/PSYn4790/um/literatura/desjardins2018.pdf
Chyba: Odkazovaný objekt neexistuje nebo nemáte právo jej číst.
https://is.muni.cz/el/fss/podzim2023/PSYn4790/um/literatura/briesch2014.pdf
Teorie zobecnitelnosti v R: skript a data
Skript a data pro ilustraci teorie zobecnitelnosti v R. Data pocházejí z přijímací zkoušky do NMGR psychologie FSS MU do podzimního semestru 2020 (hodnocení bakalářských prací). Celkem 18 různých hodnotitelů hodnotilo v 11 kritériích 97 bakalářských prací uchazečů o studium; každou posuzovali právě dva náhodně vybraní hodnotitelé.
Workshop GT Praha 2019
Data z workshopu o GT na Pedf a MFF UK v Praze, 2019, v rámci kurzu Seminář z Psychometrie.
Hodnocení bakalářských prací jako přijímací kritérium do navazujícího magisterského studia: psychometrická kazuistika
Cígler, H., Ježek, S., Širůček, J., & Lacinová, L. (2022). Hodnocení bakalářských prací jako přijímací kritérium do navazujícího magisterského studia: psychometrická kazuistika. Studia paedagogica, 27(1), 93-124. https://dx.doi.org/10.5817/SP2022-1-4
Hodnocení bakalářských prací jako přijímací kritérium do navazujícího magisterského studia: Psychometrická kazuistika (on-line supplement)
Cígler, H., Ježek, S., Širůček, J., & Lacinová, L. (2021, October 14). Hodnocení bakalářských prací jako přijímací kritérium do navazujícího magisterského studia: Psychometrická kazuistika. https://doi.org/10.17605/OSF.IO/QX5U7