Psychometrika: měření v psychologii

Týden 7: Teorie zobecnitelnosti | 26. 10. 2021

Setkání se zaměřuje na teorii zobecnitelnosti (Generalizability Theory, GT) jako rozšíření klasické testové teorie. Očekávána je konceptuální znalost modelu, schopnost sestavit adekvátní design G-studie i D-studie a odhadnout chybu měření/reliabilitu pro konkrétní design. P

Stručný obsah

  • Konceptuální východiska GT. Souvislosti s CTT, předpoklady.
  • 1, 2, n-fasetový design. Odlišnosti termínu faseta od jiných oblastí psychometriky :-)
  • Prostor zobecnění (universe of generalization), ideální skór (universe score).
  • G-studie, D-studie. Absolutní vs. relativní design a faseta.
  • Využití ANOVA a smíšeného lineárního modelu (linear mixed model, LMM) pro odhad rozptylových komponent. Výhody a nevýhody obou přístupů.
  • Absolutní a relativní chyba. Postup jejich odhadu pro různé D-studie.
  • Koeficient zobecnitelnosti (generalizability coef.) a spolehlivosti (dependability coef.) a jejich interpretace.
  • Využití teorie zobecnitelnosti v praxi: vývoj testu, odhad chyby měření, další praktické aplikace. 
  • Praktická ukázka: hodnocení bakalářských prací jako přijímací zkouška do NMGR PSY na FSS MU.

Průběžná příprava: 27.–31. 10. 2020

Čeká vás opět jedna otázka na cca 1.000 znaků. Kromě toho je součástí přípravy jedna nepovinná otázka zaměřená na postup výpočtu pro ilustraci toho, jak může vypadat písemný test. Po ukončení průběžné přípravy, tj. od 1. 11., budou v níže uvedené kapitole dostupné výsledky a ilustrace tohoto výpočtu. Můžete se pak sám/sama podívat, jaký byl optimální postup.

Přednáška 07: Teorie zobecnitelnosti
Powerpointová prezentace.

Chyba: Odkazovaný objekt neexistuje nebo nemáte právo jej číst.
https://is.muni.cz/el/fss/podzim2021/PSYn4790/um/videa2020/PSYn4790_2021_P07_GT.mp4

Studijní zdroje

Povinné

Jeden z následujících dvou zdrojů. Oba se hodně překrývají, ale každý má své výhody a nevýhody. Vyberte si dle své preference ;-)

  1. Shavelson, R. J., & Webb, N. M. (2005). Generalizability theory. In J.L. Green, G. Camilli, G. & P. B. Elmore (Eds.), Complementary Methods for Research in Education (3rd ed., 599–612). Washington, DC: AERA.
  2. Furr, R. M., & Bacharach, V. R. (2014). Psychometrics : An Introduction. Sage. Strany 355384.
Chyba: Odkazovaný objekt neexistuje nebo nemáte právo jej číst.
https://is.muni.cz/el/fss/podzim2021/PSYn4790/um/literatura/shavelson2005.pdf

Doplňující a rozšiřující zdroje

  1. Velmi čtivý úvod do GT včetně jednoduchého úvodu s motivy, k čemu to celé je. Může jít o alternativu k povinné literatuře.
    Briesch, A. M., Swaminathan, H., Welsh, M., & Chafouleas, S. M. (2014). Generalizability theory : A practical guide to study design , implementation , and interpretation. Journal of School Psychology, 52(1), 13–35. https://doi.org/10.1016/j.jsp.2013.11.008
  2. Implementace do R:
    Christopher T. Moore (2016).
    gtheory: Apply Generalizability Theory with R. R package version 0.1.2.
    (Tento balíček ale moc nedoporučuji, má určité nevýhody a chyby.)
  3. Kompletní přehled GT:
    Brennan, R. L. (c2001). Generalizability theory. Springer. 
    (K vypůjčení v kanc. 2.47. Pozor, knížka je zastaralá po statistické stránce, zcela chybí odhad prostřednictvím maximum-likelihood estimátoru a smíšeného lineárního modelu, jinak je ale perfektní a po konceptuální stránce vyčerpávající. Brennan byl přímým Cronbachovým spolupracovníkem)
  4. Úvod do teorie včetně jednoduché implementace do R a řady příkladů:
    Desjardins, C. D., & Bulut, O. (2018). 
    Handbook of educational measurement and psychometrics using R. CRC Press, Taylor & Francis Group. Strany 5573.
    (Součástí jsou skripty v nepublikovaném balíčku hemp.)
  5. Ilustrace GT na hodnocení bakalářských prací pro účely přijímacího řízení na naší fakultě. GT je zmíněna okrajově v on-line appendixu a pro vyvážení přísnosti hodnotitelů byl využit multifasetový Raschův model, jde nicméně o příbuzný model ke GT. Může posloužit jako ilustrace postupu.
    Cígler, H., Ježek, S., Širůček, J., & Lacinová, L. (2020, November 20). Hodnocení bakalářských prací jako přijímací kritérium do navazujícího magisterského studia: Psychometrická kazuistika. https://doi.org/10.31234/osf.io/dt7nr   (preprint)

Chyba: Odkazovaný objekt neexistuje nebo nemáte právo jej číst.
https://is.muni.cz/el/fss/podzim2021/PSYn4790/um/literatura/desjardins2018.pdf
Chyba: Odkazovaný objekt neexistuje nebo nemáte právo jej číst.
https://is.muni.cz/el/fss/podzim2021/PSYn4790/um/literatura/briesch2014.pdf
Teorie zobecnitelnosti v R: skript a data
Skript a data pro ilustraci teorie zobecnitelnosti v R. Data pocházejí z přijímací zkoušky do NMGR psychologie FSS MU do podzimního semestru 2020 (hodnocení bakalářských prací). Celkem 18 různých hodnotitelů hodnotilo v 11 kritériích 97 bakalářských prací uchazečů o studium; každou posuzovali právě dva náhodně vybraní hodnotitelé.
Workshop GT Praha 2019
Data z workshopu o GT na Pedf a MFF UK v Praze, 2019, v rámci kurzu Seminář z Psychometrie.
Hodnocení bakalářských prací jako přijímací kritérium do navazujícího magisterského studia: Psychometrická kazuistika
Cígler, H., Ježek, S., Širůček, J., & Lacinová, L. (2020, November 20). Hodnocení bakalářských prací jako přijímací kritérium do navazujícího magisterského studia: Psychometrická kazuistika. https://doi.org/10.31234/osf.io/dt7nr