Leisten fachspezifische Studierfähigkeitstests im deutschsprachigen Raum eine valide Studienerfolgsprognose?
Ein metaanalytisches Update
Abstract
Zusammenfassung. Fachspezifische Studierfähigkeitstests werden in mehreren zulassungsbeschränkten Studiengängen als Auswahlinstrument eingesetzt. Eine Metaanalyse von Hell, Trapmann und Schuler (2007) ermittelte eine hohe prognostische Validität solcher Tests. Seitdem hat es allerdings umfassende Veränderungen des Bildungssystems (z. B. Bologna-Prozess, Änderungen der Schulsysteme) sowie eine stete Weiterentwicklung der Testverfahren gegeben. Zur Klärung der Frage, ob fachspezifische Studierfähigkeitstests nach wie vor eine gute Erfolgsprognose liefern, schreibt die vorliegende Arbeit die Metaanalyse von Hell et al. (2007) fort. Die prognostische Validität im deutschsprachigen Raum ist stabil geblieben (ρ = .427, K = 54 Stichproben, N = 8410 Personen). Es fanden sich höhere Validitäten bei neueren Studien, Zeitschriftenartikeln mit Peer-Review, universitären Stichproben sowie bei kürzerem Abstand zwischen Test und Studiennotenerfassung. Zudem zeigten sich Fachunterschiede bezüglich der prognostischen Validität beispielsweise zugunsten von Sozialwissenschaften (ρ = .510). Die Studierfähigkeitstests besitzen außerdem eine inkrementelle Validität über die Abiturnote hinaus (ΔR² = .081, k = 31, n = 3999). Die Befunde sprechen dafür, dass die Testverfahren einen hilfreichen Beitrag zur erfolgreichen Studierendenauswahl liefern (als Alternative oder Ergänzung zur Abiturnote).
Abstract. Subject-specific college admission tests are used for student selection in fields with restricted admission. A meta-analysis by Hell, Trapmann, and Schuler (2007) found a high predictive validity for such tests. Since then, there have been various changes in the educational system (e. g., the Bologna process, changes in schooling) and an ongoing development of testing procedures. The present study continues the meta-analysis of Hell et al. (2007) in order to find out whether subject-specific college admission tests still provide a good prediction of educational success. The predictive validity remained stable in German-speaking countries (ρ = .427, K = 54 samples, N = 8,410 persons). Validities were higher in newer studies, peer-reviewed journal articles, university samples, and studies with a shorter time between testing and assessment of college grades. Furthermore, the predictive validity differed between fields of study, for example, in favor of the social sciences (ρ = .510). College admission tests also have incremental validity over and above high-school grades (ΔR² = .081, k = 31, n = 3999). These findings support the notion that the admission tests contribute to an effectual student selection (as an alternative or additionally to high-school grades).
Literatur
Die mit einem Stern versehenen Literatureinträge bezeichnen die Studien, die in die Metaanalyse aufgenommen wurden.
2016). MedAT: Kurzzusammenfassung 2013 – 2016. Graz: Universität Graz.
(2015). The reliability of college grades. Educational Measurement: Issues and Practice, 34 (4), 31 – 40. https://doi.org/10.1111/emip.12096
(*2018). Validität und Fairness eines Studierfähigkeitstests für Rechtswissenschaften. Zeitschrift für Hochschulentwicklung, 13 (4), 57 – 97.
(2018). Urteil des Ersten Senats vom 19. Dezember 2017 – 1 BvL 3/14 – Rn. (1 – 253). Verfügbar unter http://www.bverfg.de/e/ls20171219_1bvl000314.html
(*2017). Studienerfolg im Physikstudium: Inkrementelle Validität physikalischen Fachwissens und physikalischer Kompetenz. Zeitschrift für Didaktik der Naturwissenschaften, 23 (1), 127 – 141. https://doi.org/10.1007/s40573-017-0062-7
(1988). Statistical power analysis for the behavioral sciences (2. Aufl.). Hillsdale, NJ: Erlbaum.
(*2016). Qualitätssicherung der Studierendenauswahl: Test für Medizinische Studiengänge (TMS) aus Sicht von Studienbewerbern, Studierenden und Absolventen des Studienganges Humanmedizin (Unveröffentlichte Dissertation). Ruprecht-Karls-Universität Heidelberg.
(1997). Hochschulzulassung und Studieneignungstests. Studienfeldbezogene Verfahren zur Feststellung der Eignung für Numerus-clausus- und andere Studiengänge. Göttingen: Vandenhoeck & Ruprecht.
(2018a). Aktuelle Mitteilungen, 14 (52).
(2018b). Erfolgreich im Studium? DGPs für studiengangspezifische Eignungstests (Pressemitteilung 03. 09. 2018). Verfügbar unter https://www.dgps.de/uploads/media/DGPs-Presseinformation_03-09-2018.pdf
(*2005). Prognose von Studienerfolg: Dargestellt am Beispiel des Auswahlverfahrens der Bucerius Law School. Herzogenrath: Shaker.
(2005).
(The trim and fill method . In H. R. RothsteiA. J. SuttonM. Borenstein (Hrsg.), Publication bias in meta-analysis: Prevention, assessment, and adjustments (S. 127 – 144). Chichester: Wiley.*2015). Unterschätzung der Studienleistungen von Frauen durch Studierfähigkeitstests: Erklärbar durch Persönlichkeitseigenschaften? Diagnostica, 61, 34 – 46. https://doi.org/10.1026/0012-1924/a000120
(2013). Sex-specific differential prediction of college admission tests: A meta-analysis. Journal of Educational Psychology, 105, 478 – 488. https://doi.org/10.1037/a0031956
(*2011). Studierendenauswahl im Fach Psychologie. Psychologische Rundschau, 62, 221 – 236. https://doi.org/10.1026/0033-3042/a000093
(*2013). Kritische Übergänge: Theoretische Überlegungen und empirische Befunde zur Frage der Studierfähigkeit. Tübinger Beiträge zur Hochschuldidaktik, 9 (3)
(*2013). Zum Einfluss von Studieneingangsvoraussetzungen auf den Studienerfolg Erstsemesterstudierender im Fach Chemie. Berlin: Logos.
(*2006). Prädiktoren des Studienerfolgs. Duisburg: WiKu-Verlag.
(*2012). EMS als Self Assessment ungeeignet? Zu den Ergebnissen des Eignungstests für das Medizinstudium (EMS) in Genf 2010 – 2012. Freiburg, Schweiz: Zentrum für Testentwicklung und Diagnostik.
(2007, Dezember). Numerus clausus und Eignungstest – das richtige Konzept? Vortrag Journé de réflexion FMH, Bern. Verfügbar unter https://www3.unifr.ch/ztd/ems/doc/emseval07.pdf
(*2007). Konstruktion und Evaluation eines Studierendenauswahlverfahrens für Psychologie an der Universität Heidelberg (Unveröffentlichte Dissertation). Ruprecht-Karls-Universität Heidelberg.
(2007). Eine Metaanalyse der Validität von fachspezifischen Studierfähigkeitstests im deutschsprachigen Raum. Empirische Pädagogik, 21, 251 – 270.
(2008).
(Synopse der Hohenheimer Metaanalysen zur Prognostizierbarkeit des Studienerfolgs und Implikationen für die Auswahl- und Beratungspraxis . In H. SchulerB. Hell (Hrsg.), Studierendenauswahl und Studienentscheidung (S. 43 – 54). Göttingen: Hogrefe.2011). Dimensionality and predictive validity of the HAM-Nat, a test of natural sciences for medical school admission. BMC Medical Education, 11:83 https://doi.org/10.1186/1472-6920-11-83
(2017, September). Studienerfolg an der Hochschule der BA: Vorhersagequalität unterschiedlicher Prädiktoren im Kohortenvergleich. Posterpräsentation auf der 14. Arbeitstagung der Fachgruppe Differentielle Psychologie, Persönlichkeitspsychologie und Psychologische Diagnostik (DPPD), München.
(*2014).
(Vorhersage des Studienerfolgs an der Hochschule der Bundesagentur für Arbeit auf Grundlage der Studieneingangskriterien „Schulnote“ und „Fachspezifischer Studierfähigkeitstest“ . In P. GuggemoM. MüllerM. Rübner (Hrsg.), Herausforderungen und Erfolgsfaktoren beschäftigungsorientierter Beratung. Beiträge aus der Beratungsforschung (S. 210 – 237). Landau: Verlag Empirische Pädagogik.2004). Methods of meta-analysis: Correcting error and bias in research findings (2nd ed.). Thousand Oaks, CA: Sage.
(2018). Zur prognostischen Güte von Zulassungskriterien im Psychologiestudium für Studienerfolgsindikatoren. Psychologische Rundschau, 69, 160 – 168. https://doi.org/10.1026/0033-3042/a000383
(*2016). Studienleistung von Studierenden mit den besten versus mittelmäßigen Abiturnoten: Gleicht der Test für Medizinische Studiengänge (TMS) ihre Prognosen aus? GMS Journal for Medical Education, 33 (1), Doc7 https://doi.org/10.3205/zma001006
(*2013). Das Hamburger Auswahlverfahren in der Zahnmedizin-Einführung des HAM-Nat als fachspezifischer Studierfähigkeitstest. GMS Journal for Medical Education, 30 (4), Doc46 https://doi.org/10.3205/zma000889
(2008). Studienerfolgsprognose in der Bundeswehr-Evaluation vorhandener und zukünftiger Prädiktoren (Unveröffentlichte Dissertation). Rheinische Friedrich-Wilhelms-Universität zu Bonn.
(2001). A comprehensive metaanalysis of the predictive validity of the graduate record examinations: Implications for graduate student selection and performance. Psychological Bulletin, 127, 162 – 181. https://doi.org/10.1037//0033-2909.127.1.162
(2004). Academic performance, career potential, creativity, and job performance: Can one construct predict them all? Journal of Personality and Social Psychology, 86 (1), 148 – 161. https://doi.org/10.1037/0022-3514.86.1.148
(*2014).
(Studienerfolg und seine Prognose: Eine Fallstudie in Ingenieurstudiengängen der Hochschule für Angewandte Wissenschaften Esslingen . In M. RentschlerG. Metzger (Hrsg.), Perspektiven angewandter Hochschuldidaktik: Studien und Erfahrungsberichte (S. 13 – 79). Aachen: Shaker.*2008).
(Studierendenauswahl an der Universität Salzburg: Konzeption und Validität . In H. SchulerB. Hell (Hrsg.), Studierendenauswahl und Studienentscheidung (S. 192 – 203). Göttingen: Hogrefe.2017). Does test anxiety increase as the exam draws near? Students’ state test anxiety recorded over the course of one semester. Personality and Individual Differences, 104, 397 – 400. https://doi.org/10.1016/j.paid.2016.08.032
(*2008).
(Inhaltliche Aspekte des Fachspezifischen Studierfähigkeitstests . In M. RentschlerH.-P. Voss (Hrsg.), Studieneignung und Studierendenauswahl – Untersuchungen und Erfahrungsberichte (S. 71 – 93). Aachen: Shaker.*2007). EMS: Eignungstest für das Medizinstudium in Österreich. Freiburg, Schweiz: Zentrum für Testentwicklung und Diagnostik.
(2009). Preferred reporting items for systematic reviews and meta-analyses: The PRISMA statement. PLoS Med, 6 (7): e1000097 https://doi.org/10.1371/journal.pmed1000097
(2006). Studierendenauswahl durch die Hochschulen: Ansätze zur Prognostizierbarkeit des Studienerfolgs am Beispiel des Studiengangs Psychologie. Report Psychologie, 31 (3), 114 – 123.
(*2018). Mathematisches Wissen von Studienanfängern und Studienerfolg. Zeitschrift für Didaktik der Naturwissenschaften, 24, 183 – 199. https://doi.org.10.1007/s40573-018-0082-y
(*2009). Chancen und Grenzen eines differenzierteren Ansatzes zur Hochschulbewerberauswahl. Das Hochschulwesen, 57 (3), 81 – 88.
(2007). Testserie für Abiturienten und Hochschüler (MOT) im Rahmen des Auswahlverfahrens für die Studiengänge an der Hochschule für Bundesagentur für Arbeit (Information Nr. 66 des Psychologischen Dienstes). Nürnberg: Bundesagentur für Arbeit.
(2018). R: A language and environment for statistical computing. Wien: R Foundation for Statistical Computing. Verfügbar unter https://www.R-project.org
(2008). High stakes testing in higher education and employment: appraising the evidence for validity and fairness. American Psychologist, 63, 215 – 227. https://doi.org/10.1037/0003-066X.63.4.215
(*2016). Studieneingangsvoraussetzungen und Studienerfolg im Fach Biologie. Berlin: Logos.
(2009).
(Correcting for the distorting effects of study artifacts in meta-analysis . In H. CooperL. V. Hedges (Hrsg.), The handbook of research synthesis (2nd ed., S. 317 – 333). New York, NY: Russell Sage Foundation.2009). Fixed- versus random-effects models in meta-analysis: Model properties and an empirical comparison of differences in results. British Journal of Mathematical and Statistical Psychology, 62 (1), 91 – 128. https://doi.org/10.1348/000711007X255327
(2018).
(Prädiktoren von Studien- und Berufserfolg . In D. H. RosJ. R. SparfeldtS. R. Buch (Hrsg.), Handwörterbuch Pädagogische Psychologie (5. Aufl., S. 645 – 653). Weinheim: Beltz.2018). Bereit für Bologna? Test- und notenbasierte Erfolgsprognose im Masterstudium. Verfügbar unter https://osf.io/k9bg5
(2016). Tests of scholastic aptitude cover reasoning facets sufficiently. European Journal of Psychological Assessment, 32, 215 – 219. https://doi.org/10.1027/1015-5759/a000247
(2015). Meta-analysis with R. Cham: Springer. https://doi.org/10.1007/978-3-319-21416-0
(2018). Medizinstudierendenauswahl in Deutschland. Bundesgesundheitsblatt – Gesundheitsforschung – Gesundheitsschutz, 61, 178 – 186. https://doi.org/10.1007/s00103-017-2670-2
(*2018). Vorhersage des Studienerfolgs in konsekutiven Masterstudiengängen mithilfe eines kognitiven Eignungstests. Hochschulmanagement, 13 (4), 101 – 107.
(2012). What should university admissions tests predict? Educational Psychologist, 47 (1), 5 – 17. https://doi.org/10.1080/00461520.2011.611444
(2007). Die Validität von Schulnoten zur Vorhersage des Studienerfolgs – eine Metaanalyse. Zeitschrift für Pädagogische Psychologie, 21, 11 – 27. https://doi.org/10.1024/1010-0652.21.1.11
(2014). Die Vorhersage des Studienerfolgs im Masterstudiengang Psychologie durch Schul- und Bachelorstudienleistungen. Beiträge zur Hochschulforschung, 36 (1), 30 – 45.
(Hrsg.). (1998). Evaluation des Tests für medizinische Studiengänge (TMS): Synopse der Ergebnisse. Bonn: Institut für Test- und Begabungsforschung.
(2010). Conducting meta-analyses in R with the metafor package. Journal of Statistical Software, 36 (3), 1 – 48. https://doi.org/10.18637/jss.v036.i03
(2019). Hunter and Schmidt method. Verfügbar unter http://www.metafor-project.org/doku.php/tips:hunter_schmidt_method
(*2017). Evaluierung des Aufnahmeverfahrens eines Fernstudiengangs anhand des Studienerfolges: Vorhersage des Studienerfolges durch studienbezogene Lerntests, Englischtests, objektive Leistungsmotivationstests, Intelligenztests und Eignungsinterviews. Zeitschrift für Evaluation, 16 (1), 73 – 96.
(*2018). From HAM-Nat to the “Physikum“ – Analysis of the study success parameters before and after the introduction of a science test in the approval procedure. GMS Journal for Medical Education, 35 (3), Doc30 https://doi.org/10.3205/zma001176
(2010). Higher education reform in Germany: How the aims of the Bologna process can be simultaneously supported and missed. International Journal of Educational Management, 24, 303 – 313. https://doi.org/10.1108/09513541011045245
(2008). Studienberatung im deutschen Hochschulsystem auf der Basis psychologischer Tests: Studienfachprofile, Vorhersagevalidität und Akzeptanz (Unveröffentlichte Dissertation). Rheinisch-Westfälische Technische Hochschule Aachen.
(