Skip to main content
Orginalia

Diagnostische Kompetenz von Englischlehrkräften

Diagnostische Kompetenz von Englischlehrkräften bei der Bewertung von Schülerleistungen mit Hilfe des Gemeinsamen Europäischen Referenzrahmens für Sprachen

Published Online:https://doi.org/10.1026/0049-8637/a000071

Der vorliegende Beitrag thematisiert die diagnostische Kompetenz von Englischlehrkräften am Ende der Sekundarstufe I. Die 56 untersuchten Lehrkräfte wurden gebeten, für jeden der von ihnen unterrichteten 1 363 Schülerinnen und Schüler ein Niveau der Fremdsprachverwendung anzugeben, wie sie der Gemeinsame Europäische Referenzrahmen für Sprachen (GER) beschreibt. Den Lehrkrafturteilen wurden per Leistungstest ermittelte GER-Niveaus für das Leseverstehen in der ersten Fremdsprache Englisch gegenübergestellt, ihre Übereinstimmung anhand der Niveau-, Differenzierungs- und Rangkomponente quantifiziert. Jenseits einer Deskription diagnostischer Kompetenz adressiert der vorliegende Beitrag die Überlagerung der GER-Urteile durch die klasseninterne Norm der Notengebung, die über einen Abgleich von Lehrkrafturteilen und Zeugnisnoten im Fach Englisch empirisch geprüft wird. Zudem wird eine mehrebenenanalytische Modellierung diagnostischer Kompetenz vorgestellt. Sie prüft, inwieweit die Höhe der klassischen Rangkomponente sowie einer mehrebenenanalytischen Entsprechung der Niveaukomponente durch die Vertrautheit von Lehrkräften mit dem GER und seiner früheren Nutzung bei der Beurteilung der unterrichteten Schülerinnen und Schüler beeinflusst werden.


English teachers’ diagnostic skills in judging their students’ competencies on the basis of the Common European Framework of Reference

The present study addresses diagnostic competence of English language teachers at the end of lower secondary education. The 56 teachers assigned each of their respective students (N = 1 363) to a proficiency level of foreign language use according to the Common European Framework of Reference for Languages (CEFR). The teachers’ judgements were compared to CEFR proficiency level assignments estimated using data from a reading comprehension assessment of English as a foreign language. The consistency of proficiency level allocations was evaluated using level, differentiation, and ranking components. Beyond providing a description of diagnostic competence, the present study focuses on the influence of classroom halo effects on teachers’ CEFR proficiency level judgements by comparing teacher judgments and students’ English marks. A multilevel model of diagnostic competence is presented to assess to what extent the rank and level components are influenced by teachers’ familiarity with and use of the CEFR guidelines when judging student proficiency.

Literatur

  • Alderson, J. C. , Clapham, J. & Wall, D. (1995). Test specifications. In J. C. Alderson, J. Clapham & D. Wall (Eds.), Language test construction and evaluation (S. 9 – 39). Cambridge: Cambridge University Press. First citation in articleGoogle Scholar

  • Artelt, C. , Stanat, P. , Schneider, W. , Schiefele, U. & Lehmann, R. (2004). Die PISA-Studie zur Lesekompetenz: Überblick und weiterführende Analysen. In C. Artelt, P. Stanat , W. Schneider & U. Schiefele (Hrsg.), Struktur, Entwicklung und Förderung der Lesekompetenz Jugendlicher: Vertiefende Analysen der PISA 2000 Daten (S. 139 – 168). Opladen: Leske & Buderich. First citation in articleCrossrefGoogle Scholar

  • Bates, C. & Nettelbeck, T. (2001). Primary school teacher judgements of reading achievement. Educational Psychology, 21, 177 – 187. First citation in articleCrossrefGoogle Scholar

  • Baumert, J. & Kunter, M. (2006). Stichwort: Professionalität von Lehrkräften. Zeitschrift für Erziehungswissenschaft, 9, 469 – 520. First citation in articleCrossrefGoogle Scholar

  • Baumert, J. , Trautwein, U. & Artelt, C. (2003). Schulumwelten–institutionelle Bedingungen des Lehrens und Lernens. In Deutsches PISA-Konsortium (Hrsg.), PISA 2000. Ein differenzierter Blick auf die Länder der Bundesrepublik Deutschland (S. 261 – 331). Opladen: Leske + Budrich. First citation in articleCrossrefGoogle Scholar

  • Cizek, G. J. & Bunch, M. B. (2007). Standard-Setting. Thousand Oaks: Sage. First citation in articleCrossrefGoogle Scholar

  • Cortina, K. S. & Pant, H. A. (2009). Hierarchische Linearere Modelle. In H. Holling (Hrsg.) Enzyklopädie der Psychologie, Themenbereich B: Methodologie und Methoden, Serie IV: Evaluation, Bd. 1 Evaluationsforschung: Grundlagen und statistische Methoden der Evaluationsforschung (S. 335 – 362). Göttingen: Hogrefe. First citation in articleGoogle Scholar

  • Demaray, M.K. & Elliot, S. N. (1998). Teachers’ judgements of students’ academic functioning: A comparison of actual and predicted performances. School Psychology Quarterly, 13, 8 – 24. First citation in articleCrossrefGoogle Scholar

  • Enders, C. K. & Tofighi, D. (2007). Centering predictor variables in cross-sectional multilevel models: A new look on an old issue. Psychological Methods, 12, 121 – 138. First citation in articleCrossrefGoogle Scholar

  • Europarat (2001). Gemeinsamer europäischer Referenzrahmen für Sprachen: lernen, lehren, beurteilen. Berlin: Langenscheidt. First citation in articleGoogle Scholar

  • Harsch, C. , Pant, H. A. & Köller, O. (2010). Calibrating Standards-based Assessment Tasks for English as a First Foreign Language–Standard-setting Procedures in Germany. Münster: Waxmann, First citation in articleGoogle Scholar

  • Helmke, T. , Helmke, A. , Schrader, F.W. , Wagner, W. , Nold, G. & Schröder, K. (2008a). Die Videostudie des Englischunterrichts. In DESI-Konsortium (Hrsg.), Unterricht und Kompetenzerwerb in Deutsch und Englisch: Ergebnisse der DESI-Studie (S. 345 – 363). Weinheim: Beltz. First citation in articleGoogle Scholar

  • Helmke, T. , Helmke, A. , Schrader, F.W. , Wagner, W. , Nold, G. & Schröder, K. (2008b). Alltagspraxis des Englischunterrichts. In DESI-Konsortium (Hrsg.), Unterricht und Kompetenzerwerb in Deutsch und Englisch: Ergebnisse der DESI-Studie (S. 371 – 381). Weinheim: Beltz. First citation in articleGoogle Scholar

  • Hofmann, D. A. & Gavin, M. B. (1998). Centering decisions in hierarchical linear models: Implications for research in organizations. Journal of Management, 24, 623 – 641. First citation in articleCrossrefGoogle Scholar

  • Hoge, R.D. & Coladarci, T. (1989). Teacher-based judgements of academic achievement: A review of literature. Review of Educational Psychology, 59, 297 – 313. First citation in articleGoogle Scholar

  • Hosenfeld, I. , Helmke, A. & Schrader, F.W. (2002). Diagnostische Kompetenz: Unterrichts- und lernrelevante Schülermerkmale und deren Einschätzung durch Lehrkräfte in der Unterrichtsstudie SALVE. In M. Prenzel & J. Doll (Hrsg.), Bildungsqualität von Schule: Schulische und außerschulische Bedingungen mathematischer, naturwissenschaftlicher und überfachlicher Kompetenzen. Zeitschrift für Pädagogik, 45. Beiheft (S. 65 – 82). Weinheim: Beltz First citation in articleGoogle Scholar

  • Hox, J. (2002). Multilevel Analysis: Techniques and Applications. Mahwah, NJ: Lawrence Erlbaum Associates. First citation in articleCrossrefGoogle Scholar

  • Ingenkamp, K. (1995). Die Fragwürdigkeit der Zensurengebung. Texte und Untersuchungsberichte (9. unveränderte Aufl.).Weinheim: Beltz. First citation in articleGoogle Scholar

  • Jaeger, R. M. (1989). Certification of student competence. In R. L. Linn (Eds.), Educational Measurement (3rd ed.; pp. 485 – 514). New York: MacMillan. First citation in articleGoogle Scholar

  • Karantonis, A. & Sireci, S. G. (2006). The Bookmark Standard-Setting method: A literature review. Educational Measurement: Issues and Practice, 25, 4 – 12. First citation in articleCrossrefGoogle Scholar

  • Klett-Verlag (2007). Lehrplansynopse für das Fach Englisch als 1. Fremdsprache für die Klassen 5 und 6 am Gymnasium. Klett-Verlag: Stuttgart [Zugriff am 10. 03. 2011; https://almanachdegotha.de/sixcms/list.php?page=titelfamilie&titelfamilie=Green+Line&modul=regionale_informationen#Niedersachsen] First citation in articleGoogle Scholar

  • Klieme, E. , Avenarius, H. Blum , W., Döbrich , P., Gruber , H., Prenzel , M. et al. (2003). Zur Entwicklung nationaler Bildungsstandards–Eine Expertise. Berlin: BMBF. First citation in articleGoogle Scholar

  • KMK (2004). Bildungsstandards für die erste Fremdsprache (Englisch / Französisch) für den Mittleren Schulabschluss: Beschluss vom 04. 12. 2003. München: Luchterhand. First citation in articleGoogle Scholar

  • Köller, O. (2009). Bildungsstandards. In R. Tippelt & B. Schmidt (Hrsg.), Handbuch Bildungsforschung (2. Auflage) (S. 529 – 548). Wiesbaden: VS Verlag für Sozialwissenschaften. First citation in articleCrossrefGoogle Scholar

  • Krashen, S.D. (1982). Principles and practice of second language acquisition. Oxford: Pergamon. First citation in articleGoogle Scholar

  • Lorenz, C. & Artelt, C. (2009). Fachspezifität und Stabilität diagnostischer Kompetenz von Grundschullehrkräften in den Fächern Deutsch und Mathematik. Zeitschrift für Pädagogische Psychologie, 23, 211 – 222. First citation in articleLinkGoogle Scholar

  • Mitzel, H. C. , Lewis, D. M. , Patz, R. J. & Green, D. R. (2001). The Bookmark Procedure: Psychological perspectives. In G. J. Cizek (Ed.), Setting Perfomance Standards: Concepts, Methods, and Perspectives (pp. 249 – 281). Mahwah, NJ: Lawrence Erlbaum Associates. First citation in articleGoogle Scholar

  • McElvany, N. , Schroeder, S. , Hachfeld, A. , Baumert, J. , Richter, T. , Schnotz, W. (2009). Diagnostische Fähigkeiten von Lehrkräften bei der Einschätzung von Schülerleistungen und Aufgabenschwierigkeiten bei Lernmedien mit instruktionalen Bildern. Zeitschrift für Pädagogische Psychologie, 23, 223 – 235. First citation in articleLinkGoogle Scholar

  • Möller, J. , Zaunbauer, A. & Leucht, M. (2010). Fremdsprachenlernen. In D.H. Rost (Hrsg.), Handwörterbuch Pädagogische Psychologie (4. Aufl.; S. 219 – 225). Weinheim: Beltz. First citation in articleGoogle Scholar

  • Pant, H. A. , Rupp, A. A. , Tiffin-Richards, S. & Köller, O. (2009). Validity issues in standard-setting studies. Studies in Educational Evaluation, 35, 95 – 101. First citation in articleCrossrefGoogle Scholar

  • Palmer, D. J. , Stough, L. M. , Burdenski, J. T. K. & Gonzales, M. (2005). Identifying teacher expertise: An examination of researchers’ decision making. Educational Psychologist, 40, 13 – 25. First citation in articleCrossrefGoogle Scholar

  • Raudenbush, S. W. , Bryk, A. S. & Congdon, R. (2004). HLM 6 for Windows [Computer software]. Lincolnwood, IL: Scientific Software International, Inc. First citation in articleGoogle Scholar

  • Rogalla, M. & Vogt, F. (2008). Förderung adaptiver Lehrerkompetenz: Eine Interventionsstudie. Unterrichtswissenschaft. Zeitschrift für Lernforschung, 36, 17 – 36. First citation in articleGoogle Scholar

  • Rupp, A. A. , Vock, M. , Harsch, C. & Köller, O. (2008). Developing standards-based assessment tasks for English as a first foreign language–Context, processes, and outcomes in Germany. Münster: Waxmann. First citation in articleGoogle Scholar

  • Saldern, M. von (1999). Schulleistung in Deutschland. Hohengehren: Schneider. First citation in articleGoogle Scholar

  • Sarig, G. (1989). Testing meaning construction: Can we do it fairly? Language Testing, 6, 77 – 94. First citation in articleCrossrefGoogle Scholar

  • Schnotz, W. (1971). Schätzung von Aufgabenschwierigkeiten durch Lehrer. Zeitschrift für Entwicklungspsychologie und Pädagogische Psychologie, 3, 106 – 120. First citation in articleGoogle Scholar

  • Schrader, F. W. (2010). Diagnostische Kompetenz von Eltern und Lehrern. In D.H. Rost (Hrsg.), Handwörterbuch Pädagogische Psychologie (4. Aufl.; S. 102 – 108). Weinheim: Beltz. First citation in articleGoogle Scholar

  • Schrader, F. W. & Helmke, A. (1987). Diagnostische Kompetenz von Lehrern: Komponenten und Wirkungen. Empirische Pädagogik, 1, 27 – 52. First citation in articleGoogle Scholar

  • Senatsverwaltung für Bildung, Jugend und Sport (Hrsg.). (2006). Rahmenlehrplan für die Grundschule und die Sekundarstufe I–Englisch 1./2. Fremdsprache. Berlin: SBJS. First citation in articleGoogle Scholar

  • Sekretariat der Ständigen Konferenz der Kultusminister der Länder der Bundesrepublik Deutschland (2004). Standards für die Lehrerbildung: Bildungswissenschaften. Beschluss der Kultusministerkonferenz vom 16. 12. 2004. Bonn. First citation in articleGoogle Scholar

  • Spinath, B. (2005). Akkuratheit der Einschätzung von Schülermerkmalen durch Lehrer und das Konstrukt der diagnostischen Kompetenz. Zeitschrift für Pädagogische Psychologie, 19, 85 – 95. First citation in articleLinkGoogle Scholar

  • Südkamp, A. , Kaiser, J. & Möller, J. (in print). Accuracy of Teachers’ Judgments of Students’ Academic Achievement: A Meta-Analysis. Journal of Educational Psychology. First citation in articleGoogle Scholar

  • Südkamp, A. , Möller, J. & Pohlmann, B. (2008). Der Simulierte Klassenraum: Eine experimentelle Untersuchung zur diagnostischen Kompetenz. Zeitschrift für Pädagogische Psychologie, 22, 261 – 276. First citation in articleLinkGoogle Scholar

  • Wilson, M. , & Draney, K. (2002). A technique for setting standards and maintaining them over time. In S. Nishisato, Y. Baba , H. Bozdogan, & K. Kanefugi (Eds.), Measurement and multivariate analysis (Proceedings of the International Conference on Measurement and Multivariate Analysis, Banff, Canada, May 12 – 14, 2000) (pp. 325 – 332). Tokyo: Springer. First citation in articleCrossrefGoogle Scholar

  • Wu, M. L. , Adams, R. J. , Wilson, M. & Haldane, S. A. (2007). ACER ConQuest. Version 2.0. Generalised Item Response Software. Camberwell: ACER Press. First citation in articleGoogle Scholar