In deze presentatie wordt een onderzoeksproject beschreven, waarin de Kijk- en luistertoetsen Duits van Cito aan de hand van vier parameters aan het Europese Referentiekader worden gekoppeld.
Deze vier parameters zijn:
• Woordlengte
• Zinslengte
• Spreeksnelheid
• Signaalwoorden
2. • „Kijk- en luistertoetsen“ (KLT) und der GER:
Einführung in die Problematik
• Theoretischer Rahmen
• Methode
• Resultate
• Schlussfolgerungen
• Zeit für Fragen
• Literatur
Programm
3. • Objektive Niveaubestimmung nötig
• „Gemeinsamer Europäischer Referenzrahmen“
(GER)
• Koppelingsonderzoek 2005
• Standaardsetting 2013
Problem
Unterschiedliche Einschätzungen des Niveaus
Problem (1)
4. Mögliche Ursache
Kann-Beschreibungen zu abstrakt
Beispiel
Kann-Beschreibung Hörverstehen (B2)
„Ik kan een langer betoog en lezingen begrijpen en zelfs
complexe redeneringen volgen, wanneer het onderwerp
redelijk vertrouwd is. Ik kan de meeste nieuws- en
actualiteitenprogramma’s op de tv begrijpen. Ik kan het
grootste deel van films in standaardtaal
begrijpen.”
(Nederlandse Taalunie, 2008: 28)
Problem (2)
5. Mögliche Ursache
Kann-Beschreibungen zu abstrakt
Beispiel
Kann-Beschreibung Hörverstehen (B2)
„Ik kan een langer betoog en lezingen begrijpen en zelfs
complexe redeneringen volgen, wanneer het onderwerp
redelijk vertrouwd is. Ik kan de meeste nieuws- en
actualiteitenprogramma’s op de tv begrijpen. Ik kan het
grootste deel van films in standaardtaal
begrijpen.”
(Nederlandse Taalunie, 2008: 28)
Problem (3)
6. Verschiedene Versuche zur Lösung des Problems
Konkretisierung der Beschreibungen
1. Beispiel
Komponente Textstruktur (Hörverstehen C1)
„Beheerst verschillende ordeningspatronen, verbindingswoorden
en cohesie bevorderende elementen bij het verstaan van
complexe luisterteksten met lange samengestelde zinnen.
Herkent argumentaties en kan ze beoordelen. Kan ook
luisterteksten begrijpen waarin de samenhang impliciet is.”
(Meestringa & de Vries, 2010: 16)
Problem (4)
7. Verschiedene Versuche zur Lösung des Problems
Konkretisierung der Beschreibungen
1. Beispiel
Komponente Textstruktur (Hörverstehen C1)
„Beheerst verschillende ordeningspatronen, verbindingswoorden
en cohesie bevorderende elementen bij het verstaan van
complexe luisterteksten met lange samengestelde zinnen.
Herkent argumentaties en kan ze beoordelen. Kan ook
luisterteksten begrijpen waarin de samenhang impliciet is.”
(Meestringa & de Vries, 2010: 16)
Problem (5)
8. Verschiedene Versuche zur Lösung des Problems
Konkretisierung der Beschreibungen
2. Beispiel
Advies-grammaticaleerlijnen Duits en Frans
(Meijer, 2006)
3. Beispiel
Profile Deutsch (Glaboniat et al., 2005)
Problem (6)
9. Trotz dieses Materials bleibt das Problem
Mögliche Lösung
Quantitative Spezifizierung der Kann-Beschreibungen
Problem (7)
10. Forschungsfrage
„In hoeverre is het mogelijk om de Duitse kijk- en
luistertoetsen met behulp van een kwantitatieve
linguïstische analyse aan het Europese
Referentiekader te koppelen?”
Problem (8)
11. Komplexität
schwierig (subjektiv) vs. komplex (objektiv) (Lindström, 2008: 221-222)
relativ (individuell) vs. absolut (objektiv) (Szmrecsanyi & Kortmann, 2012: 10)
viele Theorien und Modelle
Beispiele für erhöhte Komplexität in unserem Kontext
• Verschachtelte Sätze
• Implizite Satzstrukturen
• Undurchsichtige Verbindung zwischen Form und Bedeutung
(DeKeyser 2005: 5-6)
• Unklare Referenzen
Theorie (1)
12. Komplexität nach dem Goethe-Institut
„Ein besonders komplexer Satzbau verbraucht
Aufmerksamkeitsressourcen, die ansonsten für die
Verarbeitung inhaltlicher Aspekte zur Verfügung
stehen könnten; Beispiele sind lange Sätze mit
mehreren Nebensätzen, diskontinuierliche
Konstituenten, Mehrfachnegation, mehrdeutige
Bezugsbereiche, die Verwendung von Anaphora und
deiktischen Ausdrücken ohne eindeutige
Vorerwähnung (Antezedenz) oder klare Bezüge
(Referenz).“ (Goethe-Institut, 2001: §7.3.2.2)
Theorie (2)
13. Konzeptionelle Mündlichkeit/Schriftlichkeit
(Koch & Oesterreicher, 1989)
medial: Material
vs.
konzeptionell: Sprachgebrauch
KLT: medial mündlich, konzeptionell mündlich und
teilweise schriftlich
Theorie (3)
15. Beispiele für Elemente gesprochener Sprache
• Referenz-Aussage-Struktur
„Diese ganzen Knöpfe hier, wie lange braucht man, um
sowas zu beherrschen?“ (HAVO 2005 V1)
• Apokoinukonstruktion
„Normalerweise haben wir beim Spielplatz zwischen 1 und 5
Punkten zur Verfügung und ich würde sagen, der ist mit
einem Punkt ist der gut bedient.“ (VMBO 2012 KGT V1)
• Wortschatz, Kontraktion, Elision
„Und das ist dann immer so'n bisschen Gefrickel.“
(HAVO 2005 V1)
„Die Küche war versifft, dafür gab’s `ne Neue.“
(HAVO 2012 V2)
Theorie (5)
16. • Quantitative Analyse aller Niveaus
• Material
− Kijk- en Luistertoetsen (KLT) 2004, 2005, 2012,
2013
− Goethe-Tests (online)
• Parameter
− Durchschnittliche Wort-, Satz- und Textlänge
− Dauer des Fragments, Sprechgeschwindigkeit
− Prozentsatz Signalwörter
(eigene Liste, Anzahl: 35)
Methode (1)
17. Beispiele für die Analyse
1. VWO 2013 V2 Nachtcafé
2. HAVO 2005 V1 Arbeitsplatz TV
3. VMBO kb-gt 2012 V1 Campingplätze
4. Goethe-Test B1 (E)
Methode (2)
22. Vorgehen: statistische Analyse der Durchschnittswerte
• Messung der Signifikanz zwischen den Werten
(signifikant bei einem Signifikanzniveau unter 0.05)
Teil 1: Signifikanz der Durchschnittswerte (KLT)
Teil 2: Korrelation zwischen KLT und Goethe-Tests
Parameter
• Anzahl Zeichen, Wörter und Sätze pro Fragment
Wort- und Satzlänge
• Dauer des Fragments Sprechtempo
• Anzahl Signalwörter Prozentsatz
Resultate (1)
23. Teil 1
Durchschnittswerte KLT
Resultate (2)
Wortlänge
(Buchstaben pro
Wort)
Satzlänge
(Wörter pro
Satz)
Sprechtempo
(Wörter pro
Sekunde)
Prozentsatz
Signalwörter
VWO 5,60 16,50 2,42 7,68
HAVO 5,50 16,12 2,51 7,31
VMBO 5,29 14,17 2,53 7,10
24. Teil 1
Signifikanz Durchschnittswerte KLT
= signifikant
Resultate (3)
Wortlänge
(Buchstaben pro
Wort)
Satzlänge
(Wörter pro
Satz)
Sprechtempo
(Wörter pro
Sekunde)
Prozentsatz
Signalwörter
VWO / HAVO - - - -
HAVO /
VMBO
(0.001) (0.000) - -
VWO / VMBO - (0.005) (0.029) -
29. Grobe Einteilung pro Schulniveau / GER-Niveau
(grün=eindeutig, rot=nicht eindeutig)
Schlussfolgerung (1)
Wortlänge
(Buchstaben
pro Wort)
Satzlänge
(Wörter pro
Satz)
Sprechtempo
(Wörter pro
Sekunde)
Prozentsatz
Signalwörter
Gesamt-
Niveau
VWO B2 C1/C2 C2 B1/C1/C2 C2
HAVO (C2) ? C1/C2 B1 B1 B1/C2
VMBO A2/C1 B2/C1/C2 A2/B1 B1 A2/B1/C1
30. Niveau-Einteilung
• Schwierig zu interpretieren
• VWO deutlich C2
• HAVO zwischen B1 und C2
• VMBO zwischen A2 und C1 (aber: BB + KB + GT!)
• Vergleich KLT/ Standaardsetting/ Koppelingsonderzoek:
Schlussfolgerung (2)
KLT / Goethe Standaard-setting Koppelings-
onderzoek
VWO C2 C1 (+ C2) B2
HAVO B1/C2 B2 (+ C1) B1
VMBO A2/C1/C2 B1 (+ B2) A2 (+ B1)
31. Parameter pro Niveau: Wortlänge
• Abnahme pro Niveau bei den KLT
(signifikant: HAVO/VMBO)
• Korrelation GER-Niveau / Schulniveau:
schwierig zu interpretieren
Schlussfolgerung
Wortlänge spielt keine allzu große Rolle bei der
Niveau-Einteilung.
Schlussfolgerung (3)
32. Parameter pro Niveau: Satzlänge
• Deutliche Abnahme pro Niveau bei den KLT
(signifikant: HAVO/VMBO und VWO/VMBO)
• Korrelation GER-Niveau / Schulniveau:
Leichte Abnahme GER-Niveau pro Schulniveau
Schlussfolgerung
Je höher das Niveau, desto länger sind die Sätze.
Schlussfolgerung (4)
33. Parameter pro Niveau: Sprechtempo
• Deutliche Zunahme pro Niveau bei den KLT
(signifikant: VWO/VMBO)
• Korrelation GER-Niveau / Schulniveau:
Deutliche Abnahme GER-Niveau pro Schulniveau
Schlussfolgerung
Je niedriger das Niveau, desto schneller wird
gesprochen. Möglicher Grund: gesprochene bzw.
Umgangssprache.
Schlussfolgerung (5)
34. Parameter pro Niveau: Prozentsatz Signalwörter
• Abnahme pro Niveau bei den KLT, allerdings nicht
signifikant
• Korrelation GER-Niveau / Schulniveau:
Keine großen Veränderungen pro Schulniveau
Schlussfolgerung
Der Prozentsatz der Signalwörter spielt keine Rolle bei
der Niveau-Einteilung.
Schlussfolgerung (6)
35. Antwort auf die Forschungsfrage
„In hoeverre is het mogelijk om de Duitse kijk- en
luistertoetsen met behulp van een kwantitatieve
linguïstische analyse aan het Europese
Referentiekader te koppelen?”
• Eine quantitative linguistische Analyse ist geeignet.
• Eine Kopplung an den GER ist möglich, allerdings
nicht immer eindeutig.
• Mithilfe der untersuchten Parameter lässt sich eine
leichte Niveau-Einteilung vornehmen.
Schlussfolgerung (7)
36. Einschränkungen
• Eher qualitative Aspekte (z.B. Satzstruktur) wurden
nicht berücksichtigt.
• Mit nur vier Parametern kann man noch keine
definitiven Aussagen machen.
• Die Datensammlung (vor allem der Goethe-Tests)
müsste größer sein.
• Es wurde kein Unterschied zwischen den
verschiedenen VMBO-Niveaus (bb/ kb/ gt)
gemacht.
Schlussfolgerung (8)
37. Tipps
• Gesprochene Sprache im Unterricht
berücksichtigen.
• Authentisches Audio- und Videomaterial verwenden
(YouTube, Fernsehsendungen, …)
• Schüler transkribieren lassen.
Schlussfolgerung (9)
38. Vielen Dank für Ihre Aufmerksamkeit!
Gibt es noch Fragen oder Anmerkungen?
Zeit für Fragen
39. • Auer, P. (2009). On-line syntax: Thoughts on the temporality of spoken language. Language Sciences, 31, nr. 1, 1-13.
• Eindtermen VO en ERK (voor havo/vwo en vmbo) http://www.erk.nl/docent/streefniveaus/havo/ en http://www.erk.nl/docent/streefniveaus/vmbo/
(geraadpleegd op 25/02/2015).
• DeKeyser, R.M. (2005). What makes learning second-language grammar difficult? A review of issues. Language Learning, 55, Supplement 1, 1-25.
• Feskens, R., Keuning, J., Til, A. van & Verheyen, R. (2014). Prestatiestandaarden voor het ERK in het eindexamenjaar: Een internationaal
ijkingsonderzoek. Arnhem: Cito.
• Glaboniat, M., Müller, M., Rusch, P. & Wertenschlag, L. (2005). Profile Deutsch: gemeinsamer europäischer Referenzrahmen: Lernzielbestimmungen;
Kannbeschreibungen; Kommunikative Mittel; Niveau A1-A2. B1-B2. C1-C2. Berlin: Langenscheidt.
• Goethe-Institut. (2001). Gemeinsamer europäischer Referenzrahmen für Sprachen: Lernen, lehren, beurteilen. Online versie via
http://www.goethe.de/z/50/commeuro/7030202.htm (geraadpleegd op 16/02/2015).
• Kamphuis, F., Thiel, J. van & Til, A. van. (2007). De koppeling van de Cito kijk- en luistertoetsen moderne vreemde talen aan het Europees
Referentiekader. Digitaal beschikbaar via: http://toetswijzer.kennisnet.nl/html/cef/home.htm
• Koch, P. & Oesterreicher, W. (2007). Schriftlichkeit und kommunikative Distanz. Zeitschrift für germanistische Linguistik, 35, nr. 3, 346-375.
• Lindström, E. (2008). Language complexity and interlinguistic difficulty. In M. Miestamo, K. Sinnemäki & F. Karlsson (eds.), Language complexity:
Typology, contact, change (pp. 217-242). Amsterdam: John Benjamins.
• Meestringa, T. & Vries, H. de. (2010). Instrumenten voor de beoordeling van taalvaardigheid voor het voortgezet onderwijs. Enschede: SLO.
• Meijer, D. (Red.). (2006). Advies-grammaticaleerlijnen Duits en Frans. Enschede: SLO.
• Nederlandse Taalunie. (2008). Gemeenschappelijk Europees Referentiekader voor Moderne Vreemde Talen: Leren, Onderwijzen, Beoordelen.Den Haag.
• Szmrecsanyi, B. & Kortmann, B. (2012). Introduction: Linguistic complexity: Second Language Acquisition, indigenization, contact. In B. Szmrecsanyi & B.
Kortmann (Eds.). Linguistic complexity. Second Language Acquisition, Indigenization, Contact (pp. 6-34). Berlin: Walter de Gruyter.
Literatur
Notes de l'éditeur
Actoren/participanten bij CSE
Ministerie van OC&W
opdrachtgever; opdracht wordt aan CvE gedelegeerd
verantwoordelijk (bij “missers” moet minister zich verantwoorden in de 2e kamer)
financiert
bemoeit zich met vernieuwingen, veranderingen, niveauverschuivingen e.d.
houdt vinger aan de pols
CvE
ZBO= Een zelfstandig bestuursorgaan: een organisatie die overheidstaken uitvoert, maar die niet direct onder het gezag van een ministerie valt.
Een voorbeeld van zo'n overheidstaak is het afnemen van examens. Het is in het algemeen belang, dat dit op een deskundige, strenge, maar rechtvaardige wijze gebeurt. Deze taak zou door het Ministerie van OC&W kunnen worden uitgevoerd, maar dan zou de minister eindverantwoordelijk zijn voor elke beslissing om een kandidaat te laten slagen of zakken voor zijn examen. De Tweede Kamer zou dan in principe de minister hierop aan kunnen spreken. Door deze examens uit te laten voeren door de CvE, een zelfstandig bestuursorgaan, wordt de verantwoordelijkheid gelegd bij onafhankelijke deskundigen.
De minister heeft nog wel een aantal bevoegdheden, bijvoorbeeld het benoemen van de bestuursleden van het ZBO. De minister kan door het parlement alleen worden aangesproken op de wijze waarop deze bevoegdheden worden uitgeoefend, van directe parlementaire controle op doen en laten van het ZBO kan geen sprake zijn.
Andere voorbeelden van ZBO's zijn de Kiesraad, het Kadaster, de raad van bestuur van de Nederlandse Mededingingsautoriteit, De Nederlandsche Bank, de Luchtverkeersleiding Nederland, Staatsbosbeheer, de RDW, het UWV, het COA (Centraal Orgaan opvang Asielzoekers) en de Commissie Gelijke Behandeling.
verschillende afdelingen met ieder eigen coördinator
Vak van coördinator kan van belang zijn (Freya Martin, Duits)
verantwoordelijk voor ce’s, staatsexamens, examens nt2 en voor de referentieniveautoetsen rekenen, voor de toetsen rekenen en Nederlands in het beroepsonderwijs
Taken:
beschrijven examenstof
vaststellen examenopgaven/examens
normering van de examens
Voorzitter en leden worden door ministerie benoemd, waarbij onafhankelijkheid, deskundigheid en voldoende steun van de onderwijsvakbonden en vakverenigingen gegarandeerd moeten zijn.
vakcommissies
opdracht door CvE
leden (één voorzitter, twee of drie leden) worden gedetacheerd
per vak twee commissies, één voor havo/vwo, één voor vmbo
voorzitter moet aan toeleveringsschool werkzaam zijn en het betreffende vak gestudeerd hebben (havo/vwo: hbo of universiteit; vmbo: mbo)
leden moeten in het betreffende vak lesgeven aan examenklassen garantie deskundigheid en niveau); één lid wordt afgevaardigd door de vakbond, één lid door de vakvereniging, voor Duits Levende Talen
Lidmaatschap maximaal 9 jaar
Dagelijks Bestuur (speelt eigenlijk alleen een rol bij de normering)
Cito
Cluster coördinator (Alex van de Kerkhof)
contacten met CvE en cluster coördinator CvE (constructieopdracht)
leidt clustervergadering
Toetsdeskundige
hoeft niet per se ook vakexpert te zijn (wel gewenst)
vaak werkzaam (geweest) in het onderwijs
Assistentie
opmaak/uittypen teksten
samenstelling examens
correspondentie met vaksectie en cg
kopieerwerk
Bedrijfsbureau
Controles
Lay-out
POK
normering (TIA, equivalering)
Constructiegroep
drie of vier leden
leden moeten lesgeven aan de examenklas in het vak waarvoor ze opgaven maken
worden gedetacheerd of krijgen een contract (problematisch op dit moment)
lidmaatschap maximaal 6 jaar
bij “sollicitatie” spelen toetsdeskundige, vaksectievoorzitter en constructiegroepleden een rol
taken:
teksten zoeken, beoordelen en bewerken
opgaven construeren
opgaven beoordelen en bespreken
examens beoordelen
standardsetten
tegenlezen
Screeners
intern:
collega’s eigen vak
collega’s andere talen
collega Nederlands
extern:
vakcommissie
cg
native
Inspectie (speelt alleen een rol bij calamiteiten)