Procesbeschrijving evaluaties in de propedeuse¶
Inleiding¶
Bij programmatisch toetsen bestaat de toetsing uit low-stake feedbackmomenten, medium-stake voortgangsevaluaties en – aan het einde van een semester – een high-stake beslissing.
De voortgangsevaluaties (VE’s) zijn momenten waarin student én docenten zicht krijgen op de ontwikkeling van de student ten opzichte van de leeruitkomsten in een semester. Gedurende ieder semester vinden drie voortgangsevaluaties plaats:
- Voortgangsevaluatie 1 (VE1), rond 1/3 van het semester,
- Voortgangsevaluatie 2 (VE2), rond 2/3 van het semester,
- De eindevaluatie (EE), aan het einde van het semester.
Bij iedere voortgangsevaluatie wordt per leeruitkomst een niveau op een schaal van 1–4 vastgesteld op basis van door student opgeleverde bewijzen en observaties van docenten.
Een evaluatie dient vier doelen: 1. Transparant zicht op ontwikkeling. Student en docenten krijgen op vaste momenten een helder, gedeeld beeld van waar de student staat ten opzichte van de leeruitkomsten in dit semester. 2. Voorkomen van verrassingen bij de high-stake beslissing. Door de VE’s ziet student tijdig waar hij staat en welke vervolgstappen nodig zijn. 3. Richting geven aan leren. De VE’s leveren gerichte feedup, feedback en feedforward op. Op basis van de evaluatie kan de student zijn leeractiviteiten bijsturen, en – samen met de coach – werken aan passende vervolgstappen. 4. Input voor high-stake beslissing. De uitkomsten van VE1, VE2 en de EE vormen een belangrijke onderbouwing voor de high-stake beslissing aan het einde van het semester.
Bewijzen¶
Lopende een semester bouwt de student een portfolio op met daarin bewijzen waarmee hij de vier leeruitkomsten probeert aan te tonen. Deze bewijzen bestaan uit:
- het portfolio
- gemaakte deelproducten
- resultaten van kennismetingen
- zelfevaluaties
- docentgestuurde feedback
- studentgestuurde feedback
Feedback¶
Student ontvangt op verschillende momenten in het semester formatieve feedback. Deze feedback is gericht op de vorderingen die de student maakt binnen de vier leeruitkomsten en geeft inzicht in:
- waar de student naartoe moet (feedup)
- waar de student nu staat (feedback)
- hoe de student verder moet (feedforward)
We onderscheiden docentgestuurde feedback en studentgestuurde feedback. In het eerste geval betreft het verplichte door een docent gegeven feedback op vaste momenten in het semester. In het tweede geval mag de student zelf bepalen wanneer en van wie hij feedback ontvangt.
Organisatorische uitgangspunten¶
Iedere OUT is zelf verantwoordelijk voor het organiseren en uitvoeren van de VE’s en EE. Hierbij gelden de volgende (organisatorische) uitgangspunten:
- Er zijn vier leeruitkomsten die gewaardeerd moeten worden.
- Docenten waarderen niet hun eigen SB-studenten.
- Bij iedere volgende evaluatie waardeert elke docent een andere klas, dit borgt de intersubjectiviteit.
- Iedere evaluatie wordt uitgevoerd tijdens de geroosterde dagdelen in het weeknummer zoals dit in de onderwijsplanning staat.
- Geroosterd onderwijs gaat altijd door onder begeleiding van docenten. Spreid de waardering van de leeruitkomsten dus over de week.
- Borging van de waarderingen vindt plaats door gezamenlijke kalibratie, steekproefsgewijze controle en bespreking van twijfelgevallen.
- Voor iedere VE/EE is per student – dus voor alle leeruitkomsten – 20 minuten docenttijd beschikbaar; de 10 minuten coaching daarna valt buiten dit processtuk.
- Zorg er in de planning voor dat steeds 2 docentduo’s tegelijk waarderen. Zo kan er een betrouwbare kalibratie plaatsvinden en kunnen twijfelgevallen met elkaar worden besproken.
- Maak een efficiënte werkverdeling. Bijvoorbeeld:
- Docentenduo dat gezamenlijk 1 leeruitkomst waardeert voor alle studenten uit de OUT, of
- Docentenduo dat gezamenlijk 4 leeruitkomsten waardeert voor een deel van de studenten uit de OUT, of
- Een variant hierop.
- Zorg voor een strakke planning, bijvoorbeeld:
| Activiteit | Deelnemers | Tijd | Doel |
|---|---|---|---|
| Centrale kick-off | 4 docenten | 10 min | Afspraken maken over normering, bijzonderheden en werkwijze |
| Kalibratie op 6 studenten | Per duo | 30 min | Gezamenlijk normeren en voorbeelden opbouwen |
| Individuele waardering blok 1 | Individueel | 100 min | Eerste helft van de resterende studenten waarderen |
| Pauze | Iedereen | 30 min | |
| Individuele waardering blok 2 | Individueel | 100 min | Tweede helft van de resterende studenten waarderen |
| Bespreking twijfelgevallen | Per duo | 30 min | Definitieve afstemming op grensgevallen |
| Nabespreking in gezamenlijk vergadermoment. | 8 docenten | 30 min | Bijzonderheden delen en bespreken |
Procesbeschrijving¶
Het werkproces van een evaluatie bestaat uit drie fasen: voorbereiden, waarderen en afronden.
Fase 1a – Voorbereiding door OUT¶
Op basis van de eerder beschreven organisatorische uitgangspunten treft een OUT voorbereidingen voor de evaluatie. Denk hierbij aan de volgende punten:
- een planning waarin staat wanneer de evaluaties plaatsvinden, welke docenten aanwezig zijn en voor welke leeruitkomst zij waarderen,
- de verdeling van de studenten onder de docenten,
- hoe eventuele lessen worden opgevangen als een klassendocent tijdens een geroosterd moment bij een evaluatie is,
- een actuele studentenlijst waarin per student kan worden afgevinkt voor welke leeruitkomst de betreffende evaluatie is uitgevoerd en twijfelgevallen gemarkeerd kunnen worden.
Fase 1b – Voorbereiding door student¶
Voorafgaand aan de evaluatie schrijft de student een zelfevaluatie en dient een progress review request / nieuw evaluatieverzoek in via Portflow. In de zelfevaluatie licht de student aan de hand van relevante bewijzen toe hoe de eigen ontwikkeling zich verhoudt tot de leeruitkomsten. Deze input vormt samen met het portfolio en de overige beschikbare datapunten de basis voor de waardering.
Fase 2 – Waarderen van de leeruitkomsten¶
Stap 1 – Centrale kick-off
De VE/EE start met een korte centrale kick-off met de betrokken docenten. In deze bijeenkomst worden de waarderingskaders, de accenten van de betreffende VE/EE-ronde en eventuele bijzonderheden in de studentgroep nog één keer kort afgestemd.
Stap 2 - Kalibreren Om sneller en consistenter te kunnen waarderen wordt er eerst gekalibreerd. Enerzijds wordt het normgevoel tussen de docenten gelijkgetrokken. Anderzijds ontstaan er direct enkele referentievoorbeelden die docenten in de rest van de sessie kunnen gebruiken.
Waardeer gezamenlijk 4–6 studenten voor iedere leeruitkomst. Selecteer hiervoor studenten waarvan je weet dat dit mogelijk discussiegevallen zijn en enkele studenten die duidelijk de norm volgen. Per student is ongeveer 5 minuten beschikbaar. In deze fase bespreken de docenten welke datapunten zichtbaar zijn, welke ontwikkeling daaruit spreekt en welke waardering op de schaal van 1 tot en met 4 het best past.
Stap 3 – Waarderen van een individuele leeruitkomst
- Scan de zelfevaluatie van de student.
- Scan in het portfolio de op de leeruitkomst ontvangen feedback om een goed beeld te krijgen:
a. Primair wordt er gekeken naar docentgestuurde feedback uit de coachings- en techreviewmomenten en – indien van toepassing – resultaten van kennismetingen.
b. Secundair wordt er gekeken naar studentgestuurde feedback. - Waardeer de leeruitkomst m.b.v. het waarderingskader, het verkregen beeld en van wat er op dit moment minimaal van de student verwacht mag worden. Voor dit laatste is voor iedere evaluatie (VE1, VE2 en EE) een beschrijving opgenomen in het ICT Handboek. Kijk hier met een holistische blik naar. Het is dus geen afvink-lijstje en succescriteria mogen vanuit holistisch oogpunt onderling gecompenseerd worden. Tip: gebruik het onderbuikgevoel als raadgever.
- Onderbouw de waardering van de leeruitkomst op basis van de succescriteria en formuleer feedback en feedforward. Indien de leeruitkomst wordt gewaardeerd met ‘Onder niveau’ of ‘In ontwikkeling’ geef dan duidelijk aan wat er van de student verwacht wordt tot de volgende evaluatie om de betreffende leeruitkomst ‘Op niveau’ te krijgen.
- Markeer studenten waar onvoldoende zekerheid is over de waardering van het niveau en/of over de onderbouwing en formulering van de feedback en feedforward. Deze worden vervolgens besproken tijdens de afronding, fase 3.
Stap 4 – Pauze
Zorg voor een geplande pauze van 30 minuten. Deze pauze is functioneel onderdeel van het proces, omdat de kwaliteit van oordelen en de consistentie in feedback afnemen wanneer docenten te lang achter elkaar studenten waarderen.
Fase 3 – Afronding¶
Bespreken van twijfelgevallen¶
Om de intersubjectiviteit en daarmee de kwaliteit van de individuele waarderingen te borgen komen de docenten opnieuw samen om de gemarkeerde twijfelgevallen te bespreken.
In deze stap wordt per twijfelgeval het definitieve oordeel vastgesteld. Waar nodig wordt ook gecontroleerd of de onderbouwing voldoende navolgbaar is en vooral of de feedforward concreet genoeg is voor gebruik in het coachgesprek.
Vastleggen waarderingen in Portflow¶
Per leeruitkomst wordt de waardering vastgelegd in een compact format in Portflow. Dit format moet docenten helpen om snel, eenduidig en bruikbaar te rapporteren, zodat zowel de student als de coach direct ziet wat het oordeel betekent.
In Portflow zijn het evaluatiemoment, de datum, de geselecteerde leeruitkomst en de score al in het systeem opgenomen. De docent vult alleen nog de volgende korte tekstuele velden in:
- Onderbouwing oordeel: korte, concrete toelichting op basis van de belangrijkste datapunten en de zichtbare ontwikkeling.
- BELANGRIJK: Feedforward: één of twee concrete vervolgstappen voor de student. Hoe meer nog moet worden gedaan voor ‘Op niveau’, hoe zwakker de student en omgekeerd. Dit ligt natuurlijk anders als studenten naar ‘Boven niveau’ worden gestuurd.
- Namen van de waarderende docent(en).
Een goed ingevulde onderbouwing is feitelijk, compact en navolgbaar. Een goed geformuleerde feedforward is concreet, actiegericht en direct bruikbaar in het coachgesprek. De tekstuele velden blijven bewust kort, zodat de waardering binnen de beschikbare tijd uitvoerbaar blijft.
Gezamenlijke nabespreking¶
De gezamenlijke nabespreking met het volledige team vindt niet plaats binnen het evaluatie-dagdeel zelf, maar wordt geagendeerd in een daaropvolgende teamvergadering. In die nabespreking worden opvallende patronen, knelpunten in de normering en signalen op cohortniveau gedeeld.
Deze laatste stap helpt om de evaluaties niet alleen als waarderingsmoment te gebruiken, maar ook als bron van gezamenlijke teaminformatie over de ontwikkeling van de studentgroep.
Overdracht naar coaches¶
Nadat het hele proces is afgerond en de waarderingen zijn vastgelegd in Portflow ontvangen de coaches een bericht zodat ze zich kunnen voorbereiden op de coachingsgesprekken met de studenten.
Rollen en verantwoordelijkheden¶
De student is verantwoordelijk voor het tijdig aanleveren van een zelfevaluatie en een progress review maar zal hier – zeker in het begin – bij geholpen worden.
De docenten uit de OUT zijn verantwoordelijk voor de waardering van de leeruitkomsten, voor onderlinge kalibratie en voor de afhandeling van twijfelgevallen.
De coach gebruikt de uitkomsten van de VE/EE in het daaropvolgende gesprek met de student.