Goed nieuws vanuit ‘slechtnieuwscommunicatie’

Masterstudenten meertalige professionele communicatie aan de Universiteit Antwerpen zijn lovend over ons digitale platform D-PAC om competenties comparatief te beoordelen: “We kunnen onze eigen competentie beter inschatten én krijgen door de voorbeelden van anderen inspiratie om onze tekst te herwerken”. Via peer-assessment beoordeelden 80 studenten – in twee groepen – de kwaliteit van elkaars slechtnieuwsbrieven en gaven ze elkaar feedback.  Dat gebeurde in de context van blended learning.

 

Slechtnieuwsbrieven schrijven en vergelijken

Door de teksten van medestudenten onderling te vergelijken, beoordelen studenten elkaars competentie op het vlak van slechtnieuwscommunicatie. Elkaars brieven lezen en de positie van hun eigen tekst op de uiteindelijke rangorde zien, levert hen interessante feedback op. 

Voor een opdracht binnen het vak ‘Specialisatie Bedrijfscommunicatie’ moesten de studenten schriftelijk reageren op een klacht van een klant. Daaraan gekoppeld kregen de studenten de kans om de feedbackmodule van D-PAC, uit te testen. De docenten, Luuk Van Waes en Suzy Stals, van het departement Management, over de taak: “Na zelfstudie over het thema slechtnieuwscommunicatie via onze website www.calliope.be werkten onze studenten de case Learn-It uit. Vervolgens laadden ze hun brief in D-PAC op. Elk van hen maakte 10 vergelijkingen: ze kozen telkens de beste brief uit elk paar en noteerden suggesties voor elkaar hoe het beter kan”.  

screenshot_Calliope

De opdracht: schriftelijk reageren op een klacht en elkaars brieven beoordelen via D-PAC.

 

Via de methode van comparatieve beoordeling lazen en vergeleken alle studenten dus meerdere brieven. Dit experiment met peer-beoordelaars leverde een rangorde van de teksten op, gaande van de slechtst beoordeelde brief tot het beste exemplaar. De studenten kregen een dag voor het feedbackcollege toegang tot de (geanonimiseerde) brieven van hun medestudenten en konden hun eigen brief in de rangorde identificeren. Op basis van deze feedback, samen met een terugkoppeling van de docenten tijdens het college, konden de studenten hun brief in een volgende fase herwerken.

 

Vele voorbeelden verschaffen volop inspiratie

D-PAC biedt studenten de kans om inspiratie op te doen en te leren van elkaar, voornamelijk door verschillende brieven van medestudenten in paren te vergelijken en altijd de beste aan te duiden. Het peer-assessment duurde gemiddeld twee tot twee en een half uur.

Door kennis te maken met de (strategische) aanpak van hun collega’s, doen de studenten ideeën op om hun eigen aanpak aan te scherpen. Ze kregen tijdens het experiment immers veel andere voorbeelden van mogelijke reacties op de klacht te lezen. Het digitale platform wees de paren brieven op basis van toeval aan de studenten toe. Maximaal kon een student op basis van tien vergelijkingen inzichten halen uit maar liefst 20 andere brieven. Bovendien kregen studenten achteraf ook de mogelijkheid om alle andere brieven te bekijken, inclusief de feedback daarbij.

 

Beter of slechter dan de anderen? D-PAC houdt studenten een spiegel voor

Het resultaat van alle vergelijkingen die de studenten maken, levert een rangorde  op: van de slechtst beoordeelde tot de beste slechtnieuwsbrief. De positie in de finale rangorde geeft de studenten een duidelijk beeld of ze bij de betere of de zwakkere schrijvers horen. Zo maakt D-PAC het mogelijk om het eigen competentieniveau beter in te schatten in relatie tot dat van anderen. En dat is iets wat de studenten duidelijk op prijs stelden.

Slechtnieuwsbrieven_rangorde_v2

De rangorde: waar positioneer ik mij ten opzichte van anderen?

 

Maar hoe representatief is deze rangorde eigenlijk? De docenten waarschuwen ervoor om ook rekening te houden met het feit dat de studenten nog niet aan het einde van hun leertraject zitten. De rangorde is zeker niet helemaal perfect: “de student die volgens ons de beste brief had geschreven stond op nummer 17 in de rangschikking van de studenten. En in de brieven van hun top drie kwamen soms nog wel fundamentele problemen voor. Maar we weten dat ook professionele beoordelaars het niet zomaar altijd eens zijn met elkaar.” Professor Van Waes en Suzy Stals vervolgen: “We zijn dan ook erg benieuwd naar een herhaling van het experiment waarbij we hen ná het feedbackcollege teksten laten vergelijken.” Onze voorspelling is in elk geval dat de ranking aan het einde van het traject beter overeen zal stemmen met het oordeel van de docenten.

 

Zelf aan de slag?

Benieuwd of jouw organisatie ook gebruik kan maken van de troeven van D-PAC?  Wil je een peer-assessment opzetten waarbij leerlingen, studenten of werknemers elkaars werk beoordelen en van elkaar leren? En ook liefst op een eenvoudige en efficiënte manier?

Neem dan snel contact op met ons, via d-pac@uantwerpen.be

Noorderburen waarderen onze expertise

Onder het motto ‘samen professionaliseren’ pikte hogeschool Zuyd (Heerlen, Sittard, Maastricht) het D-PAC-verhaal op. Geboeid door onze kennis en ervaring op vlak van professioneel beoordelen en peer-assessment, willen ze ook anderen binnen de hogeschool inspireren en stimuleren.

In samenwerking met Dominique Sluijsmans (lector Professioneel Beoordelen, Zuyd) en Judith van Hooijdonk (I-team, Zuyd) is begin deze week een blog over D-PAC als tool voor Technology Enhanced Learning (TEL) verschenen.

blog Zuyd 2

Op de blogpagina van ICT in Onderwijs en Onderzoek @ Zuyd staan overigens ook nog andere zeer interessante nieuwtjes.

Dankjewel I-team om met en voor ons te willen netwerken: benieuwd naar de reacties op deze boeiende blog.

Peer assessment in D-PAC reduces workload for tutors!

A group of 91 students second bachelor of the University of Hasselt in the track physiotherapy had the following task at the end of this year:

    – They had to formulate a clinical research question based on their experience as a physiotherapist;
    – Then they searched for a relevant scientific paper and formulated an answer to the research question based on the article.
    – At last they had to evaluate the article and point out the strengths and weaknesses of their study.

Normally all these papers are evaluated by one or two tutors. These tutors judge the paper by giving a ‘passed’ or ‘failed’ and provided feedback. You can imagine, this results in a substantial workload, especially when more than one task per student needs to be marked.

The tutor was inspired by a presentation about the D-PAC project. At first, the tutor was a bit skeptic. However, the possibilities of the tool were tempting enough to conduct an experiment in which peers would have to judge and comment the papers using the D-PAC tool. Next to this, the tutors evaluate the papers on their traditional manner. Afterwards the judgments and feedback of the students could be compared with the judgement and the feedback of the tutors.

Based on the pairwise comparison data we calculated the Scale Separation Reliability (SSR) for the student evaluations. The SSR was .80 and can be seen as a very reliable scale. To achieve this, 91 students had made 910 comparisons in total, in other words, every paper was compared 20 times.

The feedback students provided was of high quality. The results of a survey conducted by the students supported this statement. Students perceived the D-PAC peer feedback as relevant, honest and legitimate. Because almost every assessor gave feedback on almost every paper they had to compare, each student received feedback of 15 à 20 peers. Students indicated this as an added value of the D-PAC method.

If we compare outcomes of the students’ assessment and the tutors’ pass/fail decisions, we see a high resemblance. As Figure 1 shows, 12 students were given a fail by the tutor (red dots) and they all are located on the left side of the rank order. We can conclude that students can, by using pairwise comparison, evaluate their peers papers as good as tutors on their traditional manner.

rank Joke

However, as you can see, some blue dots remain on the left hand side, meaning that they were judged by students to be of poor quality, whereas tutors considerd them passed. Therefore, the coming year, the tutor will check the 40% lowest ranked papers to verify whether they failed. As such, using this combination of peer review and feedback together with a final check by the tutor, the workload of the tutor is reduced by at least 60% while ensuring the quality of the decision and the feedback.

Testimonial professor architecture

The next film is a testimony of an architecture professor who used D-AC for a peer assessment of mood boards. Because the movie is in Dutch, you can read a short summary of the main findings.





Summary
60 students were divided in groups of five. Each group had to create two mood boards resulting in 20 mood boards. These mood boards were uploaded in the D-PAC tool and the students made ten comparisons at home in which they judged the mood boards of their peers and provided feedback.

These comparisons resulted in a ranking of the poorest to the best mood board. So each group had two mood boards in the ranking. The students had to continue with the mood board that was ranked highest. Therefor they could use the feedback to improve their design.

The teacher used the rank order and the feedback from the students to discuss the results in group. He indicated a large time saving because all the students already had seen the mood boards and formed their opinions. Where normally the discussion of the mood boards lasted a whole day, now it lasted one hour using the rank order. According to the professor without sacrificing quality of the discussion, on the contrary.

Further, the professor indicate to save time in processing the results of the peer assessment afterwards as there was no processing because the results were automatically generated by the tool.

Also according to the professor, the learning effect by students of watching other peers’ work and formulating reasons why one was better than the other, was not to be underestimated.