Disclaimer

De meningen ge-uit door medewerkers en studenten van de TU Delft en de commentaren die zijn gegeven reflecteren niet perse de mening(en) van de TU Delft. De TU Delft is dan ook niet verantwoordelijk voor de inhoud van hetgeen op de TU Delft weblogs zichtbaar is. Wel vindt de TU Delft het belangrijk - en ook waarde toevoegend - dat medewerkers en studenten op deze, door de TU Delft gefaciliteerde, omgeving hun mening kunnen geven.

Posted in 2010

De Digitale Surveillant

Gisterochtend heb ik in het kader van het 3TU-project ‘beveiligd toetsen op de studentenlaptop’ een webpresentatie gevolgd van de applicatie MAS van het Britse bedrijf 3ami. MAS staat voor ‘Monitoring & Audit System’. Deze presentatie gaf weer een geheel nieuwe blik op de oplossingsrichting hoe we studenten digitaal een tentamen af kunnen laten nemen op hun eigen laptop.

De oorsprong van de software ligt in het forensisch onderzoek en dat is duidelijk te merken, maar inmiddels wordt deze software ook in het Noorse onderwijs ingezet voor het monitoren van computertoetsen.

Bij de start van de toets downloaden en installeren de studenten de applicatie in een paar seconden op hun laptop. Vanaf dat moment worden alle activiteiten op de betreffende computer/laptop gemonitoord: welke applicaties worden opgestart, of er nieuwe hardware (bijv USB ) wordt aangesloten en wat wordt ingetypt. Het log-systeem slaat ook snapshots op van het beeldscherm, zodat ook te zien is wat de student exact gezien heeft. Aan het eind van de toets deïnstalleert de student het programma en het loggen stopt. Wanneer de student dit vergeet, kan de beheerder aan het einde van de tentamensessie het account ook markeren, zodat het bij de eerstvolgende keer dat de laptop connectie maakt met het netwerk, de deïnstallatie automatisch gebeurt.

Het systeem kan tijdens het tentamen ook alerts sturen aan de surveillant wanneer de student een verboden actie uitvoert. De surveillant kan dan besluiten om de betreffende actie af te breken en de specifieke actie te blokkeren voor verder gebruik tijdens de toetssessie. Direct ingrijpen en de student op zijn actie aanspreken is dus mogelijk, maar ook achteraf kan de logfile worden bekeken.

Een dergelijke oplossing roept natuurlijk privacy vragen op, want het gaat tenslotte om de laptop van de student en niet om een door de TU beheerd systeem en wat als de student vergeet te deïnstalleren? Het is belangrijk om hier goed over te communiceren en heldere afspraken vast te leggen over de bewaartermijn van de logfiles.

Het voordeel is dat de student geheel op zijn eigen systeem kan werken, kan beschikken over de juiste, voor hem bekende software(versie). 

Bij een computertentamen op door TU beheerde systemen, zou het systeem permanent aan kunnen staan en kan de digitale surveillant vanaf 1 systeem alle laptops in de zaal monitoren.

Het klinkt allemaal best interessant, maar ik ben zeer benieuwd naar de reacties van docenten, studenten en onderwijsdirectie op een dergelijke insteek…..

Beveiligd toetsen met Blackboard (2)

Een onderdeel van de beveiliging van het digitale tentamen is dat men zeker wil weten dat het tentamen vanuit de tentamenzaal is gemaakt. Nu zal dit binnen de techniek best te regelen te zijn, maar volgens mij kan het ook ‘the old fashioned way’. Door het tentamen alleen beschikbaar te maken voor degenen die zich daadwerkelijk in de zaal bevinden. Wanneer er verschillende sessies zijn van hetzelfde tentamen kan op deze manier het tentamen per sessie alleen voor de aanwezigen bij de betreffende sessie opengesteld worden.

Het voorbeeld dat ik beschrijf gaat om een tentamen in Blackboard, maar geldt ook voor Maple TA toets in Bb.

Ter voorbereiding op het tentamen dient de docent zijn tentamen (Assignment) middels Adaptive Release beschikbaar te zetten voor een of meerdere groepen. Voor iedere sessie wordt een toetsversie verbonden aan een (nog lege) groep. In het menu van Adaptive Release kan de docent kiezen of alle resultaten in dezelfde kolom in het grade center worden gezet. Dit voorkomt versnippering van de resultaten.
Daarnaast maakt de docent per sessie een ‘sign-up list’ aan in Bb. Er kunnen meerdere lijsten per sessie worden aangemaakt, zodat de studenten zich bij meerdere surveillanten kunnen aanmelden. Let op: de Sign up list moet unavailable zijn voor studenten.

Bij binnenkomst in de tentamenzaal, meldt de student zich bij de surveillant. De surveillant vinkt de student aan op de sign-in lijst als zijnde aanwezig en controleert de collegekaart.

Bij aanvang van het tentamen worden de sign up lijsten gekoppeld aan de groep van de betreffende tentamensessie en alle aanwezigen hebben vervolgens toegang tot het tentamen.

Beveiligd toetsen met Blackboard

Zoals ik al eerder blogde kunnen we op de TU Delft in Blackboard een beveiliging instellen op een toets. Dit houdt in dat tijdens de toets geen andere applicaties opgestart kunnen worden. Het activeren van de Lockdown Browser (LDB ) is simpel en kan door de docent eenvoudig worden uitgevoerd.

Eind januari werd op IO opnieuw een tentamen afgenomen met gebruik van de LDB. Een tweetal hertentamensessies in de ochtend en een drietal tentamensessies in de middag, waarin twee deeltentamens werden afgenomen. De leerpunten van de vorige keer waren meegenomen:

  1. Bij elke computer lag een handleiding waarop vermeld stond hoe het tentamen gestart diende te worden.
  2. Het course menu en de ‘Assignment’-map waren vooraf opgeschoond, zodat het tentamen eenvoudig te vinden was binnen de course.
  3. 3 attempts waren ingesteld om te voorkomen dat wanneer een toets om een of andere reden werd afgebroken, de student een nieuwe versie kon starten, zonder te hoeven wachten op het verwijderen van zijn 1e poging door een van de surveillanten.
  4. Randomisatie van de vragen was uitgeschakeld.

Wachtwoorden 

Bij de opzet van dit tentamen was gekozen om in de Bb-toets geen wachtwoord te zetten, omdat het prompten op twee wachtwoorden achter elkaar (eerst van de LDB en daarna van de Bb-toets) vorige keer wat verwarrend werkte. Tijdens de ochtendsessies bleek echter dat in dit geval (als er geen wachtwoord op de Bb-toets staat) de LDB ook niet vraagt om een wachtwoord. Daarop is voor de middagsessies alsnog een wachtwoord op de Bb-toets gezet.
Als het LDB wachtwoord is ingegeven door de student, vult Bb automatisch het Bb-toetswachtwoord in, zodat je dan alleen nog op ‘submit’ hoeft te drukken om de toets te openen.

Inloggen op computer

In de computerzalen kunnen studenten met hun eigen NetID inloggen op de pc. Het gebruik van hun eigen profiel leverde zo af en toe problemen op:

  • Bij twee studenten werd het lettertype in de toets dusdanig klein dat de toets niet langer leesbaar was
  • Bij een enkeling bleek de LDB niet in de programmalijst te staan
  • Bij sommigen starten MSN of andere applicaties automatisch op. Deze moeten gesloten worden voordat de LDB start (LDB geeft dit zelf aan)

Verder hadden sommige studenten het probleem dat bij het verlaten van het eerste deeltentamen de programmabalk verdween. Om het tweede deeltentamen op te starten moest het systeem opnieuw starten (log off – log on). Dit leidde bij de studenten tot twijfel of het eerste deeltentamen wel opgeslagen was.

Om de omgeving beter controleerbaar te maken is het handiger om met functionele accounts te werken. In het ideale geval worden deze functionele accounts opgeschoond tussen de verschillende tentamensessies, maar daarvan is het de vraag of dat praktisch haalbaar is.

Beveiligd vs onbeveiligd

Door omstandigheden (LDB-client bleek niet in alle zalen geinstalleerd:oops:) heeft een groep studenten buiten de LDB om moeten werken. Hiervoor diende in Bb een aparte tentamensessie te worden aangemaakt, omdat buiten de LDB de Bb-toets niet kan worden gestart. In deze tentamensessies werd slechts 1 poging toegestaan. De bovengenoemde problemen bij deze groep bleken aanzienlijk minder dan in de ‘beveiligde’ groep. Slechts van 2 van de circa 100 studenten moesten de docent de toets opnieuw beschikbaar stellen, omdat hij was vastgelopen. In de ‘beveiligde’ groep waren aanzienlijk meer studenten die een herstart moesten maken.

Omdat de ‘beveiligde’ groep te zien kreeg dat 3 pogingen toestaan waren, dachten zij dat zij bij een ‘fail’-score het tentamen nogmaals mochten maken. Het inzetten van meerdere attempts is vanuit beheer oogpunt dus wel gewenst (de resultaten van de sessie die is afgebroken hoeven namelijk niet te worden verwijderd voordat een nieuwe sessie kan worden gestart), maar het is verwarrend voor de studenten.

Conclusie

Het is nog wel duidelijk dat het digitaal toetsen nog zeker zijn ‘zweethandjes’ moment heeft bij de start van iedere sessie. De computers in de standaard computerzalen zijn niet altijd ‘stabiel’ genoeg voor de tentamensetting. Een extra argument voor ‘dedicated’ tentamenzalen.

© 2011 TU Delft