Reactie op RTL Nieuws

A Zaak die voor de rechter in Amsterdam werd gebracht, uitte zorgen over Proctorio's gezichtsherkenningsmodellen. Het Nederlands Instituut voor Rechten hoorde de beweringen dat de software vooringenomenheid vertoonde tegen studenten met een donkere huid, wat leidde tot ongelijke behandeling tijdens examens. De student die aan de Vrije Universiteit Amsterdam studeerde, stelde dat de software discriminerend was nadat ze moeite had met toegang tot haar examen toen het tijd was om de camera te testen.

"De software herkende me niet als mens, en de universiteit negeerde mijn ervaring... Het zou niet zo moeten zijn dat sommige studenten een lamp in hun gezicht moeten gebruiken, sommige studenten tijd verliezen of hun examen niet kunnen volgen alleen vanwege hun huidskleur."

• Robin Pocornie, student aan de VU Amsterdam

Het is juist om te zeggen dat gezichtsherkenningsalgoritmen afhankelijk zijn van verlichting. Dit geldt echter voor alle gebruikers, ongeacht hun huidskleur. Als de persoon over- of onderbelicht is, kan de camera falen. De camera kan uitvallen door de schittering van iemands bril, of zelfs door slechte hardwarekwaliteit.

Bij de Webcam Image Test wordt er automatisch een live supportchat geopend met een Proctorio-medewerker, die direct hulp biedt om eventuele problemen op te lossen.

In de Pocornie-zaak werd tijdens het onderzoek onder leiding van VU Amsterdam vastgesteld dat de student elk van hun examens (in totaal 15) in 1 minuut of minder kon inschrijven, behalve in één geval waarin ze een vertraging van 2 minuten ervoer. Op dat moment (en door de examendeelnemer zelf via chat met een Proctorio-medewerker) werd vastgesteld dat hun bril hen verhinderde binnen te komen. Na het aanpassen of verwijderen ervan kon ze de verificatiestap doorstaan. Geen enkel ander examen had bijgevoegde chattranscripties, dus we kunnen concluderen dat ze deze stap elke keer in twee of minder pogingen haalde.

Proctorio erkent dat vooringenomenheid een serieus probleem is – zozeer zelfs dat we ons algoritme door een derde partij hebben laten controleren. Hoewel is vastgesteld dat er geen significante vooringenomenheid is ten opzichte van iemand, erkennen we de zorgen van gebruikers en streven we ernaar verder te gaan dan loutere naleving. Mensen vertellen dat er geen significante vooringenomenheid is wanneer ze moeite hebben met het gebruik van ons product en bij het invullen van een examen is voor ons niet acceptabel.

We zijn trots op onze inspanningen om ons product zo efficiënt mogelijk te laten werken. We beseffen dat het doen van assessments angst kan veroorzaken en hoewel we dit niet kunnen voorkomen, kunnen we wel proberen het te minimaliseren.

Proctorio pakt actief zorgen aan met betrekking tot onze gezichtsherkenningsalgoritmen en zorgt voor een eerlijke en inclusieve online surveillance-ervaring voor alle studenten. Hoewel de uitdagingen blijven bestaan, erkennen we de noodzaak van voortdurende verbeteringen en werken we actief aan dat doel. Door transparantie te omarmen, externe audits uit te nodigen en te streven naar het minimaliseren van vooringenomenheid en technische problemen, streeft Proctorio ernaar een surveillance-oplossing te bieden die het welzijn van studenten vooropstelt en tegelijkertijd de academische integriteit behoudt.