Reaktion auf RTL Nieuws

A Fall vor Gericht in Amsterdam brachte Bedenken hinsichtlich Proctorios Gesichtserkennungsmodellen hervor. Das Niederländische Institut für Menschenrechte hörte die Behauptungen, dass die Software eine Voreingenommenheit gegenüber Studenten mit dunkleren Hauttönen aufweise, was zu ungleicher Behandlung bei Prüfungen führte. Die Studentin, die die Vrije Universiteit Amsterdam besuchte, behauptete, die Software sei diskriminierend, nachdem sie Schwierigkeiten hatte, auf ihre Prüfung zuzugreifen, als es Zeit war, die Kamera zu testen.

"Die Software erkannte mich nicht als Mensch an, und die Universität ignorierte meine Erfahrung... Es sollte nicht so sein, dass manche Studierende eine Lampe ins Gesicht tragen müssen, andere Zeit verlieren oder ihre Prüfung nicht abschließen können, nur wegen der Hautfarbe."

• Robin Pocornie, Student an der VU Amsterdam

Es ist korrekt zu sagen, dass Gesichtserkennungsalgorithmen von der Beleuchtung abhängen. Dies gilt jedoch für alle Nutzer, unabhängig von ihrer Hautfarbe. Wenn die Person über- oder unterbelichtet ist, kann die Kamera ausfallen. Die Kamera kann aufgrund der Blendung der Brille oder sogar schlechter Hardwarequalität ausfallen.

Beim Webcam-Bildtest wird automatisch ein Live-Support-Chat mit einem Proctorio-Mitarbeiter eröffnet, der sofortige Hilfe bei der Lösung möglicher Probleme bietet.

Im Fall Pocornie wurde während der von der VU Amsterdam geleiteten Untersuchung festgestellt, dass die Schülerin jede ihrer Prüfungen (insgesamt 15) in einer Minute oder weniger ablegen konnte, mit Ausnahme eines einzigen Falls mit einer 2-minütigen Verzögerung. Es wurde zu diesem Zeitpunkt (und auch vom Prüfling selbst im Chat mit einem Proctorio-Agenten) festgestellt, dass ihre Brille den Zutritt verhinderte. Nach Anpassung oder Entfernung konnte sie den Verifizierungsschritt bestehen. Keine andere Prüfung hatte Chat-Transkripte beigefügt, daher können wir daraus schließen, dass sie diesen Schritt jedes Mal in zwei oder weniger Versuchen bestand.

Proctorio erkennt an, dass Voreingenommenheit ein ernstes Problem ist – so sehr, dass unser Algorithmus von einer dritten Partei geprüft wurde. Obwohl festgestellt wurde, dass es keine nennenswerte Voreingenommenheit gegenüber irgendjemandem gibt, erkennen wir die von den Nutzern geäußerten Bedenken an und wollen über bloße Compliance hinausgehen. Es ist für uns nicht akzeptabel, den Menschen zu sagen, dass es keine nennenswerte Voreingenommenheit gibt, wenn sie Schwierigkeiten mit unserem Produkt haben und eine Prüfung besuchen.

Wir sind stolz auf unsere Bemühungen, unser Produkt so effizient wie möglich zu gestalten. Wir wissen, dass Assessments Angst auslösen können, und auch wenn wir das nicht verhindern können, können wir uns bemühen, sie zu minimieren.

Proctorio geht aktiv auf Bedenken hinsichtlich unserer Gesichtserkennungsalgorithmen ein und sorgt für ein faires und inklusives Online-Proctoring-Erlebnis für alle Studierenden. Obwohl Herausforderungen bestehen, erkennen wir die Notwendigkeit fortlaufender Verbesserungen an und arbeiten aktiv auf dieses Ziel hin. Indem wir Transparenz annehmen, externe Audits einladen und versuchen, Vorurteile und technische Probleme zu minimieren, möchte Proctorio eine Proctoring-Lösung bieten, die das Wohl der Studierenden priorisiert und gleichzeitig die akademische Integrität wahrt.