Réponse aux RTL Nieuws

A Affaire Poursuivi devant les tribunaux à Amsterdam a soulevé des inquiétudes concernant les modèles de détection faciale de Proctorio. L’Institut néerlandais des droits de l’homme a entendu les allégations selon lesquelles le logiciel présentait un biais contre les étudiants à la peau plus foncée, ce qui a conduit à un traitement inégal lors des examens. L’étudiante qui a fréquenté la Vrije Universiteit Amsterdam a affirmé que le logiciel était discriminatoire après avoir eu des difficultés à accéder à son examen lors du test de la caméra.

« Le logiciel ne m’a pas reconnu comme un être humain, et l’université a ignoré mon expérience... Il ne devrait pas être possible que certains étudiants doivent utiliser une lampe sur leur visage, que certains perdent du temps ou ne puissent pas accéder à leur examen simplement à cause de la couleur de leur peau. »

• Robin Pocornie, étudiante à la VU Amsterdam

Il est exact de dire que les algorithmes de détection faciale dépendent de l’éclairage. Cependant, cela est vrai pour tous les utilisateurs, quelle que soit la couleur de leur peau. Si la personne est surexposée ou sous-exposée, la caméra peut tomber en panne. La caméra peut tomber en panne à cause de l’éblouissement des lunettes d’une personne, voire d’une mauvaise qualité matérielle.

Dans le test d’image webcam, si la personne ne réussit pas, un chat de support en direct s’ouvre automatiquement avec un agent Proctorio, offrant une assistance immédiate pour résoudre tout problème potentiel.

Dans l’affaire Pocornie, il a été déterminé lors de l’enquête menée par VU Amsterdam que l’étudiante pouvait passer chacun de ses examens (15 au total) en 1 minute ou moins, sauf lors d’un seul cas où elle a connu un retard de 2 minutes. Il a été déterminé à ce moment-là (et par le candidat lui-même via chat avec un agent Proctorio) que leurs lunettes l’empêchaient d’entrer. Après les avoir ajustées ou retirées, elle a réussi l’étape de vérification. Aucun autre examen n’avait de relevés de notes de chat joint, donc on peut conclure qu’elle a réussi cette étape à chaque fois en deux tentatives ou moins.

Proctorio reconnaît que le biais est un problème sérieux – à tel point que notre algorithme a été audité par un tiers. Bien qu’il ait été déterminé qu’il n’y avait aucun biais significatif envers qui que ce soit, nous reconnaissons les préoccupations soulevées par les utilisateurs et visons à aller au-delà de la simple conformité. Dire aux gens qu’il n’y a pas de biais significatif lorsqu’ils rencontrent des difficultés à utiliser notre produit et lors de l’examen ne nous convient pas.

Nous sommes fiers de nos efforts pour que notre produit fonctionne aussi efficacement que possible. Nous savons que passer des évaluations peut provoquer de l’anxiété et, même si nous ne pouvons pas l’empêcher, nous pouvons faire des efforts pour la minimiser.

Proctorio s’attaque activement aux préoccupations liées à nos algorithmes de détection faciale et garantit une expérience de surveillance en ligne équitable et inclusive pour tous les élèves. Bien que les défis persistent, nous reconnaissons la nécessité d’améliorations continues et travaillons activement à cet objectif. En adoptant la transparence, en invitant à des audits externes et en s’efforçant de minimiser les biais et les problèmes techniques, Proctorio vise à offrir une solution de surveillance qui privilégie le bien-être des élèves tout en maintenant l’intégrité académique.