Respuesta a RTL Nieuws

A Caso llevado a juicio en Ámsterdam expresó preocupaciones sobre los modelos de detección facial de Proctorio. El Instituto Holandés de Derechos Humanos escuchó las acusaciones sobre el software que mostraba sesgo contra estudiantes con tonos de piel más oscuros, lo que provocaba un trato desigual durante los exámenes. La estudiante que asistió a la Vrije Universiteit Amsterdam afirmó que el software era discriminatorio tras tener dificultades para acceder a su examen al momento de probar la cámara.

"El software no me reconoció como ser humano, y la universidad ignoró mi experiencia... No debería ser que algunos estudiantes tengan que usar una lámpara en la cara, otros pierdan la noción del tiempo o no puedan acceder al examen solo por el color de su piel."

• Robin Pocornie, estudiante en la VU Ámsterdam

Es correcto decir que los algoritmos de detección facial dependen de la iluminación. Sin embargo, esto es cierto para todos los usuarios, independientemente del color de piel. Si la persona está sobreexpuesta o infraexpuesta, la cámara puede fallar. La cámara puede fallar debido al deslumbramiento de las gafas de una persona, o incluso a la mala calidad del hardware.

En la prueba de imagen de la webcam, si la persona no aprueba, se abre automáticamente un chat de soporte en vivo con un agente de Proctorio, que ofrece asistencia inmediata para resolver cualquier posible problema.

En el caso de Pocornie, durante la investigación liderada por VU Amsterdam se determinó que la estudiante pudo ingresar en cada uno de sus exámenes (15 en total) en 1 minuto o menos, salvo en una única ocasión en la que experimentó un retraso de 2 minutos. Se determinó en ese momento (y por el propio candidato por chat con un agente de Proctorio) que sus gafas le impedían entrar. Después de ajustarlas o retirarlas, pudo aprobar el paso de verificación. Ningún otro examen tenía transcripciones adjuntas en el chat, así que podemos concluir que aprobó este paso en dos o menos intentos.

Proctorio reconoce que el sesgo es un problema serio, tanto que hemos auditado nuestro algoritmo por un tercero. Aunque se determinó que no hay sesgo significativo hacia nadie, reconocemos las preocupaciones planteadas por los usuarios y buscamos ir más allá del simple cumplimiento. Decir a la gente que no hay sesgo significativo cuando tienen dificultades para usar nuestro producto y al presentarse a un examen no es aceptable para nosotros.

Nos enorgullece nuestro esfuerzo para que nuestro producto funcione de la forma más eficiente posible. Somos conscientes de que realizar evaluaciones puede generar ansiedad y, aunque no podemos evitarlo, sí podemos esforzarnos por minimizarlo.

Proctorio está abordando activamente las preocupaciones relacionadas con nuestros algoritmos de detección facial y garantizando una experiencia de supervisión online justa e inclusiva para todos los estudiantes. Aunque persisten los desafíos, reconocemos la necesidad de mejoras continuas y estamos trabajando activamente para lograr ese objetivo. Al adoptar la transparencia, invitar a auditorías externas y esforzarse por minimizar los sesgos y los problemas técnicos, Proctorio pretende ofrecer una solución de supervisión que priorice el bienestar del alumnado manteniendo la integridad académica.