Allanando el camino para la tecnología ética

Por Mike Olsen –

Desde nuestro primer examen en 2013, Proctorio ha podido crear una plataforma que ha ayudado a ampliar el acceso a la educación en todo el mundo. El crecimiento y alcance que hemos logrado es humillante, pero reconocemos nuestra responsabilidad de mejorar la experiencia de quienes se ven afectados por la tecnología de IA y dejar un legado más impactante.

El acceso a la educación igualitaria siempre ha estado en el núcleo de Proctorio, y para lograrlo debemos seguir comprometidos con la búsqueda de una inteligencia artificial ética. Queremos reescribir la narrativa de la IA poco ética, especialmente en un momento en el que ves esas dos letras (IA) casi por todas partes. Cuando nuestra auditoría de sesgo por modelo de detección facial volvió en 2021 y encontró que Proctorio no tenía sesgo medible, podríamos haber levantado las manos fácilmente y declarado la victoria. En cambio, vemos esto como un hito, algo bueno, pero no terminado. Como organización, debemos seguir invirtiendo y innovando y empujando a nuestra industria para mejorar.

El pasado octubre, tras un largo proyecto en colaboración con nuestros socios de Babl AI, cerramos una oferta de trabajo para el puesto: Director de Ética en IA. Este nuevo puesto está dedicado a mejorar éticamente los algoritmos de IA y actividades relacionadas aquí en Proctorio. Después de meses de candidatos externos y entrevistas, nos dimos cuenta de que en realidad no necesitábamos buscar tan lejos. Finalmente, Melissa Dewees, nuestra (ex) Jefa de Gabinete, fue nombrada Directora de Ética en IA. Creemos que es la persona perfecta para allanar el camino hacia el futuro de la ética en IA y beneficiar a toda la industria que depende de estas tecnologías.

Nos sentimos honrados de contar con Melissa en este nuevo puesto y confiamos plenamente en su capacidad para tener un impacto positivo en el desarrollo ético de algoritmos de IA aquí en Proctorio.

Por Melissa DeWees –

Estoy increíblemente agradecido por esta oportunidad como Director de Ética en IA. Proctorio ha crecido enormemente en los últimos cuatro años que llevo trabajando aquí. Hemos tenido altibajos, pero siempre imaginamos un futuro lleno de tecnología innovadora y adaptando a las personas de formas nuevas y diversas.

Mi camino hacia este nuevo puesto no ha sido sencillo, pero el camino hasta aquí me enseñó muchas lecciones importantes. Lo que hacemos es importante, así como cómo afecta a las personas y a sus vidas. Si me hubieras dicho hace 10 años que estaría en esta situación, habría pensado que estabas loco. Siempre me imaginé trabajando en un museo o quizá en el ámbito médico. Esto era especialmente cierto cuando estudiaba en la universidad. Siempre fui el observador silencioso en segundo plano.

En mis estudios académicos, empecé en el campo de las ciencias, pero finalmente fui avanzando hacia las ciencias sociales. Elegí Antropología porque siempre me ha fascinado la historia y cómo evolucionaron las personas y las civilizaciones. Pasé bastante tiempo revisando libros de texto y aprendiendo cómo se desarrollaban las sociedades y los problemas que las afectaban. Es interesante darse cuenta de que, aunque hemos avanzado mucho en algunos aspectos, aún nos queda mucho por crecer en otros. Esto es cierto no solo para nuestra empresa, sino también para el propio sector tecnológico.

Saber que formo parte de una empresa que utiliza y desarrolla tecnología que impacta la vida de muchas personas y les ofrece oportunidades que quizá no tuvieron es una sensación estupenda. ¿Creo que somos perfectos y que no necesitamos refinamientos? No. Creo que hay áreas en las que podemos mejorar. Esto es cierto en lo que respecta a nuestros modelos de inteligencia artificial. Para mí es importante que la ética se aplique en todos los aspectos de nuestra empresa y producto. Esto incluye el desarrollo y despliegue de nuestros modelos de IA. Creo que cada persona debería tener la misma experiencia de principio a fin.

Este puesto es una forma de dejar de ser el observador silencioso, sino el orador de personas que quizá no tengan voz. Es una forma de marcar la diferencia, especialmente en el ámbito tecnológico, pero también en cuestiones relacionadas con la diversidad, la equidad, la inclusión y la accesibilidad. Estoy emocionado por empezar y compartir con vosotros las cosas en las que estamos trabajando.