Ouvrir la voie à une technologie éthique

Par Mike Olsen –

Depuis notre tout premier examen en 2013, Proctorio a pu créer une plateforme qui a contribué à élargir l’accès à l’éducation dans le monde entier. La croissance et la portée que nous avons atteintes sont impressionnantes, mais nous reconnaissons notre responsabilité d’améliorer l’expérience des personnes touchées par la technologie IA et de laisser un héritage plus impactant.

L’accès à une éducation équitable a toujours été au cœur de Proctorio, et pour y parvenir, nous devons rester engagés dans la quête d’une intelligence artificielle éthique. Nous voulons réécrire le récit de l’IA non éthique, surtout à une époque où l’on voit ces deux lettres (IA) presque partout où l’on regarde. Lorsque notre audit de biais par modèle de détection faciale est revenu en 2021 et a révélé que Proctorio n’avait aucun biais mesurable, nous aurions facilement pu lever les mains et déclarer la victoire. Au contraire, nous voyons cela comme une étape importante, quelque chose de bon, mais pas terminé. En tant qu’organisation, nous devons continuer à investir, innover et pousser notre secteur à faire mieux.

En octobre dernier, après un long projet en collaboration avec nos partenaires de Babl AI, nous avons clôturé une offre d’emploi pour le poste : Directeur de l’éthique de l’IA. Ce nouveau poste est dédié à l’amélioration éthique des algorithmes d’IA et des activités associées ici chez Proctorio. Après des mois de candidats externes et d’entretiens, nous avons réalisé que nous n’avions pas vraiment besoin de chercher aussi loin. Finalement, Melissa Dewees, notre (ancienne) cheffe de cabinet, a été nommée directrice de l’éthique de l’IA. Nous pensons qu’elle est la personne idéale pour ouvrir la voie à l’éthique future de l’IA et bénéficier à l’ensemble de l’industrie dépendant de ces technologies.

Nous sommes honorés d’accueillir Melissa dans ce nouveau rôle et avons une confiance totale en sa capacité à avoir un impact positif sur le développement éthique des algorithmes d’IA ici chez Proctorio.

Par Melissa DeWees –

Je suis extrêmement reconnaissant pour cette opportunité en tant que Directeur de l’éthique de l’IA. Proctorio a énormément grandi au cours des quatre dernières années où j’ai travaillé ici. Nous avons connu nos hauts et nos bas, mais nous avons toujours imaginé un avenir rempli de technologies innovantes et d’accommodement des gens de manières nouvelles et variées.

Mon chemin vers ce nouveau poste n’a pas été simple, mais le parcours jusqu’ici m’a appris de nombreuses leçons importantes. Ce que nous faisons est important, tout comme l’impact que cela a sur les gens et leur vie. Si tu m’avais dit il y a 10 ans que je serais dans cette situation, j’aurais pensé que tu étais fou. Je me suis toujours imaginé travailler dans un musée ou peut-être dans le domaine médical. C’était particulièrement vrai quand j’étais à l’université. J’ai toujours été l’observateur silencieux en arrière-plan.

Dans mes études universitaires, j’ai commencé dans le domaine scientifique mais j’ai fini par progresser vers les sciences sociales. J’ai choisi l’anthropologie parce que j’ai toujours été fasciné par l’histoire et la façon dont les peuples et les civilisations ont évolué. J’ai passé pas mal de temps à étudier les manuels scolaires et à apprendre comment les sociétés évoluaient et les problèmes qui les affectaient. Il est intéressant de constater que, bien que nous ayons parcouru un long chemin sur certains aspects, nous avons encore beaucoup à faire dans d’autres. Cela est vrai non seulement pour notre entreprise mais aussi dans le domaine technologique lui-même.

Savoir que je fais partie d’une entreprise qui utilise et développe des technologies qui impactent la vie de nombreuses personnes et leur offrent des opportunités qu’elles n’avaient peut-être pas eues est un sentiment formidable. Est-ce que je pense que nous sommes parfaits et que nous n’avons pas besoin de raffinements ? Non. Je crois qu’il existe des domaines dans lesquels nous pouvons nous améliorer. C’est vrai pour nos modèles d’intelligence artificielle. Il est important pour moi que l’éthique soit appliquée dans tous les aspects de notre entreprise et de notre produit. Cela inclut le développement et le déploiement de nos modèles d’IA. Je crois que chaque personne devrait vivre la même expérience du début à la fin.

Cette position est une façon pour moi de ne plus être l’observatrice silencieuse, mais plutôt l’orateur pour les personnes qui n’ont peut-être pas de voix. C’est un moyen de faire la différence, surtout dans le domaine technologique, mais aussi dans les domaines liés à la diversité, à l’équité, à l’inclusion et à l’accessibilité. Je suis impatient de commencer et de partager avec vous ce sur quoi nous travaillons.