Ce que les organisations d’évaluation peuvent apprendre du nouveau rapport de gouvernance de l’IA d’ATP

Comme nous le savons tous, l’intelligence artificielle est en train de transformer l’évaluation.

L’IA est désormais utilisée pour créer du contenu de test, noter les réponses, vérifier l’identité, surveiller les séances de test et protéger l’intégrité des examens. À mesure que ces technologies deviennent plus courantes, les organisations d’évaluation font face à un défi important : comment adopter-elles l’innovation tout en maintenant l’équité, la sécurité, la transparence et la confiance ?

Pour aider les organisations à surmonter ces défis, l’Association of Test Publishers (ATP) a récemment publié Alignement de la politique d’IA pour les applications d’évaluation sur le cadre de gestion des risques IA du NIST. Développé par le sous-comité mondial de conformité à l’IA et à la vie privée d’ATP, le rapport fournit des conseils pratiques aux organisations souhaitant adopter l’IA de manière responsable.

Parmi les contributeurs figurait Melissa DeWees, directrice de l’éthique et de la conformité en IA chez Proctorio, qui a travaillé aux côtés d’experts d’organisations telles qu’ETS, PSI, Learnosity et MHS pour aider à élaborer des recommandations pour une utilisation responsable de l’IA dans l’ensemble de l’industrie de l’évaluation.

La publication est disponible gratuitement pour les membres de l’ATP et à l’achat par les non-membres via la bibliothèque de ressources de l’ATP.

Bien que le rapport aborde un large éventail de sujets, cinq leçons clés ressortent.

1. La confiance doit être intégrée

Le message le plus important du rapport est que la confiance ne peut pas être une pensée secondaire. Les organisations doivent penser dès le départ à l’équité, à la transparence, à la responsabilité et à la supervision humaine. Les systèmes d’IA doivent être conçus et gérés de manière à ce que les parties prenantes puissent comprendre et en qui elles aient confiance.

Pour les organisations d’évaluation, la confiance est primordiale. Les étudiants, les candidats, les enseignants, les employeurs et les organismes de certification ont tous besoin de confiance dans le fait que les résultats sont justes, sûrs et fiables.

Comment Proctorio soutient cela : La confiance commence par la transparence. Proctorio s’engage à être clair sur l’utilisation de l’IA dans ses solutions, le rôle que joue l’IA dans les processus décisionnels, ainsi que les garanties mises en place pour soutenir l’équité, la responsabilité et la supervision humaine. Par son engagement en faveur de la transparence et de la responsabilité, y compris ses Centre de fiducie, Proctorio aide les établissements à renforcer la confiance dans les résultats des évaluations.

2. La gouvernance de l’IA est un processus continu

La gouvernance de l’IA n’est pas un projet ponctuel. Les systèmes d’IA évoluent. Les menaces évoluent. Les réglementations évoluent.

Le rapport encourage les organisations à examiner continuellement les risques, à surveiller la performance et à améliorer les contrôles au fil du temps. L’objectif n’est pas simplement de déployer l’IA, mais de garantir qu’elle reste fiable à mesure que la technologie et les attentes évoluent.

Comment Proctorio soutient cela : Proctorio considère la gouvernance de l’IA comme une discipline continue, et non comme une étape unique de conformité. En tant que l’une des premières entreprises du secteur de l’évaluation à atteindre cet objectif Certification ISO/IEC 42001 pour son système de gestion de l’IA, Proctorio examine régulièrement les systèmes d’IA, évalue les risques émergents et met à jour les pratiques de gouvernance afin de garantir la fiabilité de l’IA à mesure que la technologie et les attentes évoluent. Des informations supplémentaires sont disponibles via Proctorio’s Audits et conformité Ressources.

3. La supervision humaine reste importante

Malgré les avancées de l’IA, les humains restent essentiels. L’IA peut identifier des schémas, signaler des activités inhabituelles et automatiser les tâches routinières. Cependant, les décisions importantes doivent toujours impliquer le jugement humain, en particulier dans des environnements à enjeux élevés tels que l’éducation, la certification, la délivrance de licences et le recrutement.

Le rapport souligne l’importance des processus d’examen, des voies d’escalade et des mécanismes d’appel qui garantissent la responsabilité et l’équité.

Comment Proctorio soutient cela : Les systèmes d’IA de Proctorio sont conçus pour soutenir le jugement humain, pas pour le remplacer. Si l’IA peut aider à identifier des schémas, à remettre en lumière les informations et à améliorer l’efficacité, les institutions conservent le contrôle des politiques, des processus d’examen et des décisions finales. Cette approche aide à préserver la responsabilité, la transparence et l’équité dans des environnements d’évaluation à enjeux élevés. En savoir plus sur Proctorio’s Vérification d’identité solutions et Surveillance en direct capacités.

4. L’intégrité de l’évaluation fait face aux nouvelles menaces de l’ère de l’IA

Le rapport met en lumière un paysage de menaces en évolution rapide. Les deepfakes, les attaques d’usurpation d’identité, les réponses générées par l’IA, les outils d’assistance automatisés et les systèmes d’IA agentique créent de nouveaux défis pour les organisations de test.

En conséquence, l’attention se déplace de la simple prévention des inconduites à la vérification de l’authenticité. Les organisations ont de plus en plus besoin de confiance que la bonne personne a réalisé l’évaluation, que le travail leur appartient sincèrement, et que les résultats reflètent fidèlement leurs connaissances et leurs compétences.

Comment Proctorio soutient cela : Grâce à des revues continues de la gouvernance, des évaluations des risques et du suivi des technologies émergentes, Proctorio s’efforce d’adapter son approche à mesure que les menaces évoluent. Cet engagement envers l’amélioration continue aide les établissements à naviguer dans un paysage d’évaluation en évolution tout en maintenant la confiance dans les résultats d’évaluation. Les organisations peuvent en apprendre davantage sur l’approche de Proctorio en matière d’IA éthique dans Construire la confiance : les fondements d’une IA responsable et son approche plus large de l’évaluation de l’authenticité.

5. Une bonne IA commence avec de bonnes données

Une gouvernance solide de l’IA commence par une gouvernance solide des données. Les organisations ont besoin de politiques claires sur la manière dont les données sont collectées, stockées, protégées et utilisées. Cela est particulièrement important lorsqu’on travaille avec des informations personnelles et des données sensibles d’évaluation.

Des pratiques solides en matière de données contribuent à réduire les risques, à protéger la vie privée, à améliorer la transparence et à accroître la confiance dans les résultats pilotés par l’IA. Sans données de qualité et sans supervision adéquate, même les systèmes d’IA les plus avancés peuvent produire des résultats peu fiables.

Comment Proctorio soutient cela : Une gouvernance solide des données est fondamentale pour une IA fiable. L’architecture de Proctorio reflète ce principe par conception. Les données d’évaluation sont chiffrées selon une approche de connaissance nulle, les informations personnelles sont protégées par des pratiques axées sur la vie privée, et les modèles d’IA sont entraînés uniquement sur des ensembles de données issus de sources éthiques, jamais sur le contenu des examens clients. Ces garanties permettent de garantir qu’à mesure que l’IA s’intègre davantage à l’évaluation, les pratiques de données sous-jacentes restent sûres, transparentes et dignes de confiance. En savoir plus sur Proctorio’s Confidentialité et sécurité des données Pratiques et le Centre de fiducie.

Regard vers l’avenir

Le rapport ATP renforce un changement plus large qui se produit dans l’industrie de l’évaluation. Le succès ne se définira pas uniquement par l’adoption de l’IA, mais par son adoption responsable. Les organisations qui privilégient la transparence, la responsabilité, la supervision humaine et une gouvernance solide seront les mieux placées pour instaurer la confiance et la confiance dans un avenir favorisé par l’IA.

Cela souligne également l’importance de la collaboration. Le rapport a réuni des experts de tout l’écosystème de l’évaluation, dont Melissa DeWees de Proctorio, afin d’aider à établir des orientations pratiques pour les organisations confrontées aux opportunités et aux risques liés à l’IA.

L’intelligence artificielle continuera de transformer l’évaluation. Les organisations qui réussiront ne seront pas simplement celles qui adopteront l’IA le plus rapidement. Ce seront les organisations capables de démontrer que leurs systèmes d’IA sont dignes de confiance, responsables et dignes de la confiance qu’ils ont accordée.

Pour en savoir plus sur l’approche de Proctorio en matière d’IA responsable, rendez-vous sur le Centre de fiducie, lire Construire la confiance : les fondements d’une IA responsable, ou examiner les Annonce de certification ISO/IEC 42001.