AI-fraude en juridisch risico in het hoger onderwijs: een interview met Christian Moriarty (deel 1)

Een interview met Christian Moriarty over AI, academische integriteit en best practices voor AI-beleid.

Christian Moriarty is ethicus en advocaat, directeur en penningmeester van het International Center for Academic Integrity, en professor aan St. Petersburg College. Hij besteedt momenteel ongeveer een week per maand aan het helpen van instellingen bij het opstellen van AI-beleid. Zijn antwoorden hieronder staan in zijn eigen woorden; de vragen zijn ingekort, en zijn antwoorden zijn alleen licht bewerkt om transcriptiefouten te corrigeren. De geuite standpunten zijn die van Christian Moriarty zelf en vormen geen juridisch advies en weerspiegelen niet noodzakelijk de standpunten van Proctorio. Christian ontving geen vergoeding voor dit interview, en niets hierin vormt juridisch advies of een goedkeuring van enig product, dienst of leverancier, met inbegrip van Proctorio. Dit interview wordt gepubliceerd met toestemming van Christian Moriarty, uitsluitend voor gebruik op de Proctorio-blog. Het mag niet worden gereproduceerd, overgenomen, geciteerd of hergebruikt in een andere context zonder zijn voorafgaande schriftelijke toestemming — neem contact op met marketing@proctorio.com voorafgaand aan hergebruik.

Hallo Christian. Bedankt dat je erbij bent. Ik wil graag beginnen met het artikel dat je publiceerde in de Chronicle of Higher Education, getiteld “When AI Cheating Becomes a Legal Risk”. Dat is een echte eyecatcher. Wat bracht je ertoe dit artikel te schrijven?

Ik denk dat het hoger onderwijs momenteel op twee verschillende manieren met een existentiële crisis te maken heeft: enerzijds zou AI het hoger onderwijs helemaal overbodig kunnen maken, afhankelijk van je perspectief, maar anderzijds is hoger onderwijs nog steeds belangrijk, terwijl de manier waarop we onze studenten onderwijzen en beoordelen onszelf uit de vergelijking haalt. Als een student zijn leerproces volledig of gedeeltelijk cognitief heeft uitbesteed aan kunstmatige intelligentie, ontvangt hij diploma's die hij niet heeft verdiend. En de waarde van dat diploma wordt op dit moment ondermijnd. Daarom vond ik het belangrijk om mensen te helpen begrijpen wat hun ethische en juridische verplichtingen zijn, en waar docenten in de kern in staat zijn om het leerproces van hun studenten te sturen met behoud van maximale academische vrijheid, en tegelijk de noodzakelijke eerlijke procedure te bieden die we aan studenten verplicht zijn.

In je artikel verdeel je de verplichtingen van docenten in twee categorieën: beoordeling en academische disciplinaire maatregelen. Kun je dat toelichten?

De vraag waar veel docenten mee worstelen is: wat zijn hun juridische en ethische verplichtingen bij een vermoeden van oneigenlijk gebruik van kunstmatige intelligentie? Het goede nieuws is dat, hoewel de huidige wetgeving niet perfect aansluit op de situatie waarin we ons bevinden, het nog steeds een behoorlijk goede leidraad biedt voor die procedurele verplichtingen.

Aan de ene kant staat beoordeling en academische beoordelingsvrijheid. Over het algemeen geeft de Amerikaanse wetgeving docenten in het hoger onderwijs behoorlijk veel vrijheid in hoe ze individuele studenten beoordelen op academische kwesties. Zolang het niet willekeurig of grillig is, en ze hun eigen regels volgen, zullen rechtbanken over het algemeen bijna nooit ter discussie stellen wat die academici doen.

Waar rechtbanken zich doorgaans wel mee bemoeien, is het gedragsaspect. Als de straf ernstig genoeg is — denk aan schorsing, verwijdering uit een cursus, verwijdering van school — dan komt dat in het gedragsdomein terecht. Dat staat los van academische beoordelingsvrijheid en vereist een hoger niveau van eerlijke procedure. Dat kan een kennisgeving zijn, een mogelijkheid om gehoord te worden en, afhankelijk van de ernst, een kruisverhoor of een hoorzitting. Maar uiteindelijk zullen rechtbanken zelfs dan de beslissingen over het gedrag zelf niet ter discussie stellen. Wat ze wel toetsen, is: heb je een proces dat aan de wettelijke minimumeisen voldoet, en heb je dat proces daadwerkelijk gevolgd? Er zijn opmerkelijke zaken op het gebied van AI-recht waarbij, ongeacht in welk domein je je bevindt, de uitspraak in feite is geweest: ‘Wij bepalen niet of deze student heeft vals gespeeld of niet. Wij bepalen alleen of jullie je eigen procedure hebben gevolgd.’

Wat zie je als de grootste misstap? Sturen docenten zaken te snel richting het disciplinaire traject, of volgen instellingen eenmaal daar geen procedure?

Absoluut allebei. En ik zou er nog een aan willen toevoegen die ik vaker voorkomend en misschien ook verraderlijker vind dan we beseffen: docenten die denken beoordelingsvrijheid te hebben over gedragskwesties, nemen eenzijdige beslissingen zonder de vereiste procedure van de instelling te doorlopen. Ze laten studenten en masse zakken — zonder de mogelijkheid om gehoord te worden, en zonder kennisgeving of uitleg. Hoewel niemand hier cijfers over heeft, durf ik te wedden dat dit vaker voorkomt dan we willen toegeven.

Maar ook: docenten zijn dit vak niet ingegaan om AI-politieagenten te zijn. Ze hebben al genoeg aan hun hoofd. Zelf heb ik elk semester 200 studenten. Ik betrap mezelf er tot op de dag van vandaag op dat ik meer tijd besteed aan het vaststellen of ze de opdracht op de juiste manier hebben uitgevoerd, dan aan het daadwerkelijk beoordelen van wat ze mij hebben ingeleverd. En dat is, zoals het er nu voorstaat, een onhoudbare positie waar we uit moeten komen.

Hoe kunnen instellingen docenten helpen om die grens te herkennen, voor het eerste probleem?

Ik denk dat het net zo simpel is als hen erover trainen. Ik reis de wereld rond om mensen te trainen in AI-beleid, en ik ging er steeds van uit: ‘dit zijn allemaal slimme mensen, ze houden zich bezig met AI, ik hoef met hen niet over de basis te praten.’ Maar dat blijkt niet zo te zijn. Zes maanden geleden bijvoorbeeld vroeg een groep dingen als: “Ik weet niet wat een LLM is, kun je me dat uitleggen?”

Dus nu begin ik elke bijeenkomst met: ‘steek je vingers op, hoe vertrouwd of comfortabel voel je je met AI?’ En in een zaal vol gepromoveerden ligt het gemiddelde op twee vingers van de vijf. Daarna doe ik een test met ze: ‘hier zijn 10 afbeeldingen en teksten, kun je bepalen of het AI is?’ Het gemiddelde is vijf van de tien, oftewel letterlijk niet beter dan een muntje opgooien. De slechtste groep waarmee ik dit ooit heb gedaan, scoorde letterlijk nul. Het beste resultaat ooit was zeven, en dat is maar één keer voorgekomen. Dus de beste zaal ter wereld haalt maar net een voldoende. En het gemiddelde is een onvoldoende.

Hoe je het ook bekijkt, we trainen docenten duidelijk niet genoeg, of we doen niet genoeg om hen de middelen te geven of hen in staat te stellen deze beslissingen te nemen en te begrijpen wanneer iets academische beoordelingsvrijheid moet zijn versus gedragsmatige disciplinaire maatregelen. En instellingen bieden niet genoeg middelen, of simpelweg de nodige capaciteit, om het probleem zelfs maar aan te pakken en die docenten te ondersteunen.

Je zou liever hebben dat instellingen niet wachten tot ze worden aangeklaagd voordat ze in actie komen.

De reden dat veel hiervan onder de radar blijft, is dat er simpelweg geen plek is waar deze problemen terecht kunnen. Op een van de conferenties die ik bezocht, vertelde een collega me dat ze zoveel AI-problemen hadden, maar dat de administratie er geen extra geld in wilde steken. Maar toen werden ze aangeklaagd, wat de administratie wakker schudde en hen liet beseffen dat dit een echt probleem is. Ineens was er een budget en drie extra medewerkers. Ik zou echt willen dat we op een punt komen waarop het niet rechtszaken zijn die ons aanzetten om hier aandacht aan te besteden. Er is op dit moment een hele nevenindustrie van advocatenkantoren die zich toeleggen op het verdedigen van studenten die worden beschuldigd van AI-fraude. Er gaat veel geld in om, en ik zou liever niet op het nieuws hoeven te komen voordat we iets ondernemen.

Hoe kan een instelling haar proceskansen daadwerkelijk verkleinen?

Mijn zeer juridische voorbehoud hierbij is dat je rechtszaken nooit volledig kunt vermijden. Waar het hier om gaat, is risicobeheer. Kun je de kans dat je wordt aangeklaagd verkleinen? Dat doe je door niet alleen een beleid te hebben, maar een begrijpelijk beleid, en dat beleid te handhaven, mensen erover voor te lichten, bewijs te hebben dat het wordt gevolgd, en het consequent, elke keer weer, zonder aanzien des persoons toe te passen. Met dat alles kun je nog steeds worden aangeklaagd, maar de kans is groter dat het veel sneller wordt opgelost, en hoogstwaarschijnlijk hoef je niet te schikken of jezelf te verdedigen in een rechtszaak zonder jury. De zaak die ik in mijn artikel besprak, betrof een particuliere school die simpelweg haar eigen beleid niet had gevolgd, en het weinige beleid dat ze hadden, zorgde ervoor dat de beslisser ook degene was die beroepen behandelde. Dat is geen echte eerlijke procedure.

Om de een of andere reden zijn met name particuliere instellingen eraan gewend geraakt te denken dat hun beslissing niet toetsbaar is en dat hun studenten geen rechten hebben. En dat klopt absoluut niet. Dit is wat wel klopt: op openbare scholen hebben studenten letterlijk grondwettelijke rechten op grond van het veertiende amendement met betrekking tot hun opleiding. Als je ze hebt ingeschreven, hebben ze een eigendomsrecht om te blijven, en moet je een eerlijke procedure volgen om ze te verwijderen. Bij particuliere instellingen is er sprake van een contract: het studentenhandboek is in feite een contract, en als daarin staat dat een student alleen om bepaalde redenen kan worden verwijderd, mag je hem ook echt alleen om die redenen verwijderen.

Moriarty, C. “When AI Cheating Becomes a Legal Risk.” The Chronicle of Higher Education, 4 mei 2026,https://www.chronicle.com/article/when-ai-cheating-becomes-a-legal-risk.

Vervolg in “AI, the Courts, and Academic Policy — Deel 2”.