De weg vrijmaken voor ethische technologie

Door Mike Olsen –

Sinds ons allereerste examen in 2013 heeft Proctorio een platform kunnen creëren dat heeft geholpen de toegang tot onderwijs wereldwijd uit te breiden. De groei en het bereik dat we hebben bereikt zijn nederig, maar we erkennen onze verantwoordelijkheid om de ervaring van degenen die door AI-technologie zijn getroffen te verbeteren en een meer impactvolle erfenis achter te laten.

Toegang tot gelijk onderwijs is altijd de kern geweest van Proctorio, en om daar te komen moeten we ons blijven inzetten voor het streven naar ethische kunstmatige intelligentie. We willen het verhaal van onethische AI herschrijven, zeker in een tijd waarin je die twee letters (AI) bijna overal ziet waar je kijkt. Toen onze gezichtsdetectiemodel-bias audit in 2021 terugkwam en vaststelde dat Proctorio geen meetbare bias had, hadden we gemakkelijk onze handen in de lucht kunnen gooien en de overwinning kunnen uitroepen. In plaats daarvan zien we dit als een mijlpaal, iets goeds maar niet af. Als organisatie moeten we blijven investeren, innoveren en onze sector stimuleren om het beter te doen.

Afgelopen oktober, na een lang project in samenwerking met onze partners bij Babl AI, sloten we een vacature voor de functie: Directeur AI-ethiek. Deze nieuwe functie is gewijd aan het ethisch verbeteren van AI-algoritmen en gerelateerde activiteiten hier bij Proctorio. Na maanden van externe sollicitanten en interviews realiseerden we ons dat we eigenlijk niet zo ver hoefden te zoeken. Uiteindelijk werd Melissa Dewees, onze (voormalige) stafchef, benoemd tot directeur AI-ethiek. Wij geloven dat zij de perfecte persoon is om de weg te effenen voor de toekomst van AI-ethiek en de hele industrie die afhankelijk is van deze technologieën te bevoordelen.

We zijn vereerd Melissa in deze nieuwe rol te hebben en hebben volledig vertrouwen in haar vermogen om een positieve impact te hebben op de ethische ontwikkeling van AI-algoritmen hier bij Proctorio.

Door Melissa DeWees –

Ik ben ontzettend dankbaar voor deze kans als directeur AI-ethiek. Proctorio is enorm gegroeid in de afgelopen vier jaar dat ik hier werk. We hebben onze ups en downs gehad, maar we zagen altijd de toekomst vol innovatieve technologie en het accommoderen van mensen op nieuwe en verschillende manieren.

Mijn weg naar deze nieuwe functie is niet eenvoudig geweest, maar de weg hierheen heeft me veel belangrijke lessen geleerd. Wat we doen is belangrijk, evenals hoe het mensen en hun leven beïnvloedt. Als je me tien jaar geleden had verteld dat ik in deze positie zou zitten, had ik gedacht dat je gek was. Ik stelde me altijd voor dat ik in een museum zou werken of misschien in de medische sector. Dit was vooral waar toen ik naar de universiteit ging. Ik was altijd de stille toeschouwer op de achtergrond.

In mijn onderwijsstudies begon ik in de wetenschap, maar werkte uiteindelijk mijn weg naar de sociale wetenschappen. Ik koos voor antropologie omdat ik altijd gefascineerd ben geweest door geschiedenis en hoe mensen en beschavingen zich ontwikkelen. Ik heb behoorlijk wat tijd besteed aan het doorlezen van schoolboeken en het leren hoe samenlevingen zich ontwikkelden en welke problemen ze teisterden. Het is interessant om te beseffen dat we op sommige vlakken een lange weg hebben afgelegd, maar op andere gebieden nog veel te groeien hebben. Dit geldt niet alleen voor ons bedrijf, maar ook voor de technologiesector zelf.

Te weten dat ik deel uitmaak van een bedrijf dat technologie gebruikt en ontwikkelt die het leven van veel mensen beïnvloedt en hen kansen biedt die ze misschien niet hadden, is een geweldig gevoel. Denk ik dat we perfect zijn en geen verfijningen nodig hebben? Nee. Ik geloof dat er gebieden zijn waarop we kunnen verbeteren. Dit geldt voor onze kunstmatige intelligentiemodellen. Het is voor mij belangrijk dat ethiek wordt geïmplementeerd in elk aspect van ons bedrijf en product. Dit omvat de ontwikkeling en implementatie van onze AI-modellen. Ik geloof dat iedereen dezelfde ervaring van begin tot eind zou moeten hebben.

Deze positie is voor mij een manier om niet langer de stille toeschouwer te zijn, maar juist de spreker voor mensen die misschien geen stem hebben. Het is een manier om een verschil te maken, vooral in de techsector, maar ook op het gebied van diversiteit, gelijkheid, inclusie en toegankelijkheid. Ik ben enthousiast om te beginnen en de dingen waar we aan werken met je te delen.