Den Weg für ethische Technologie ebnen

Von Mike Olsen –

Seit unserer allerersten Prüfung im Jahr 2013 konnte Proctorio eine Plattform schaffen, die den Zugang zu Bildung weltweit erweitert hat. Das Wachstum und die Reichweite, die wir erreicht haben, sind demütigend, doch wir erkennen unsere Verantwortung an, die Erfahrung der von KI-Technologie Betroffenen zu verbessern und ein bedeutenderes Vermächtnis zu hinterlassen.

Der Zugang zu gleicher Bildung stand stets im Mittelpunkt von Proctorio, und um dorthin zu gelangen, müssen wir uns weiterhin dem Streben nach ethischer künstlicher Intelligenz verpflichtet fühlen. Wir wollen die Erzählung unethischer KI neu schreiben, besonders in einer Zeit, in der man diese beiden Buchstaben (KI) fast überall sieht. Als unser Face Detection Model Bias Audit 2021 zurückkam und ergab, dass Proctorio keine messbare Voreingenommenheit hatte, hätten wir leicht die Hände in die Luft werfen und den Sieg erklären können. Stattdessen sehen wir dies als einen Meilenstein, etwas, das gut, aber nicht abgeschlossen ist. Als Organisation müssen wir weiterhin investieren, innovieren und unsere Branche dazu bringen, besser zu werden.

Im vergangenen Oktober, nach einem langen Projekt in Zusammenarbeit mit unseren Partnern bei Babl AI, haben wir eine Stellenanzeige für die Stelle abgeschlossen: Direktor für KI-Ethik. Diese neue Position widmet sich der ethischen Verbesserung von KI-Algorithmen und verwandten Aktivitäten hier bei Proctorio. Nach monatelangen externen Bewerbern und Vorstellungsgesprächen haben wir gemerkt, dass wir eigentlich gar nicht so weit suchen mussten. Am Ende wurde Melissa Dewees, unsere (ehemalige) Stabschefin, zur Direktorin für KI-Ethik ernannt. Wir sind überzeugt, dass sie die perfekte Person ist, um den Weg für die Zukunft der KI-Ethik zu ebnen und der gesamten Branche, die von diesen Technologien abhängig ist, zu profitieren.

Wir fühlen uns geehrt, Melissa in dieser neuen Rolle zu haben, und haben volles Vertrauen in ihre Fähigkeit, einen positiven Einfluss auf die ethische Entwicklung von KI-Algorithmen hier bei Proctorio zu leisten.

Von Melissa DeWees –

Ich bin unglaublich dankbar für diese Gelegenheit als Direktor für KI-Ethik. Proctorio ist in den letzten vier Jahren, in denen ich hier beschäftigt bin, enorm gewachsen. Wir hatten Höhen und Tiefen, aber wir haben uns immer eine Zukunft voller innovativer Technologien und der Anpassung an Menschen auf neue und vielfältige Weise vorgestellt.

Mein Weg zu dieser neuen Position war nicht einfach, aber der Weg hierher hat mir viele wichtige Lektionen beigebracht. Was wir tun ist wichtig, ebenso wie wie die Auswirkungen auf Menschen und ihr Leben. Wenn du mir vor zehn Jahren gesagt hättest, dass ich in dieser Lage sein würde, hätte ich dich für verrückt gehalten. Ich habe mir immer vorgestellt, in einem Museum oder vielleicht im medizinischen Bereich zu arbeiten. Das galt besonders, als ich auf dem College war. Ich war immer der stille Beobachter im Hintergrund.

In meinem pädagogischen Studium begann ich im naturwissenschaftlichen Bereich, arbeitete mich aber schließlich in die Sozialwissenschaften vor. Ich habe mich für Anthropologie entschieden, weil ich schon immer von Geschichte und der Entwicklung von Menschen und Zivilisationen fasziniert war. Ich habe ziemlich viel Zeit damit verbracht, Lehrbücher zu studieren und zu lernen, wie sich Gesellschaften entwickeln und welche Probleme sie plagen. Es ist interessant zu erkennen, dass wir zwar in manchen Bereichen einen weiten Weg zurückgelegt haben, aber in anderen noch viel Wachstum vor uns haben. Das gilt nicht nur für unser Unternehmen, sondern auch für den Technologiebereich selbst.

Zu wissen, dass ich Teil eines Unternehmens bin, das Technologie nutzt und entwickelt, die das Leben vieler Menschen beeinflusst und ihnen Chancen bietet, die sie vielleicht nicht hatten, ist ein großartiges Gefühl. Denke ich, wir sind perfekt und brauchen keine Verfeinerungen? Nein. Ich glaube, es gibt Bereiche, in denen wir uns verbessern können. Das gilt für unsere künstlichen Intelligenz-Modelle. Es ist mir wichtig, dass Ethik in jedem Aspekt unseres Unternehmens und Produkts umgesetzt wird. Dazu gehört die Entwicklung und Einführung unserer KI-Modelle. Ich glaube, jeder Mensch sollte von Anfang bis Ende dieselbe Erfahrung machen.

Diese Position ist für mich eine Möglichkeit, nicht mehr der stille Beobachter zu sein, sondern der Redner für Menschen, die vielleicht keine Stimme haben. Es ist eine Möglichkeit, einen Unterschied zu machen, besonders im Technologiebereich, aber auch in Fragen zu Vielfalt, Gleichberechtigung, Inklusion und Zugänglichkeit. Ich freue mich darauf, loszulegen und mit Ihnen zu teilen, woran wir gerade arbeiten.