Der Einsatz von Künstlicher Intelligenz bei der Beaufsichtigung von Hochschulprüfungen

A. Legal Tech und Künstliche Intelligenz

Die Einsatzmöglichkeiten von Legal Tech Anwendungen sind äußerst vielfältig und sind beispielsweise auch im Hochschulkontext vorstellbar. Oftmals, aber nicht immer, kommen hierbei auch Elemente mit Künstlicher Intelligenz zum Einsatz. Was genau unter „Künstlicher Intelligenz“ (KI) oder „Artificial Intelligence“ (AI) zu verstehen ist, ist bisher noch nicht allgemeingültig geklärt. Insbesondere die unterschiedlichen Disziplinen sehen bestimmte Aspekte noch oder nicht mehr von dem Begriff KI umfasst. Der aktuell vorliegende Entwurf einer KI-Verordnung auf EU-Ebene(Fn. 1), sowie erste geplante nationale Regelungen, wie z.B. in Schleswig-Holstein(Fn. 2), gehen von einem sehr weiten Begriffsverständnis aus. Insgesamt kann man hierunter jedoch solche Softwaresysteme verstehen, die ihre Umgebung durch Datenerfassung wahrnehmen, die gesammelten strukturierten oder unstrukturierten Daten interpretieren, Schlussfolgerungen daraus ziehen oder die aus diesen Daten abgeleiteten Informationen verarbeiten und über das bestmögliche Handeln zur Erreichung des vorgegebenen Ziels entscheiden.(Fn. 3)

Der Einsatz solcher KI-Systeme birgt zahlreiche rechtliche Herausforderungen (vgl. Rechtsfragen zu Legal Tech). Im Kontext der Hochschulen kommt hinzu, dass diese als rechtsfähige Körperschaften des öffentlichen Rechts Teil der mittelbaren Staatsverwaltung sind und in diesem Zuge öffentliche Aufgaben wahrnehmen. Hieraus ergibt sich einerseits, dass die öffentlichen Hochschulen den Studierenden in einem Über-Unterordnungsverhältnis gegenüberstehen (anders als beispielsweise bei einem Vertrag zwischen zwei Privaten), andererseits stellen die prüfungsrechtlichen Entscheidungen (z.B. die Bewertung einer Prüfung) Verwaltungsakte dar, die dem Prinzip der fehlerunabhängigen Wirksamkeit unterliegen.

B. Einsatzmöglichkeiten von KI im Rahmen von Hochschulprüfungen

Für die unterschiedlichen prüfungsrechtlichen Entscheidungen, die im Rahmen von Hochschulprüfungen getroffen werden, ergeben sich zahlreiche Einsatzmöglichkeiten für KI-Systeme: So wird die Arbeit bewertet und eine Note festgesetzt, kommt es zu widerrechtlichen Handlungen des Prüflings muss entschieden werden welche Konsequenzen diese nach sich ziehen, hierbei können entsprechende Technologien zur Erleichterung oder Automatisierung des Prozesses eingesetzt werden. Zu denken ist etwa an das automatisierte Erstellen von Schriftsätzen, wenn eine bestimmte Note in das Prüfungssystem eingestellt wurde. So könnte bei endgültigem Nichtbestehen einer Pflichtprüfung der Exmatrikulationsprozess automatisiert in die Wege geleitet werden. Ebenso ist denkbar, dass Technologien die Hochschulen bei der Bewertung von rechtlichen relevanten Sachverhalten unterstützen. Besonders ressourcenintensiv im alltäglichen Hochschulbetrieb ist dabei die Prüfungsaufsicht, und auch hier gibt es bereits einzelne Ansätze und Ideen Entscheidungen im Kontext der Prüfungsaufsicht zu unterstützen oder zu automatisieren.

C. Stufen der Prüfungsaufsicht(Fn. 4)

Um zu verstehen wo und wie KI-gestützte Software in diesem Bereich eingesetzt werden kann, gilt es zunächst den (analogen) Aufsichtsprozess zu beleuchten. Dieser kann grundsätzlich in drei Stufen unterteilt werden:

1. Erfassen: In diesem Stadium wird ein Sachverhalt zunächst wertneutral erfasst (z.B. Studierender schreibt auf ein Notizblatt).
2. Interpretieren: In einem nächsten Schritt wird das erfasste Verhalten aufgrund der in der jeweiligen Prüfungssituation geltenden Bestimmungen (zugelassene Hilfsmittel) als regelkonform oder nicht interpretiert.
3. Entscheiden: Ist das Verhalten entsprechend interpretiert, gilt es eine prüfungsrechtliche Entscheidung zu treffen. Stellt z.B. die wahrgenommene Entscheidung einen Regelverstoß dar, so ist die Prüfungsleistung regelmäßig als nicht bestanden zu bewerten.

D. Potentiale der Automatisierung durch Künstliche Intelligenz

Anhand der soeben vorgenommenen Unterteilung lassen sich auch die Potentiale von KI im Rahmen der Prüfungsaufsicht erkennen: So können solche Systeme z.B. auf der ersten Stufe zur Erfassung von Verhalten eingesetzt werden und diese anhand vorher definierter Regelungen als unproblematisch oder problematisch interpretieren. Weiter ist es auch vorstellbar, dass die prüfungsrechtliche Entscheidung automatisiert erfolgt. Hier könnte das System anhand bereits erfolgter menschlicher Prüfungsentscheidungen „lernen“ wann welche Entscheidung zu treffen ist und diese direkt ausführen.

E. Rechtliche Bewertung

Die rechtliche Bewertung des KI-Einsatzes im Rahmen von Hochschulprüfungen hängt stark von ihrer konkreten Ausgestaltung ab. Sie geht jedoch immer mit dem Eingriff in die Grundrechte, zumindest das Grundrecht auf informationelle Selbstbestimmung (Art. 2 Abs. 1 i.V.m. Art. 1 Abs. 1 GG) der Studierenden einher. Ein solcher Eingriff kann rechtlich gerechtfertigt und damit zulässig sein, da dieses Grundrecht nicht schrankenlos gewährt wird. Eingriffe lassen sich insbesondere zur Verwirklichung anderer Grundrechte (bspw. der Chancengleichheit, Art. 3 Abs. 1 GG) rechtfertigen. Einfachgesetzlich findet diese Abwägungsentscheidung Ausgestaltung in den datenschutzrechtlichen Vorschriften. Auf nationaler Ebene sind dies v.a. das Bundesdatenschutzgesetz (BDSG), sowie die Landesdatenschutzgesetze (in Bayern: Bayerisches Datenschutzgesetz -BayDSG). Auf EU-Ebene besteht mit Art. 7 und 8 GrCh ein entsprechender Schutz, Regelungen zur Einschränkung erheben sich hierbei aus der DSGVO.

Im Ergebnis sind die entgegenstehenden Interessen stets gegeneinander abzuwägen. Je geringer die Eingriffsintensität durch das System ist, desto eher lässt sich ein solcher Eingriff rechtfertigen.

So lässt sich bereits erkennen, dass die Eingriffsintensität bei KI-gestützten Systemen, die auf der ersten Ebene der Aufsicht (Erfassen) zu verorten am geringsten, auf der dritten Ebene (Entscheiden) am höchsten ist. Weitere Parameter für die Einstufung des Eingriffs sind der Umstand, ob KI im lediglich im Entwicklungsprozess (also bei Entwicklung der letztlich zur Aufsicht eingesetzten Prüfungssoftware) oder während der Prüfung selbst, sowie, ob sie bezogen auf die Studierenden selbst, oder als reine Objekterkennung eingesetzt wird.

Eine rechtliche Einordnung ist daher stets im Einzelfall anhand dieser Parameter zu treffen.

Neben der Frage der grundsätzlichen Zulässigkeit ergeben sich zudem zahlreiche weitere Vorgaben für den konkreten Einsatz der KI-gestützten Software wie etwa die Informationspflichten nach Art. 13 DSGVO (Stichwort: Grundrechtsschutz durch Verfahren). Auch aus dem risikobasierten Regelungsansatz der KI-Verordnung lässt sich entnehmen, dass die Pflichten und Vorgaben für den Einsatz von KI steigen, je höher das Risiko des Einsatzes ist. Der Einsatz von KI im Ausbildungsbereich wird dort als Hochrisiko-System einstuft.(Fn. 5)

F. Fazit

Bereits eine Definition von KI lässt sich nur schwer fassen. Die Technologien, die darunter subsumiert werden, sind eher weit gestreut und unterscheiden sich teilweise erheblich. „Die KI-gestützte Software“ gibt es schlicht nicht, und so gestaltet sich auch eine rechtliche Einschätzung des Einsatzes im Hochschulkontext als entsprechend schwierig und kann nur individuell erfolgen. Der bestehende rechtliche Rahmen lässt den Einsatz in gewissen Grenzen jedoch zu und schließt ihn nicht generell aus.(Fn. 6)

G. Annex

Neben der Frage, inwieweit KI bei Hochschulprüfungen eingesetzt werden darf, wird spätestens seit der Veröffentlichung von ChatGPT die Frage, ob und wie Prüfungsteilnehmer selbst (generative) KI verwendent dürfen, stark diskutiert. Hierzu empfehlen wir bei Interesse den Vortrag "Trust in Co-Creation: Hochschulprüfungen mit und trotz ChatGPT" auf dem For..Net Symphosium 2024 von Dr. Sarah Rachut und Prof. Dirk Heckmann (https://www.youtube.com/watch?time_continue=1&v=3yEVbaX-VEE&embeds_referring_euri=https%3A%2F%2Fwww.tum-cdps.de%2F&source_ve_path=MjM4NTE).

(Fn. 1) Artifical Intelligence Act, COM(2021) 206 final.

(Fn. 2) Landtagsdrs. Schleswig-Holstein 19/3267.

(Fn. 3) Hochrangige Expertengruppe für Künstliche Intelligenz, Eine Definition der KI: Wichtigste Fähigkeiten und Wissenschaftsgebiete, 2019, S. 6.

(Fn. 4) Nach Rachut/Besner, Künstliche Intelligenz und Proctoring–Software, MMR 2021, 851.

(Fn. 5) Anhang III und Erwägungsgrund 35 des Artifical Intelligence Act, COM(2021) 206 final.

(Fn. 6) Ausführlich hierzu: Rachut/Besner, Künstliche Intelligenz und Proctoring–Software, MMR 2021, 851.