Bildung

Die Bildung ist einer der Bereiche, die die Verordnung am deutlichsten schützt. Hochriskant sind KI-Systeme, die über Zugang, Zulassung oder Zuweisung zu Bildungseinrichtungen entscheiden, Lernergebnisse bewerten oder damit den Lernprozess steuern, das angemessene Bildungsniveau bestimmen oder verbotenes Verhalten bei Prüfungen überwachen (Anhang III Nr. 3 Buchst. a bis d), ab 2. Dezember 2027.

Verboten seit Februar 2025

Emotionserkennung in Bildungseinrichtungen ist verboten, außer aus medizinischen oder Sicherheitsgründen (Art. 5 Abs. 1 Buchst. f). Systeme, die Emotionen oder Absichten von Lernenden, etwa Langeweile, Frustration oder Interesse, aus biometrischen Daten wie Gesichtsausdruck, Stimme oder Blickverhalten ableiten, sind damit ausgeschlossen. Funktionen zur Aufmerksamkeitsmessung sind im Einzelfall zu prüfen; körperliche Zustände wie Müdigkeit sind nach Erwägungsgrund 18 keine Emotionen.

Für wen was gilt

• Öffentliche Schulen und Hochschulen: Betreiber mit Grundrechte-Folgenabschätzung (Art. 27) und, soweit sie Behörden sind, Registrierung der Nutzung (Art. 49 Abs. 3).
• Private Bildungsträger und Unternehmensakademien: Betreiberpflichten nach Art. 26, wenn sie Hochrisiko-Systeme einsetzen; bei öffentlichen Bildungsaufgaben auch Art. 27.
• Anbieter von Bildungstechnik: Anbieterpflichten für Zulassungs-, Bewertungs- und Aufsichtssysteme, interne Konformitätsbewertung nach Anhang VI.
• Generative KI im Unterricht: nicht hochriskant, solange sie nicht über Zugang oder Zuweisung entscheidet, Lernergebnisse bewertet oder den Lernprozess steuert, das Bildungsniveau bestimmt oder Prüfungen überwacht; KI-Kompetenz (Art. 4) gilt für Lehrende als Personal.

Umsetzung

1. Bewertende Systeme finden

   Lernplattformen mit automatischer Bewertung, Online-Proctoring, Auswahlverfahren für Studienplätze.

2. Verbote ausschließen

   Funktionen zur Emotionsauswertung auf Grundlage biometrischer Daten abschalten oder entfernen; Aufmerksamkeitsmessung im Einzelfall prüfen.

3. Menschliche Entscheidung sichern

   Wer entscheidet über Note, Zulassung, Verdacht auf Täuschung? Wie wird die Systemausgabe geprüft?