Öffentlicher Sektor

Öffentliche Stellen haben als Betreiber zusätzliche Pflichten: Vor dem Einsatz eines Hochrisiko-Systems nach Anhang III (außer Nr. 2) führen sie eine Grundrechte-Folgenabschätzung durch (Art. 27); diese Pflicht gilt auch für private Einrichtungen, die öffentliche Dienste erbringen. Behörden registrieren außerdem die Nutzung in der EU-Datenbank (Art. 49 Abs. 3); private Einrichtungen nur, wenn sie im Namen einer Behörde handeln.

Typische Hochrisiko-Fälle

• Prüfung des Anspruchs auf öffentliche Unterstützungsleistungen (Anhang III Nr. 5 a)
• Bewertung von Notrufen und Steuerung von Rettungsdiensten (Nr. 5 d)
• Bildung: Zulassung, Bewertung von Lernergebnissen, Prüfungsaufsicht (Nr. 3)
• Strafverfolgung, Migration und Grenzkontrolle, Justiz (Nr. 6 bis 8)
• Personalauswahl im öffentlichen Dienst (Nr. 4)

Übergangsfristen

Für Hochrisiko-Systeme, die bestimmungsgemäß von Behörden verwendet werden sollen und vor dem jeweiligen Geltungsbeginn (2. Dezember 2027 bzw. 2. August 2028) in Verkehr gebracht oder in Betrieb genommen wurden, müssen Anbieter und Betreiber die Anforderungen bis 2. August 2030 erfüllen (Art. 111 Abs. 2). Neue Systeme müssen ab Geltungsbeginn konform sein, für Anhang III ab 2. Dezember 2027.

Zuständigkeit

Die Marktüberwachung liegt nach dem KI-MIG grundsätzlich bei der Bundesnetzagentur. Dort ist eine unabhängige KI-Marktüberwachungskammer eingerichtet, zuständig für Hochrisiko-Systeme nach Anhang III Nr. 6, 7 und 8 sowie für Nr. 1, soweit diese für Strafverfolgung, Grenzmanagement, Justiz und Demokratie eingesetzt werden (§ 2 Abs. 5, § 4 KI-MIG). Bringen öffentliche Stellen der Länder, einschließlich der Kommunen, KI-Systeme in Verkehr, nehmen sie in Betrieb oder verwenden sie, obliegt die Marktüberwachung den nach Landesrecht zuständigen Behörden (§ 2 Abs. 6 KI-MIG).