Art. 5: Verbotene Praktiken im KI-Bereich

Worum es geht

Verbietet unter anderem manipulative oder täuschende Techniken mit erheblichem Schaden, die Ausnutzung von Schwächen, Social Scoring, Straftatprognosen allein auf Profilingbasis, das ungezielte Auslesen von Gesichtsbildern, Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, biometrische Kategorisierung nach sensiblen Merkmalen und die biometrische Echtzeit-Fernidentifizierung zu Strafverfolgungszwecken mit engen Ausnahmen. Die VO (EU) 2026/1744 ergänzt ein Verbot von Systemen zur Erzeugung von Darstellungen sexuellen Kindesmissbrauchs und nicht einvernehmlicher intimer Inhalte.

Für die Umsetzung

Die Verbotsprüfung gehört vor jede Beschaffung und jede Zweckänderung. Für Unternehmen außerhalb der Sicherheitsbehörden ist die Emotionserkennung gegenüber Beschäftigten der häufigste Berührungspunkt, etwa bei Stimmungsanalysen im Kundenservice. Die Leitlinien der Kommission vom Februar 2025 sind die maßgebliche Auslegungshilfe.

Was am Ende vorliegen sollte

Prüfvermerk Art. 5 je System mit Datum und Prüfer

Prüfcheckliste: B.01 bis B.04 (siehe Vorlagen)

Amtlicher Wortlaut

Art. 5 im Amtsblatt (EUR-Lex). Die Einordnung oben gibt den Inhalt in eigenen Worten wieder; maßgeblich ist der Wortlaut im Amtsblatt, für geänderte Vorschriften in der Fassung der VO (EU) 2026/1744.