Handel und E-Commerce

Im Handel ist KI überall, aber selten hochriskant. Die wichtigsten Pflichten liegen bei Transparenz, Verboten und der Bonitätsprüfung natürlicher Personen, die sich hinter dem Kauf auf Rechnung oder der Ratenzahlung verbirgt.

Wo die Verordnung greift

• Chatbots und Kundenservice: Kunden müssen spätestens bei der ersten Interaktion erkennen können, dass sie mit einem KI-System sprechen (Art. 50 Abs. 1 und 5), seit 2. August 2026. Die Pflicht trifft den Anbieter des Systems; wer einen eingekauften Chatbot nutzt, lässt sie sich vertraglich zusichern. Regelbasierte Antworten ohne KI sind nicht erfasst.
• KI-generierte Bilder und Texte: Bild-, Ton- und Videoinhalte, die mit KI erzeugt oder verändert wurden, wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und fälschlich als echt erscheinen würden, sind als Deepfake offenzulegen (Art. 3 Nr. 60, Art. 50 Abs. 4). Das kann auch KI-Produktbilder betreffen, die Aussehen, Eigenschaften oder Verwendung der Ware unzutreffend darstellen; reine Farbkorrekturen oder ästhetische Hintergründe ohne Irreführung über das Produkt fallen nach den Leitlinien der Kommission in der Regel nicht darunter. Werbetexte und Produktbeschreibungen fallen in der Regel nicht unter die Textpflicht, solange sie keine Aussagen etwa zu Gesundheit, Verbrauchersicherheit oder Nachhaltigkeit enthalten. Das Wettbewerbs- und Verbraucherrecht bleibt anwendbar.
• Bonitätsprüfung: Bewertet ein System die Kreditwürdigkeit natürlicher Personen, etwa vor dem Kauf auf Rechnung, ist es nach Anhang III Nr. 5 b hochriskant. Anbieter ist meist der Zahlungs- oder Auskunftsdienstleister. Prüfen Sie, ob Sie das System in eigener Verantwortung einsetzen und damit Betreiber sind, oder ob der Dienstleister die Entscheidung trifft.
• Betrugserkennung: KI-Systeme zur Aufdeckung von Finanzbetrug sind von Anhang III Nr. 5 Buchst. b ausdrücklich ausgenommen. Nutzen sie etwa biometrische Verfahren, ist die Einstufung nach anderen Nummern gesondert zu prüfen.
• Personalisierung und Gestaltung: Empfehlungssysteme und dynamische Preise sind nicht hochriskant. Verboten sind aber Techniken, die Verhalten unterschwellig oder täuschend so beeinflussen, dass erheblicher Schaden droht, und die Ausnutzung von Schwächen etwa aufgrund von Alter oder wirtschaftlicher Lage (Art. 5 Abs. 1 Buchst. a und b).
• Filialen: Emotionserkennung und biometrische Kategorisierung von Kundinnen und Kunden sind informationspflichtig (Art. 50 Abs. 3) und in der Regel hochriskant (Anhang III Nr. 1 Buchst. b und c). Verboten ist eine biometrische Kategorisierung, die auf sensible Merkmale wie Herkunft, politische Meinung, Religion oder sexuelle Ausrichtung schließt (Art. 5 Abs. 1 Buchst. g). Emotionserkennung am Arbeitsplatz ist verboten, außer aus medizinischen oder Sicherheitsgründen (Art. 5 Abs. 1 Buchst. f).

Umsetzung

1. Kundenkontaktpunkte prüfen

   Chat, Telefon, E-Mail-Antworten, Produktbilder, Werbung: Wo wirkt KI nach außen, und ist das erkennbar?

2. Zahlungsarten durchleuchten

   Welche Bonitätsprüfung steckt hinter Rechnung, Ratenkauf und Kundenkonto, wer betreibt sie, und welche Informationen bekommen Kunden?

3. Gestaltung gegen Art. 5 prüfen

   Personalisierte Preise, Countdown-Mechaniken und Ansprache schutzbedürftiger Gruppen gegen die Verbote abgleichen; dazu Verbraucherrecht und Digital Services Act.

4. KI-Kompetenz im Team

   Marketing, Kundenservice und Einkauf nutzen KI am häufigsten. Dort beginnen.