EU-KI-Verordnung: Was sie für Online-Händler bedeutet

Die EU-KI-Verordnung (englisch: AI Act) legt Regeln für KI-Systeme nach Risikostufen fest. Die meisten Online-Shops setzen Werkzeuge aus den niedrigeren Stufen ein, etwa Chatbots, Textgeneratoren oder Empfehlungs-Widgets. Für diese gelten vor allem Transparenzpflichten und die Pflicht zur KI-Kompetenz der Mitarbeitenden, keine aufwendige Zertifizierung.

Dieser Beitrag gibt einen allgemeinen Überblick. Er ist keine Rechtsberatung. Lesen Sie den amtlichen Text und holen Sie rechtlichen Rat ein, bevor Sie Entscheidungen für Ihr Unternehmen treffen.

Was ist die EU-KI-Verordnung?

Die KI-Verordnung ist die Verordnung (EU) 2024/1689. Sie ist im August 2024 in Kraft getreten. Sie gilt stufenweise, daher greifen einzelne Teile zu unterschiedlichen Zeitpunkten.

Für Shops sind zwei Rollen wichtig:

• Anbieter: das Unternehmen, das ein KI-System entwickelt oder in Verkehr bringt.
• Betreiber: das Unternehmen, das ein KI-System im eigenen Geschäft einsetzt.

Die meisten Händler sind Betreiber. Sie nutzen einen Chatbot, einen Schreibassistenten oder ein Betrugstool, das ein anderer gebaut hat. Auch in dieser Rolle gelten einzelne Pflichten.

Fristen und Details rund um die KI-Verordnung wurden durch spätere EU-Maßnahmen angepasst. Prüfen Sie den aktuellen Text und die Seiten der Europäischen Kommission zur KI-Verordnung, um die heute geltenden Termine zu erfahren.

Der risikobasierte Ansatz

Die Verordnung ordnet KI-Anwendungen in Gruppen ein. Je höher das Risiko für Menschen, desto strenger die Regeln.

• Verbotene Praktiken: eine kurze Liste von Anwendungen, die die EU untersagt, zum Beispiel bestimmte manipulative Techniken und einige Formen des Social Scoring. Ein normaler Shop nutzt solche Anwendungen nicht.
• Hochrisiko-Systeme: KI in sensiblen Bereichen, etwa Personalauswahl, Kreditwürdigkeitsprüfung oder Zugang zu wesentlichen Leistungen. Dafür gelten detaillierte Pflichten.
• Transparenzpflichten: Regeln für KI, die mit Menschen spricht oder Inhalte erzeugt. Diese Gruppe ist für Shops am wichtigsten.
• Minimales Risiko: die meisten übrigen Tools, ohne besondere Pflichten nach der Verordnung.

Entscheidend ist der Einsatzzweck, nicht der Markenname. Dasselbe Sprachmodell kann in einer Aufgabe ein minimales und in einer anderen ein hohes Risiko darstellen.

Wo ein Shop am ehesten betroffen ist

Prüfen Sie jedes KI-Tool in Ihrem Shop und fragen Sie, was es tut. Die folgenden Einsatzfälle sind häufig.

Chatbots und virtuelle Assistenten

Wenn Kunden auf Ihrer Seite mit einer KI chatten, greifen die Transparenzregeln. Allgemein gesagt müssen Menschen darüber informiert werden, dass sie mit einem KI-System sprechen, sofern das nicht aus dem Zusammenhang offensichtlich ist.

Ein einfacher Hinweis wie "KI-Assistent" im Chat-Kopf hilft. Geben Sie einem KI-Chat keinen menschlichen Namen samt Foto, ohne ihn zu kennzeichnen.

KI-generierte Inhalte

Anbieter von Systemen, die Text, Bild, Audio oder Video erzeugen, müssen Ausgaben maschinenlesbar kennzeichnen. Für Betreiber gelten in manchen Fällen eigene Pflichten, etwa bei Deepfakes und bei KI-Texten, die die Öffentlichkeit zu Themen von öffentlichem Interesse informieren.

Gewöhnliche Produktbeschreibungen und Werbetexte sind in der Regel ein anderer Fall als nachrichtenartige Texte. Lesen Sie dennoch den amtlichen Wortlaut und die Leitlinien der Kommission. Wenn Ihre KI realistische Bilder von Personen oder Ereignissen erzeugt, sollten Sie besonders sorgfältig kennzeichnen.

Betrugs- und Bonitätstools

Ein Betrugs-Score, der eine Bestellung stoppt, ist nach der Verordnung nicht automatisch hochriskant. Die Bewertung der Kreditwürdigkeit natürlicher Personen gilt dagegen als Hochrisiko-Bereich. Entscheidet ein Tool, ob ein Kunde auf Rechnung zahlen darf, fragen Sie den Anbieter nach der Einstufung.

Personalisierung und Empfehlungen

Produktempfehlungen und Suchranking haben meist ein minimales Risiko. Die DSGVO gilt trotzdem für die zugrunde liegenden personenbezogenen Daten.

KI-Kompetenz

Die Verordnung enthält eine Pflicht zur KI-Kompetenz. Anbieter und Betreiber müssen Maßnahmen ergreifen, damit ihr Personal über ausreichende KI-Kompetenz für die eingesetzten Tools verfügt. Diese Pflicht gilt seit Anfang 2025.

Für ein kleines Team kann das einfach sein:

• Halten Sie schriftlich fest, welche KI-Tools das Team wofür nutzt.
• Erklären Sie die Grenzen jedes Tools, etwa falsche Fakten und erfundene Details.
• Benennen Sie eine Person, die KI-Ausgaben vor der Veröffentlichung prüft.
• Dokumentieren Sie kurz die Schulung oder Einweisung.

Checkliste für Händler

Nutzen Sie diese Liste für eine Bestandsaufnahme. Wiederholen Sie sie, wenn Sie ein neues Tool einführen.

1. Listen Sie alle KI-Funktionen auf: Chatbots, Schreibtools, Übersetzung, Betrugsbewertung, Empfehlungen, Bildtools.
2. Notieren Sie Anbieter und Zweck jedes Tools.
3. Markieren Sie, wo das Tool mit Kunden spricht oder öffentliche Inhalte erzeugt.
4. Ergänzen Sie einen klaren KI-Hinweis in Chats und bei realistischen KI-Medien.
5. Fragen Sie jeden Anbieter, wie er das Tool nach der KI-Verordnung einstuft.
6. Prüfen Sie Verträge darauf, wer Anbieter und wer Betreiber ist.
7. Behalten Sie eine menschliche Prüfung bei Entscheidungen, die Kunden erheblich betreffen.
8. Aktualisieren Sie die Datenschutzerklärung, wenn KI-Tools personenbezogene Daten verarbeiten.

KI-Verordnung und DSGVO zusammen

Die KI-Verordnung ersetzt die DSGVO nicht. Verarbeitet ein KI-Tool Kundendaten, brauchen Sie weiterhin eine Rechtsgrundlage, einen Auftragsverarbeitungsvertrag mit dem Anbieter und eine verständliche Datenschutzerklärung. Für automatisierte Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung gelten in der DSGVO eigene Regeln.

Was Sie jetzt tun können

Beginnen Sie mit der Liste Ihrer Tools. In den meisten Shops brauchen nur wenige Einsatzfälle Maßnahmen, vor allem Chat-Hinweise und KI-Kompetenz. Führen Sie Aufzeichnungen, damit Sie belegen können, was Sie wann geprüft haben. Beobachten Sie die amtlichen Quellen auf Änderungen bei Fristen und Leitlinien.

Häufig gestellte Fragen

Gilt die KI-Verordnung auch für einen kleinen Online-Shop?

Ja, wenn Sie KI-Systeme im EU-Markt einsetzen oder anbieten. Eine allgemeine Ausnahme für kleine Shops gibt es nicht. Die Pflichten hängen von Ihrer Rolle und der Art des Einsatzes ab. Ein kleiner Shop mit Chatbot hat wenige Pflichten, aber sie bestehen.

Muss ich KI-geschriebene Produktbeschreibungen kennzeichnen?

Das hängt vom Einsatz und vom genauen Wortlaut der Verordnung ab. Eine normale Produktbeschreibung ist etwas anderes als KI-Inhalt zu Themen von öffentlichem Interesse. Prüfen Sie den amtlichen Text und die Leitlinien der Kommission. Als gute Praxis empfiehlt sich eine menschliche Prüfung und ein ehrlicher Umgang mit dem KI-Einsatz.

Ist mein Chatbot ein Hochrisiko-System?

Ein Kundenservice-Chatbot ist normalerweise kein Hochrisiko-System. Er fällt in die Gruppe der Transparenzpflichten. Kunden sollten wissen, dass sie mit einer KI sprechen. Trifft der Bot Entscheidungen in sensiblen Bereichen, fragen Sie einen Juristen.

Wo finde ich die amtlichen Regeln?

Lesen Sie die Verordnung (EU) 2024/1689 im Amtsblatt der Europäischen Union. Die Europäische Kommission veröffentlicht außerdem Leitlinien und Erklärungen auf ihren Seiten zur KI-Verordnung. Nutzen Sie diese Quellen, nicht Blogbeiträge, als letzte Instanz.