KI Kennzeichnungspflicht 2026: Alle Pflichten nach Art. 50 des EU AI Acts

Ist am Telefon ein echter Mensch oder ein Voicebot? Und schreibt im Service-Chat ein Mitarbeiter oder antwortet eine KI?

Seit dem 2. August 2026 muss genau das für Kunden eindeutig erkennbar sein.

Erfahren Sie in diesem Artikel, für welche Unternehmen die KI-Kennzeichnungspflicht 2026 wichtig ist, welche Regeln gelten und was beim Einsatz von Chatbots und Voicebots im Kundenservice zu beachten ist.

Was ist die KI-Kennzeichnungspflicht?

Die KI-Kennzeichnungspflicht ist Teil des EU AI Acts. Artikel 50 regelt, wann für Menschen erkennbar sein muss, dass Künstliche Intelligenz eingesetzt wird, z. b. etwa bei Chatbots, Voicebots oder KI-generierten Inhalten.

Für Unternehmen können dabei unterschiedliche Situationen relevant sein:

• direkte Interaktionen zwischen Menschen und KI-Systemen, beispielsweise über Chatbots oder Voicebots,
• KI-generierte oder manipulierte Bilder, Audio-, Video- und Textinhalte,
• Systeme zur Emotionserkennung oder biometrischen Kategorisierung,
• Deepfakes sowie bestimmte KI-generierte Texte zu Themen von öffentlichem Interesse.

Dabei gilt: Nicht jede Nutzung von KI muss pauschal sichtbar mit einem Hinweis versehen werden. Welche Pflicht gilt, hängt von der Art des KI-Systems, der Rolle des Unternehmens und dem konkreten Einsatz ab.

Im Kundenservice steht vor allem eine Frage im Mittelpunkt: Weiß der Kunde, dass er gerade mit einer KI kommuniziert?

Die Pflichten aus Art. 50 im Überblick

Die KI-Kennzeichnungspflicht ist Teil des EU AI Acts. Artikel 50 regelt, wann für Menschen erkennbar sein muss, dass Künstliche Intelligenz eingesetzt wird – etwa bei Chatbots, Voicebots oder KI-generierten Inhalten.

Interaktion mit Menschen (Chatbot, Voicebot) – Abs. 1

Kommuniziert ein dafür vorgesehenes KI-System direkt mit Menschen, müssen die betroffenen Personen grundsätzlich darüber informiert werden, dass sie mit einer KI interagieren.

Das betrifft zum Beispiel:

• Chatbots auf Webseiten,
• Servicebots in Apps,
• Voicebots an Telefon-Hotlines,
• KI-Agenten und vergleichbare dialogorientierte Systeme.

Der Hinweis muss zu Beginn der ersten Interaktion klar erkennbar erfolgen.

Bei einem Voicebot könnte es beispielsweise heißen:

„Hallo, Sie sprechen mit unserem KI-gestützten Sprachassistenten.“

In einem Chat kann ein entsprechender Hinweis lauten:

„Sie chatten mit unserem KI-Assistenten.“

Eine Ausnahme besteht, wenn es für eine angemessen informierte, aufmerksame und verständige Person offensichtlich ist, dass sie mit einem KI-System kommuniziert.

Im Bereich des Kundenservices sollten sich Unternehmen nicht auf diese Ausnahme verlassen. Moderne Voicebots klingen inzwischen so natürlich, dass es Kunden unmöglich ist zu erkennen, ob sie mit einem Menschen oder einer KI sprechen.

Synthetische Inhalte (Bilder, Texte, Audio) – Abs. 2

Auch bei künstlich erzeugten oder manipulierten Inhalten sieht Artikel 50 Transparenzpflichten vor. Anbieter entsprechender KI-Systeme müssen die erzeugten Inhalte mit einem maschinenlesbaren Format kennzeichnen, damit sie technisch als künstlich erzeugt oder manipuliert erkennbar sind. Die Markierungen müssen wirksam, zuverlässig, robust und interoperabel sein.

Das betrifft grundsätzlich synthetische:

• Audioinhalte
• Bilder,
• Videos,
• Texte

Unternehmen müssen deshalb klären, welche Rolle sie im jeweiligen Anwendungsfall einnehmen und welche Pflicht daraus für sie entsteht.

Emotionserkennung/biometrische Kategorisierung – Abs. 3

Setzt ein Unternehmen Systeme zur Emotionserkennung oder biometrischen Kategorisierung ein, müssen die betroffenen Personen darüber informiert werden.

Das ist zum Beispiel der Fall, wenn eine KI biometrische Daten analysiert, um bestimmte Merkmale oder Emotionen einer Person zu erkennen.

Kommt es dabei zur Verarbeitung von personenbezogenen Daten, sind zusätzlich die einschlägigen Datenschutzvorschriften umzusetzen.

Für klassische Chatbots oder Voicebots im Kundenservice entsteht daraus allerdings nicht automatisch eine zusätzliche Pflicht. Entscheidend ist, ob tatsächlich Emotionserkennung oder biometrische Kategorisierung eingesetzt wird.

Betreiber: Deepfakes & Texte von öffentlichem Interesse – Abs. 4

Veröffentlichen Unternehmen bestimmte KI-generierte Inhalte, können auch sie von der Kennzeichnungspflicht betroffen sein.

Das gilt insbesondere für Deepfakes. Damit sind KI-generierte oder manipulierte Bilder, Audio- oder Videoinhalte gemeint, die echte Personen, Orte, Objekte oder Ereignisse täuschend echt darstellen. Wer solche Inhalte veröffentlicht, muss kenntlich machen, dass sie künstlich erzeugt oder verändert wurden.

Auch bei KI-generierten Texten kann eine Kennzeichnung erforderlich sein. Das betrifft vor allem veröffentlichte Inhalte, die über Themen von öffentlichem Interesse informieren.

Eine Ausnahme gilt bei menschlicher Prüfung oder redaktioneller Kontrolle der Texte, sofern eine Person oder ein Unternehmen die redaktionelle Verantwortung für die Veröffentlichung übernimmt. Dazu gehören z. B. die Prüfung der Quellen, die fachliche Richtigkeit, die Aktualität und der Kontextbezug sowie die anschließende inhaltliche und sprachliche Bearbeitung des Textes.

Für Unternehmen heißt das: Nicht jeder KI gestützte Text braucht eine Kennzeichnung. Entscheidend ist, wie der Inhalt anschließend geprüft und redaktionell verantwortet wird.

Ab wann gilt was? Fristen & Übergangsregelungen

Die Transparenzpflichten aus Artikel 50 gelten seit dem 2. August 2026. Unternehmen müssen nun prüfen, welche Vorgaben für ihre KI-Anwendungen gelten und diese entsprechend umsetzen.

Für bestimmte KI-Systeme, die bereits vor dem Stichtag auf dem Markt waren, gibt es Übergangsregelungen. Dazu gehört unter anderem die technische Kennzeichnung KI-generierter Inhalte nach Artikel 50 Absatz 2.

Für Chatbots und Voicebots gibt es bei der direkten Interaktion dagegen keine Übergangsfrist. Unternehmen sollten deshalb jetzt prüfen, ob die erforderlichen Hinweise korrekt umgesetzt sind.

Wer ist betroffen? Anbieter vs. Betreiber

Der EU AI Act differenziert zwischen Anbietern und Betreibern eines KI-Systems. Das ist wichtig, weil Artikel 50 beiden Gruppen unterschiedliche Verantwortlichkeiten zuweist.

Setzt ein Unternehmen KI im Service oder Contact Center ein, ist diese Abgrenzung relevant. Nutzt es die Voicebot-Plattform eines externen Herstellers, ist es dadurch nicht automatisch der KI-Anbieter. Trotzdem muss der Kunde sofort klar erkennen, dass er mit einer KI kommuniziert.

Praxisbeispiel: Voicebots & Chatbots im Kundenservice

Ein typischer Anruf bei einer Service-Hotline zeigt, wie die KI-Kennzeichnungspflicht im Alltag aussehen kann:

Ein Voicebot nimmt das Gespräch entgegen, erkennt das Anliegen und beantwortet Fragen zu Öffnungszeiten oder Vertragsdaten. Bereits zu Beginn muss für den Kunden erkennbar sein, dass er mit einer KI spricht. Eine mögliche Ansage lautet:

„Willkommen bei [Unternehmen]. Sie sprechen mit unserem KI-gestützten Sprachassistenten.“

Unternehmen müssen bestehende Bots deshalb nicht neu entwickeln lassen. Oft reichen einfache Anpassungen von Ansagen, Chat-Begrüßungen oder internen Prozessen.

Überprüft werden sollten insbesondere:

• Begrüßungstexte von Voicebots,
• Starttexte und Benutzeroberflächen von Chatbots,
• bestehende Kommunikationsprozesse,
• die Abstimmung mit Herstellern und Technologiepartnern.

Wichtig: Artikel 50 schreibt nicht generell vor, dass jederzeit eine Übergabe an einen menschlichen Mitarbeiter möglich sein muss. Aus Sicht der Customer Experience, kann diese Möglichkeit dennoch sinnvoll sein – zum Beispiel, wenn der Bot bei einem Anliegen nicht weiterhelfen kann. Ob eine Übergabe aus rechtlichen oder fachlichen Gründen erforderlich ist, hängt vom jeweiligen Anwendungsfall ab.

So formulieren Sie den Kennzeichnungshinweis richtig

Der EU AI Act schreibt für Voicebots und Chatbots keinen verbindlichen Standardsatz vor. Hier ist entscheidend, dass die Information klar, verständlich und für den Nutzer deutlich erkennbar ist.

Folgende Formulierung ist bei einem Voicebot möglich:

„Sie sprechen mit unserem KI-gestützten Sprachassistenten.“

Oder:

„Dieses Gespräch wird zunächst von unserem KI-Assistenten geführt.“

Für einen Chatbot eignen sich beispielsweise:

„Sie chatten mit einem KI-Assistenten.“

Oder:

„Ich bin der KI-Assistent von [Unternehmen].“

Vermeiden Sie Begriffe wie „digitaler Service“, „virtueller Helfer“ oder sogar Fantasienamen. Sie machen es Kunden schwer zu erkennen, dass sie mit einer Künstlichen Intelligenz sprechen.

Grundsätzlich gilt: Je einfacher und eindeutiger der Hinweis, desto besser.

Ausnahmen: Wann entfällt die Kennzeichnungspflicht?

Nicht jede KI-Anwendung muss auf die gleiche Weise gekennzeichnet werden.

Bei der direkten Kommunikation mit einer KI kann die Informationspflicht entfallen, wenn für eine vernünftig informierte und aufmerksame Person ohnehin klar erkennbar ist, dass sie mit einer KI spricht oder chattet.

Weitere Ausnahmen gelten etwa für:

• bestimmte gesetzlich erlaubte Anwendungen im Bereich der Strafverfolgung.
• die technische Kennzeichnung, wenn die KI lediglich bei üblichen Bearbeitungsschritten unterstützt oder den bereitgestellten Inhalt nicht wesentlich verändert.
• bestimmte KI-generierte Texte zu Themen von öffentlichem Interesse. Wie bereits beschrieben, kann hier eine menschliche Prüfung oder redaktionelle Kontrolle entscheidend sein.

Bußgelder und Abmahnrisiko

Verstöße gegen den EU AI Act können teuer werden. Je nach Verstoß sieht die Verordnung Geldbußen von bis zu 15 Millionen Euro oder bis zu drei Prozent des weltweiten Jahresumsatzes des vorausgegangenen Geschäftsjahres vor.

Wie hoch ein Bußgeld tatsächlich ausfällt, hängt vom Einzelfall ab. Entscheidend sind unter anderem Art, Schwere und Dauer des Verstoßes.

Neben möglichen Bußgeldern besteht auch ein Abmahnrisiko. Eine fehlende KI-Kennzeichnung kann wettbewerbsrechtlich relevant sein, z. B. wenn Verbraucher dadurch in die Irre geführt werden. Ob Verstöße gegen Artikel 50 generell als Wettbewerbsverstoß abmahnbar sind, ist rechtlich noch nicht abschließend geklärt.

Allerdings macht eine korrekte KI-Kennzeichnung nicht automatisch den Einsatz einer KI rechtmäßig. Je nach Anwendung müssen Unternehmen weitere Rechtsbereiche beachten:

• Datenschutz und DSGVO
• Persönlichkeitsrechte
• Urheberrechte
• Wettbewerbsrecht
• Verbraucherrecht

Für Unternehmen ist die KI-Kennzeichnung deshalb ein wichtiger Baustein für einen transparenten KI-Einsatz – aber nicht der einzige.

Checkliste: In 5 kurzen Schritten zur korrekten Kennzeichnung

1. KI-Anwendungen erfassen:
   Prüfen Sie, an welchen Stellen Kunden oder andere Personen mit KI-Systemen interagieren oder KI-generierte Inhalte eingesetzt werden.
2. Eigene Rolle klären:
   Stellen Sie fest, ob Ihr Unternehmen im jeweiligen Anwendungsfall Anbieter oder Betreiber des KI-Systems ist und welche Pflichten daraus entstehen.
3. Kennzeichnung überprüfen:
   Kontrollieren Sie insbesondere Voicebot-Ansagen, Chat-Begrüßungen und Benutzeroberflächen. Ist für Kunden eindeutig erkennbar, dass sie mit einer KI kommunizieren.
4. Weitere Einsatzbereiche prüfen:
   Klären Sie, ob zusätzlich synthetische Inhalte, Deepfakes, Emotionserkennung, biometrische Kategorisierung oder bestimmte KI-generierte Texte betroffen sind.
5. Prozesse regelmäßig überprüfen:
   Ändern sich Bots, Plattformen oder Kommunikationsprozesse, müssen auch die jeweiligen Transparenzanforderungen erneut geprüft werden.

KI-Kennzeichnungspflicht im Contact Center mit SNcom umsetzen

Für Unternehmen, die bereits Chatbots oder Voicebots einsetzen, muss die KI-Kennzeichnungspflicht kein umfangreiches neues IT-Projekt bedeuten. Zunächst gilt es zu prüfen: Wo kommuniziert eine KI direkt mit Kunden und sind die erforderlichen Hinweise bereits korrekt umgesetzt?

SNcom unterstützt Unternehmen dabei, bestehende Contact-Center- und KI-Lösungen zu prüfen und notwendige Anpassungen in die vorhandenen Prozesse zu integrieren. Dazu gehören Ansagen von Voicebots, Chat-Begrüßungen sowie die Übergabe zwischen automatisiertem und menschlichem Service.

Lassen Sie jetzt von unseren Experten prüfen, ob Ihre Voice- oder Chatbots die neuen Anforderungen erfüllen?

Häufig gestellte Fragen zur KI Kennzeichnungspflicht