EU AI Act

EU AI Act: Neue Vorgaben für den Einsatz von KI im Kundenservice

Der EU AI Act ist das erste umfassende Gesetz zur Regulierung Künstlicher Intelligenz in Europa. Ziel der Verordnung ist es, Innovationen zu fördern und gleichzeitig sicherzustellen, dass KI-Systeme sicher, transparent und fair eingesetzt werden.

Besonders für den Kundenservice ergeben sich daraus neue Anforderungen an den Umgang mit KI-gestützten Lösungen.

In diesem Artikel erfahren Sie, welche Anforderungen das Gesetz an ein Unternehmen stellt, welche Sanktionen bei Nichteinhaltung drohen und welche KI-Systeme besonders betroffen sind.

 

Was ist der EU AI Act?

Das EU-KI-Gesetz (EU-AI-Act) ist ein umfassender Rechtsrahmen der Europäischen Union, der die Entwicklung, den Einsatz und den Vertrieb von Künstlicher Intelligenz (KI) reguliert, um Sicherheit, Transparenz und den Schutz der Grundrechte zu gewährleisten.

Ziel der Verordnung ist es sicherzustellen, dass KI-Systeme verantwortungsvoll entwickelt und eingesetzt werden und dabei die Sicherheit, die Grundrechte und die Werte der EU-Bürger zu schützen.

Der EU AI Act klassifiziert KI-Systeme nach ihrem Risiko für die Gesellschaft – von minimalem bis hohem Risiko – und legt detaillierte rechtliche Anforderungen fest. Diese reichen von Transparenz- und Dokumentationspflichten bis hin zu strengen Compliance-Verfahren, die je nach Risikostufe unterschiedlich ausfallen. Unternehmen, die KI-gestützte Lösungen einsetzen, müssen sicherstellen, dass sie die gesetzlichen Vorgaben einhalten, um rechtliche Konsequenzen und hohe Strafen zu vermeiden.

 

Warum ist der EU AI Act wichtig für Unternehmen?

Für Unternehmen ist der EU AI Act von großer Bedeutung, da er nicht nur die Art und Weise, wie sie KI-Technologien entwickeln und einsetzen, direkt beeinflusst, sondern auch ihre Verantwortlichkeiten und Pflichten in Bezug auf die Einhaltung der Regulierungen klarstellt.

Unternehmen müssen sicherstellen, dass ihre eingesetzten Systeme für künstliche Intelligenz den Vorgaben des Gesetzes entsprechen, um Sanktionen zu vermeiden und das Vertrauen der Verbraucher zu wahren.

Dies erfordert von den Unternehmen

• Eine sorgfältige Bewertung von verwendeten KI-Systemen
• Anpassung dieser KI-Systeme
• Transparente Kommunikation über den Einsatz von KI-Technologien
• Verantwortungsvolle Nutzung von KI
• Technologie im Einklang mit Werten u. Grundrechten der EU

 

Für wen gilt der EU AI Act?

Der EU AI Act gilt für alle Unternehmen, Forschungsinstitute und Behörden, die KI-Systeme in der EU entwickeln, vertreiben oder einsetzen – unabhängig davon, ob sie innerhalb oder außerhalb der EU ansässig sind. Entscheidend ist, dass ein KI-System in der EU genutzt oder dort zugänglich gemacht wird.

Neben Anbietern sind auch gewerbliche Nutzer von KI-Technologien betroffen, während Privatpersonen keine Verpflichtungen haben, aber durch die Verordnung geschützt werden.

Unternehmen außerhalb der EU müssen die Vorgaben des EU AI Acts einhalten, wenn sie:

• KI-Systeme in der EU anbieten oder deren Ergebnisse nutzen.
• Mit EU-Unternehmen zusammenarbeiten, deren KI-Technologien in der EU eingesetzt werden.
• Einen autorisierten Vertreter in der EU benennen müssen, wenn sie KI-Dienste oder -Produkte in der EU vertreiben.

Von der Verordnung ausgenommen sind KI-Systeme für militärische Zwecke sowie bestimmte Forschungs- und Open-Source-KI-Systeme.

 

Wann tritt der EU AI Act in Kraft?

Der EU AI Act wurde am 1. August 2024 offiziell verabschiedet, wird jedoch schrittweise umgesetzt, damit Unternehmen genügend Zeit haben, ihre KI-Systeme an die neuen Vorschriften anzupassen. Die wichtigsten Fristen sind:

• 2. Februar 2025: Bestimmte verbotene KI-Praktiken, wie Social Scoring und manipulative KI-Systeme, dürfen nicht mehr eingesetzt werden.
• August 2025: Neue Regelungen für allgemeine KI-Modelle (GPAI) treten in Kraft. Zudem müssen alle EU-Mitgliedstaaten Aufsichtsbehörden benennen, die für die Umsetzung des Gesetzes verantwortlich sind.
• August 2026: Die meisten verbleibenden Vorschriften werden verbindlich, darunter Transparenzpflichten für KI-Systeme mit begrenztem und geringem Risiko.
• August 2027: Hochrisiko-KI-Systeme unterliegen den vollständigen Regulierungsanforderungen des EU AI Acts.

 

Gesetze des EU AI Act zusammengefasst erklärt

 

Einstufung der KI-Systeme

Der EU AI Act identifiziert und reguliert KI-Systeme, die aufgrund ihres Potenzials, Schaden zu verursachen oder die öffentliche Ordnung und Sicherheit zu gefährden, als besondere Herausforderungen. Diese Systeme werden besonders streng reguliert, um Missbrauch zu verhindern und die Sicherheit sowie die Grundrechte der Menschen zu schützen.

 

Risikobasierte Klassifizierungssysteme

Das EU-KI-Gesetz führt eine risikobasierte Klassifizierung von KI-Systemen ein. Diese Klassifizierung bestimmt, welche Regelungen auf Ihrem KI-System anzuwenden sind. Die Klassifizierung teilt Systeme in vier Risikokategorien ein:

• Minimales Risiko: Systeme, die keine signifikanten Risiken darstellen und daher weniger streng reguliert werden.
• Begrenztes Risiko: Systeme, die für die Interaktion mit Menschen bestimmt sind, wie Chatbots oder KI-generierte Medieninhalte.
• Hohes Risiko: Diese Systeme haben erhebliche Auswirkungen auf die Gesundheit, Sicherheit oder Grundrechte. Beispiele sind KI-Systeme in medizinischen Geräten oder im Personalmanagement.
• Unannehmbares Risiko: KI-Systeme, die europäische Werte verletzen oder Grundrechte gefährden, sind verboten. Dazu gehören beispielsweise KI-Systeme zum Social Scoring, zur kognitiven Verhaltensmanipulation und biometrische Echtzeit-Fernidentifizierungssysteme in öffentlich zugänglichen Räumen.

 

Verbote des EU AI Acts

Das KI-Gesetz verbietet bestimmte KI-Verwendungen aufgrund von Risiken für Sicherheit, Grundrechte oder ethische Standards. Dazu gehören manipulative KI-Technologien, die das Verhalten von Personen unbemerkt beeinflussen, sowie der Einsatz von KI für Massenüberwachung, wie biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen.

 

Welche Unternehmensbereiche sind vom EU AI Act betroffen?

Der EU AI Act betrifft grundsätzlich alle Unternehmensbereiche, in denen KI-Systeme eingesetzt werden – unabhängig davon, ob es sich um Forschung, Vertrieb, Kundenservice oder interne Prozesse handelt. Entscheidend ist, dass jede Abteilung, die KI nutzt, sicherstellen muss, dass sie den gesetzlichen Anforderungen entspricht.

Da KI in vielen Bereichen unterschiedliche Aufgaben übernimmt, sollten Unternehmen:

• Bereichsübergreifende KI-Prüfungen durchführen, um zu verstehen, wo KI bereits eingesetzt wird.
• Klare Verantwortlichkeiten für KI-Compliance festlegen, damit jeder betroffene Bereich Vorgaben einhalten kann.
• Schulungen & Richtlinien etablieren, um sicherzustellen, dass alle Abteilungen die Anforderungen des EU AI Acts kennen.

 

EU AI Act im Kundenservice: Anforderungen & Verpflichtungen

Der EU AI Act legt klare Regeln für den Einsatz von KI-Technologien im Kundenservice fest, um Transparenz, Datenschutz und Fairness zu gewährleisten. Unternehmen, die KI-gestützte Kommunikationslösungen nutzen, müssen sich an verbindliche Richtlinien halten, um Täuschung und Missverständnisse zu vermeiden.

 

Einsatzbereiche von KI im Kundenservice

Künstliche Intelligenz kann in verschiedenen Bereichen des Kundenservice eingesetzt werden, darunter:

• Chatbots & virtuelle Assistenten, die Kundenanfragen automatisiert beantworten.
• Personalisierte Empfehlungssysteme, die auf Basis von Nutzerdaten passende Inhalte oder Produkte vorschlagen.
• Spracherkennung & Voicebots, die gesprochene Sprache verarbeiten und Kundenanliegen verstehen.
• Automatisierte Kundenbetreuungssysteme, die Prozesse wie Terminbuchungen oder Support-Anfragen steuern.

Da KI in diesen Bereichen direkt mit Verbrauchern interagiert, gelten besondere Vorschriften zur Transparenz und zum Datenschutz.

 

Transparenzvorschriften im Kundenservice

Der EU AI Act schreibt vor, dass KI-gestützte Systeme im Kundenservice klar erkennbar und nachvollziehbar sein müssen. Ziel ist es, Verbraucher vor intransparenten oder manipulativen Anwendungen zu schützen. Damit Kunden jederzeit wissen, ob sie mit einer KI oder einem Menschen interagieren, gelten folgende Vorgaben:

• Hinweispflichten für KI-gestützte Chatbots und Sprachassistenten: Unternehmen müssen offenlegen, wenn eine KI im Einsatz ist.
• Erklärbarkeit der KI: Die Funktionsweise und die genutzten Daten müssen nachvollziehbar sein.
• Datenschutz & Einwilligung: Kunden müssen informiert werden, wie ihre Daten verarbeitet und verwendet werden.
• Kennzeichnung synthetischer Inhalte: KI-generierte Texte, Bilder, Videos oder Audiodateien müssen als solche erkennbar sein.
• Menschliche Aufsicht: Unternehmen müssen sicherstellen, dass KI-Systeme nicht unbeaufsichtigt agieren, um Fehlfunktionen oder unerwartete Ergebnisse zu vermeiden.

 

Zusammenspiel mit anderen Gesetzen im Kundenservice

Der Einsatz von KI im Kundenservice betrifft nicht nur den AI Act, sondern unterliegt auch bestehenden Datenschutzgesetzen:

• Datenschutz-Grundverordnung (DSGVO): Die Verarbeitung personenbezogener Daten muss rechtmäßig erfolgen. Dies betrifft insbesondere KI-gestützte Kundenservices, die mit sensiblen Kundendaten arbeiten.
• EU-Datenschutzgesetz: Diese Verordnung regelt die Nutzung von Daten und gibt Verbrauchern mehr Kontrolle über deren Verarbeitung.

Der EU AI Act ergänzt diese Regelungen durch spezifische Transparenzpflichten, um sicherzustellen, dass Kunden stets wissen, ob sie mit einer KI interagieren. Unternehmen müssen daher eine ganzheitliche Compliance-Strategie verfolgen, um gesetzlichen Anforderungen gerecht zu werden.

 

Sanktionen und Compliance

Der EU AI Act sieht strenge Sanktionen für Unternehmen vor, die gegen die Vorschriften verstoßen. Bußgelder können je nach Schwere des Verstoßes bis zu 6 % des weltweiten Jahresumsatzes betragen. In besonders schweren Fällen sind Strafen von bis zu 35 Millionen Euro oder 7 % des Jahresumsatzes möglich – je nachdem, welcher Betrag höher ist.

Um rechtliche Risiken zu minimieren, sollten Unternehmen eine robuste Compliance-Strategie entwickeln. Dazu gehören:

• Anpassung interner Prozesse an die gesetzlichen Vorgaben
• Schulungen für Mitarbeiter, um KI-Regulierungen einzuhalten
• Zertifizierte Prüfungen für den sicheren Einsatz von KI-Systemen

Die Höhe der Sanktionen richtet sich nach dem Grundsatz der Verhältnismäßigkeit und berücksichtigt Unternehmensgröße und Geschäftszweck. Wiederholte oder vorsätzliche Verstöße können Marktausschlüsse oder Produkt-Rücknahmen zur Folge haben – mit potenziell existenzbedrohenden Konsequenzen.

 

Wo kann ich mich über den EU AI Act im Kundenservice informieren?

SNcom verfolgt kontinuierlich die Entwicklungen rund um den EU AI Act und unterstützt Unternehmen nicht nur bei der rechtskonformen Umsetzung der gesetzlichen Vorgaben, sondern auch bei der Integration und Optimierung von KI-Systemen im Kundenservice. Unsere Experten helfen Ihnen, KI-gestützte Kommunikationslösungen effizient einzusetzen, Transparenz- und Datenschutzanforderungen zu erfüllen und potenzielle Risiken frühzeitig zu erkennen.

Ob Sie bereits KI-Systeme im Einsatz haben oder neue Lösungen implementieren möchten – wir beraten Sie umfassend zu den neuesten regulatorischen Anforderungen und Best Practices. Darüber hinaus unterstützen wir Unternehmen dabei, leistungsstarke KI-Lösungen in bestehende Prozesse zu integrieren, um Effizienz, Kundenzufriedenheit und Automatisierungspotenzial zu maximieren.

Lassen Sie sich von unseren Experten beraten und erfahren Sie, wie Sie Ihre KI-gestützten Kundenservice-Lösungen rechtskonform und zukunftssicher gestalten. Kontaktieren Sie uns jetzt, um eine unverbindliche Beratung zu vereinbaren.

Häufig gestellte Fragen zum EU AI Act

 

Quellen:

DWT (3.4.24): https://www.dwt.com/blogs/artificial-intelligence-law-advisor/2024/02/eu-artificial-intelligence-act-explainer
EUR-Lex (3.4.24): https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52021PC0206