Transparenzpflichten beim Einsatz von KI-Systemen

Der EU AI Act verpflichtet Anbieter und Betreiber von KI-Systemen zu besonderer Transparenz. Umfangreiche Hinweis- und Kennzeichnungspflichten treten bereits am 2. August 2026 in Kraft. Erfahren Sie in diesem Artikel, wie Sie Ihre Pflichten nach dem AI Act praxistauglich und rechtssicher umsetzen.

Hintergrund

Der AI Act ist die weltweit erste umfassende Regulierung künstlicher Intelligenz. Einzelne Kapitel sind bereits 2025 in Kraft getreten. Ab dem 2. August 2026 greifen weitreichende Transparenzpflichten nach Artikel 50 AI Act für interaktive KI-Systeme und bestimmte KI-generierte Inhalte.

Welche Akteure gibt es nach dem AI Act?

Welche Akteure unterschieden werden, finden Sie auf unserer Webseite zum EU AI Act.

Hinweispflichten bei interaktiven KI-Systemen (Artikel 50 Abs. 1 Satz 1 AI Act)

Zunehmend erreichen Kunden nicht mehr menschliche Mitarbeiter, sondern schreiben und sprechen unmittelbar mit KI-Systemen. Hierauf sind die Betroffenen ab dem 2. August 2026 ausdrücklich hinzuweisen.

Welche Anwendungen unterfallen Art. 50 Abs. 1 Satz 1 AI Act?

Die Hinweispflicht betrifft vor allem Chatbots. Dies sind textbasierte Dialogsysteme, die selbständig und in menschlicher Sprache mit Nutzern interagieren. Chatbots nehmen beispielsweise Anfragen in der Kundenbetreuung entgegen, navigieren Kunden durch Websites, sortieren eingehende Telefonanrufe oder bearbeiten Reklamationen.
Ebenfalls umfasst sind Social Bots. Social Bots sind KI-betriebene Profile in sozialen Medien, die etwa eigenständige Posts absetzen oder auf Kommentare von Kunden und anderen Nutzern reagieren.
Nicht in den Anwendungsbereich von Art. 50 Abs. 1 Satz 1 AI Act fällt die mittelbare Verwendung von KI-Anwendungen, etwa wenn ein Callcenter-Mitarbeiter dem Gesprächsleitfaden einer KI folgt.
Im Gegensatz zu den übrigen Pflichten des AI Acts gelten die Transparenzpflichten des Artikel 50 auch für Anwendungen, die unter einer freien und quelloffenen Lizenz bereitgestellt werden (Artikel 2(12) AI Act).

Welche Unternehmer sind betroffen?

Art. 50 Abs. 1 Satz 1 AI Act betrifft unmittelbar nur Anbieter von KI-Systemen. Die Schwelle vom bloßen Betreiber zum Anbieter ist allerdings fließend, z.B. wenn fremde Modelle durch besondere Trainingsdaten auf eigene Bedürfnisse zugeschnitten werden.
Weiterhin könnten Unternehmen mittelbar für Verstöße von Anbieter haften. Der AI Act verdrängt nämlich nicht das Gesetz gegen unlauteren Wettbewerb (UWG), sondern ergänzt dieses (Erwägungsgrund 29 AI Act). Erlangen Unternehmen einen wirtschaftlichen Vorteil aus dem Einsatz fremder, rechtswidriger KI, eröffnet dies möglicherweise eine wettbewerbsrechtliche Haftung.

Welche Pflichten gelten?

Unternehmer müssen Benutzer zu Beginn der Interaktion darüber aufklären, dass sie mit einem KI-System und nicht mit einem Menschen kommunizieren (Artikel 50 Abs. 5 AI Act).
Mögliche Kennzeichnungsmechanismen sind nach den Leitlinien der Kommission:
  • Textfelder („Sie chatten hier mit einem KI-Assistenten“)
  • Versand einer entsprechenden Nachricht durch den Chatbot selbst („Hi, ich bin Chatbot, dein KI-Assistent“)
  • Pop-Ups
  • KI-Labels
Ein Hinweis in den AGB, der URL oder einem nur maschinenlesbaren Format reicht hingegen nicht, denn der durchschnittliche Benutzer nimmt diese nicht zur Kenntnis. Unternehmen sollten auch von einer technisierten Beschreibung absehen (etwa „Dieses System nutzt LLMs“).
Beim Einsatz von AI Agents können wiederkehrende Hinweise und Erklärungen zur Tätigkeit des AI Agents erforderlich sein.
Ein Hinweis ist entbehrlich bei Offensichtlichkeit. Hierfür muss der durchschnittliche Nutzer der angesprochenen Zielgruppe die KI-Eigenschaft seines „Gesprächspartners“ ohne Weiteres erkennen können. Offensichtlichkeit liegt etwa vor, wenn von vornherein kein menschlicher Anschein vermittelt wird, sondern der Kunde beispielsweise mit dem Maskottchen des Unternehmens chattet. Besondere Vorsicht ist hingegen angezeigt, wenn der KI-Assistent bewusst menschlich gestaltet ist, etwa durch ein Profilbild und einen authentisch wirkenden Namen.
Die Leitlinien der Kommission fordern eine restriktive Anwendung der Offensichtlichkeitsausnahme aus, sodass ein Hinweis nur in seltenen Fällen entbehrlich sein dürfte.
Bei Social-Media-Posts ist eine Kennzeichnung selbst bei Offensichtlichkeit zwingend (Artikel 50 Abs. 6 AI Act in Verbindung mit § 18 Abs. 3 Medienstaatsvertrag).

Kennzeichnung künstlich generierter Inhalte (Artikel 50 Abs. 2 AI Act)

Erstellt die KI Audio-, Bild-, Video- oder Textinhalte, müssen Anbieter sicherstellen, dass die Inhalte als KI-generiert oder KI-manipuliert erkennbar sein.
Die Kennzeichnung erfolgt in maschinenlesbarem Format. Die herzu erforderlichen technischen Mittel müssen allgemein verfügbar sein. Sie muss nicht zwingend für Menschen erkennbar sein. In Betracht kommen insbesondere „Wasserzeichen, Metadatenidentifizierungen, kryptografische Methoden zum Nachweis der Herkunft und Authentizität des Inhalts, Protokollierungsmethoden, Fingerabdrücke oder andere Techniken“ (Erwägungsgrund 133).
Die Kennzeichnung muss wirksam und belastbar sein (Artikel 50 Abs. 2 Satz 2 AI Act). Dies gilt auch bei Weiterverbreitung im Internet. Hierfür empfiehlt der freiwillige Europäische Verhaltenskodex mindestens eine Verankerung in den Metadaten und ein unsichtbares Wasserzeichen (Maßnahmen 1.1.1 und 1.1.2).
Die Verpflichtung nach Artikel 50 Abs. 2 AI Act betrifft nur Anbieter von KI-Anwendungen. Nicht umfasst wären Unternehmen, die beispielsweise eine Werbeagentur beauftragen, die sich aus freien Stücken einer KI-Anwendung bedient.
Während diese Techniken für Bilddateien einfach umsetzbar sind, bleibt weiterhin offen, wie KI-generierte oder -manipulierte Texte zu kennzeichnen sind.
Das Inkrafttreten des Abs. 2 wird nach dem KI-Omnibus voraussichtlich verschoben auf den 2. Dezember 2026. Eine Formalisierung dieses Kompromisses steht derzeit noch aus.

Deep Fakes (Artikel 50 Abs. 4 AI Act)

Weitergehende Kennzeichnungspflichten bestehen für Deepfakes. Hierunter fallen Bild- Ton- oder Videoinhalte, die wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen merklich ähneln und einer Person fälschlicherweise echt oder wahr erscheinen würden (Erwägungsgrund 134 AI Act). Erforderlich ist nicht, dass das abgebildete Motiv ein Pendant in der Realität hat (etwa eine tatsächlich existierende Person). Vielmehr genügt zur Entfaltung der Täuschungswirkung, dass der Gegenstand plausibel existieren könnte. Ausgenommen sind somit offenkundig falsche und unrealistische Werke. Die Leitlinien der Kommission nennen hierfür etwa einen Werbespot über Mäuse, die in menschlicher Sprache über die Qualität von Käse diskutieren, die Cartoon-Version historischer Ereignisse oder eine Sphinx, die über den Eiffelturm fliegt.
Authentisch wirkende Erzeugnisse sind hingegen eindeutig als KI-generiert oder KI-manipuliert offenzulegen. Empfehlenswert und rechtssicher ist der Rückgriff auf die harmonisierte EU-Symbolik.
Artikel 50 Abs. 4 betrifft nur Betreiber, nicht jedoch Unternehmen, die Inhalte von Dritten übernehmen. Dass die KI selbst mit einem Dritten interagiert, ist im Rahmen des Abs. 4 nicht erforderlich.

Folgen bei Verstößen

Bei Verstößen drohen Geldbußen von bis zu 15.000.000,00 € oder bis zu 3 % des gesamten weltweiten Jahresumsatzes (Artikel 99 Abs. 4 lit. G) AI Act). Grundsätzlich ist der jeweils höhere Betrag maßgeblich, für KMUs hingegen der jeweils niedrigere (Artikel 99 Abs. 6 AI Act). Die Aufsichtsbehörden sind angehalten, bei der Bemessung von Bußgeldern die Schwere, Natur und Dauer des Verstoßes und die wirtschaftliche Überlebensfähigkeit von KMUs zu beachten.

Weitere Informationen

Unternehmer finden weitere praxistaugliche Informationen im Leitfaden der Wettbewerbszentrale und individuelle Hilfestellungen beim KI Service Desk der Bundesnetzagentur. Zudem finden Sie auf den Seiten der DIHK eine Stellungnahme in englischer Sprache hierzu.