Deepfakes, Chatbots, KI-Texte: EU-Kommission konkretisiert Transparenzpflichten der KI-Verordnung

Am 8. Mai 2026 veröffentlichte die Europäische Kommission ihren Entwurf für Leitlinien zur Umsetzung der Transparenzpflichten gemäß Artikel 50 der Verordnung (EU) 2024/1689 (KI-Gesetz). Der Leitlinienentwurf beschreibt, wie die vier eigenständigen Transparenzpflichten des KI-Gesetzes auf (i) interaktive KI-Systeme, (ii) Anbieter von KI-Systemen, die synthetische Inhalte generieren oder manipulieren; (iii) Betreiber von Systemen zur Emotionserkennung und biometrischen Kategorisierung; und (iv) Betreiber von Deepfakes und KI-generierten Texten zu Themen von öffentlichem Interesse gelten sollen. Obwohl sie nicht bindend sind, haben Leitlinien der EU-Kommission bei der Anwendung von EU-Recht doch erhebliche praktische Bedeutung.

Kernpunkte

• Deepfake-Regeln gelten auch ohne Täuschungsabsicht. Inhalte, die wie eine echte Person aussehen oder klingen, müssen gekennzeichnet werden – selbst wenn niemand getäuscht werden soll und keine reale Person dargestellt wird. (Art. 50 Abs. 4 KI-Verordnung)
• KI-Systeme müssen sich sofort und klar zu erkennen geben. Nutzer:innen müssen im Moment der Interaktion wissen, dass sie es mit einer KI zu tun haben – nicht erst im Kleingedruckten. Das gilt auch für sogenannte agentische KI, die eigenständig im Auftrag von Nutzer:innen handelt. (Art. 50 Abs. 1 KI-Verordnung)
• Die Ausnahme für redaktionell geprüfte KI-Texte ist sehr eng gefasst. Ein oberflächlicher menschlicher „Check" reicht nicht aus. Nur eine echte, inhaltliche redaktionelle Prüfung mit klar zurechenbarer Verantwortung befreit von der Kennzeichnungspflicht. (Art. 52 Abs. 1 KI-Verordnung)

Bis zum 3. Juni 2026 können Unternehmen, Verbände und andere Beteiligte ihre Stellungnahmen zum Leitlinienentwurf einreichen. Die Transparenzpflichten des KI-Gesetzes gelten ab dem 2. August 2026 – mit möglichen Übergangsfristen für bestimmte Kennzeichnungspflichten, die im geplanten KI-Omnibusgesetz vorgesehen sind. (Art. 50 Abs. 2 KI-Verordnung)

Hintergrund und Geltungsbereich

Artikel 50 des KI-Gesetzes legt vier Transparenzpflichten fest, die sich an verschiedene Akteure entlang der KI-Wertschöpfungskette richten:

1. Anbieter interaktiver KI-Systeme müssen die Systeme so gestalten, dass die Nutzer über den künstlichen, nicht-menschlichen Charakter der Interaktion informiert werden (Artikel 50 Absatz 1).
2. Anbieter von KI-Systemen, einschließlich Allzweck-KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte generieren oder manipulieren, müssen maschinenlesbare Kennzeichnungen implementieren und sicherstellen, dass die Ergebnisse als KI-generiert oder manipuliert erkennbar sind (Artikel 50 Absatz 2).
3. Betreiber von Systemen zur Emotionserkennung und biometrischen Kategorisierung müssen die betroffenen Personen über die Funktionsweise des Systems informieren (Artikel 50 Absatz 3).
4. Betreiber von Deepfakes und von KI-generierten Texten, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen den künstlichen Ursprung der Inhalte offenlegen (Artikel 50 Absatz 4).

Der Leitlinienentwurf bestätigt, dass diese Verpflichtungen kumulativ auf ein einzelnes KI-System anwendbar sein können, wobei die maßgebliche Auslegung dem Gerichtshof der Europäischen Union vorbehalten bleibt.

Interaktive KI-Systeme und Offenlegungsstandards

Die EU-Kommission fasst die Informationspflicht weit: Wann immer ein KI-System direkt mit Menschen interagiert, muss es sich als KI zu erkennen geben. Das gilt ausdrücklich auch für agentische KI – also Systeme, die eigenständig Aufgaben ausführen. Dabei spielt es keine Rolle, ob die KI mit der Person kommuniziert, die sie beauftragt hat, oder mit Dritten, denen sie unterwegs begegnet. Kann ein Anbieter nicht sicher ausschließen, dass sein KI-Agent auf Menschen trifft, muss der Betreiber dafür sorgen, dass sich der Agent in jeder wahrscheinlichen Kontaktsituation offenlegt. (Art. 50 Abs. 1 KI-Verordnung)

Ebenso klar benennt der Leitlinienentwurf, welche Hinweise nicht ausreichen. Ein Verweis in den AGB oder in der Produktdokumentation genügt nicht. Auch technische Kennzeichnungen wie Metadaten oder Wasserzeichen reichen allein nicht aus – Nutzer:innen nehmen sie im Moment der Interaktion schlicht nicht wahr. Vage Begriffe wie „Assistent" oder technische Beschreibungen wie „Dieses System nutzt LLMs" greifen ebenfalls zu kurz.

Stattdessen empfiehlt der Leitlinienentwurf eine Kombination mehrerer Formate: gut sichtbare Hinweise in einfacher Sprache, akustische Signale und dauerhafte visuelle Kennzeichnungen. Besonders hohe Anforderungen gelten, wenn Kinder oder andere schutzbedürftige Gruppen zur Zielgruppe gehören.

Eine erweiterte Auslegung von Deepfakes

Eine Reihe wichtiger Klarstellungen im Richtlinienentwurf betrifft die Deepfake-Definition gemäß Artikel 3 Absatz 60 des KI-Gesetzes und die entsprechende Kennzeichnungspflicht in Artikel 50 Absatz 4. Der Leitlinienentwurf definiert den Begriff Deepfake bewusst weit: Entscheidend ist nicht, ob jemand täuschen wollte. Entscheidend ist, ob ein Inhalt so wirkt, als wäre er echt. Selbst ohne Täuschungsabsicht bleibt die Kennzeichnungspflicht bestehen.

Auch der Bezug zu realen Personen oder Objekten wird breit ausgelegt. Es muss keine konkrete, identifizierbare Person betroffen sein. Es genügt, wenn der erzeugte Inhalt jemandem oder etwas ähnelt, das real existieren könnte – oder einmal existiert hat. Eine KI-generierte Person, die realistisch aussieht, aber frei erfunden ist, gilt demnach als Deepfake. Eindeutig unrealistische Inhalte fallen dagegen nicht darunter – etwa Fantasieszenen, fliegende Menschen, Drachen oder autofahrende Elefanten. (Art. 3 Abs. 60, Art. KI-Verordnung)

Schließlich weicht der im Entwurf der Leitlinien beschriebene Publikumstest bewusst vom etablierten EU-verbraucherrechtlichen Standard ab: Während die Ausnahme der „Offensichtlichkeit“ gemäß Artikel 50 Absatz 1 auf ein angemessen gut informiertes, aufmerksames und umsichtiges durchschnittliches Mitglied der Zielgruppe ausgerichtet ist, muss die Deepfake-Beurteilung nach Artikel 50 Absatz 4 die möglicherweise vielfältige Zusammensetzung des tatsächlich erreichten Publikums berücksichtigen, einschließlich der vorhersehbaren nachgelagerten Exposition gegenüber Kindern, älteren Menschen oder Zielgruppen mit geringerer Digital- und KI-Kompetenz. Anbieter dürfen sich nicht allein auf die Medienkompetenz ihrer primären Zielgruppe stützen, wenn der Inhalt voraussichtlich auch schutzbedürftige oder weniger KI-erfahrene Personengruppen erreichen wird.

KI-generierte Texte zu Angelegenheiten von öffentlichem Interesse

Wer KI-generierte oder KI-bearbeitete Texte veröffentlicht, die die Öffentlichkeit über relevante Themen informieren, muss das offenlegen (Artikel 50 Absatz 4 Unterabsatz des KI-Gesetzes). Der Leitlinienentwurf fasst den Begriff „öffentliches Interesse" dabei bewusst weit: Er umfasst unter anderem öffentliche Verwaltung, Grundrechte, Gesundheit, Umwelt, Verbraucherschutz sowie wirtschaftliche, politische, wissenschaftliche oder kulturelle Entwicklungen mit gesellschaftlicher Relevanz. Gleichzeitig legt der Entwurf die Ausnahme für Inhalte, die einer menschlichen Prüfung und redaktionellen Verantwortung unterliegen, ausdrücklich eng aus.

Als „veröffentlicht" gilt ein Text, wenn er einer unbestimmten und relativ großen Zahl von Leser:innen zugänglich ist. Private Nachrichten und interne Dokumente fallen nicht darunter.

Was bedeutet das für Redaktionen, Unternehmen und Creator?

Wer sich auf die Ausnahme von der Kennzeichnungspflicht berufen will, muss zwei Bedingungen gleichzeitig erfüllen:

1. Echte inhaltliche Prüfung durch einen Menschen. Eine fachlich kompetente Person muss den Text gezielt auf seinen Inhalt geprüft haben. Reine Rechtschreib- oder Grammatikkorrekturen reichen nicht. Auch eine flüchtige redaktionelle Freigabe genügt nicht.
2. Klar zurechenbare redaktionelle Verantwortung. Eine identifizierbare Person oder Organisation muss die inhaltliche Verantwortung tragen. Name und Kontaktdaten müssen öffentlich zugänglich sein. Die verantwortliche Stelle muss befugt sein, Inhalte zu genehmigen, zu ändern oder abzulehnen.

Bedeutung in der Praxis

Der Leitlinienentwurf könnte Unternehmen dazu zwingen, ihre bestehenden KI-Governance-Strukturen neu zu bewerten. Die weite Deepfake-Definition, kombiniert mit der absichtsunabhängigen und publikumsorientierten Bewertung, hat weitreichende Folgen: Wer synthetische Medien für kreative oder kommerzielle Zwecke einsetzt und dabei realistische Personen, Orte, Objekte oder Ereignisse darstellt, sollte grundsätzlich davon ausgehen, dass die Kennzeichnungspflicht greift.

Für künstlerische, kreative, satirische oder fiktionale Inhalte sieht der Entwurf keine vollständige Ausnahme vor. Stattdessen gilt eine abgeschwächte Offenlegungspflicht – sie muss nur so weit gehen, dass sie das Werk oder dessen Wirkung nicht beeinträchtigt.

Wichtig: Die Einhaltung der KI-Verordnung allein deckt nicht alle Kennzeichnungspflichten ab. Unternehmen können sich gleichzeitig mit Anforderungen aus dem Wettbewerbsrecht, Plattformregeln, Verbraucherschutzgesetzen, vertraglichen Offenlegungspflichten sowie Persönlichkeits- und Urheberrechten konfrontiert sehen. Jede dieser Rechtsquellen kann eigene Kennzeichnungspflichten auferlegen, die über das KI-Gesetz hinausgehen.

Wer sollte jetzt handeln

• Marketingteams, die Kampagnen mit KI-generierten Visualisierungen, Kundenstimmen oder Produktbeispielen durchführen, sollten ihre Kennzeichnungspraxis überprüfen.
• Unternehmenskommunikation, die KI-Entwürfe für Investorenmaterialien oder Nachhaltigkeitsberichte nutzt, sollte prüfen, ob die redaktionelle Prüfung den inhaltlichen Anforderungen des Leitlinienentwurfs standhält.
• Unternehmen mit agentischer KI im Kundenkontakt müssen sicherstellen, dass die KI sich direkt am Ort der Interaktion offenlegt – nicht erst in den AGB.
• Plattformbetreiber und ihre Nutzer sollten beachten: Automatische KI-Kennzeichnungen durch Plattformen entbinden den Betreiber nicht von seiner eigenen Offenlegungspflicht. Plattformseitige Labels können ergänzen, aber nicht ersetzen.

(Art. 50 Abs. 4 KI-Verordnung)

Ausblick

Die gezielte Konsultation der Kommission endet am 3. Juni 2026, und die endgültigen Leitlinien könnten kurz danach veröffentlicht werden. Parallel dazu finalisiert das KI-Büro einen Verhaltenskodex zur Kennzeichnung und Beschriftung von KI-generierten Inhalten. Die Einhaltung eines vom KI-Büro als angemessen erachteten Verhaltenskodex kann einen Weg bieten, die Einhaltung der Artikel 50 Absätze 2, 4 und 5 des KI-Gesetzes nachzuweisen. Nichtunterzeichner können die Einhaltung durch alternative Mittel nachweisen, müssen jedoch möglicherweise mit einer höheren Beweislast und häufigeren Auskunftsersuchen von Marktüberwachungsbehörden rechnen.

Die Strafen für Verstöße können bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes betragen, je nachdem, welcher Betrag höher ist.

Nach dem derzeit geltenden KI-Gesetz gelten die Transparenzpflichten ab dem 2. August 2026. Der KI-Omnibus-Vorschlag, über den das Europäische Parlament und der Rat nun eine politische Einigung erzielt haben, sieht gezielte Übergangsregelungen für die Kennzeichnungs- und Erkennungspflichten gemäß Artikel 50 Absatz 2 für künstlich generierte Inhalte vor. Der Rat kündigte eine neue Frist bis zum 2. Dezember 2026 für diese Transparenzpflichten an, wobei die formelle Verabschiedung noch aussteht. Betroffene Organisationen sollten ihre KI-Systeme, Offenlegungspraktiken und redaktionellen Arbeitsabläufe vor dem Anwendungsdatum überprüfen.