Ab 2.8.2026: Kennzeichnung KI-generierter Inhalte

KI-generierte Produktbilder, automatisiert erstellte Produkttexte und KI-gestützte Bildbearbeitung sind im E-Commerce längst praktische Werkzeuge zur Skalierung digitaler Inhalte. Allerdings rückt die Frage in den Mittelpunkt, wann und wie solche Inhalte offengelegt werden müssen. Ab dem 2.8.2026 müssen Anbieter KI-generierte oder KI-manipulierte Inhalte maschinenlesbar kennzeichnen, während Betreiber Deepfakes sowie bestimmte KI-Texte von öffentlichem Interesse sichtbar offenlegen müssen.

Hintergrund

Die VO (EU) 2024/1689 (KI-VO) ist am 1.8.2024 in Kraft getreten. Während einzelne Verbote und Pflichten aus der KI-VO bereits seit 2025 gelten, gilt ab dem 2.8.2026 nach Art. 50 KI-VO eine Kennzeichnungspflicht für bestimmte KI-generierte Inhalte. Verbraucher sollen erkennen können, wann sie mit einer KI interagieren oder KI-generierte Inhalte sehen. Die Transparenzpflichten des Art. 50 KI-VO sind Teil des risikobasierten Regulierungsansatzes der europäischen KI-VO. Ziel der Regelung ist es, Risiken der Identitätstäuschung, Täuschung, Desinformation, Manipulation in großem Maßstab sowie des Betrugs zu verringern und negative Auswirkungen auf demokratische Prozesse und das gesellschaftliche Vertrauen zu mindern.

Leitlinien der Kommission als Auslegungshilfe

Am 20.7.2026 hat die Kommission Leitlinien zur Umsetzung der Transparenzpflichten aus Art. 50 KI-VO veröffentlicht (C[2026] 5054 final). Rechtsgrundlage ist Art. 96 Abs. 1 lit. d KI-VO, wonach die Kommission Leitlinien zur praktischen Umsetzung der KI-VO erlassen kann, um Aufsichtsbehörden sowie Anbietern und Betreibern eine kohärente, wirksame und verhältnismäßige Anwendung der Vorschriften zu ermöglichen.

Die Leitlinien sind ausdrücklich nicht rechtsverbindlich. Gleichwohl bieten sie für die Praxis einige Anhaltspunkte und geben eine erste Orientierung.

Die Kennzeichnungspflichten nach Art. 50 KI-VO

Art. 50 KI-VO enthält vier voneinander unabhängige, aber kumulativ anwendbare Transparenzpflichten: die Informationspflicht bei direkter Interaktion mit natürlichen Personen (Art. 50 Abs. 1 KI-VO), die Kennzeichnungs- und Erkennbarkeitspflicht für synthetische Inhalte (Art. 50 Abs. 2 KI-VO), die Informationspflicht beim Einsatz von Emotionserkennungs- und biometrischen Kategorisierungssystemen (Art. 50 Abs. 3 KI-VO) sowie die Offenlegungspflicht für Deepfakes und bestimmte Textveröffentlichungen (Art. 50 Abs. 4 KI-VO). Nach Art. 50 Abs. 5 KI-VO müssen sämtliche dieser Informationen klar und eindeutig erkennbar spätestens bei der ersten Interaktion oder Aussetzung bereitgestellt werden und den geltenden Barrierefreiheitsanforderungen entsprechen.

Kennzeichnung von KI-generierten und KI-bearbeiteten Inhalten

Art. 50 Abs. 2 KI-VO richtet sich an Anbieter von KI-Systemen, die synthetische Inhalte erzeugen oder verändern. Erfasst werden insbesondere Bilder, Videos, Audiodateien und Texte, die mittels KI generiert oder wesentlich manipuliert werden.

Bei einem Anbieter handelt es sich nach Art. 3 Nr. 3 KI-VO um

eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringt oder das KI-System unter ihrem eigenen Namen oder ihrer Handelsmarke in Betrieb nimmt, sei es entgeltlich oder unentgeltlich.

Die Anbieter müssen sicherstellen, dass entsprechende Inhalte:

• in einem maschinenlesbaren Format gekennzeichnet werden und
• als KI-generierte beziehungsweise KI-manipulierte Inhalte technisch erkennbar bleiben.

Die Kommission nennt als mögliche technische Lösungen insbesondere Metadaten, Wasserzeichen, digitale Herkunftsnachweise, Fingerprinting-Verfahren oder kryptographische Verfahren zur Authentizitätsprüfung. Die gewählte Lösung muss effektiv, interoperabel, robust und zuverlässig sein.

Von dieser Pflicht ausgenommen sind Systeme, die lediglich eine unterstützende Funktion für die Standardbearbeitung ausüben oder die Eingabedaten beziehungsweise deren Semantik nicht wesentlich verändern (Art. 50 Abs. 2 S. 3 KI-VO). Nicht jede KI-Unterstützung löst damit die Kennzeichnungspflicht aus. Reine Rechtschreibkorrekturen, Übersetzungen, Formatanpassungen oder geringfügige Bildoptimierungen gelten nach den Leitlinien regelmäßig als Standardbearbeitung und fallen nicht unter Art. 50 Abs. 2 KI-VO. Anders verhält es sich bei inhaltlichen Veränderungen, etwa durch KI-generierte Zusammenfassungen, Umformulierungen mit geänderter Aussage oder den Austausch von Personen und Objekten in Bildern. Die Abgrenzung zwischen zulässiger Standardbearbeitung und kennzeichnungspflichtiger substanzieller Veränderung erfolgt einzelfallbezogen anhand von Format, Inhaltstyp, Stil und Bedeutungsveränderung.

Kennzeichnung von Deepfakes

Besondere Aufmerksamkeit widmet die KI-VO sogenannten Deepfakes. Darunter versteht die KI-VO nach Art. 3 Nr. 60

einen durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde.

Maßgeblich ist hierbei nicht die Absicht der Betreiberin oder des Betreibers, sondern die Wirkung auf das potenziell betroffene Publikum; die Beurteilung erfolgt einzelfallbezogen und berücksichtigt auch besonders schutzbedürftige Personen wie Kinder oder ältere Menschen. Gerade realistisch erzeugte KI-Produktbilder oder stark bearbeitete Produktfotos können daher schneller in den Anwendungsbereich geraten als bloße Textoptimierungen.

Je stärker das Bild also einen realistischen Eindruck eines tatsächlich existierenden Produkts vermittelt, obwohl es in dieser Form gar nicht fotografiert wurde oder wesentliche Elemente hinzugefügt wurden, desto eher stellt sich die Frage nach einer Offenlegungspflicht.

Hier trifft die Pflicht nicht den Anbieter des KI-Systems, sondern denjenigen, der den Inhalt beruflich nutzt oder veröffentlicht. Erfasst werden Betreiber nach Art. 3 Nr. 4 KI-VO. Dabei handelt es sich um

eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet, es sei denn, das KI-System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet.

Dieser muss offenlegen, dass der betreffende Inhalt künstlich erzeugt oder manipuliert wurde.

Die Leitlinien betonen hierzu, dass „existierend“ nicht eng im Sinne einer konkret identifizierbaren realen Einzelperson zu verstehen ist, sondern allgemein realistische Personen, Gegenstände, Orte oder Ereignisse umfasst, die in der Wirklichkeit existieren oder existiert haben könnten. Nicht erfasst sind dagegen bewusst unrealistische Darstellungen, etwa naturwidrige Fantasieszenen oder fiktive Wesen, weil bei solchen Inhalten typischerweise nicht die gleiche Gefahr von Täuschung, Imitation oder Desinformation besteht. Entscheidend ist also, ob der Inhalt an reale Wirklichkeit anknüpft und dadurch geeignet ist, beim Publikum einen Eindruck tatsächlicher Echtheit hervorzurufen.

Die Leitlinien machen zugleich deutlich, dass nicht jede KI-gestützte Veränderung vorhandener Inhalte bereits zu einem Deepfake führt. Geringfügige oder rein technische Änderungen wie Rauschreduzierung, Farbkorrektur, Anpassung von Lautstärke, Hintergrunddetails oder Dateikompression können im Einzelfall für die Wahrnehmung von Echtheit oder Wahrheit unerheblich sein. Sobald die Bearbeitung aber inhaltlich oder visuell so weit reicht, dass das Publikum den Inhalt anders versteht oder seine Echtheit anders beurteilt, kann ein kennzeichnungspflichtiger Deepfake vorliegen.

Erste interessante Erkenntnisse zur Einstufung als Deepfake liefern die in den Leitlinien aufgeführten Beispiele:

Kehrt man dieses Beispiel um, kann man ableiten, dass ein KI-generiertes Produktbild, welches nicht über das tatsächliche Aussehen, die Eigenschaften oder die Produktverwendung irreführt, kein Deepfake im Sinne der KI-Verordnung darstellt.

Wird also ein reales Produktfoto in eine KI-Umgebung platziert und dadurch nicht realitätsverzerrt dargestellt, soll hierbei kein transparenzpflichtiger Deepfake vorliegen.

Eine abgeschwächte Offenlegungspflicht gilt für Deepfakes, die erkennbar Teil eines künstlerischen, kreativen, satirischen, fiktionalen oder ähnlichen Werks oder Programms sind: Hier genügt eine der Werknutzung angemessene Offenlegung, die die Darbietung oder den Genuss des Werks nicht beeinträchtigt, Art. 50 Abs. 4 UAbs. 1 S. 2 KI-VO. Diese Erleichterung ist eng auszulegen und soll nach den Leitlinien nur greifen, wenn die Werkeigenschaft für das Publikum evident ist; rein werblicher oder informativer Inhalt kann sich hierauf nicht berufen. Eine weitere Ausnahme besteht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist, Art. 50 Abs. 4 UAbs. 1 S. 2 KI-VO.

Besondere Vorgaben für journalistische und informationsbezogene Texte

Eine weitere Kennzeichnungspflicht enthält Art. 50 Abs. 4 UAbs. 2 KI-VO für KI-generierte oder KI-bearbeitete Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Hierzu können insbesondere Nachrichtenbeiträge, politische Informationen, Gesundheitsinformationen oder Unternehmensberichte mit öffentlicher Relevanz gehören.

Allerdings sieht die KI-VO auch hier eine wichtige Ausnahme vor: Die Offenlegungspflicht entfällt, wenn der Text einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt, Art. 50 Abs. 4 UAbs. 2 S. 2 KI-VO. Die Leitlinien verlangen für die menschliche Überprüfung eine inhaltliche Auseinandersetzung durch fachkundige Personen einschließlich einer Faktenprüfung; rein formale oder automatisierte Kontrollen genügen nicht. Wird der Inhalt nach redaktioneller Freigabe nochmals substanziell durch KI verändert, entfällt die Ausnahme. Die redaktionell verantwortliche Stelle muss nach den Leitlinien zudem an leicht auffindbarer Stelle identifizierbar sein.

Wie muss gekennzeichnet werden?

Die geforderte Kennzeichnung muss den betreffenden natürlichen Personen spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung in klarer und eindeutiger Weise bereitgestellt werden, Art. 50 Abs. 5 KI-VO. Die Informationen müssen den geltenden Barrierefreiheitsanforderungen entsprechen. Rein technische Metadaten genügen hierfür nach den Leitlinien nicht.

Zur Unterstützung der Transparenzpflichten hat die Europäische Kommission ein freiwilliges Set standardisierter Kennzeichnungs-Icons veröffentlicht. Die Symbole sollen eine europaweit einheitliche und leicht verständliche Kennzeichnung von KI-generierten beziehungsweise KI-manipulierten Inhalten ermöglichen.

Rechtlich verpflichtend sind die Icons nicht. Die Leitlinien empfehlen jedoch ausdrücklich die Verwendung standardisierter visueller Kennzeichnungen, da diese die Wiedererkennbarkeit erhöhen und die Wahrnehmung durch Nutzer erleichtern können. Standardisierte Labels und Symbole werden von der Kommission als Best Practice angesehen.

Die Icons umfassen drei Varianten: ein Basis-Icon (für allgemeine KI-Beteiligung an der Erstellung, häufig kombiniert mit individuellem Textzusatz oder einer interaktiven zweiten Ebene), ein Icon für vollständig KI-generierte Inhalte ohne menschliche redaktionelle Kontrolle sowie ein Icon für teilweise KI-veränderte, ursprünglich menschengemachte Inhalte. Die Icons liegen jeweils in vier Kontrastvarianten vor und stehen als SVG- und PNG-Dateien lizenzkostenfrei zur Verfügung.

Auch hinsichtlich der Platzierung gibt es Leitlinien, die sich im Verhaltenskodex für die Kennzeichnung und Kennzeichnung von KI-generierten Inhalten finden:

• Das Symbol sollte spätestens zum Zeitpunkt der ersten Exposition einer natürlichen Person gegenüber dem tiefen gefälschten oder veröffentlichten Text deutlich wahrnehmbar und unterscheidbar sein.
• Das Icon sollte dort platziert werden, wo keine dazwischenliegenden Overlay-Elemente vorhanden sind.
• Das Symbol sollte direkt in den Deep Fake oder veröffentlichten Text eingebettet werden (mit Ausnahme kreativer Werke), es sei denn, es stehen gleichwertige Alternativen wie ein Benutzeroberflächen-Overlay zur Verfügung. Das Symbol muss sichtbar sein, wenn Inhalte erneut geteilt oder heruntergeladen werden.

Zudem werden die Benutzer des Symbols aufgefordert, Barrierefreiheitsmaßnahmen umzusetzen:

• Das Symbol sollte in einer deutlich sichtbaren Größe sein.
• Jedes begleitende Etikett sollte eine einfache Sprache verwenden und Jargon, verwirrende Formulierungen und andere Abkürzungen als „KI“ vermeiden.
• Wenn möglich, sollte das Symbol durch assistive Technologien mit Alt-Text oder ARIA-Etiketten lesbar sein, die anzeigen, dass der Inhalt KI-generiert oder manipuliert ist.
• Wenn die Offenlegung für eine begrenzte Zeit erscheint, sollte sie lange genug sichtbar bleiben, um von Benutzern mit kognitiven oder Verarbeitungsschwierigkeiten gelesen und verstanden zu werden.
• Werden zusätzliche Informationen über eine zweite interaktive Ebene bereitgestellt, sollte das Symbol deutlich darauf hinweisen, dass weitere Informationen verfügbar sind, und der Inhalt der zweiten Ebene muss mithilfe von Hilfstechnologien navigierbar sein.