Viele mit künstlicher Intelligenz (KI) erstellte oder maßgeblich veränderte Medien müssen gemäß KI-Verordnung (AI Act) als solche gekennzeichnet werden. Wir erklären, wann die KI-Transparenzpflichten konkret greifen, welche Inhalte wie zu kennzeichnen und welche Ausnahmen für das Marketing relevant sind.
Hinweis vorab: Die hier diskutierten Transparenzpflichten nach Art. 50 AI Act sind ab 2. August 2026 anwendbar und werden auch nicht durch die beschlossenen Änderungen an der KI-Verordnung verschoben.
Warum ist die KI-Verordnung für das Marketing relevant?
Die KI-Verordnung ordnet KI-Systeme nach Risikoklassen ein und knüpft Pflichten jeweils an Rolle und Einsatzkontext. Für Marketingabteilungen ist dabei (mit einer Ausnahme) vor allem der Bereich „begrenztes Risiko“ und die Rolle des „Betreibers“ relevant: Hier stehen Transparenzpflichten im Vordergrund – insbesondere bei synthetischen bzw. manipulierten Medien, also Inhalten, die mit KI erstellt oder verändert wurden. Beim Einsatz von KI-Systemen, die für die Interaktion vorgesehen sind, wie z.B. Chatbots auf Websites, kann auch Rolle des „Anbieters“ im Marketingbereich relevant werden.
Transparenzpflichten sollen verhindern, dass Menschen unbeabsichtigt KI für menschliche Kommunikation halten oder künstliche Inhalte für authentische Aufnahmen. Zweck der Regelung ist die Verringerung der Risiken von Identitätsdiebstahl, Täuschung, Fehlinformation, Manipulation und Betrug.
Transparenzpflichten im Sinne der EU KI-Verordnung bedeuten praktisch: Wer KI einsetzt, muss das für Betroffene klar erkennbar machen.
Welche typischen Marketing-Use-Cases können Transparenzpflichten auslösen?
In der Marketingpraxis begegnen KI-Transparenzthemen vor allem in drei Konstellationen:
- Veröffentlichung synthetischer oder manipulierter Medien (Bild/Audio/Video), insbesondere mit realistisch wirkenden Personen im fotografischem Stil bzw. mit echt klingenden Sprecherstimmen (sogenannte Deepfakes);
- Veröffentlichung synthetischer oder manipulierter Texte (z.B. LinkedIn Posts, Blogs, Webartikel), wenn diese keiner redaktionellen Kontrolle unterliegen;
- Mensch-Maschinen-Interaktionen, etwa in Form eines Chatbots oder Sprachassistenten auf Webseiten, wodurch das Unternehmen, das diesen anbietet, als Anbieter im Sinne der KI-Verordnung gilt.
Für Marketingteams bedeutet das: Bei der ersten Interaktion oder Wahrnehmung muss deutlich werden, dass es sich um KI-generierten Text ohne menschliche Prüfung oder redaktionelle Kontrolle, um KI-generierte bzw. KI-manipulierte Inhalte oder um einen KI-Chatbot handelt.
Was schreibt die KI-Verordnung zu Medien und Deepfakes vor?
Für das Marketing mit KI-generierten oder -veränderten Bildern, Audio- oder Videodateien ist insbesondere Art. 50 Abs. 4 AI Act relevant:
„Betreiber eines KI-Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. […] Ist der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks oder Programms, so beschränken sich die in diesem Absatz festgelegten Transparenzpflichten darauf, das Vorhandensein solcher erzeugten oder manipulierten Inhalte in geeigneter Weise offenzulegen, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt.“
Die angesprochenen Deepfakes wiederum definiert Art. 3 Abs. 60 AI Act als:
„einen durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde;“
Sobald also ein Inhalt authentisch wirken kann, steigt das Risiko einer Irreführung. Der Realismusgrad und das Täuschungspotenzial sind daher zentrale Prüfsteine, um ein Deepfake zu identifizieren, was wiederum KI-Transparenzpflichten auslösen würde.
Hierbei sind zwei Aspekte wichtig:
- Die Ähnlichkeit sollte objektiv erkennbar sein.
- Für die Wirklichkeit reicht es aus, wenn simulierte Personen, Gegenstände, Orte, Einrichtungen oder Ereignisse realistisch wirken und etwas ähneln, das es in der Realität geben könnte oder gegeben haben könnte:
- Unter „Personen“ sind realistische, natürliche Menschen zu verstehen.
- Unter „Gegenständen“ sind realistische, leblose materielle Gegenstände zu verstehen, darunter Gebäude, Kunstwerke, Maschinen, Konsumgüter usw.
- Unter „Orten“ sind realistische Schauplätze zu verstehen, wie z.B. die Firmenküche oder das Headquarter einer Firma.
- Als „Einrichtungen “ (im Englischen: „Entities“) sind realistische, nicht-menschliche, aber belebte Wesen, einschließlich Tiere oder andere biologische Lebensformen zu verstehen.
- „Ereignisse“ sind realistische Szenen oder Situationen, an denen Personen, Objekte, Orte und Einrichtungen beteiligt sein können (wie z. B. historische Ereignisse oder die Darstellung von Dienstleistungen).
Hinweis: Die Transparenzpflicht greift auch, wenn der Inhalt eine ehemals real existierende (historische) Person erkennbar imitiert und dadurch echt wirken kann. Der Schutzzweck (Täuschungs-bzw. Irreführungsrisiko) besteht bei verstorbenen Personen genauso.
Wann besteht die Gefahr, dass eine Person einen Inhalt fälschlicherweise als echt betrachten könnte?
Bei der Frage danach, ob ein Deepfake vorliegt, zählt nicht, ob das Unternehmen oder die Marketingabteilung jemanden täuschen will. Entscheidend ist, wie leicht Menschen getäuscht werden könnten. Dabei sollte man das tatsächliche Publikum berücksichtigen, also unterschiedliche Altersgruppen und Wissensstände – und nicht einfach vom Durchschnitt einer Zielgruppe ausgehen. Das ist besonders wichtig, wenn die mittels KI erstellten oder veränderten Inhalte auch Kinder, ältere Menschen oder Personen mit geringer digitaler bzw. KI-Kompetenz erreichen könnten, weil diese die Echtheit eher falsch einschätzen.
Die Beurteilung, ob die Gefahr besteht, dass die Inhalte von einer Person fälschlicherweise als echt oder wahrheitsgemäß wahrgenommen werden könnten, ist naturgemäß fallbezogen und muss den Kontext im jeweiligen Einzelfall berücksichtigen.
Welche KI-Bearbeitungen von Medien sind nicht kennzeichnungspflichtig?
Bestehende Bild-, Audio- oder Videoinhalte, die einer geringfügigen, technischen Bearbeitung mittels KI unterzogen wurden, müssen nicht gekennzeichnet werden, da eine solche KI-gestützte Bearbeitung geringfügiger, technischer Aspekte für die Beurteilung der Authentizität oder Richtigkeit dieser Inhalte von untergeordneter Bedeutung ist. Dazu zählen etwa:
- die Bearbeitung von Hintergrunddetails,
- Beleuchtungsanpassungen,
- die Anpassung von Audioparametern,
- Farbkorrekturen,
- Rauschunterdrückung,
- die Verbesserung der Barrierefreiheit oder
- die Dateikomprimierung.
Was sind offensichtlich künstlerische, kreative, satirische, fiktionale oder analoge Werke oder Programme?
Um in den Genuss einer milderen Behandlung zu kommen, müssen Deepfake-Inhalte einer der folgenden fünf Inhaltskategorien gehören: künstlerische, kreative, satirische, fiktionale oder analoge Werke oder Programme. Ob Deepfake-Inhalte unter eine oder mehrere dieser Kategorien fallen, muss im Einzelfall geprüft werden. Darüber hinaus schließt die Bedingung, dass Inhalte „offensichtlich“ unter eine der fünf Inhaltskategorien fallen müssen, Inhalte aus dem Geltungsbereich dieser Inhaltskategorien aus, wenn sie in erster Linie einem informativen oder kommerziellen Zweck dienen und als solche erkennbar sind.
Im Marketingkontext ist diese kleinere Ausnahme für die Transparenzpflichten also nicht relevant, da Marketing-Content generell informative und/oder kommerzielle Zweck verfolgt.
Müssen KI-generierte oder KI-manipulierte Texte gekennzeichnet werden?
Zum Publizieren von mittels KI erstellten Texten schreibt Art. 50 Abs. 4 AI Act vor:
„Betreiber eines KI-Systems, das Text erzeugt oder manipuliert, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen offenlegen, dass der Text künstlich erzeugt oder manipuliert wurde. Diese Pflicht gilt nicht, wenn […] die durch KI erzeugten Inhalte einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und wenn eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt.“
Für Texte gilt im Marketing also eine praxisnahe Unterscheidung:
- Wenn Inhalte zwar mit KI erstellt oder verändert wurden, aber vor der Veröffentlichung einer menschlichen Überprüfung oder redaktionellen Kontrolle unterliegen und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt, müssen diese nicht gekennzeichnet werden.
- Wenn Texte ohne menschliche Prüfung oder redaktionellen Kontrolle veröffentlicht werden sollen und keine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung übernehmen wird, dann müssen immer noch folgende Kriterien erfüllt werden, bevor eine Kennzeichnungspflicht besteht:
- Die Texte müssen einer unbestimmten, relativ großen Zahl potenzieller Leser, die untereinander in keiner Verbindung stehen, gleichzeitig und/oder nacheinander zugänglich gemacht werden, unabhängig davon, ob dies gegen Entgelt (z. B. im Rahmen von Abonnements) geschieht oder nicht.
- Die Texte müssen darauf abzielen, die Öffentlichkeit zu informieren. Dies bedeutet, dass die Texte darauf ausgerichtet sein sollten, Wissen, Meinungen oder Fakten zu vermitteln.
- Die Texte müssen die Öffentlichkeit über Themen von öffentlichem Interesse informieren. Das sind Themen, die für die Gesellschaft relevant sind (lokal, national, europäisch oder international) und öffentliche Diskussion oder Kontrolle verdienen. Dazu zählen z. B. Entwicklungen mit möglichen größeren Auswirkungen in Wirtschaft, Politik, Wissenschaft oder Kultur. Die Beispiele sind nicht abschließend; was als öffentliches Interesse gilt, kann sich je nach Kontext und Zeit ändern.
Hinweis: Zu den Texten, die nicht als veröffentlicht gelten, gehören beispielsweise private, persönliche Korrespondenz (zu beruflichen Zwecken) oder organisationsinterne Textdokumente.
Wie aus dem Vorstehenden hervorgeht, wird es für die Marketingabteilung nur in seltenen Fällen erforderlich sein, einen Text zu kennzeichnen.
Wann müssen KI-Chatbots gekennzeichnet werden?
Für die KI-basierten Mensch-Maschinen-Interaktionen ist Art. 50 Abs. 1 AI Act einschlägig:
„Die Anbieter stellen sicher, dass KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipiert und entwickelt werden, dass die betreffenden natürlichen Personen informiert werden, dass sie mit einem KI-System interagieren, es sei denn, dies ist aus Sicht einer angemessen informierten, aufmerksamen und verständigen natürlichen Person aufgrund der Umstände und des Kontexts der Nutzung offensichtlich.“
Im Marketingkontext wird dies relevant, wenn z.B. Chatbots bzw. Dialogagenten im E-Commerce oder auf der Website eingebunden werden. Wer die Integration solcher Chatbots bei der IT beantragt, muss sich darüber im Klaren sein, dass das Unternehmen dadurch möglicherweise als „Anbieter“ gilt und daher bei der Entwicklung des Chatbots oder bei der Beauftragung eines Dritten mit dessen Entwicklung die Transparenzpflichten einhalten muss.
Die Marketingabteilung wird hier aber in der Praxis wenig aktiv tun können bzw. müssen.
Was bedeutet ersten Interaktion oder Wahrnehmung?
Art. 50 Abs. 5 AI Act fordert, dass Transparenzpflichten spätestens zum Zeitpunkt der ersten Interaktion oder Wahrnehmung erfüllt werden. Die erste Interaktion oder Wahrnehmung bezieht sich nicht nur auf die erste natürliche Person, die mit einem KI-System (bzw. dessen Output/Ausgabe wie z.B. ein KI-generiertes Video) interagiert oder damit konfrontiert wird, sondern auch auf jede nachfolgende erste Interaktion mit dem KI-System (bzw. dessen Output) oder jede nachfolgende erste Wahrnehmung damit durch eine andere Person. Es zählen also nicht nur die ersten Betrachter, sondern auch alle folgenden potenziellen Betrachter.
Da Personen beispielsweise erst nach Beginn einer Live-Übertragung, in der Deepfakes gezeigt werden, mit dem Anschauen beginnen können, sollte der Hinweis nicht nur zu Beginn der Übertragung erfolgen, sondern auch zu späteren Zeitpunkten oder fortlaufend. Bei veröffentlichten Deepfake-Inhalten muss sichergestellt werden, dass die Kennzeichnung für alle späteren Betrachter erhalten bleibt, auch wenn der Deepfake an anderer Stelle veröffentlicht wird.
Wie sollte die KI-Kennzeichnung konkret aussehen und wo wird sie platziert?
Publisher von Deepfake-Inhalten oder KI-generierten bzw. KI-manipulierten Texte müssen gemäß Erwägungsgrund 134 EU AI Act „klar und deutlich offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden, indem sie die KI-Ausgabe entsprechend kennzeichnen und ihren künstlichen Ursprung offenlegen“.
Der Entwurf der „Leitlinien zur Umsetzung der Transparenzpflichten für bestimmte KI-Systeme gemäß Artikel 50 des KI-Gesetzes“ der EU-Kommission verdeutlicht das die Kennzeichnung „am Content“ angebracht sein muss – nicht versteckt in Metadaten oder nur in einer Caption (Bildunterschrift), die leicht abgeschnitten wird.
Für die Erfüllung der Transparenzpflichten bei KI-Chatbots wird keine bestimmte Offenlegungsmethode oder Format vorgeschrieben. Beispiele für die Bereitstellung der Informationen sind schriftliche Hinweise (z. B. ein Chatbot, der zu Beginn eines Gesprächs sagt „Sie interagieren gerade mit einem KI-System“), visuelle Mittel (z. B. eine von einem KI-Agenten generierte E-Mail an eine natürliche Person, die oben mit einem KI-Hinweis versehen ist, oder dauerhaft angezeigte Abzeichen, die während der gesamten Interaktion sichtbar bleiben) oder akustische Mittel (z. B. ein Sprachassistent, der zu Beginn einer Sitzung sagt „Dies ist ein KI-gestützter Assistent“, gegebenenfalls kombiniert mit regelmäßigen Erinnerungen bei längeren Interaktionen).
Wichtig ist zudem, wo relevant, die Barrierefreiheit: Kennzeichnungen müssen laut KI-Verordnung so gestaltet sein, dass sie auch von Menschen mit Einschränkungen zuverlässig wahrgenommen werden.
Tipp: Lesen Sie dazu auch unserer Erklärung zur Barrierefreiheit von Websites gemäß Barrierefreiheitsstärkungsgesetz (BFSG) und einer ggfs. nötigen Barrierefreiheitserklärung.
Wie können Marketingteams die KI-Transparenzpflichten in der Praxis umsetzen?
Transparenzpflichten werden im Alltag durch Prozesse erfüllt – nicht durch Einmal-Schulungen. Für Marketingabteilungen sind insbesondere folgende Bausteine effektiv:
- Entwickeln Sie Standardtexte und Label-Varianten für verschiedene Kanäle (Website, Social, Video, Audio).
- Sorgen Sie für ein Asset-Tagging in Ihren Dateiverzeichnissen, z. B. „KI-generiert“, „KI-verändert“, „Durch Menschen geprüft“.
- Pre-Publication-Review Prozess: kurzer Pflicht-Check vor Veröffentlichung (inkl. Deepfake-Frage) und redaktionelle Kontrolle für Texte.
Was passiert mit bereits erstellten und veröffentlichten Inhalten?
KI-generierte oder manipulierte Inhalte (einschließlich Deepfakes) die vor dem 2. August 2026 erstellt und bereits zugänglich gemacht wurden, müssen nicht nachträglich gekennzeichnet oder beschriftet werden.
Angesichts des mit der KI-Verordnung verfolgten Ziels der Transparenz sowie der Stärkung des Vertrauens und der Integrität des Informationsökosystems werden Betreiber von KI-Systemen und andere Akteure, die im Besitz solcher Inhalte sind und/oder diese verbreiten, jedoch dazu von der EU Kommission ihrem Entwurf der Leitlinien ermutigt, dies zu tun.
Welche Sanktionen drohen bei Verstößen gegen Transparenzpflichten?
Die KI-Verordnung sieht bei Verstößen gegen die Transparenzpflichten Geldbußen von bis zu 15.000.000 Euro oder – im Falle von Unternehmen – von bis zu 3 % des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres vor, je nachdem, welcher Betrag höher ist.
Zusätzlich können Folgeeffekte aus anderen Rechtsbereichen hinzukommen, etwa aus der DSGVO (bei unzulässiger Datenverarbeitung) oder aus dem Verbraucher- und Lauterkeitsrecht (bei irreführender Werbung).
Fazit: Transparenz ist kein Label – sondern ein Prozess
Wenn Sie Transparenzpflichten auf ein KI-Wasserzeichen reduzieren, werden Sie im Tagesgeschäft scheitern. Erfolgreich sind Marketingabteilungen, die
- einfache Entscheidungslogiken für Deepfakes und KI-Texte etablieren,
- kanal- und formatgerechte Kennzeichnungen standardisieren,
- Freigabe- und Dokumentationsroutinen schlank, aber verbindlich machen und
- Schulungen zu den neuen Anforderungen aufsetzten.
So erfüllen Sie die Transparenzanforderungen der KI-Verordnung praxisnah – und reduzieren gleichzeitig das Risiko irreführender Kommunikation.