Künstliche Intelligenz ist aus Online-Marketing und redaktioneller Arbeit kaum noch wegzudenken. Ob Texte, Bilder, Videos oder Chatbots – KI wird immer häufiger für digitale Inhalte eingesetzt. Seit dem 2. August 2026 gelten weitere Transparenzpflichten nach dem europäischen KI-Gesetz (AI Act). Unternehmen sollten daher prüfen, wie sie KI-generierte und KI-veränderte Inhalte auf ihren digitalen Kanälen einsetzen.
Was muss gekennzeichnet werden?
Nach Artikel 50 des AI Acts müssen bestimmte KI-generierte oder KI-manipulierte Inhalte als solche erkennbar sein. Besonders relevant ist dies bei sogenannten Deepfakes, also künstlich erzeugten oder veränderten Bild-, Audio- oder Videoinhalten, die fälschlicherweise wie echte Aufnahmen wirken können.
Auch KI-generierte Texte können unter die Kennzeichnungspflicht fallen, wenn sie veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Dabei gelten jedoch Ausnahmen, insbesondere wenn eine angemessene menschliche Überprüfung oder redaktionelle Kontrolle stattgefunden hat.
Für Unternehmen bedeutet das: Wer KI für Website-, Marketing- oder redaktionelle Inhalte nutzt, sollte nachvollziehen können, wie ein Inhalt entstanden ist, ob KI eingesetzt wurde und wer ihn vor der Veröffentlichung geprüft und freigegeben hat.
Was gilt für redaktionelle Inhalte?
Für Unternehmen, die regelmäßig News, Blogbeiträge oder andere redaktionelle Inhalte veröffentlichen, ist die menschliche Kontrolle besonders relevant.
KI-generierte Texte müssen unter den entsprechenden Voraussetzungen nicht gekennzeichnet werden, wenn sie einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt. Eine bloße Rechtschreibprüfung reicht dabei nicht aus. Inhalte, Fakten und Quellen sollten tatsächlich fachlich geprüft und gegebenenfalls überarbeitet werden.
Wer beispielsweise einen KI-Entwurf für einen Blogartikel erstellt, diesen fachlich und redaktionell überarbeitet und anschließend verantwortlich zur Veröffentlichung freigibt, sollte diesen Prozess nachvollziehbar dokumentieren.
KI-Bilder: Wann handelt es sich um einen Deepfake?
Besonders wichtig ist die Unterscheidung bei Bildern. Nicht jede mit KI bearbeitete Grafik ist automatisch ein Deepfake. Entscheidend ist insbesondere, ob ein Inhalt den Eindruck erwecken kann, eine reale Person, ein realer Ort, ein Objekt oder ein Ereignis sei tatsächlich so dargestellt worden, obwohl dies nicht der Wahrheit entspricht.
Ein Beispiel: Ein Unternehmen erstellt mit KI ein fotorealistisches Bild eines bekannten Politikers, Geschäftsführers oder einer anderen realen Person in einer Situation, in der diese nachweislich nicht war. Wirkt das Bild wie eine echte Aufnahme, kann es sich um einen kennzeichnungspflichtigen Deepfake handeln.
Auch die Veränderung eines echten Fotos kann darunter fallen. Dazu zählt beispielsweise der Austausch des Gesichts einer Person in einem authentischen Foto durch das Gesicht einer anderen Person mithilfe von KI.
Anders kann es bei eindeutig fiktiven Darstellungen aussehen: Ein klar als Illustration erkennbares Fantasiewesen oder eine offensichtlich künstliche Szene vermittelt in der Regel nicht den Eindruck einer echten Aufnahme. Auch nicht jede klassische Bildbearbeitung mit KI-Unterstützung fällt automatisch unter die Deepfake-Regelung. Entscheidend sind der konkrete Inhalt und sein Einsatz.
Wie können KI-Inhalte gekennzeichnet werden?
Für die praktische Kennzeichnung von KI-Inhalten stellt die EU inzwischen drei offizielle Icons zur Verfügung. Sie können beispielsweise bei Bildern, Videos, Audiodateien oder anderen KI-generierten beziehungsweise KI-bearbeiteten Inhalten eingesetzt werden.
Die Verwendung dieser Icons ist freiwillig. Sie bieten eine einfache Möglichkeit, den Einsatz von künstlicher Intelligenz für Nutzer sichtbar zu machen. Die gesetzlichen Transparenzpflichten nach Artikel 50 des AI Acts gelten davon unabhängig und müssen eingehalten werden.
Drei Icons für unterschiedliche Arten von KI-Inhalten
Die EU-Icons unterscheiden unter anderem danach, welche Rolle künstliche Intelligenz bei einem Inhalt gespielt hat. So kann beispielsweise
- „AI GENERATED“ auf einen vollständig mit KI erzeugten Inhalt hinweisen,
- „AI MODIFIED“ für einen bestehenden Inhalt verwendet werden, der anschließend in relevanter Weise mit KI verändert wurde,
- "AI Basis-Icon" allgemein auf die Beteiligung von KI hinweisen.
Icon und gesetzliche Kennzeichnung sind nicht dasselbe
Wichtig ist die Unterscheidung zwischen dem freiwilligen EU-Icon und einer gesetzlich vorgeschriebenen Kennzeichnung. Das Icon ist lediglich eine praktische Möglichkeit, den Einsatz von KI sichtbar zu machen. Es ersetzt nicht die Prüfung, ob ein konkreter Inhalt nach dem AI Act gekennzeichnet werden muss und welche Informationen dabei erforderlich sind.
Insbesondere bei kennzeichnungspflichtigen Deepfakes muss für Nutzer klar und unmittelbar erkennbar sein, dass ein Inhalt künstlich erzeugt oder manipuliert wurde. Die entsprechende Information sollte daher direkt beim Inhalt beziehungsweise bei dessen erster Wahrnehmung bereitgestellt werden und nicht lediglich an einer schwer auffindbaren Stelle der Website stehen.
Auch bei der weiteren Nutzung oder Weitergabe von KI-Inhalten ist es sinnvoll, darauf zu achten, dass eine vorhandene Kennzeichnung möglichst erhalten bleibt.
Mehr Transparenz schafft Vertrauen
Auch wenn die offiziellen EU-Icons nicht in jedem Fall verpflichtend sind, können sie Unternehmen dabei unterstützen, den Einsatz von KI transparent und nachvollziehbar zu kommunizieren. Ein kleines Icon in Verbindung mit einem eindeutigen Text-Hinweis kann dabei oft mehr Klarheit schaffen als eine allgemeine Information irgendwo auf der Website.
Eine aktuelle Übersicht über die von der EU bereitgestellten Icons und ihre praktische Verwendung bietet auch der Beitrag von NEW.EGO:
AI Act: Die EU veröffentlicht eigene Icons für KI-Inhalte
Unser Tipp für Unternehmen
Unternehmen sollten ihre internen Abläufe einmal systematisch überprüfen:
Welche Inhalte werden mit KI erstellt oder verändert? Wer prüft sie? Und wer gibt sie zur Veröffentlichung frei?
Gerade bei Bildern und redaktionellen Inhalten sollte außerdem darauf geachtet werden, dass KI-generierte Darstellungen nicht versehentlich als echte Fotos, Projekte oder Ereignisse erscheinen.
Für Websites kann es sinnvoll sein, bereits bei der Erstellung eines Inhalts festzuhalten, ob und in welcher Form KI eingesetzt wurde. So lässt sich später leichter beurteilen, ob eine Kennzeichnung erforderlich ist und welche Form dafür geeignet ist.
Seit wann gelten die neuen Regeln?
Die Transparenzpflichten nach Artikel 50 des AI Acts gelten seit dem 2. August 2026. Für bestimmte generative KI-Systeme, die bereits vor diesem Datum auf dem Markt waren, besteht hinsichtlich einzelner Kennzeichnungs- und Nachweispflichten eine begrenzte Übergangsfrist bis zum 2. Dezember 2026.
Die Europäische Kommission hat hierzu ausführliche Leitlinien und weitere Informationen veröffentlicht.
Weitere Informationen
- Leitlinien der Europäischen Kommission zu den Transparenzpflichten
- FAQ der Europäischen Kommission zu Artikel 50
- Offizielle EU-Icons zur Kennzeichnung von KI-Inhalten
Hinweis: Dieser Beitrag dient ausschließlich der allgemeinen Information und stellt keine Rechtsberatung dar. Wir übernehmen keine rechtliche Beratung oder individuelle rechtliche Bewertung. Ob und in welcher Form ein konkreter Inhalt nach dem AI Act gekennzeichnet werden muss, hängt vom jeweiligen Einzelfall, Inhalt und Verwendungszweck ab. Für eine verbindliche rechtliche Einschätzung sollten Unternehmen entsprechend qualifizierte Rechtsberatung in Anspruch nehmen.