AI Act 2026: Was Unternehmen bei KI-generierten Inhalten beachten müssen
Seit dem 2. August 2026 gelten weitere verbindliche Regelungen des europäischen AI Acts. Für Unternehmen besonders relevant sind dabei die neuen Transparenzpflichten für bestimmte KI-Systeme und KI-generierte bzw. KI-manipulierte Inhalte.
Doch was bedeutet das konkret für Bilder, Texte, Videos und Audiodateien, die im Unternehmensalltag mit Unterstützung von Künstlicher Intelligenz entstehen?
Was ist der AI Act?
Mit dem AI Act, der europäischen KI-Verordnung, hat die EU einen einheitlichen Rechtsrahmen für den Einsatz von Künstlicher Intelligenz geschaffen. Ziel ist es, Risiken zu begrenzen, Vertrauen und Akzeptanz in KI zu stärken und gleichzeitig Innovationen in Europa zu fördern.
Am 21. Mai 2024 hat der Rat der 27 EU-Mitgliedstaaten den AI Act verabschiedet. Die KI-Verordnung gilt als weltweit erstes umfassendes Regelwerk für Künstliche Intelligenz. Seit dem 2. August 2026 gelten nun weitere Bestimmungen der Verordnung verbindlich. Für Unternehmen sind insbesondere die in Artikel 50 des AI Acts geregelten Transparenzpflichten relevant. Diese betreffen unter anderem den Umgang mit bestimmten KI-generierten oder KI-manipulierten Inhalten.
Die zuständigen Behörden können die Einhaltung der Vorgaben kontrollieren und bei Verstößen entsprechende Sanktionen verhängen.
Transparenz bei KI-generierten Inhalten
Ein zentraler Bestandteil des AI Acts ist mehr Transparenz beim Einsatz von Künstlicher Intelligenz. Nutzer sollen erkennen können, wann sie mit einem KI-System interagieren oder wann Inhalte künstlich erzeugt bzw. wesentlich verändert wurden.
Dabei gilt jedoch nicht grundsätzlich: „KI verwendet = Kennzeichnungspflicht.“
Entscheidend ist vielmehr, wie KI eingesetzt wurde, welche Art von Inhalt entstanden ist und in welchem Zusammenhang dieser veröffentlicht oder verwendet wird.
Anbieter und Betreiber – wer muss was beachten?
Der AI Act unterscheidet zwischen Anbietern und Betreibern von KI-Systemen.
Anbieter sind beispielsweise die Unternehmen, die KI-Systeme entwickeln oder auf dem Markt bereitstellen. Für sie gelten unter anderem technische Anforderungen, damit bestimmte KI-generierte Inhalte beispielsweise maschinenlesbar als solche erkennbar sind.
Betreiber sind dagegen diejenigen, die ein KI-System im beruflichen oder geschäftlichen Zusammenhang einsetzen. Für Unternehmen, die beispielsweise ChatGPT, Bildgeneratoren oder andere KI-Anwendungen für ihre Kommunikation und Medieninhalte nutzen, sind daher insbesondere die Betreiberpflichten relevant.
Für Unternehmen bedeutet das: Es sollte klar geregelt sein, welche KI-Systeme eingesetzt werden, für welche Zwecke sie verwendet werden und wie mit den daraus entstehenden Inhalten umzugehen ist.
Die Kennzeichnung von KI-Inhalten
Für die Kennzeichnung von KI-generierten Inhalten gibt es verschiedene Möglichkeiten. Der AI Act schreibt dabei nicht für jeden Anwendungsfall ein bestimmtes sichtbares Symbol vor.
Im Rahmen des Code of Practice zur Kennzeichnung und Erkennung von KI-generierten Inhalten werden jedoch auch technische und visuelle Lösungen wie Kennzeichnungen, Labels und Icons beschrieben.
Die von uns dargestellten Icons können deshalb als praktische Orientierung dienen. Sie sind keine allgemein gesetzlich vorgeschriebenen EU-Symbole.
Wenn KI an der Erstellung von Deep Fake Content (Bild, Audio, Video) oder veröffentlichtem Text beteiligt war oder wenn ein benutzerdefiniertes Textlabel oder eine interaktive zweite Ebene implementiert ist.
Wenn bereits bestehende, von Menschen erstellte Inhalte teilweise modifiziert wurden.
Wenn der gesamte Deep-Fake-Content (Bild, Audio, Video) oder Text vollständig von KI generiert wird, ohne von Menschen geschaffene Elemente oder menschliche redaktionelle Kontrolle (abgesehen von der Aufforderung)
Nicht jeder KI-Einsatz muss gekennzeichnet werden
Für Unternehmen bedeutet das: Es reicht künftig nicht mehr aus, KI einfach zu nutzen. Vielmehr sollte klar sein, wo KI eingesetzt wird, welche Inhalte davon betroffen sind und wann eine Kennzeichnung erforderlich ist.
Eine wichtige Unterscheidung vorweg: Der AI Act verlangt nicht, dass jeder Inhalt, bei dessen Erstellung KI in irgendeiner Form beteiligt war, automatisch als „KI-generiert“ gekennzeichnet werden muss.
Entscheidend ist unter anderem, wie stark die KI den Inhalt verändert oder erzeugt hat. Diese Übersicht kann helfen, sich im Kennzeichnungs-Dschungel zurechtzufinden:
Was muss grundsätzlich gekennzeichnet sein?
Bilder
Kennzeichnungspflichten können insbesondere für KI-generierte oder KI-manipulierte Bilder entstehen, die realistisch wirken und beispielsweise als echte Darstellung einer Person, eines Ortes oder eines Ereignisses verstanden werden könnten.
Besonders relevant sind sogenannte Deepfakes.
Die Kennzeichnung muss für Nutzer klar und erkennbar machen, dass der Inhalt künstlich erzeugt oder manipuliert wurde.
Videos
Auch bei Videos gelten Transparenzanforderungen für bestimmte KI-generierte oder KI-manipulierte Inhalte.
Das betrifft insbesondere realistisch wirkende Deepfakes, beispielsweise wenn eine Person mithilfe von KI etwas sagt oder tut, was tatsächlich nicht passiert ist. Die Information über die künstliche Erzeugung oder Manipulation muss klar erkennbar sein.
Audio
Auch KI-generierte oder manipulierte Audiodateien können unter die Transparenzpflichten fallen.
Ein Beispiel sind künstlich erzeugte oder realistisch veränderte Stimmen. Wird beispielsweise die Stimme einer realen Person mithilfe von KI nachgebildet, kann eine entsprechende Kennzeichnung erforderlich sein.
Texte
Bei Texten ist die Regelung etwas differenzierter.
Eine besondere Transparenzpflicht besteht für KI-generierte oder KI-manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.
Dazu können beispielsweise Inhalte zu gesellschaftlichen, politischen oder anderen öffentlich relevanten Themen gehören.
Dabei kommt es auch darauf an, welche menschliche Kontrolle stattgefunden hat.
- KI erstellt den Text und er wird weitgehend unverändert veröffentlicht: Eine Kennzeichnung kann erforderlich sein, wenn die Voraussetzungen von Artikel 50 erfüllt sind.
- KI erstellt oder verändert den Text, ein Mensch prüft lediglich Rechtschreibung und Grammatik: Eine solche oberflächliche Kontrolle reicht nicht aus, um die Ausnahme von der Kennzeichnungspflicht in Anspruch zu nehmen.
- KI erstellt oder verändert den Text, ein fachkundiger Mensch prüft den Inhalt kritisch, bearbeitet ihn bei Bedarf und übernimmt die redaktionelle Verantwortung: Die spezielle Transparenzpflicht für solche Texte greift unter diesen Voraussetzungen nicht.
- Ein Mensch erstellt den Inhalt und nutzt KI lediglich unterstützend, beispielsweise für Ideen, Formulierungsalternativen oder sprachliche Optimierung: Daraus entsteht nicht automatisch eine Kennzeichnungspflicht.
Wichtig ist daher: Nicht jeder mit ChatGPT oder einem anderen KI-Tool erstellte Blogartikel oder Social-Media-Beitrag muss automatisch als KI-generiert gekennzeichnet werden.
Chatbots und KI-Systeme
Auch bei der direkten Kommunikation mit KI gibt es Transparenzanforderungen.
Werden beispielsweise Chatbots oder andere KI-Systeme eingesetzt, müssen Nutzer grundsätzlich darüber informiert werden, dass sie mit einem KI-System interagieren – sofern dies nicht bereits offensichtlich ist.
Für Unternehmen bedeutet das beispielsweise: Wird auf der eigenen Website ein KI-gestützter Chatbot eingesetzt, sollte für Besucher klar erkennbar sein, dass es sich nicht um eine menschliche Person handelt.
Was bedeutet das für Unternehmen?
Für Unternehmen ist deshalb vor allem eines wichtig: Sie brauchen einen Überblick über den eigenen KI-Einsatz.
Es sollte klar sein:
- Welche KI-Tools werden im Unternehmen eingesetzt?
- Für welche Aufgaben werden sie verwendet?
- Werden damit Texte, Bilder, Videos oder Audiodateien erstellt?
- Werden bestehende Inhalte mit KI verändert?
- Wer prüft die Ergebnisse?
- Wann muss ein Inhalt gekennzeichnet werden?
- Wer gibt den Inhalt anschließend zur Veröffentlichung frei?
Gerade Marketing-, Kommunikations- und Social-Media-Teams sollten hierfür klare interne Regeln entwickeln.
Code of Practice: Orientierung für die praktische Umsetzung
Um die Anforderungen aus Artikel 50 in der Praxis besser umzusetzen, hat die EU einen Code of Practice zur Kennzeichnung und Erkennung KI-generierter Inhalte veröffentlicht. Der Code of Practice enthält konkrete Empfehlungen und technische Ansätze für Anbieter und Betreiber von KI-Systemen. Dazu gehören unter anderem Möglichkeiten zur Kennzeichnung und Erkennung synthetischer Inhalte.
Wichtig: Der Code of Practice ist kein eigenes Gesetz und ersetzt nicht die Vorgaben des AI Acts. Er dient vielmehr als praktische Orientierung für die Umsetzung der Transparenzpflichten.
Unternehmen können sich an den dort beschriebenen Maßnahmen orientieren, um ihre Prozesse entsprechend auszurichten.
Gibt es eine Übergangsfrist?
Die Transparenzpflichten nach Artikel 50 gelten grundsätzlich seit dem 2. August 2026.
Für bestimmte KI-Systeme, die bereits vor diesem Datum auf dem EU-Markt waren, gibt es jedoch eine begrenzte Übergangsregelung. Bei diesen bereits bestehenden Systemen gilt die Verpflichtung zur technischen Kennzeichnung und Erkennung bestimmter KI-generierter oder KI-manipulierter Inhalte nach Artikel 50 Absatz 2 erst ab dem 2. Dezember 2026.
Wichtig: Das bedeutet nicht, dass es für alle Kennzeichnungspflichten eine allgemeine Übergangsfrist bis Dezember 2026 gibt.
Für Unternehmen ist daher entscheidend, den konkreten Anwendungsfall und das eingesetzte KI-System zu betrachten.
Was sollten Unternehmen jetzt tun?
Der AI Act sollte nicht erst dann zum Thema werden, wenn ein Inhalt bereits veröffentlicht wurde.
Sinnvoll ist es, jetzt klare Prozesse für den Einsatz von KI zu schaffen. Hier eine grobe Checkliste:
1. KI-Einsatz erfassen
Welche KI-Anwendungen werden im Unternehmen verwendet?
2. Inhalte unterscheiden
Wird ein Inhalt vollständig generiert, nur unterstützt oder wesentlich manipuliert?
3. Kennzeichnung prüfen
Besteht für den konkreten Inhalt eine Transparenzpflicht?
4. Menschliche Kontrolle sicherstellen
Insbesondere bei sensiblen oder öffentlich relevanten Inhalten sollte eine fachkundige Person die Ergebnisse prüfen.
5. Verantwortlichkeiten festlegen
Wer kontrolliert und wer gibt KI-generierte Inhalte zur Veröffentlichung frei?
6. Mitarbeitende sensibilisieren
Mitarbeitende sollten wissen, welche KI-Tools sie verwenden dürfen und welche Regeln bei der Erstellung und Veröffentlichung von Inhalten gelten.
Ein verantwortungsvoller Umgang mit Künstlicher Intelligenz bedeutet nicht, auf die Technologie zu verzichten. Es bedeutet, KI bewusst, transparent und nachvollziehbar einzusetzen.
Redaktioneller Hinweis
Die in diesem Beitrag bereitgestellten Informationen dienen ausschließlich der allgemeinen Information und Orientierung. Sie stellen keine Rechtsberatung dar und können eine individuelle rechtliche Prüfung des jeweiligen Einzelfalls nicht ersetzen.
Trotz sorgfältiger Erstellung übernehmen wir keine Haftung oder Gewähr für die Vollständigkeit, Richtigkeit und Aktualität der bereitgestellten Informationen. Dies gilt insbesondere, da sich gesetzliche Vorgaben und deren Auslegung ändern können.
Die Verantwortung für die rechtliche Bewertung und den rechtskonformen Einsatz von Künstlicher Intelligenz sowie für die Kennzeichnung veröffentlichter Inhalte liegt beim jeweiligen Unternehmen. Bei konkreten rechtlichen Fragen empfehlen wir, eine entsprechend qualifizierte Rechtsberatung hinzuzuziehen.
Dieser Text wurde mit Unterstützung von KI erstellt.
