KI-Verordnung: Was Unternehmen ab August 2026 kennzeichnen müssen
Ab dem 2. August 2026 führt die Europäischen Union neue Vorgaben für den Einsatz künstlicher Intelligenz ein. In Artikel 50 der europäischen KI-Verordnung (AI Act) soll sichergestellt werden, dass Menschen erkennen können, wenn sie mit einem KI-System oder mit bestimmten künstlich erzeugten Inhalten konfrontiert werden.
Betroffen sind vor allem täuschend echte Bilder, Video- und Audioaufnahmen sowie Texte, die Themen von öffentlichem Interesse behandeln. Jedoch muss nicht jeglicher Einsatz von KI automatisch gekennzeichnet werden. Wichtig ist, wie die Technologie eingesetzt wird, um welche Art von Inhalt es sich handelt und ob dieser mit authentischen Inhalten verwechselt werden könnte. Somit ist der jeweilige Einzelfall von entscheidender Bedeutung.
Wann müssen KI-unterstützte Texte gekennzeichnet werden?
Eine Kennzeichnung kann nötig sein, wenn Unternehmen Texte veröffentlichen, die zu wesentlichen Teilen mit KI erstellt wurde und sich an die Öffentlichkeit richten.
Hierzu zählen unter anderem Beiträge über:
- Politische Prozesse
- Die öffentliche Sicherheit
- Gesundheit und Umweltschutz
- Gesellschaftlich relevante wirtschaftliche, wissenschaftliche oder kulturelle Entwicklungen
Dies gilt auch für Inhalte, die öffentliche Diskussionen oder Meinungen beeinflussen können.
Nicht jeder Text, bei dem KI zum Einsatz kam, muss automatisch gekennzeichnet werden. Übliche Werbetexte, Produktbeschreibungen oder Übersetzungen sind in der Regel nicht betroffen. Das gilt auch, wenn ein KI-Tool nur bei Rechtschreibung, Grammatik oder einzelnen Formulierungen geholfen hat. Eine Kennzeichnung kann ebenfalls entfallen, wenn der Text anschließend von einer Person inhaltlich geprüft, deutlich überarbeitet und redaktionell verantwortet wurde. Eine bloße Kontrolle auf Tippfehler oder sprachliche Auffälligkeiten reicht dafür jedoch nicht aus.
Ein Hinweis wie „Dieser Inhalt wurde mithilfe künstlicher Intelligenz erstellt.“ kann ausreichen, muss jedoch klar, verständlich und für die Leser wahrnehmbar sein.
Kennzeichnung realistisch wirkender KI-Bilder, Audios und Videos
Besonders relevant sind die neuen Vorschriften für sogenannte Deepfakes. Darunter versteht der AI Act künstlich erzeugte oder manipulierte Bild-, Audio- oder Videoinhalte, die bestehenden oder plausibel existierenden Personen, Gegenständen, Orten, Organisationen oder Ereignissen ähneln und fälschlicherweise echt oder wahr wirken können.
Kennzeichnungspflichtig können unter anderem künstlich erstellte Reden von Politikern, Interviews oder Unternehmensvideos sein. Auch entsprechende Produktdarstellungen können betroffen sein, wenn sie wie Aufnahmen eines tatsächlich vorhandenen Produkts erscheinen. Das Gleiche gilt zudem auch für realistisch wirkende Bilder von Firmengebäuden oder Darstellungen von bestimmten Ereignissen.
Nicht jede grafische Arbeit mit KI ist jedoch ein Deepfake. Illustrationen, Karikaturen, Comics, Icons oder Werbegrafiken werden normalerweise nicht für authentische Aufnahmen gehalten. Auch übliche Bildkorrekturen wie das Anpassen von Schärfe, Farben, Kontrast oder Belichtung lösen regelmäßig keine sichtbare Kennzeichnungspflicht aus. Das Entfernen nebensächlicher Elemente, beispielsweise von zufällig im Hintergrund stehenden Personen, ist ebenfalls keine inhaltlich täuschende Manipulation. Passende Hinweise wie „Bild mit KI erstellt“ oder "Bild mit KI Unterstützung bearbeitet" können hierfür platziert werden.
Für Tonaufnahmen kann die Angabe „Diese Audioaufnahme wurde mithilfe künstlicher Intelligenz erstellt“ verwendet werden. Bei Videos kommen Hinweise wie „Dieses Video wurde ganz oder teilweise mit künstlicher Intelligenz erstellt“ oder „Video enthält KI-generierte Inhalte“ infrage.
Bei Bildern reicht häufig eine klar erkennbare Bildunterschrift oder ein entsprechender Hinweis in der Bildbeschreibung. Videos können mit einer kurzen Einblendung zu Beginn oder am Ende sowie mit einer Angabe in der Videobeschreibung versehen werden. Bei Audioinhalten sollte der Hinweis hörbar zu Beginn oder gut sichtbar in der begleitenden Beschreibung erscheinen. Darüber hinaus stellt die Europäische Union optionale Symbole zur Kennzeichnung KI-generierter Inhalte bereit. Die Offenlegung muss spätestens erfolgen, wenn eine Person erstmals mit dem betreffenden Deepfake konfrontiert wird.
Kommunikation mit einem KI-System transparent machen
Unternehmen müssen außerdem dafür sorgen, dass Nutzer erkennen können, wenn sie unmittelbar mit einem KI-System konfrontiert sind und nicht mit einem menschlichen Ansprechpartner kommunizieren. Dieser Hinweis ist besonders bei Anwendungen relevant, die einen wechselseitigen Austausch ermöglichen.
Typische Beispiele dafür sind KI-Chatbots, sprachgesteuerte Assistenzsysteme am Telefon oder digitale Avatare, die Kunden beraten. Der Hinweis sollte bereits zu Beginn des ersten Kontakts klar und verständlich erscheinen. Eine einmalige Information genügt üblicherweise, sofern für den Nutzer weiterhin erkennbar bleibt, dass die Kommunikation mit einer KI erfolgt.
Geeignete Formulierungen sind beispielsweise „Sie sprechen mit einem KI-gestützten Assistenten“.
Eine zusätzliche Information ist nicht notwendig, wenn für den Nutzer bereits eindeutig erkennbar ist, dass er mit einem KI-System kommuniziert. Diese Ausnahme soll nach den EU-Leitlinien allerdings zurückhaltend angewendet werden.
Auch rein interne KI-Unterstützung fällt nicht automatisch unter diese Pflicht. Nutzt ein Kundenberater während eines Gesprächs eine KI zur Recherche oder Formulierung, kommuniziert der Kunde weiterhin mit einem Menschen. Ähnlich verhält es sich, wenn Beschäftigte E-Mails mithilfe eines KI-Werkzeugs erstellen oder wenn ein KI-System im Hintergrund Preise aktualisiert, Prozesse auslöst oder zusätzliche Produktempfehlungen berechnet. Hintergrundsysteme ohne unmittelbaren Kontakt zu natürlichen Personen sind von der Interaktionspflicht grundsätzlich nicht erfasst.
Fristen und besondere Anwendungsfälle beachten
Die allgemeinen Transparenzpflichten aus Artikel 50 des AI Acts gelten ab dem 2. August 2026. Für KI-Systeme, die bereits vor diesem Datum in Verkehr gebracht wurden, besteht hinsichtlich der technischen, maschinenlesbaren Markierung ihrer erzeugten Inhalte eine begrenzte Übergangsfrist bis zum 2. Dezember 2026.
Bereits vor dem 2. August 2026 erzeugte Inhalte müssen grundsätzlich nicht nachträglich gekennzeichnet werden. Die Europäische Kommission empfiehlt dennoch freiwillige Hinweise darauf, soweit diese praktikabel sind.
Je nach eingesetztem System und Rolle des Unternehmens können weitere Anforderungen hinzukommen. Dies gilt beispielsweise für Anbieter generativer KI-Systeme, Betreiber von Hochrisiko-KI, Anwendungen zur Emotionserkennung oder biometrischen Kategorisierung sowie für besonders regulierte Branchen.
Einheitliche Kennzeichnungsregeln im Unternehmen schaffen
Unternehmen, die regelmäßig künstliche Intelligenz einsetzen, sollten nicht jeden Inhalt ohne Vorbereitung neu bewerten. Zweckmäßiger ist eine interne Transparenzstrategie mit einheitlichen Vorgaben für die verschiedenen Medienformate.
So kann festgelegt werden, dass veröffentlichte KI-Texte zu Themen von öffentlichem Interesse am Ende einen kurzen Hinweis erhalten. Realistisch wirkende KI-Bilder können mit einer Bildunterschrift versehen werden, während bei Videos und Audiodateien eine Information in der Beschreibung oder direkt zu Beginn eingebunden wird. Bei Chatbots und vergleichbaren Assistenzsystemen sollte der KI-Hinweis beim ersten Kontakt erscheinen.
Ein solches Vorgehen reduziert den Prüfungsaufwand, sorgt für konsistente Veröffentlichungsprozesse und stärkt zugleich das Vertrauen von Kunden, Geschäftspartnern und Öffentlichkeit. Entscheidend bleibt jedoch, dass die Kennzeichnung zum tatsächlichen Einsatz der künstlichen Intelligenz passt und für die betroffenen Personen klar wahrnehmbar ist.
Sie haben noch Fragen oder benötigen professionellen Support bei der Umsetzung Ihrer IT-Projekte oder Nutzung von K.I.?
Jetzt Kontakt aufnehmen!
Unsere IT-Experten helfen Ihnen weiter in allen relevanten Schritten und beraten Sie gern in Ihrer individuellen Situation.
Melden Sie sich schnell. einfach und unverbindlich telefonisch oder über unser Kontaktformular.
Unsere Servicezeiten: Mo. bis Do.: 8:00 Uhr - 17:15 Uhr, Fr. 8:00 Uhr - 14:15 Uhr.
Wir freuen uns auf Ihre Anfrage!