KI-generierte Bilder und Texte: Was ist nach der KI-Verordnung zu beachten?
Seit dem 2. August 2026 gelten neue Transparenzpflichten für Unternehmen und Behörden, die Texte oder Bilder mithilfe von Künstlicher Intelligenz generieren oder manipulieren. Die KI-Verordnung der Europäischen Union verpflichtet unter bestimmten Voraussetzungen zur Kennzeichnung KI-generierter Inhalte. Bei Verstößen drohen empfindliche Bußgelder von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes gemäß Art. 99 Abs. 4 KI-VO.
Diese neuen Regelungen werfen in der Praxis zahlreiche Fragen auf: Wann genau greifen die Kennzeichnungspflichten? Wie können diese rechtssicher umgesetzt werden? Und welche Konsequenzen ergeben sich für die tägliche Arbeit mit KI-Tools?
KI-generierte Texte: Kennzeichnungspflicht betrifft nur Ausnahmefälle
Für die meisten Unternehmen, die KI-Tools zur Texterstellung nutzen, gibt es zunächst Entwarnung. Die Kennzeichnungspflicht für KI-generierte oder manipulierte Texte greift nur unter sehr spezifischen Bedingungen, die in Art. 50 Abs. 4 KI-VO klar definiert sind.
Drei kumulative Voraussetzungen für die Transparenzpflicht
Eine Kennzeichnungspflicht besteht nur dann, wenn alle drei folgenden Voraussetzungen gleichzeitig erfüllt sind:
- Der Text soll veröffentlicht werden
- mit dem Ziel, die Öffentlichkeit zu informieren
- über Angelegenheiten von öffentlichem Interesse
Fehlt auch nur eine dieser Voraussetzungen, entfällt die Kennzeichnungspflicht. Dies bedeutet in der Praxis erhebliche Erleichterungen für die reguläre Geschäftskommunikation.
Praxisbeispiele: Wann keine Kennzeichnung erforderlich ist
Eine E-Mail im Rahmen der normalen Kundenkommunikation, die mithilfe von KI verfasst, übersetzt oder gestrafft wurde, unterliegt grundsätzlich nicht der Transparenzpflicht. Sie wird nicht mit dem Ziel veröffentlicht, die Öffentlichkeit zu informieren, sondern dient der direkten geschäftlichen Kommunikation.
Produktbeschreibungen in Online-Shops, die automatisiert von KI-Systemen erstellt werden, sind nach der KI-Verordnung ebenfalls in der Regel nicht kennzeichnungspflichtig. Der Grund: Sie behandeln keine Angelegenheit von öffentlichem Interesse, sondern informieren über kommerzielle Produkte.
Anders verhält es sich bei Beiträgen in Onlinemagazinen oder Tageszeitungen. Diese wären grundsätzlich transparenzpflichtig, sofern sie sich mit Angelegenheiten von öffentlichem Interesse befassen und zur Information der Öffentlichkeit veröffentlicht werden.
Wichtige Ausnahme: Redaktionelle Kontrolle
Selbst in den Fällen, in denen die drei Voraussetzungen für eine Kennzeichnungspflicht vorliegen würden, greift häufig eine bedeutsame Ausnahme. Die Transparenzpflicht entfällt gemäß Art. 50 KI-VO, wenn der KI-generierte oder manipulierte Text einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.
Diese Ausnahme dürfte in vielen Unternehmen und Redaktionen regelmäßig zur Anwendung kommen, da KI-generierte Inhalte üblicherweise vor Veröffentlichung menschlich geprüft und freigegeben werden.
Herausforderung: Unbestimmte Rechtsbegriffe erfordern Einzelfallbetrachtung
Trotz der grundsätzlich engen Voraussetzungen bleiben zahlreiche Abgrenzungsfragen offen. Die KI-Verordnung arbeitet mit unbestimmten Rechtsbegriffen wie „Angelegenheiten von öffentlichem Interesse“ oder „redaktionelle Kontrolle“, die im Einzelfall ausgelegt werden müssen.
Die Rechtspraxis wird in den kommenden Jahren klären müssen, wo genau die Grenzen verlaufen. Unternehmen sind daher gut beraten, ihre Prozesse zur Erstellung und Prüfung von KI-generierten Texten zu dokumentieren und transparente redaktionelle Verantwortlichkeiten festzulegen.
KI-generierte Bilder: Hier wird die Kennzeichnungspflicht praxisrelevant
Im Gegensatz zu Texten stellt die Kennzeichnungspflicht bei Bildern, Audio- und Videoinhalten eine deutlich größere praktische Herausforderung dar. Die Regelungen greifen hier wesentlich häufiger und betreffen einen größeren Anwendungsbereich.
Was sind Deepfakes im Sinne der KI-Verordnung?
Die Offenlegungspflicht knüpft an sogenannte Deepfakes an, die in Art. 3 Nr. 60 KI-VO definiert werden als durch KI erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde.
Entscheidend ist also der Grad der Täuschung. Wenn ein KI-generiertes Bild so realistisch wirkt, dass eine nicht weiter informierte Person es für ein echtes Foto halten könnte, liegt vermutlich eine Transparenzpflicht vor.
Erkennbare Phantasieinhalte bleiben ausgenommen
Reine und als solche offensichtlich erkennbare Phantasieinhalte begründen keine Kennzeichnungspflicht. Wenn für jede vernünftige Person erkennbar ist, dass es sich um künstlerisch gestaltete oder surreale Darstellungen handelt, entfällt die Transparenzpflicht.
Allerdings beschränkt sich die Kennzeichnungspflicht nicht auf Personenabbildungen. Auch realistische Darstellungen von Gegenständen, Orten, Einrichtungen oder Ereignissen können kennzeichnungspflichtig sein, wenn sie täuschend echt wirken.
Kritische Grauzone: KI-Bearbeitung echter Fotos
Besonders komplex wird die Rechtslage bei der Bearbeitung echter Fotografien mit KI-Tools. Auch manipulierte echte Bilder können als Deepfakes einzustufen sein, wenn die Veränderungen wesentlich genug sind.
Offene Fragen bei der Bildbearbeitung
Wo genau die Grenze zwischen zulässiger Bearbeitung ohne Kennzeichnungspflicht und kennzeichnungspflichtigem Deepfake verläuft, ist derzeit noch nicht abschließend geklärt. Kritische Fragen betreffen etwa:
- Weichzeichnung des Hintergrunds mit KI-Tools
- Austausch oder Entfernung des Hintergrunds
- Hochskalieren der Bildauflösung mittels KI
- Retuschieren von Objekten oder Personen
- Veränderung von Frisuren oder anderen Personenmerkmalen
- Anpassung von Lichtverhältnissen oder Farbwerten
Hilfestellung durch EU-Leitlinien
Die Bundesnetzagentur als zuständige Aufsichtsbehörde verwies bereits frühzeitig auf ausstehende Leitlinien der EU-Kommission zur Konkretisierung dieser Fragen. Mittlerweile liegt die Leitlinie der EU-Kommission zu Transparenzverpflichtungen für Anbieter und Betreiber von KI-Systemen vor.
Diese Leitlinie konkretisiert, dass die KI-gestützte Veränderung unbedeutender inhaltlicher oder technischer Aspekte bereits vorhandener Inhalte nicht zwingend zur Einstufung als Deepfake führt. Als Beispiele nennt die Leitlinie:
- Bearbeitung von Hintergrunddetails wie Entfernung von Passanten
- Anpassungen der Beleuchtung und Farbkorrekturen
- Rauschminderung oder Rauschentfernung
- Verbesserungen der Barrierefreiheit
- Dateikomprimierung sowie kosmetische Anpassungen
Einzelfallbetrachtung bleibt entscheidend
Die Leitlinie betont jedoch ausdrücklich, dass es auf den jeweiligen Kontext sowie auf den Einfluss der Manipulation auf die Wahrnehmung der Authentizität im konkreten Einzelfall ankommt. Eine pauschale Beurteilung ist nicht möglich.
Unternehmen müssen daher für jede Bildbearbeitung mit KI-Tools prüfen, ob die Veränderungen so wesentlich sind, dass sie die Wahrnehmung der Authentizität des Bildinhalts beeinflussen könnten.
Praktische Umsetzung: Symbole zur Kennzeichnung
Die EU-Kommission hat neben der Leitlinie auch einen Verhaltenskodex für die Transparenz von KI-generierten Inhalten veröffentlicht. Dieser enthält drei standardisierte Symbole zur Kennzeichnung:
- AI GENERATED: für vollständig KI-erzeugte Inhalte
- AI MODIFIED: für mit KI bearbeitete echte Inhalte
- AI: als Grundsymbol für Fälle, in denen der KI-Einsatz offengelegt, aber nicht eindeutig kategorisiert werden soll
Diese Symbole stehen in verschiedenen Varianten als schwarzer Text auf weißem Grund oder als weißer Text auf schwarzem Grund zur Verfügung. Sie können als SVG- und PNG-Dateien auf den Seiten der Europäischen Kommission heruntergeladen werden.
Unternehmen dürfen auch eigene Kennzeichnungssymbole entwickeln, müssen dann aber eigenverantwortlich sicherstellen, dass diese transparent und auffällig genug sind, um die gesetzlichen Anforderungen zu erfüllen.
Platzierung der Kennzeichnung: Sichtbarkeit ist entscheidend
Der Verhaltenskodex enthält konkrete Vorgaben zur Platzierung der Transparenzvermerke. Es reicht nicht aus, die KI-Kennzeichnung beispielsweise im Bildnachweis im Impressum zu verstecken oder in den Metadaten zu hinterlegen.
Anforderungen an die Sichtbarkeit
Die Kennzeichnung muss folgende Kriterien erfüllen:
- Am Inhalt selbst angebracht sein, etwa im Bild eingebettet
- Beim ersten Hinsehen deutlich wahrnehmbar sein
- Nicht durch andere Elemente verdeckt werden
- Ausreichend groß dimensioniert sein
- Barrierefreiheitsmaßnahmen berücksichtigen
Wer den Verhaltenskodex einhält, verfügt über gute Argumente für die ordnungsgemäße Erfüllung der Transparenzanforderungen. Unternehmen, die in der Umsetzung hinter dem Kodex zurückbleiben oder abweichende Platzierungen wählen, tragen das Risiko, im Einzelfall nachweisen zu müssen, dass ihre Lösung die gesetzlichen Anforderungen erfüllt.
Erleichterungen für künstlerische und kreative Inhalte
Die KI-Verordnung sieht in Art. 50 Erleichterungen für bestimmte Inhaltskategorien vor. Offensichtlich künstlerische, kreative, satirische oder fiktionale Werke sowie analoge Programme können von vereinfachten Anforderungen profitieren. Die genaue Ausgestaltung dieser Ausnahmen muss in der Praxis noch konkretisiert werden.
Datenschutzrechtliche Begleitaspekte nicht vergessen
Neben den spezifischen Transparenzpflichten der KI-Verordnung dürfen Unternehmen nicht die begleitenden datenschutzrechtlichen Anforderungen übersehen. Der Einsatz von KI-Tools zur Generierung oder Bearbeitung von Inhalten kann je nach Konstellation auch Fragen der DSGVO-Konformität aufwerfen.
Insbesondere wenn personenbezogene Daten in KI-Systeme eingespeist werden oder KI-generierte Inhalte Personenbezug aufweisen, greifen die Vorschriften der Datenschutz-Grundverordnung. Hier sind unter anderem Informationspflichten, Rechtsgrundlagen für die Verarbeitung und technisch-organisatorische Maßnahmen zu beachten.
Handlungsempfehlungen für Unternehmen
Angesichts der neuen Rechtslage sollten Unternehmen folgende Schritte erwägen:
Bestandsaufnahme durchführen: Erfassen Sie systematisch, in welchen Bereichen Ihres Unternehmens KI-Tools zur Erstellung oder Bearbeitung von Texten, Bildern, Audio- oder Videoinhalten eingesetzt werden.
Risikoanalyse erstellen: Bewerten Sie für jeden Anwendungsfall, ob die Voraussetzungen für eine Kennzeichnungspflicht vorliegen könnten. Dokumentieren Sie Ihre Bewertung nachvollziehbar.
Prozesse anpassen: Implementieren Sie klare Workflows, die sicherstellen, dass kennzeichnungspflichtige Inhalte vor Veröffentlichung entsprechend markiert werden. Legen Sie Verantwortlichkeiten fest.
Mitarbeiter schulen: Sensibilisieren Sie Ihre Mitarbeiter für die neuen Anforderungen. Vermitteln Sie Kenntnisse über die Abgrenzung kennzeichnungspflichtiger Inhalte und die korrekte Umsetzung der Transparenzpflichten.
Technische Lösungen prüfen: Evaluieren Sie technische Tools, die die Kennzeichnung von KI-generierten Inhalten automatisiert oder teilautomatisiert unterstützen können.
Dokumentation sicherstellen: Halten Sie Ihre Prozesse zur Prüfung und Kennzeichnung von KI-Inhalten schriftlich fest. Dies dient der Rechtssicherheit und kann im Falle einer behördlichen Prüfung Ihre Compliance nachweisen.
Rechtsentwicklung beobachten: Verfolgen Sie die weitere Konkretisierung der Anforderungen durch Behörden, Rechtsprechung und Praxisleitfäden auf europäischer und nationaler Ebene.
Fazit: Differenzierte Betrachtung erforderlich
Die neuen Transparenzpflichten der KI-Verordnung erfordern eine sorgfältige Einzelfallbetrachtung. Während bei KI-generierten Texten die Kennzeichnungspflicht nur in eng begrenzten Ausnahmefällen greift, stellt die Kennzeichnung von KI-generierten oder manipulierten Bildern, Audio- und Videoinhalten eine deutlich praxisrelevanterHerausforderung dar.
Unternehmen sollten die neuen Anforderungen ernst nehmen und ihre Prozesse entsprechend anpassen. Die drohenden Bußgelder von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes unterstreichen die Bedeutung der Compliance.
Gleichzeitig zeigt sich, dass viele Anwendungsfälle im normalen Geschäftsbetrieb nicht unter die Kennzeichnungspflichten fallen. Eine pauschale Verunsicherung ist nicht angebracht. Entscheidend ist eine fundierte rechtliche Bewertung der konkreten Einsatzszenarien in Ihrem Unternehmen.
Bei Fragen zur rechtssicheren Umsetzung der KI-Verordnung in Ihrem Unternehmen unterstützen wir Sie gerne. Als externe Datenschutzbeauftragte beraten wir Sie umfassend zu den Anforderungen der KI-VO und deren Zusammenspiel mit der DSGVO. Kontaktieren Sie uns für eine unverbindliche Erstberatung.
Hinweis: Dieser Beitrag wurde mit KI-Unterstützung erstellt.
