Ab dem 2. August 2026 müssen in der EU bestimmte KI-Inhalte gekennzeichnet werden. Doch anders als viele denken, gilt die Pflicht nicht für alle Texte, Bilder oder Videos, die mit Künstlicher Intelligenz erstellt wurden. Die Regelung im EU AI Act (Art. 50) zielt auf zwei konkrete Gefahren: Deepfakes, die echte Personen oder Ereignisse täuschend echt nachahmen, und ungeprüfte KI-Texte, die ohne menschliche Kontrolle veröffentlicht werden. Wer KI einsetzt, sollte jetzt prüfen: Wann ist eine Kennzeichnung nötig – und wann nicht?
Was die KI-Kennzeichnungspflicht regelt – und was nicht
Die KI-Kennzeichnungspflicht nach Art. 50 der EU-KI-Verordnung betrifft nicht alle KI-generierten Inhalte, sondern konzentriert sich auf zwei zentrale Bereiche:
Deepfakes – also durch KI erzeugte oder manipulierte Bild-, Audio- oder Videoinhalte, die echten Personen, Orten oder Ereignissen so ähnlich sehen oder klingen, dass sie für Betrachter*innen als echt durchgehen – müssen klar und deutlich als künstlich erzeugt oder manipuliert gekennzeichnet werden. Dies gilt sowohl für die menschliche Wahrnehmung (z. B. durch sichtbare Hinweise im Inhalt) als auch für die maschinelle Erkennbarkeit (z. B. durch Metadaten oder Wasserzeichen). Letzteres wird ab Dezember auch eine Verpflichtung für die Betreiber und KI-Anbieter.
Ein weiterer Fokus liegt auf KI-generierten Texten. Generell müssen alle KI-generierten Texte, die nicht durch eine menschliche Überprüfung oder redaktionelle Kontrolle gegangen sind, als KI-generiert gekennzeichnet werden. Eine bloße Rechtschreibprüfung reicht dabei nicht aus – es muss eine inhaltliche Prüfung mit der Möglichkeit zur Überarbeitung oder Ablehnung stattfinden, und eine verantwortliche Person muss die redaktionelle Verantwortung übernehmen.
Nicht von der Kennzeichnungspflicht betroffen sind dagegen KI-Texte, wie etwa Website-Inhalte oder Projektbeschreibungen, sofern sie inhaltlich geprüft und verantwortlich veröffentlicht wurden. Auch KI-Tools im Alltag, die nicht zur Täuschung eingesetzt werden (z. B. Übersetzungsprogramme oder Grammatikprüfungen), fallen nicht unter die Pflicht. Gleiches gilt für die rein private Nutzung von KI, etwa in persönlichen Blogs oder nicht-kommerziellen Projekten. Zusätzlich muss jede direkte Interaktion mit einer KI – etwa in Chatbots oder virtuellen Assistenten – für Nutzer*innen eindeutig als solche erkennbar sein.
Im Kern zielt die Regelung also darauf ab, bewusste Täuschung und Desinformation zu verhindern – nicht jedoch den produktiven Einsatz von KI als Werkzeug zu behindern.
Offene Fragen – Ein Blick auf die Debatte
Die Kennzeichnungspflicht schafft mehr Transparenz – doch sie hat Lücken und Grauzonen, die in der Praxis für Unsicherheit sorgen.
Ein Problem ist der begrenzte Anwendungsbereich: Warum gelten die Pflichten nur für manipulierende und irreführende Inhalte – und nicht für alle KI-generierten Texte oder Bilder? Hier entsteht ein Dilemma: Ein KI-Text, der als menschliche Leistung ausgegeben wird, muss beispielsweise nicht gekennzeichnet werden, wenn er entsprechend geprüft wurde – was ja in gewisser Form irreführend sein kann.
Ein weiteres Problem sind unklare Definitionen. Was zählt als „irreführend“? Während ein gefälschtes Zitat noch einfach zu identifizieren ist, wird es bei subtilen Verzerrungen schwierig: Wie etwa bei KI-Zusammenfassungen, die Fakten weglassen oder in eine bestimmte Richtung lenken? Hier fehlen verbindliche Kriterien für alle Beteiligten. Zudem gibt es eine grundsätzliche Debatte, ob Deepfakes nicht generell verboten gehören – auch in der privaten Nutzung. Hier sind schärfere Regelungen sinnvoll, da selbst gekennzeichnete Manipulationen Schaden anrichten können, etwa durch die Verbreitung von Falschinformationen oder die Beeinträchtigung des öffentlichen Diskurses.
Schließlich bleibt die Frage der technischen Umsetzbarkeit. Wie lässt sich nachweisen, dass ein Inhalt KI-generiert ist? Viele Tools hinterlassen keine Spuren, und selbst Metadaten oder Wasserzeichen lassen sich entfernen. Ohne zuverlässige Nachweismethoden ist die Pflicht schwer durchzusetzen.
Die KI-Kennzeichnungspflicht ist ein wichtiger Schritt – aber kein vollständiger. Sie schafft Transparenz, lässt aber viele Fragen offen. Wer KI nutzt, sollte sich mit den Regelungen vertraut machen und interne Richtlinien entwickeln, um auf der sicheren Seite zu sein.
