Und weshalb diese Transparenz auch Ihre Sicherheit als Leserin oder Leser betrifft
Künstlich erzeugte Bilder, Stimmen und Videos werden immer überzeugender. Eine Person scheint etwas gesagt zu haben. Ein Foto wirkt wie eine echte Aufnahme. Eine vertraute Stimme bittet in einer Nachricht dringend um Hilfe. Erst auf den zweiten Blick entsteht vielleicht die Frage:
Ist das wirklich so geschehen – oder wurde dieser Inhalt mit künstlicher Intelligenz erzeugt oder verändert?
Dieser Beitrag richtet sich deshalb nicht nur an Unternehmen und Selbstständige, die bestimmte KI-Inhalte seit dem 2. August 2026 offenlegen müssen. Er richtet sich ebenso an Sie als Leserin, Leser oder Abonnent meines Blogs.
Denn Kennzeichnungen sollen Menschen dabei helfen, künstlich erzeugte oder manipulierte Inhalte zu erkennen, ihr Vertrauen angemessen einzuordnen und bewusster zu entscheiden, was sie sehen, hören oder weitergeben. Die Europäische Kommission nennt dabei ausdrücklich Risiken wie Fehlinformation, Täuschung, Betrug und die Nachahmung realer Personen.
Dabei geht es nicht darum, künstliche Intelligenz grundsätzlich als Gefahr darzustellen.
KI kann beim Übersetzen, Strukturieren, Formulieren, Lernen und Entwickeln neuer Ideen hilfreich sein. Problematisch wird es dort, wo ein künstlich erzeugter Inhalt wie eine authentische Aufnahme, eine echte Stimme oder ein tatsächlich geschehenes Ereignis wirkt, ohne dass dies für die betrachtenden Menschen erkennbar ist.
Gerade im privaten Alltag kann das wichtig werden:
- bei einer überraschenden Sprachnachricht,
- bei einem Video in sozialen Netzwerken,
- bei angeblichen Aufnahmen einer bekannten Person,
- bei Bildern von Ereignissen, die möglicherweise nie stattgefunden haben,
- oder bei Texten, deren Herkunft und redaktionelle Prüfung unklar bleiben.
Die rechtlichen Pflichten richten sich vor allem an Anbieter von KI-Systemen sowie an Unternehmen, Selbstständige, Organisationen und andere professionelle Verwender. Die Schutzwirkung betrifft jedoch alle Menschen, die solchen Inhalten begegnen.
Mir geht es mit diesem Beitrag deshalb auch um die Sicherheit und Orientierung meiner Abonnentinnen und Abonnenten.
Sie sollen leichter unterscheiden können:
- Wann ist eine Kennzeichnung vorgeschrieben?
- Welche Hinweise können Ihnen im Alltag begegnen?
- Was bedeutet „vollständig KI-generiert“?
- Was wurde lediglich mit KI verändert?
- Und wann ist ein Inhalt trotz KI-Unterstützung von einem Menschen geprüft und verantwortet?
Transparenz soll Ihnen nicht vorschreiben, was Sie glauben sollen. Sie soll Ihnen die Informationen geben, die Sie für Ihre eigene Einschätzung brauchen.
Eine vertraute Szene, die nie stattgefunden hat
Ein Bild zeigt eine ältere Frau auf einer hellen Terrasse in Andalusien. Auf dem Tisch stehen zwei Kaffeetassen. Im Hintergrund bewegt sich eine Bougainvillea im warmen Wind.
Die Szene wirkt vertraut. Vielleicht sogar so vertraut, dass sie wie eine echte Fotografie erscheint.
Doch diese konkrete Szene hat nie stattgefunden. Die Frau wurde nicht fotografiert. Licht, Personen und Gegenstände wurden vollständig durch künstliche Intelligenz erzeugt.
Ob ein solches Bild gesetzlich gekennzeichnet werden muss, lässt sich nicht allein daran entscheiden, dass es fotorealistisch aussieht.
Geprüft werden muss vielmehr:
- Ähnelt es einer bestehenden oder plausibel existierenden Person, einem Gegenstand, Ort, Unternehmen oder Ereignis?
- Könnte es fälschlich wie eine authentische Aufnahme oder ein wahrheitsgetreues Geschehen wirken?
- In welchem Zusammenhang wird es veröffentlicht?
- Welche Erwartungen haben die Menschen, die das Bild sehen?
Die EU-Kommission nennt für die Beurteilung unter anderem die Ähnlichkeit, die Aussage des Inhalts, den Veröffentlichungskontext sowie die Erwartungen des jeweiligen Publikums.
Für meine eigenen Veröffentlichungen habe ich mich für eine klare und weitergehende Transparenz entschieden:
Fotorealistische KI-Szenen kennzeichne ich grundsätzlich als KI-generiert oder KI-verändert.
Damit müssen meine Leserinnen und Leser nicht selbst darüber rätseln, ob eine gezeigte Alltagsszene tatsächlich fotografiert wurde.
Was seit dem 2. August 2026 gilt
Die rechtliche Grundlage ist Artikel 50 der europäischen KI-Verordnung. Es handelt sich also nicht lediglich um eine unverbindliche Empfehlung oder eine nationale Richtlinie.
Artikel 50 gilt seit dem 2. August 2026. Er enthält unterschiedliche Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme.
Zu den erfassten Bereichen gehören:
- direkte Interaktionen mit KI-Systemen wie Chatbots, Agenten oder Avataren,
- technische Markierungen für künstlich erzeugte Inhalte,
- Emotionserkennung und biometrische Kategorisierung,
- Deepfakes,
- bestimmte KI-generierte Texte zu Angelegenheiten von öffentlichem Interesse.
Für diesen Beitrag stehen vor allem Bilder, Videos, Stimmen und veröffentlichte Texte im Mittelpunkt.
Anbieter und veröffentlichende Personen haben unterschiedliche Aufgaben
Die KI-Verordnung unterscheidet zwischen Anbietern und Betreibern eines KI-Systems.
Anbieter
Anbieter entwickeln ein KI-System oder lassen es entwickeln und bringen es unter ihrem Namen auf den europäischen Markt.
Anbieter generativer KI-Systeme müssen unter anderem dafür sorgen, dass künstlich erzeugte oder veränderte Inhalte maschinenlesbar markiert und technisch als solche erkennbar sind.
Betreiber
Betreiber sind natürliche oder juristische Personen, Unternehmen, Behörden oder Organisationen, die ein KI-System unter eigener Verantwortung nutzen.
Dazu können auch Selbstständige, Freiberuflerinnen, Agenturen, Medienschaffende und Unternehmen gehören, die KI-generierte Inhalte beruflich veröffentlichen.
Eine rein persönliche, nicht berufliche Nutzung fällt grundsätzlich nicht unter diese Betreiberpflichten. Wird eine Tätigkeit jedoch regelmäßig wirtschaftlich, geschäftlich, beruflich oder freiberuflich ausgeübt, kann sie als professionelle Nutzung gelten.
Für Betreiber wichtig:
Eine unsichtbare technische Markierung in den Bilddaten ersetzt nicht automatisch die sichtbare Information für die Menschen, die den Inhalt betrachten.
Kennzeichnungspflichtige Inhalte müssen spätestens beim ersten Kontakt klar und verständlich offengelegt werden.
Was ist ein Deepfake?
Die KI-Verordnung verwendet den Begriff nicht nur für gefälschte Videos bekannter Persönlichkeiten.
Ein Deepfake kann ein KI-generierter oder manipulierter Bild-, Audio- oder Videoinhalt sein, der bestehenden oder plausibel existierenden Personen, Gegenständen, Orten, Organisationen oder Ereignissen ähnelt und für einen Menschen fälschlicherweise authentisch oder wahrheitsgetreu erscheinen kann.
Drei Punkte müssen zusammen betrachtet werden:
- Ähnlichkeit: Der erzeugte Inhalt ähnelt dem dargestellten Gegenstand, Menschen oder Geschehen deutlich.
- Realitätsbezug: Die dargestellte Person, der Ort oder das Ereignis existiert, könnte plausibel existieren oder hätte plausibel existieren können.
- Täuschende Wirkung: Der Inhalt kann den falschen Eindruck einer authentischen Aufnahme oder wahrheitsgetreuen Darstellung vermitteln.
Deshalb ist Fotorealismus ein wichtiges Signal, aber nicht das einzige Entscheidungskriterium.
Eine künstlich erzeugte Filmszene wird vom Publikum anders eingeordnet als ein vermeintliches Pressefoto. Eine deutlich erkennbare Illustration wirkt anders als ein Bild, das eine tatsächlich durchgeführte Veranstaltung vortäuscht.
Was gilt für Bilder?
Eine sichtbare Offenlegung ist vor allem dann erforderlich, wenn durch KI ein Deepfake entsteht.
Das kann beispielsweise der Fall sein, wenn:
- eine reale Person in eine Situation versetzt wird, die nie stattgefunden hat,
- ein Unternehmen mit einem Gebäude dargestellt wird, das ihm nicht gehört,
- ein vermeintliches Foto einer Veranstaltung erzeugt wird, die nie stattgefunden hat,
- das Gesicht einer Person in einer echten Aufnahme ausgetauscht wird,
- ein Ereignis täuschend echt nachgebildet wird,
- eine bekannte oder plausibel existierende Person künstlich etwas tut, was sie nie getan hat.
Nicht jede Bearbeitung führt jedoch zu einem Deepfake.
Regelmäßig anders zu beurteilen sind:
- erkennbare Illustrationen,
- Comics und Karikaturen,
- abstrakte Grafiken,
- Icons,
- typografische Beitragsbilder,
- gewöhnliche Farb- und Helligkeitskorrekturen,
- Schärfen und Zuschneiden,
- technische Vor- und Nachbearbeitungen,
- Standardbearbeitungen, die die Bedeutung des Inhalts nicht wesentlich verändern.
Die Leitlinien der Kommission sehen ausdrücklich Ausnahmen für KI-Systeme vor, die lediglich unterstützende Funktionen bei gewöhnlichen Standardbearbeitungen übernehmen.
Was gilt für Videos und Stimmen?
Bei Videos und Audioaufnahmen gelten dieselben Grundgedanken.
Kennzeichnungspflichtig kann beispielsweise sein:
- eine künstlich erzeugte Rede einer realen Person,
- eine nachgebildete Stimme,
- ein erfundenes Interview,
- eine manipulierte Videoaufnahme,
- eine Lippenbewegung, die nachträglich an andere Worte angepasst wurde,
- ein realistischer Avatar, der wie eine konkrete reale Person wirkt,
- ein künstlich erzeugtes Ereignis, das als echte Aufnahme verbreitet wird.
Eine rein technische Verbesserung ist davon zu unterscheiden.
Wird eine echte Tonaufnahme nur entrauscht, in der Lautstärke angepasst oder verständlicher gemacht, entsteht dadurch nicht automatisch ein Deepfake. Wird dagegen die Stimme inhaltlich verändert, nachgebildet oder einer anderen Aussage zugeordnet, ist eine deutlich strengere Prüfung notwendig.
Künstlerische, kreative und fiktionale Werke
Auch künstlerische, kreative, satirische oder fiktionale Werke können Deepfake-Elemente enthalten.
In diesen Fällen entfällt die Transparenzpflicht nicht zwangsläufig. Die Offenlegung darf jedoch so gestaltet werden, dass sie die Darstellung oder den Genuss des Werks nicht unangemessen beeinträchtigt.
Ein Hinweis kann deshalb beispielsweise im Vor- oder Abspann, in der Beschreibung, auf einer Begleitseite oder an einer anderen geeigneten Stelle erscheinen.
Was gilt für Texte?
Für Texte gelten andere Regeln als für Bilder, Videos und Stimmen.
Nicht jeder Text muss gekennzeichnet werden, nur weil künstliche Intelligenz bei einer Gliederung, Formulierung oder Überarbeitung geholfen hat.
Die besondere Offenlegungspflicht betrifft Texte, die:
- veröffentlicht werden,
- die Öffentlichkeit informieren sollen und
- Angelegenheiten von öffentlichem Interesse behandeln.
Dazu können unter anderem gehören:
- Politik und demokratische Prozesse,
- öffentliche Verwaltung,
- Recht und Strafverfolgung,
- Grundrechte,
- öffentliche Sicherheit,
- öffentliche Gesundheit,
- Umweltschutz,
- Verbrauchersicherheit,
- wirtschaftliche, finanzielle, wissenschaftliche oder kulturelle Entwicklungen, die Gegenstand einer öffentlichen Debatte sein können.
Ein rechtlicher Informationsartikel wie dieser gehört grundsätzlich in einen solchen öffentlich relevanten Themenbereich.
Wann ein KI-unterstützter Text nicht gekennzeichnet werden muss
Die besondere Offenlegungspflicht gilt nicht, wenn der Text:
- einer tatsächlichen menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und
- eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung übernimmt.
Eine bloße Rechtschreib- oder Grammatikprüfung genügt dafür nicht.
Eine tatsächliche redaktionelle Kontrolle bedeutet beispielsweise:
- Aussagen und Fakten werden inhaltlich geprüft,
- Quellen werden bewertet,
- Formulierungen werden verändert oder verworfen,
- Schlussfolgerungen werden hinterfragt,
- die veröffentlichende Person besitzt die Befugnis, den Text anzunehmen, zu ändern oder abzulehnen,
- und sie übernimmt die Verantwortung für die Endfassung.
Die Kommission stellt ausdrücklich klar, dass oberflächliche oder rein formale Kontrollen nicht als ausreichende menschliche Überprüfung gelten.
Wie kann die Kennzeichnung aussehen?
Die Offenlegung muss klar, wahrnehmbar, verständlich und unterscheidbar sein.
Menschen sollen nicht erst technische Werkzeuge verwenden, Metadaten öffnen oder versteckte Informationen suchen müssen.
Geeignete Formulierungen können sein:
Vollständig KI-generiertes Bild
Bild mit KI verändert
Dieses Video enthält KI-generierte Bild- oder Tonbestandteile.
Diese Stimme wurde künstlich erzeugt.
Dieser Text wurde ganz oder teilweise mit künstlicher Intelligenz erstellt.
Die genaue Form hängt vom Inhalt und vom Medium ab.
Bei einem Bild kann ein sichtbarer Hinweis im Bild oder unmittelbar darunter stehen.
Bei einem Video kann die Information zu Beginn eingeblendet und zusätzlich in der Beschreibung genannt werden.
Bei einer künstlich erzeugten Stimme kann neben dem sichtbaren Hinweis auch eine hörbare Information sinnvoll sein.
Die kostenlosen EU-Symbole
Die Europäische Kommission stellt kostenlos nutzbare Symbole zur Verfügung.
Sie unterscheiden unter anderem zwischen:
- allgemeiner KI-Beteiligung,
- vollständig KI-generierten Inhalten,
- teilweise mit KI veränderten Inhalten.
Die Symbole stehen in verschiedenen Schwarz-Weiß- und Transparenzvarianten sowie als PNG- und SVG-Dateien zur Verfügung.
Ihre Verwendung ist freiwillig. Eine gesetzlich notwendige Offenlegung ist es in den betroffenen Fällen nicht.
Die EU-Nutzertests zeigten, dass die Symbole verständlicher wurden, wenn sie mit einer kurzen Textangabe wie „verändert“ oder „vollständig KI-generiert“ verbunden waren. Die Kommission empfiehlt außerdem, Hinweise so einzubetten, dass sie beim Teilen oder Herunterladen sichtbar bleiben.
Ein Symbol allein garantiert noch keine rechtlich korrekte Kennzeichnung. Inhalt, Platzierung, Verständlichkeit und Veröffentlichungszusammenhang müssen weiterhin geprüft werden.
Zwölf typische Praxisbeispiele
1. Eine vollständig künstlich erzeugte Frau auf einer Terrasse
Das Bild zeigt eine plausible Alltagsszene und wirkt wie eine echte Fotografie. Die dargestellte Person existiert nicht.
Bewertung: Die rechtliche Einordnung hängt vom Kontext, der möglichen Täuschungswirkung und den Erwartungen des Publikums ab. Eine freiwillige Kennzeichnung schafft Klarheit.
Empfohlener Hinweis:
Vollständig KI-generiertes Bild
2. Eine reale Person wird in eine erfundene Situation versetzt
Das echte Porträt einer Unternehmerin wird so verändert, dass es aussieht, als habe sie vor einem großen Publikum gesprochen.
Die Veranstaltung fand nie statt.
Bewertung: Kennzeichnungspflichtiger Deepfake liegt nahe.
Empfohlener Hinweis:
Bild mit KI verändert
3. Eine künstliche Rede eines Politikers
Ein Video zeigt einen realen Politiker, der Worte spricht, die er nie gesagt hat.
Bewertung: Deepfake. Sichtbare und gegebenenfalls hörbare Kennzeichnung erforderlich.
4. Eine nachgebildete Stimme bittet um Geld
Eine künstlich erzeugte Stimme klingt wie ein Familienmitglied und bittet in einer Nachricht dringend um eine Überweisung.
Bewertung: Deepfake und erhebliche Täuschungsgefahr.
Für Empfänger gilt: nicht allein auf die Stimme vertrauen, sondern über einen bekannten, selbst gewählten Kontaktweg nachfragen.
5. Eine Veranstaltung wird größer dargestellt, als sie war
Ein KI-Bild zeigt einen voll besetzten Seminarraum, obwohl die Veranstaltung nicht oder nur mit wenigen Personen stattgefunden hat.
Bewertung: Die Darstellung kann ein reales geschäftliches Ereignis vortäuschen. Kennzeichnung erforderlich; zusätzlich können andere rechtliche Fragen zur irreführenden Werbung entstehen.
6. Das Gesicht in einem echten Foto wird ausgetauscht
Eine authentische Aufnahme bleibt erhalten, aber eine Person wird durch eine andere ersetzt.
Bewertung: Teilweise KI-veränderter Deepfake.
Empfohlener Hinweis:
Bild teilweise mit KI verändert
7. Eine abstrakte Grafik wird mit KI erstellt
Farben, Linien und Formen zeigen keinen realen Menschen, Ort oder Vorgang.
Bewertung: Regelmäßig keine sichtbare Deepfake-Kennzeichnung nach Artikel 50 Absatz 4 erforderlich.
Eine freiwillige Angabe bleibt möglich.
8. Ein echtes Foto wird heller und schärfer gemacht
Belichtung, Kontrast und Schärfe werden angepasst. Die Aussage des Bildes bleibt unverändert.
Bewertung: Gewöhnliche Standardbearbeitung. Regelmäßig keine sichtbare Deepfake-Kennzeichnung erforderlich.
9. Ein leerer Raum wird mit KI möbliert
Ein authentisches Foto einer leeren Wohnung wird künstlich eingerichtet.
Bewertung: Die EU-Kommission führt dies als Beispiel für einen teilweise KI-veränderten Inhalt an. Wird der Eindruck erweckt, die Wohnung sei tatsächlich so eingerichtet, sollte die Veränderung offengelegt werden.
Empfohlener Hinweis:
Einrichtung mit KI visualisiert
10. Ein Rechtsartikel wird nahezu ungeprüft veröffentlicht
Ein KI-System schreibt einen vollständigen Artikel über neue gesetzliche Pflichten. Die veröffentlichende Person prüft lediglich Rechtschreibung und Grammatik.
Bewertung: Bei einem öffentlich relevanten Thema reicht diese formale Kontrolle nicht aus. Eine Offenlegung ist erforderlich.
11. Ein Fachartikel wird gründlich geprüft und verantwortet
Ein KI-System hilft bei Gliederung und Formulierungen. Anschließend werden Rechtsgrundlagen, Quellen, Aussagen und Schlussfolgerungen inhaltlich geprüft, verändert und freigegeben. Eine Person übernimmt die redaktionelle Verantwortung.
Bewertung: Die besondere Kennzeichnungspflicht für den Text greift grundsätzlich nicht.
Ein freiwilliger redaktioneller Hinweis kann dennoch Transparenz schaffen.
12. Ein Chatbot berät Besucher einer Website
Ein automatisierter Assistent beantwortet Fragen und führt einen echten Dialog mit den Besucherinnen und Besuchern.
Bewertung: Menschen müssen grundsätzlich von Beginn der ersten Interaktion an darüber informiert werden, dass sie mit einem KI-System kommunizieren, sofern dies nicht ohnehin offensichtlich ist.
Geeigneter Hinweis:
Sie kommunizieren mit einem KI-gestützten Assistenten.
Kompakte Prüfliste vor einer Veröffentlichung
Bilder, Videos und Audio
- Wurde der Inhalt vollständig oder teilweise mit KI erzeugt?
- Zeigt er eine bestehende oder plausibel existierende Person, einen Ort, Gegenstand, Betrieb oder ein Ereignis?
- Könnte er wie eine authentische Aufnahme oder ein tatsächlich geschehenes Ereignis wirken?
- Wurde eine reale Person in eine Situation versetzt, die nie stattgefunden hat?
- Wurde eine Stimme, ein Gesicht oder eine Bewegung künstlich nachgebildet?
- Handelt es sich nur um eine gewöhnliche technische Optimierung?
- Ist der Inhalt eindeutig künstlerisch, satirisch oder fiktional?
- Welche Erwartungen hat das Publikum in diesem Veröffentlichungskontext?
- Ist die Kennzeichnung bereits beim ersten Kontakt klar erkennbar?
- Bleibt sie beim Teilen oder Herunterladen sichtbar?
Texte
- Wurde der Text ganz oder teilweise mit KI erstellt oder wesentlich verändert?
- Soll er die Öffentlichkeit informieren?
- Behandelt er eine Angelegenheit von öffentlichem Interesse?
- Wurden die Aussagen inhaltlich geprüft?
- Wurden verlässliche Quellen herangezogen?
- Wurden Schlussfolgerungen und Formulierungen bewusst kontrolliert?
- Konnte eine verantwortliche Person Passagen verändern oder ablehnen?
- Übernimmt eine natürliche oder juristische Person die redaktionelle Verantwortung?
- War die Kontrolle mehr als eine Rechtschreib- und Grammatikprüfung?
- Ist ein freiwilliger Transparenzhinweis trotz fehlender Pflicht sinnvoll?
Meine eigene Veröffentlichungsregel
Für meine Veröffentlichungen gilt künftig:
Fotorealistische, mit KI erzeugte Szenen werden als solche gekennzeichnet.
Erkennbare Illustrationen, abstrakte Grafiken und rein technische Optimierungen werden davon unterschieden.
Texte werden nicht ungeprüft übernommen. Ich lese, prüfe und überarbeite sie und übernehme die redaktionelle Verantwortung.
Bei rechtlichen, gesellschaftlichen oder anderen öffentlich relevanten Fachthemen mache ich die KI-Unterstützung zusätzlich transparent.
Denn die entscheidende Frage lautet nicht nur:
Was kann künstliche Intelligenz erzeugen?
Sondern ebenso:
Was müssen Menschen wissen, damit sie selbst beurteilen können, was sie gerade sehen, hören oder lesen?
Transparenz ist damit mehr als die Erfüllung einer gesetzlichen Pflicht.
Sie schützt nicht vor jeder Täuschung. Sie ersetzt auch nicht die eigene Prüfung.
Aber sie schafft eine wichtige Grundlage dafür, dass Menschen ihre Wahrnehmung, ihr Vertrauen und ihre Entscheidungen bewusster einordnen können.
Die Technik darf Möglichkeiten eröffnen. Die Entscheidung darüber, was glaubwürdig und tragfähig ist, muss beim Menschen bleiben.
Dieser Beitrag bietet eine allgemeine Orientierung und ersetzt keine rechtliche Prüfung des konkreten Einzelfalls.
Redaktioneller Hinweis: Dieser Beitrag wurde mit Unterstützung künstlicher Intelligenz vorbereitet. Die verwendeten Rechtsgrundlagen, Quellen, Aussagen und Schlussfolgerungen wurden anhand der Veröffentlichungen der Europäischen Kommission inhaltlich geprüft, überarbeitet und redaktionell verantwortet.
In Verbundenheit
Ihre
Ramona Kramp
