KI-Kennzeichnungspflicht: Praxisleitfaden für Unternehmen

Muss jetzt jeder Website-Text, jedes KI-Bild und jede E-Mail einen KI-Hinweis tragen?
Nein. Art. 50 der EU-KI-Verordnung enthält keine allgemeine Kennzeichnungspflicht für alles, woran KI beteiligt war.
Für Unternehmen kommt es auf den konkreten Inhalt, seine Wirkung, den Veröffentlichungskontext und die eigene Rolle an. Bestimmte Deepfakes, bestimmte Texte zu Angelegenheiten von öffentlichem Interesse und direkte Interaktionen mit KI-Systemen sind relevant. Normale Rechtschreibkorrekturen, interne E-Mails, viele Produkttexte und offensichtlich stilisierte Grafiken lösen unter den nachfolgend beschriebenen Voraussetzungen regelmäßig keine besondere Kennzeichnung nach Art. 50 aus.
Seit dem 2. August 2026 gelten die Transparenzpflichten. Das lässt sich ohne neues Compliance-Großprojekt umsetzen. Entscheidend ist, die wenigen relevanten Fallgruppen zu erkennen und dort wirklich hinzusehen.
Rechts- und Quellenstand: 20. August 2026
Wichtig zur Einordnung: Die folgenden Aussagen betreffen ausschließlich die Transparenzpflichten nach Art. 50 der EU-KI-Verordnung und die jeweils beschriebenen typischen Sachverhalte. „Regelmäßig keine besondere Kennzeichnung“ ist keine allgemeine rechtliche Freigabe. Je nach Inhalt und Einsatz können insbesondere Strafrecht, Wettbewerbsrecht, Datenschutz, Persönlichkeits- und Urheberrechte, Berufsrecht, vertragliche Vorgaben, Plattformregeln oder andere Informationspflichten zusätzlich relevant sein.
Für die meisten Unternehmen zuerst relevant:
Muss jetzt jeder KI-Inhalt gekennzeichnet werden?
Nein. Art. 50 unterscheidet mehrere Pflichten mit unterschiedlichen Adressaten:
- Professionelle Nutzer, die ein KI-System unter ihrer Autorität einsetzen, müssen bestimmte Deepfakes und bestimmte Texte zu Angelegenheiten von öffentlichem Interesse offenlegen.
- Anbieter direkt interagierender KI-Systeme müssen dafür sorgen, dass Menschen erkennen, wenn sie mit KI interagieren. Das betrifft zum Beispiel Chatbots und KI-Avatare.
- Anbieter generativer KI-Systeme müssen synthetische Ausgaben technisch maschinenlesbar markieren und erkennbar machen. Das ist vor allem eine Pflicht der Systemanbieter.
- Betreiber von Emotionserkennungs- oder biometrischen Kategorisierungssystemen müssen exponierte Personen informieren.
Für den Unternehmensalltag ist damit nicht die Frage „War KI beteiligt?“ entscheidend. Die bessere Frage lautet: Welcher Tatbestand des Art. 50 soll in diesem konkreten Fall erfüllt sein?
Quick-Check zur KI-Kennzeichnung
Regelmäßig kennzeichnen
- Ein KI-generierter oder wesentlich manipulierter Text informiert die Öffentlichkeit über eine Angelegenheit von öffentlichem Interesse und wurde nicht inhaltlich durch einen Menschen geprüft oder redaktionell kontrolliert.
- Ein Chatbot oder KI-Agent interagiert direkt mit Menschen und die KI-Natur ist nicht praktisch zweifelsfrei erkennbar. Hier trifft die Gestaltungspflicht grundsätzlich den Anbieter des Systems.
- Ein realistisches Face-Swap-Video lässt eine reale Person etwas tun oder sagen, was tatsächlich nicht geschehen ist.
- Eine geklonte Stimme erweckt den Eindruck, eine reale Person habe die Aufnahme gesprochen.
- Ein realistischer KI-Avatar wird wie eine echte Person oder ein echter Unternehmensvertreter präsentiert.
- Ein Unternehmen setzt Emotionserkennung oder biometrische Kategorisierung ein. Die betroffenen Personen müssen über den Betrieb informiert werden; andere rechtliche Grenzen bleiben zusätzlich bestehen.
Nach Art. 50 regelmäßig keine besondere Kennzeichnung, sofern die Voraussetzungen vorliegen
- KI korrigiert Rechtschreibung oder Grammatik.
- KI hilft bei einer individuell adressierten Kunden-E-Mail oder internen E-Mail.
- Ein normaler Unternehmenstext oder eine Produktbeschreibung betrifft keine Angelegenheit von öffentlichem Interesse.
- Ein Bild wird zugeschnitten, farbkorrigiert oder vom Hintergrund freigestellt.
- Ein störender Passant wird aus einem Werbefoto entfernt, ohne die inhaltliche Aussage zu verändern.
- Eine Grafik ist erkennbar illustriert, stilisiert, comicartig oder offensichtlich fantastisch und kann nicht als authentische Aufnahme missverstanden werden.
- Ein reales Produkt steht vor einem künstlichen Hintergrund, ohne dass Aussehen, Eigenschaften oder Nutzung des Produkts irreführend verändert werden.
Einzelfall prüfen
- öffentliche LinkedIn-Posts, Newsletter, Whitepaper oder Pressemitteilungen
- Vollständig KI-generierte fotorealistische Personen, Räume, Produkte oder Ereignisse
- realistische Produktvisualisierungen in erfundenen Nutzungssituationen
- generativ erweiterte Fotos, wenn der neue Bildbereich die Aussage verändert
- Übersetzungen von Texten zu Angelegenheiten von öffentlichem Interesse
- KI-Avatare und Influencer
- generisch synthetische Stimmen, die wie eine echte Aufnahme wirken
- einzelne KI-Sequenzen, Thumbnails oder Standbilder aus Videos
Bei diesen Fällen entscheiden insbesondere Realitätsnähe, Aussage, Publikumserwartung, Veröffentlichungskontext und die tatsächlich durchgeführte redaktionelle Prüfung.
Praxistabelle: typische Fälle im Unternehmen
Die folgende Tabelle bietet eine erste Orientierung ausschließlich zu Art. 50. Die für typische B2B-Unternehmen häufigsten Fälle stehen zuerst; Spezialfälle zu Stimme und Musik folgen am Ende. Jede Einordnung setzt voraus, dass der tatsächliche Sachverhalt dem beschriebenen Normalfall entspricht. Sie ist keine Aussage zur allgemeinen Zulässigkeit und ersetzt keine Einzelfallprüfung. Wirkung, Kontext, Herstellungsprozess, Publikum, Rollenverteilung und weitere anwendbare Vorschriften können zu einem anderen Ergebnis führen.
| Anwendungsfall | Einordnung und praktische Empfehlung |
|---|---|
| Texte und Kommunikation | |
| KI erstellt einen normalen Website-Text |
Art. 50: im Normalfall keine besondere Offenlegung Warum: Öffentlich zugänglich ist nicht automatisch öffentliches Interesse. Praxis: Inhalt und Thema kurz einordnen. |
| KI hilft beim Schreiben einer Kunden-E-Mail |
Art. 50: im Normalfall keine besondere Offenlegung Warum: Individuelle berufliche Korrespondenz ist regelmäßig nicht veröffentlicht. Praxis: Inhalt prüfen. Datenschutz, Vertraulichkeit, Täuschungsverbote und vertragliche Vorgaben separat beachten. |
| KI erstellt eine Produktbeschreibung |
Art. 50: im Normalfall keine besondere Offenlegung Warum: Normale Werbung und Produktbeschreibung betreffen regelmäßig kein öffentliches Interesse. Praxis: Sicherheits-, Gesundheits-, Nachhaltigkeits- und sonstige überprüfbare Werbeaussagen gesondert prüfen. |
| KI erstellt einen Blogartikel |
Einzelfall Warum: Thema, Veröffentlichung und menschliche Prüfung entscheiden. Praxis: Bei Recht, Gesundheit, Sicherheit oder Regulierung echte Fachprüfung. |
| KI erstellt einen Artikel zu einem gesellschaftlich relevanten Thema |
Art. 50: Offenlegung, wenn die Prüfungs-Ausnahme nicht greift Warum: Veröffentlichter Informationstext zu einer Angelegenheit von öffentlichem Interesse. Praxis: Klar kennzeichnen oder tatsächlich fachlich prüfen und redaktionelle Verantwortung übernehmen. |
| KI erstellt einen LinkedIn-Post |
Einzelfall Warum: Öffentlicher Post kann veröffentlicht sein; öffentliches Interesse und Prüfung entscheiden. Praxis: Text und beigefügte Medien getrennt prüfen. |
| KI erstellt eine individuelle LinkedIn-Nachricht |
Art. 50: bei manuellem Einzelversand im Normalfall keine Textoffenlegung Warum: Persönliche Korrespondenz, keine Veröffentlichung an die Öffentlichkeit. Praxis: Vollautomatisierten Versand, menschlich wirkende Bot-Konten und eine direkte KI-Interaktion gesondert prüfen. Weitere Kennzeichnungspflichten, etwa nach § 18 Abs. 3 MStV, können hinzukommen. |
| KI erstellt einen Newsletter |
Einzelfall Warum: Breiter Abonnentenkreis kann als Öffentlichkeit gelten; Inhalt muss zusätzlich öffentliches Interesse betreffen. Praxis: Empfängerkreis, Thema und Prüfung dokumentationsarm einordnen. |
| KI korrigiert Rechtschreibung |
Art. 50: im Normalfall keine besondere Offenlegung Warum: Rein formale Standardbearbeitung, keine relevante Veröffentlichungspflicht. Praxis: Kein besonderer KI-Hinweis allein nach Art. 50 nötig, sofern Inhalt und Aussage nicht wesentlich verändert werden. |
| KI übersetzt einen Text |
Einzelfall Warum: Eine nicht veröffentlichte Übersetzung ist von der Textregel regelmäßig nicht erfasst. Ein veröffentlichter Text zu einer Angelegenheit von öffentlichem Interesse kann dagegen erfasst sein. Praxis: Bei relevantem öffentlichen Text fach- und sprachkundige Endprüfung oder Kennzeichnung. |
| Bilder, Video und Avatare | |
| KI erstellt eine Illustration oder Comicgrafik |
Art. 50: im Normalfall keine besondere Offenlegung Warum: Offensichtlich stilisiert und regelmäßig nicht fälschlich authentisch. Praxis: Freiwilliger Hinweis möglich, nicht pauschal nötig. |
| KI erstellt ein fotorealistisches Bild |
Einzelfall Warum: Fotorealismus allein reicht nicht; drei Deepfake-Kriterien müssen zusammenkommen. Praxis: Motiv, Aussage, Kontext und Publikumserwartung prüfen. |
| KI verändert einen realen Hintergrund |
Einzelfall Warum: Rein ästhetisch regelmäßig geringfügig; bedeutungsverändernd kann Deepfake vorliegen. Praxis: Bei Presse, Nachweis und Produktleistung besonders sorgfältig prüfen. |
| KI entfernt ein Objekt aus einem Foto |
Art. 50: keine besondere Offenlegung, wenn Aussage und Wahrnehmung nicht wesentlich verändert werden Warum: Geringfügige Bearbeitung, wenn Aussage und Wahrnehmung nicht wesentlich verändert werden. Praxis: Original bei sensiblen Nachweisbildern aufbewahren, freiwillig. |
| KI erweitert ein reales Foto generativ |
Einzelfall Warum: Ästhetische Erweiterung regelmäßig unkritisch; neue Tatsachenaussage kann relevant sein. Praxis: Prüfen, ob der neue Bereich als echte Szene verstanden wird. |
| KI zeigt ein reales Produkt in erfundener realistischer Umgebung |
Art. 50: keine besondere Offenlegung, wenn die Voraussetzungen vorliegen Warum: Kein Deepfake, wenn das Produkt und seine Eigenschaften oder Nutzung nicht irreführend dargestellt werden. Praxis: Keine Scheinleistung oder falsche Nutzungssituation erzeugen. |
| KI erzeugt einen Avatar |
Einzelfall Warum: Ein offensichtlich stilisierter Avatar fällt regelmäßig nicht unter den Deepfake-Begriff. Ein realistischer plausibler Mensch kann dagegen als Deepfake einzuordnen sein. Praxis: Rolle klar als virtuell oder KI-basiert kenntlich machen, wenn Echtheitsgefahr besteht. |
| KI erzeugt Face Swap oder Lippenanpassung |
Art. 50: Offenlegung häufig erforderlich, wenn die Deepfake-Merkmale erfüllt sind Warum: Ein Deepfake liegt nahe, wenn eine reale oder plausibel reale Person in einer authentisch wirkenden falschen Handlung oder Äußerung erscheint. Praxis: Alle drei Deepfake-Merkmale prüfen. Falls sie erfüllt sind, den Hinweis am Inhalt und nicht nur in Metadaten anbringen. |
| KI erzeugt ein Thumbnail oder Still |
Einzelfall Warum: Das Einzelbild kann selbst Deepfake und erste Exposition sein. Praxis: Hinweis bereits am Thumbnail, wenn die Deepfake-Kriterien erfüllt sind. |
| Direkte KI-Interaktion | |
| Website enthält einen Chatbot |
Rollenabhängig: Anbieterpflicht, sofern die KI-Interaktion nicht offensichtlich ist Warum: Anbieterpflicht bei direkter KI-Interaktion; Hinweis ab erster Interaktion. Praxis: Kurzen sichtbaren KI-Hinweis in der Oberfläche prüfen. |
| Audio, Stimme und Musik | |
| KI klont die Stimme einer realen Person |
Art. 50: Offenlegung häufig erforderlich, wenn die Deepfake-Merkmale erfüllt sind Warum: Ein Deepfake liegt nahe, wenn die Aufnahme den falschen Eindruck erweckt, eine reale Person habe die Äußerung tatsächlich gesprochen. Praxis: Alle drei Deepfake-Merkmale prüfen. Falls sie erfüllt sind, spätestens bei der ersten Exposition sichtbar oder hörbar kennzeichnen. |
| KI erzeugt ein generisches synthetisches Voiceover |
Art. 50: keine besondere Offenlegung, wenn keine Sprecheridentität oder authentische Aufnahme vorgetäuscht wird Warum: Kein Deepfake, wenn keine echte Sprecheridentität oder authentische Aufnahme vorgetäuscht wird. Praxis: Bei realistischer Sprecherpersona Einzelfall prüfen. |
| KI erzeugt Musik |
Einzelfall Warum: Reine Synthese nicht automatisch Deepfake; Imitation realer Künstler oder angeblich echte Performance kann erfasst sein. Praxis: Künstlerische Offenlegung angemessen gestalten; Rechte separat prüfen. |
| KI bearbeitet eine echte Stimme nur technisch |
Art. 50: im Normalfall keine besondere Offenlegung Warum: Lautstärke, Rauschreduktion und Kompression verändern Aussage und Identität regelmäßig nicht. Praxis: Keine besondere Kennzeichnung nach Art. 50. |
KI-Texte auf Website und Blog: Wann ist eine Kennzeichnung relevant?
Bei Texten gelten andere Kriterien als bei Bildern, Audio oder Video. Ein Text muss nach Art. 50 Abs. 4 nur dann offengelegt werden, wenn alle drei Fragen mit Ja beantwortet werden:
- Ist der Text veröffentlicht? Er muss einem unbestimmten, hinreichend großen Kreis nicht miteinander verbundener Leser zugänglich sein. Auch ein kostenpflichtiger oder abonnierter Zugang kann genügen. Private Korrespondenz, kleine geschlossene Gruppen und interne Unternehmensnetze gelten nach den Leitlinien regelmäßig nicht als Veröffentlichung.
- Soll der Text die Öffentlichkeit informieren? Der Text muss Wissen, Meinungen oder Tatsachen vermitteln. Ein sehr kurzer Slogan ohne nennenswerten Informationsgehalt reicht regelmäßig nicht.
- Geht es um eine Angelegenheit von öffentlichem Interesse? Das Thema muss für die Gesellschaft auf lokaler, nationaler, europäischer oder internationaler Ebene relevant sein und öffentliche Debatte oder Kontrolle verdienen.
Erst wenn alle drei Merkmale vorliegen, stellt sich die nächste Frage: Wurde der Text tatsächlich menschlich geprüft oder redaktionell kontrolliert, und übernimmt eine natürliche oder juristische Person die redaktionelle Verantwortung? Wenn beide Voraussetzungen der Ausnahme erfüllt sind, ist nach Art. 50 keine KI-Kennzeichnung des Textes erforderlich.
Öffentlich zugänglich ist nicht automatisch öffentliches Interesse
Ein Unternehmensblog ist öffentlich zugänglich. Daraus folgt aber nicht, dass jeder Beitrag eine Angelegenheit von öffentlichem Interesse behandelt.
Regelmäßig relevant sein können:
- Politik und demokratische Prozesse
- öffentliche Verwaltung und öffentliche Leistungen
- Justiz und Strafverfolgung
- Grundrechte und öffentliche Sicherheit
- öffentliche Gesundheit
- Umwelt- und Klimaschutz
- Verbrauchersicherheit
- wirtschaftliche, finanzielle, wissenschaftliche oder kulturelle Entwicklungen, soweit sie Gegenstand öffentlicher Debatte sein können
Regelmäßig nicht erfasst sind nach den Leitlinien normale Werbung und Produktbeschreibungen, solange sie keine relevanten Aussagen etwa zu Gesundheit, Verbrauchersicherheit oder Nachhaltigkeit enthalten. Ein öffentlich erreichbarer Text kann deshalb außerhalb der Textregel liegen.
Website-Texte und SEO-Texte
Ein normaler „Über uns“-Text, eine Leistungsbeschreibung oder eine Landingpage zu einem gewöhnlichen Angebot betrifft regelmäßig keine Angelegenheit von öffentlichem Interesse. Eine pauschale KI-Kennzeichnung ist nach Art. 50 nicht erforderlich.
Anders kann es sein, wenn die Seite über Gesundheitsrisiken, regulatorische Entwicklungen, Umweltwirkungen oder Verbrauchersicherheit informiert. Dann sind Thema und redaktioneller Prozess zu prüfen.
Die Bezeichnung „SEO-Text“ ändert die Rechtslage nicht. Entscheidend sind Inhalt, Zweck, Publikum und Prüfung, nicht der Marketingkanal.
Blogbeiträge und Fachartikel
Ein Blogbeitrag zu einer internen Softwarefunktion kann außerhalb des öffentlichen Interesses liegen. Ein Fachartikel zur EU-KI-Verordnung, zu Datenschutzrecht, öffentlicher Gesundheit oder Verbrauchersicherheit kann dagegen eine Angelegenheit von öffentlichem Interesse behandeln.
Wurde ein solcher Text mit KI erzeugt oder inhaltlich manipuliert, bestehen zwei praktikable Wege:
- Der Text wird klar als KI-generiert oder KI-manipuliert offengelegt.
- Der Text wird tatsächlich menschlich geprüft oder redaktionell kontrolliert, und eine natürliche oder juristische Person übernimmt die redaktionelle Verantwortung.
Eine freiwillige Transparenzangabe bleibt auch nach einer ausreichenden Prüfung möglich. Art. 50 verlangt sie dann aber nicht.
Produktbeschreibungen
Eine normale Produktbeschreibung ist nach den Kommissionsbeispielen regelmäßig kein Text zu einer Angelegenheit von öffentlichem Interesse. Sie muss deshalb nicht allein wegen KI-Unterstützung gekennzeichnet werden.
Bei Angaben zu Gesundheit, Sicherheit, Nachhaltigkeit oder erheblichen Verbraucherwirkungen kann die Einordnung anders ausfallen. Unabhängig von Art. 50 müssen Produktangaben zutreffend sein.
Pressemitteilungen
Eine Pressemitteilung ist typischerweise veröffentlicht und soll informieren. Ob sie eine Angelegenheit von öffentlichem Interesse betrifft, hängt vom Inhalt ab. Eine routinemäßige Produktvorstellung kann außerhalb liegen. Eine Mitteilung zu einem Sicherheitsvorfall, einer Gesundheitsgefahr, einer wesentlichen regulatorischen Änderung oder kapitalmarktrelevanten Information kann erfasst sein.
Übersetzungen
KI-gestützte Übersetzungen sind nicht pauschal kennzeichnungspflichtig. Bei einer individuellen Kundenkommunikation fehlt regelmäßig die Veröffentlichung. Wird ein Text zu einer Angelegenheit von öffentlichem Interesse veröffentlicht, ist die Übersetzung jedoch ein eigener KI-bearbeiteter Text. Sie kann von der Ausnahme profitieren, wenn eine Person mit ausreichender Sprach- und Sachkenntnis die Übersetzung inhaltlich prüft und die redaktionelle Verantwortung übernommen wird.
Grammatik, Stilkorrektur und Zusammenfassungen
Reine Rechtschreib- oder Grammatikunterstützung ist regelmäßig keine relevante inhaltliche Textmanipulation. Eine Stilkorrektur kann ebenfalls geringfügig sein, solange Aussage, Bedeutung und Absicht nicht wesentlich verändert werden.
Bei KI-Zusammenfassungen entsteht regelmäßig neuer Text. Ob ein Hinweis erforderlich ist, hängt deshalb von Veröffentlichung, Informationszweck, öffentlichem Interesse und menschlicher Kontrolle ab. Eine private Zusammenfassung nur für den anfragenden Nutzer fällt nach den Kommissionsbeispielen regelmäßig nicht unter die Textregel.
Whitepaper und Berichte
Ein öffentliches Whitepaper kann veröffentlicht sein und die Öffentlichkeit informieren. Ob öffentliches Interesse vorliegt, hängt vom Thema ab. Ein Leitfaden zu Regulierung, Gesundheit oder Sicherheit kann erfasst sein. Eine rein vertriebliche Produktbroschüre regelmäßig nicht.
Für veröffentlichte Unternehmensberichte mit gesellschaftlich oder kapitalmarktrechtlich relevanten Angaben ist eine echte fachliche Prüfung ohnehin sinnvoll. Die Leitlinien nennen Berichte börsennotierter Unternehmen als mögliches Beispiel für einen Text im öffentlichen Interesse.
Was bedeutet eine echte menschliche redaktionelle Prüfung?
Bei KI-generierten oder KI-manipulierten Texten zu Angelegenheiten von öffentlichem Interesse kann eine tatsächliche menschliche Überprüfung oder redaktionelle Kontrolle rechtlich entscheidend sein. Hinzukommen muss, dass eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.
Gesetzlich erforderlich, wenn die Ausnahme genutzt wird: Der Text muss einen Prozess menschlicher Überprüfung oder redaktioneller Kontrolle durchlaufen haben. Außerdem muss eine natürliche oder juristische Person redaktionelle Verantwortung übernehmen.
Amtlich erläutert: Menschliche Überprüfung bedeutet eine bewusste inhaltliche Prüfung durch eine oder mehrere natürliche Personen mit relevantem Wissen und fachlichem Urteil. Faktenprüfung ist nach den Kommissionsleitlinien ein Mindestbestandteil. Redaktionelle Kontrolle muss praktisch ausgeübt werden. Die verantwortliche Stelle braucht die Befugnis, den Inhalt aus fachlichen Gründen zu billigen, zu ändern oder abzulehnen und die Zuverlässigkeit wesentlicher Quellen zu bewerten.
Aus Qualitäts- und Nachweisgründen sinnvoll: Die Prüfungstiefe sollte zum Thema passen. Fällt ein gewöhnlicher Marketingtext bereits nicht unter die Textregel des Art. 50, verlangt diese Vorschrift keinen besonderen Prüfprozess. Fällt ein Text dagegen unter Art. 50 Abs. 4, genügt eine bloße Plausibilitätskontrolle nicht. Dann sind die Substanz des Inhalts sowie wesentliche Tatsachen und Quellen durch eine fachlich geeignete natürliche Person zu prüfen. Bei Recht, Datenschutz, Gesundheit, Sicherheit oder finanziell erheblichen Aussagen sollten insbesondere Stichtage und Primärquellen gezielt kontrolliert werden.
Rein freiwillige Best Practice: Ein zweiter Prüfer oder eine juristische Endkontrolle kann bei besonders folgenreichen, kontroversen oder sensiblen Aussagen sinnvoll sein. Eine allgemeine Pflicht dazu besteht nach Art. 50 nicht.
Was nicht genügt
- bloßes Überfliegen
- ausschließlich Rechtschreibung oder Grammatik prüfen
- mechanisches Akzeptieren der KI-Ausgabe
- rein automatisierte Zweitprüfung durch ein anderes KI-System
- formale Freigabe ohne inhaltliche Beschäftigung
- Prüfung durch eine Person, die den Text weder ändern noch stoppen darf
- allgemeine Redaktionsrichtlinie, die im konkreten Fall nicht angewendet wurde
Eine kurze Prüfung kann ausreichend sein, wenn der Inhalt einfach und risikoarm ist. „Kurz“ darf aber nicht mit „oberflächlich“ verwechselt werden. Praxisbeispiele zur Ergebnisprüfung finden Sie im Beitrag KI-Assistenten im Unternehmen richtig nutzen.
Was eine tatsächliche Prüfung beinhalten sollte
Für einen fachlichen Beitrag ist folgende schlanke Prüflogik angemessen:
- Den vollständigen finalen Inhalt lesen.
- Die wesentlichen Tatsachen, Daten und Stichtage prüfen.
- Zentrale Fach- und Rechtsaussagen anhand belastbarer Quellen kontrollieren.
- Quellen auf Aktualität und tatsächliche Aussagekraft prüfen.
- Kontext, mögliche Fehlinterpretationen und irreführende Verkürzungen bewerten.
- Unklare oder falsche Aussagen korrigieren oder entfernen.
- Bewusst freigeben, nach Änderung freigeben oder die Veröffentlichung ablehnen.
Die prüfende Person muss nicht jede Formulierung neu schreiben. Sie muss sich aber den Inhalt fachlich zu eigen machen können und echte Entscheidungsbefugnis besitzen.
Wer darf prüfen?
Art. 50 schreibt keinen bestimmten Berufsabschluss und keine Rolle wie AI Officer, KI-Beauftragter oder Jurist vor. Die Kommissionsleitlinien verlangen relevantes Wissen und professionelles Urteil zum geprüften Thema.
Bei einem Rechtsbeitrag sollte die prüfende Person die maßgeblichen Rechtsquellen verstehen, wesentliche Aussagen nachprüfen und Unsicherheiten erkennen können. Ein Titel allein genügt nicht. Umgekehrt kann eine fachlich geeignete Person prüfen, auch wenn sie keine besondere KI-Rollenbezeichnung trägt.
Die redaktionelle Verantwortung im Sinne des Art. 50 muss eine natürliche oder juristische Person tragen. Ein Redaktionsteam kann die inhaltliche Kontrolle ausüben, ist aber nicht automatisch selbst die rechtlich verantwortliche Person. Eine rein automatisierte Kontrolle genügt nicht. Wenn die Ausnahme auf menschliche Überprüfung gestützt wird, muss mindestens eine natürliche Person die Substanz tatsächlich prüfen.
Braucht es vier Augen?
Nein, nicht allgemein. Die Leitlinien sprechen ausdrücklich von einer oder mehreren natürlichen Personen. Prüfung und Veröffentlichung können grundsätzlich durch dieselbe fachlich geeignete Person erfolgen, wenn sie den Inhalt wirklich prüft, ändern und stoppen kann und redaktionelle Verantwortung wirksam übernommen wird.
Vier Augen sind vor allem bei erhöhtem Risiko sinnvoll, etwa bei Gesundheitswarnungen, kapitalmarktrelevanten Aussagen, strittigen Tatsachenbehauptungen, besonders sensibler Außenkommunikation oder einer Rechtsfrage mit erheblicher Wirkung.
Was passiert nach späteren KI-Änderungen?
Wird der bereits freigegebene Text anschließend durch KI inhaltlich ergänzt, umformuliert oder wesentlich verändert, ist die vorherige Prüfung für die neue Fassung nicht ausreichend. Die finale Version muss erneut inhaltlich geprüft werden. Reine technische Formatänderungen lösen nicht automatisch eine neue Vollprüfung aus.
Muss die redaktionelle Prüfung dokumentiert werden?
Was schreibt das Gesetz tatsächlich vor?
Art. 50 Abs. 4 verlangt eine tatsächliche menschliche Überprüfung oder redaktionelle Kontrolle und redaktionelle Verantwortung, wenn ein relevanter Text ohne KI-Kennzeichnung veröffentlicht werden soll. Das Gesetz regelt die Qualität des Prozesses, nicht eine bestimmte Aktenform.
Was schreibt es nicht vor?
Art. 50 schreibt allgemein nicht vor:
- ein bestimmtes Formular
- eine handschriftliche oder elektronische Unterschrift
- eine feste Aufbewahrungsfrist
- ein Vier-Augen-Prinzip
- einen gesonderten Freigabenachweis für jeden Text
- die namentliche Erfassung der prüfenden natürlichen Person in jedem Einzelfall
- ein neues Compliance-System oder eine besondere Software
Auch der freiwillige EU-Verhaltenskodex geht nicht so weit. Unterzeichner ohne bestehende Redaktionsprozesse sollen verhältnismäßige interne Regeln vorhalten. Der Kodex stellt aber ausdrücklich klar, dass nicht jede einzelne menschliche Überprüfung oder redaktionelle Kontrolle jeder Textveröffentlichung dokumentiert werden muss.
Andere Rechtsgebiete, regulierte Branchen, Verträge, interne Qualitätsmanagementregeln oder besondere Berichtspflichten können im Einzelfall weitergehende Nachweise verlangen. Das ist dann eine andere Rechtsgrundlage und darf nicht pauschal Art. 50 zugeschrieben werden.
Warum kann ein kurzer Nachweis trotzdem sinnvoll sein?
Ein knapper Vermerk kann helfen, später nachvollziehbar zu machen, welche Version geprüft wurde, wer oder welche Funktion geprüft hat und ob eine echte Freigabeentscheidung getroffen wurde. Das ist besonders bei Fachbeiträgen sinnvoll, weil der fertige Text allein nicht immer zeigt, ob eine Prüfung tatsächlich stattgefunden hat.
Der Nachweis ist dann aus Qualitäts- und Nachweisgründen sinnvoll, nicht gesetzlich in einer bestimmten Form vorgeschrieben.
Wie kann das ohne neue Bürokratie aussehen?
Für einen normalen Fachbeitrag genügen häufig vier Angaben:
- Inhalt oder URL und geprüfte Version mit Datum
- prüfende Person oder Funktion
- kurze Bestätigung der vollständigen inhaltlichen Prüfung
- Entscheidung: freigegeben, nach Änderung freigegeben oder nicht freigegeben
Das lässt sich in einem vorhandenen System festhalten:
- WordPress: Der Revisionsverlauf dokumentiert gespeicherte Fassungen und Textänderungen. Er beweist aber nicht allein, dass eine fachliche Prüfung und bewusste Freigabe stattgefunden hat. Ergänzend genügt häufig ein kurzer interner Freigabesatz.
- E-Mail oder Teams: Eine Nachricht mit Beitragslink, Quellenstand und Freigabeentscheidung kann ausreichen.
- SharePoint, Ticketsystem oder Projektmanagement: Vorhandenen Status und ein kurzes Kommentarfeld nutzen.
- Einfache Tabelle: Nur verwenden, wenn kein bestehender Kanal geeignet ist. Keine Doppelpflege aufbauen.
- Compliance-Management-System: Nur nutzen, wenn es bereits vorhanden und für den Prozess passend ist.
Eine neue WordPress-Erweiterung oder kostenpflichtige Freigabesoftware ist für diesen Zweck regelmäßig nicht notwendig.
Kunden-E-Mails und Newsletter
Ein breit ausgespielter Newsletter an einen offenen oder unbestimmten Abonnentenkreis kann nach der amtlichen Auslegung veröffentlicht sein. Das gilt auch bei einem Abonnement. Eine kleine geschlossene Empfängergruppe oder eine individuell adressierte Nachricht ist dagegen regelmäßig keine Veröffentlichung.
Auch beim Newsletter reicht Veröffentlichung allein nicht. Der Inhalt muss zusätzlich die Öffentlichkeit informieren und eine Angelegenheit von öffentlichem Interesse behandeln. Ein Verkaufsnewsletter zu einem normalen Produkt liegt regelmäßig außerhalb. Ein Newsletter zu Gesundheitsgefahren, Rechtsänderungen oder relevanten Nachhaltigkeitsentwicklungen kann erfasst sein.
Für normale Kunden-E-Mails gilt daher regelmäßig:
- KI-Schreibhilfe muss nicht pauschal erwähnt werden.
- Rechtschreibkorrektur muss nicht gekennzeichnet werden.
- Eine individuell erstellte Übersetzung muss nicht allein wegen KI offengelegt werden.
- Datenschutz, Vertraulichkeit, Berufsrecht oder vertragliche Anforderungen können unabhängig davon relevant sein.
Social Media: Post, Nachricht und Medien getrennt betrachten
Bei Social Media müssen Text und beigefügte Medien getrennt bewertet werden.
Öffentlicher LinkedIn-Post: Ein öffentlich erreichbarer Text kann veröffentlicht sein. Eine Kennzeichnung nach Art. 50 kommt aber nur in Betracht, wenn er die Öffentlichkeit über eine Angelegenheit von öffentlichem Interesse informiert und keine ausreichende menschliche Prüfung mit redaktioneller Verantwortung stattgefunden hat.
Individuelle LinkedIn-Nachricht: Eine persönlich adressierte Nachricht ist regelmäßig private oder berufliche Korrespondenz, nicht Veröffentlichung. Allein die Nutzung von KI-Sprachunterstützung löst regelmäßig keine Kennzeichnung aus.
Bild, Video, Avatar oder Stimme: Hier gilt unabhängig vom Text die Deepfake-Prüfung. Ein öffentlicher Post mit einem realistischen synthetischen Sprecher kann kennzeichnungspflichtig sein, obwohl der Begleittext selbst nicht erfasst ist.
Plattformlabel: Ein von der Plattform bereitgestelltes KI-Label kann genügen, wenn es die künstliche Herkunft klar und unterscheidbar spätestens bei der ersten Exposition zeigt. Das Unternehmen bleibt dafür verantwortlich, dass die konkrete Darstellung im finalen Kanal tatsächlich ausreicht. Eine versteckte oder nur maschinenlesbare Markierung genügt nicht.
Was ist nach dem AI Act ein Deepfake?
Der gesetzliche Deepfake-Begriff ist weiter als die umgangssprachliche Vorstellung vom gefälschten Prominentenvideo. Nach Art. 3 Nr. 60 kann ein KI-generierter oder KI-manipulierter Bild-, Audio- oder Videoinhalt ein Deepfake sein, wenn er bestehenden Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und fälschlich authentisch oder wahr erscheint.
Die drei Kriterien
Nach den aktuellen Leitlinien der Europäischen Kommission müssen drei Kriterien zusammenkommen:
- Hohe Ähnlichkeit: Der Inhalt muss dem dargestellten Bezugsobjekt oder seinen erkennbaren Merkmalen deutlich ähneln. Identität ist nicht erforderlich.
- Existenz oder plausible Existenz: Das Dargestellte existiert, kann realistisch existieren oder hätte realistisch existieren können. Deshalb können auch erfundene, aber glaubhafte Personen oder Ereignisse erfasst sein.
- Falscher Eindruck von Authentizität oder Wahrheit: Der Inhalt kann das vorgesehene oder vernünftigerweise erwartbare Publikum darüber täuschen, ob es sich um eine echte Aufnahme, ein echtes Verhalten, eine echte Nutzung oder ein wahres Ereignis handelt.
Fotorealismus ist ein wichtiges Indiz, aber keine alleinige Rechtsregel. Eine offensichtlich fantastische Szene kann technisch perfekt aussehen und trotzdem kein Deepfake sein, weil niemand sie für wahr hält. Umgekehrt kann eine unauffällige Manipulation deepfake-relevant sein, wenn sie die Aussage eines journalistischen oder werblichen Inhalts wesentlich verändert.
Die Absicht zu täuschen ist nicht zwingend. Entscheidend ist die objektive Wirkung im konkreten Kontext.
Anders als die Textregel verlangt die Deepfake-Regel keine Veröffentlichung an die allgemeine Öffentlichkeit. Auch eine interne Vorführung oder Verteilung an Beschäftigte kann deshalb eine Exposition natürlicher Personen sein und einen Hinweis erfordern. Ob ein Inhalt öffentlich oder intern verwendet wird, kann die Publikumserwartung beeinflussen, beseitigt die Pflicht aber nicht pauschal.
Generische KI-Personen und Avatare
Eine häufige Annahme lautet: Wenn keine reale Person kopiert wurde, könne kein Deepfake vorliegen. Nach den finalen Kommissionsleitlinien ist das zu eng. Auch realistische KI-generierte Avatare oder Personen können erfasst sein, wenn sie wie ein plausibel existierender Mensch erscheinen und der Inhalt fälschlich wie eine authentische Aufnahme oder Handlung wirkt.
Beispiele:
- Ein klar stilisierter Comic-Avatar ist regelmäßig kein Deepfake.
- Ein realistischer synthetischer „Mitarbeiter“, der auf der Website wie eine echte Ansprechperson vorgestellt wird, ist ein kennzeichnungsnaher Fall.
- Ein realistischer KI-CEO, der angeblich die Geschäftszahlen kommentiert, ist nach den Kommissionsbeispielen ein Deepfake.
- Ein Avatar in einem klar als virtuelle Welt erkennbaren Spiel kann regelmäßig außerhalb des Deepfake-Begriffs liegen.
KI-Bilder und Grafiken: typische Unternehmensfälle
Normale Retusche und technische Bearbeitung
Eine normale Retusche führt nicht automatisch zu einem Deepfake. Nach der amtlichen Auslegung sind insbesondere folgende Bearbeitungen regelmäßig geringfügig, solange sie die Wahrnehmung der Aussage nicht wesentlich verändern:
- Zuschneiden und Skalieren
- Licht- und Farbkorrektur
- Rauschreduzierung und Kompression
- kosmetische Anpassungen
- Hintergrundentfernung
- Entfernen eines störenden Passanten oder Objekts
- rein ästhetische Hintergrundverlängerung
Wichtig bleibt der Kontext. Wird aus einem journalistischen Foto ein wesentliches Detail entfernt, das die Bedeutung der Szene verändert, kann dieselbe Technik rechtlich anders zu bewerten sein.
Generatives Erweitern und KI-Hintergründe
Eine generative Erweiterung oder ein neuer Hintergrund ist regelmäßig unproblematisch, wenn sie erkennbar gestalterisch bleibt und weder die Realität des gezeigten Produkts noch die Aussage der Szene verfälscht.
Einzelfallprüfung ist nötig, wenn der neue Hintergrund den Eindruck eines tatsächlich besuchten Ortes, eines realen Ereignisses, einer echten Kundensituation oder einer nachgewiesenen Produkteigenschaft erzeugt. Bei einem Pressefoto, Sicherheitsnachweis oder Vorher-Nachher-Vergleich ist die inhaltliche Wirkung regelmäßig wichtiger als bei einem dekorativen Website-Hero-Bild.
Produktbild und Produktvisualisierung
Ein reales Produkt in einer erfundenen realistischen Umgebung ist nach den Kommissionsleitlinien regelmäßig kein Deepfake, wenn das Publikum nicht über die tatsächliche Darstellung, Eigenschaften oder Verwendung des Produkts getäuscht wird.
Einzelfall oder Kennzeichnung liegt näher, wenn KI das Produkt schöner, größer, leistungsfähiger oder anders nutzbar erscheinen lässt als in Wirklichkeit. Unabhängig von Art. 50 können dann auch Werbe- und Verbraucherrecht relevant sein. Ein KI-Hinweis macht eine irreführende Produktdarstellung nicht automatisch zulässig.
Illustration, Comic, Infografik und Social-Media-Grafik
Offensichtlich stilisierte Illustrationen, Comics und Fantasiegrafiken sind regelmäßig keine Deepfakes, weil sie nicht fälschlich wie authentische Aufnahmen erscheinen. Bei Infografiken ist zwischen Bild und Text zu unterscheiden. Die grafische Gestaltung kann außerhalb des Deepfake-Begriffs liegen, während KI-generierte Textaussagen zu einer Angelegenheit von öffentlichem Interesse gesondert nach der Textregel zu prüfen sind.
Website-Hero-Bild, Thumbnail und Still
Der Verwendungsort entscheidet nicht allein. Ein Hero-Bild kann rein dekorativ sein oder eine reale Unternehmenssituation vortäuschen. Ein Thumbnail oder Standbild kann bereits die erste Exposition sein. Zeigt es einen Deepfake, sollte die Offenlegung deshalb nicht erst nach dem Klick im Video erscheinen.
Chatbots und direkte KI-Interaktion
Art. 50 Abs. 1 richtet sich an Anbieter von KI-Systemen, die direkt mit natürlichen Personen interagieren. Sie müssen das System so gestalten, dass Menschen erkennen, dass sie mit KI interagieren. Der Hinweis muss klar und unterscheidbar spätestens bei Beginn der ersten Interaktion erscheinen.
Die Ausnahme, wonach der KI-Charakter offensichtlich ist, ist eng auszulegen. Ein Chat-Symbol oder eine schnelle Antwort allein macht die KI-Natur nicht zwingend offensichtlich. Bei einem klar als interner KI-Assistent geschulten Mitarbeiterkreis kann es dagegen praktisch zweifelsfrei sein.
Ein kurzer Website-Hinweis kann lauten:
Musterhinweis: Sie chatten mit einem KI-Assistenten. Die Antworten werden automatisiert erstellt. Bei Bedarf können Sie eine menschliche Ansprechperson kontaktieren.
Die zweite Aussage und die Kontaktmöglichkeit sind nicht in jedem Fall durch Art. 50 vorgeschrieben, können aber aus Service- und Vertrauensgründen sinnvoll sein. Der Hinweis darf nicht nur in Nutzungsbedingungen oder einer versteckten Unterseite stehen.
Wer einen Chatbot eines Drittanbieters integriert, sollte vertraglich und in der Abnahme prüfen, ob der Anbieterhinweis in der eigenen Oberfläche tatsächlich angezeigt wird. Wird ein eigener Chatbot unter eigener Marke entwickelt oder in Betrieb genommen, kann das Unternehmen selbst Anbieter sein.
Anbieter und Betreiber richtig unterscheiden
Die EU-KI-Verordnung trennt zwischen Anbieter und Betreiber.
Ein Anbieter entwickelt ein KI-System oder lässt es entwickeln und bringt es unter eigenem Namen oder eigener Marke auf den Markt oder nimmt es unter eigenem Namen in Betrieb. Ein Unternehmen kann deshalb auch Anbieter werden, wenn es einen eigenen Chatbot entwickelt und unter eigener Marke für den eigenen Einsatz in Betrieb nimmt.
Ein Betreiber nutzt ein KI-System unter eigener Autorität im beruflichen oder geschäftlichen Zusammenhang. Private, nicht berufliche Nutzung ist ausgenommen. Für normale Unternehmen und Agenturen ist regelmäßig die Betreiberrolle relevant, wenn sie selbst darüber entscheiden, ob und wie ein KI-System eingesetzt und sein Ergebnis verwendet wird.
Handeln Beschäftigte innerhalb der Weisungen und Kontrolle ihres Unternehmens, bleibt regelmäßig die juristische Person Betreiberin. Die einzelnen Beschäftigten werden nicht allein durch die Bedienung des Systems zu getrennten Betreibern. Entsprechendes kann für externe Dienstleister gelten, wenn sie im Namen, unter Verantwortung und Kontrolle des Unternehmens handeln.
Eine Organisation kann beide Rollen zugleich haben. Verträge können Zuständigkeiten, Informationen und Arbeitsabläufe sinnvoll ordnen. Sie beseitigen öffentlich-rechtliche Pflichten aber nicht automatisch.
Agenturbeispiel: Nutzt eine Werbeagentur ein KI-System unter eigener Verantwortung zur Produktion eines Assets, ist sie regelmäßig Betreiberin. Ein Kunde, der lediglich das fertige Werbemittel beauftragt und nicht darüber entscheidet oder kontrolliert, ob und wie KI eingesetzt wird, ist nach der aktuellen Kommissionsauslegung nicht allein deshalb Betreiber. Hat der Kunde dagegen Einfluss auf die konkrete KI-Nutzung, bedient das System selbst oder setzt die Ergebnisse unter eigener Autorität weiter ein, kann die Bewertung anders ausfallen.
Praktisch sollten Agentur und Kunde deshalb kurz klären:
- Wer entscheidet über den KI-Einsatz?
- Wer kennt die Herstellungsweise des Inhalts?
- Wer prüft, ob ein Deepfake oder ein relevanter Text vorliegt?
- Wer bringt einen erforderlichen Hinweis an und kontrolliert ihn im finalen Kanal?
- Welche Information wird bei Übergabe des Assets mitgeliefert?
Spezialfälle: KI-Videos, Avatare, Audio und Stimmen
Vollständig KI-generierte Videos und einzelne Sequenzen
Auch ein vollständig KI-generiertes Video ist nicht automatisch ein Deepfake. Ein klar animierter Erklärfilm mit stilisierten Figuren wird regelmäßig nicht für eine authentische Aufnahme gehalten. Ein realistisches Video eines plausiblen Menschen in einer glaubhaften Geschäftssituation kann dagegen ein Deepfake sein.
Enthält ein sonst reales Video nur eine KI-generierte Sequenz, ist diese Sequenz gesondert zu bewerten. Wird sie als authentischer Teil der Aufnahme wahrgenommen, muss die Offenlegung für die betroffenen Personen klar und rechtzeitig erkennbar sein. Eine allgemeine Notiz, die niemand wahrnimmt, genügt nicht.
Echte Person in künstlicher Szene
Ein echter Schauspieler vor einem erkennbar fiktiven Filmhintergrund ist regelmäßig kein Deepfake. Anders kann es sein, wenn eine reale Person durch eine manipulierte Szene so erscheint, als habe sie an einem echten Ort, Ereignis oder Kundentermin teilgenommen. Maßgeblich sind Aussage, Kontext und Publikumserwartung.
KI-Avatar, Face Swap und Lippenanpassung
- KI-Avatar: Ein stilisierter Avatar ist regelmäßig unkritisch. Ein realistischer Avatar, der wie eine echte Person oder ein echter Unternehmensvertreter wirkt, kann ein Deepfake sein.
- Face Swap: Ein Gesichtstausch, der eine reale oder plausibel reale Person in eine authentisch wirkende Szene setzt, ist regelmäßig kennzeichnungspflichtig.
- Lippenanpassung und KI-Synchronisation: Werden echte Lippenbewegungen so verändert, dass eine Person scheinbar andere Worte spricht, liegt ein Deepfake nahe. Eine bloße Synchronisation in einem erkennbar übersetzten Filmkontext kann anders wirken, sollte aber bei realistischer Täuschungsgefahr geprüft werden.
- Veränderter Hintergrund: Rein ästhetisch regelmäßig kein Deepfake. Eine bedeutungsverändernde Manipulation, etwa in Nachrichten, Beweisen oder Produktdemonstrationen, kann erfasst sein.
Geklonte und synthetische Stimmen
Eine geklonte reale Stimme ist regelmäßig ein Deepfake, wenn die Aufnahme wie eine echte Äußerung dieser Person wirkt. Das gilt auch dann, wenn der gesprochene Text harmlos ist.
Eine generische Text-to-Speech-Stimme oder ein synthetisches Voiceover ist dagegen nicht automatisch ein Deepfake. Entscheidend ist, ob eine reale oder plausibel reale Sprecheridentität und eine authentische Aufnahme vorgetäuscht werden. Bei einer klaren Computerstimme in einem Erklärvideo ist das regelmäßig nicht der Fall.
Technische Bearbeitungen einer echten Stimme, etwa Lautstärkeanpassung, Rauschunterdrückung oder Kompression, verändern den Aussagegehalt regelmäßig nicht und sind nach der amtlichen Auslegung kein Deepfake.
KI-Musik
Rein synthetische Musik ist nicht allein wegen der KI-Erzeugung automatisch als Deepfake zu behandeln. Eine Einzelfallprüfung ist nötig, wenn Stil, Stimme oder Performance eines bestehenden Künstlers erkennbar imitiert werden oder der Eindruck einer echten Aufnahme oder Mitwirkung erzeugt wird. Für künstlerische und kreative Deepfakes gilt keine vollständige Ausnahme. Die Offenlegung darf lediglich so erfolgen, dass der Werkgenuss nicht unnötig beeinträchtigt wird.
Spezialfall: Emotionserkennung und biometrische Kategorisierung
Setzt ein Unternehmen ein Emotionserkennungs- oder biometrisches Kategorisierungssystem ein, muss es die exponierten natürlichen Personen über den Betrieb informieren. Das kann etwa Systeme betreffen, die aus biometrischen Daten Emotionen ableiten oder Personen biometrisch Kategorien zuordnen.
Der Transparenzhinweis macht den Einsatz nicht automatisch zulässig. Insbesondere Emotionserkennung am Arbeitsplatz kann unter Art. 5 der EU-KI-Verordnung verboten sein, soweit keine enge medizinische oder sicherheitsbezogene Ausnahme greift. Datenschutzrecht ist zusätzlich zu prüfen. Für typische Marketing- und Websiteprozesse genügt im Kennzeichnungsbeitrag dieser Hinweis; eine vollständige Zulässigkeitsprüfung gehört in eine separate Bewertung.
Bestandsinhalte und Übergangsregeln
Art. 50 gilt seit dem 2. August 2026. Die im Juli 2026 beschlossene Übergangsregel bis 2. Dezember 2026 betrifft nur die technische Markierungs- und Erkennbarkeitspflicht der Anbieter nach Art. 50 Abs. 2 für generative Systeme, die vor dem 2. August 2026 in Verkehr gebracht oder in Betrieb genommen wurden.
Für Inhalte ist zu unterscheiden:
- Deepfakes, die vor dem 2. August 2026 erzeugt oder manipuliert wurden: Sie müssen nach der Kommissionsauslegung nicht rückwirkend nach Art. 50 gekennzeichnet werden. Eine freiwillige Kennzeichnung wird angeregt, aber keine unverhältnismäßige Altbestandsprüfung verlangt.
- Texte zu Angelegenheiten von öffentlichem Interesse, die vor dem 2. August 2026 erzeugt und veröffentlicht wurden: Keine rückwirkende Kennzeichnungspflicht nach Art. 50.
- Texte, die vor dem 2. August 2026 erzeugt, aber erst ab diesem Datum veröffentlicht werden: Die Textregel ist anwendbar. Kennzeichnung oder ausreichende menschliche Kontrolle mit redaktioneller Verantwortung ist zu prüfen.
- Nachträgliche wesentliche KI-Bearbeitung ab dem 2. August 2026: Die neue Fassung ist nach den aktuellen Regeln zu bewerten.
- Laufende Kampagne: Entscheidend sind Inhalt, Erstellungs- oder Bearbeitungszeitpunkt und bei Texten auch der Veröffentlichungszeitpunkt. Ein bloßes Weiterlaufen macht eine alte Deepfake-Datei nicht automatisch rückwirkend kennzeichnungspflichtig.
Pragmatische Lösung für Unternehmen
- Zuerst prüfen, ob der konkrete Inhalt überhaupt unter eine Transparenzregel des Art. 50 fällt.
- Nicht jeden KI-unterstützten Text automatisch in einen besonderen Freigabeprozess schicken.
- Wenn redaktionelle Kontrolle rechtlich relevant ist, den finalen Inhalt tatsächlich fachlich prüfen und Änderungen ermöglichen.
- Einen kurzen Nachweis nur dort führen, wo er für Nachvollziehbarkeit oder Qualität sinnvoll ist.
- Vorhandene Systeme nutzen, statt neue Software und doppelte Listen aufzubauen.
Was Unternehmen jetzt wirklich tun sollten
- Relevante Formate kennen: Chatbots, realistische Bilder, Videos, Stimmen und öffentliche Fachtexte sind wichtiger als jede kleine KI-Schreibhilfe.
- Deepfake-Grenzfälle erkennen: Nicht nur Personen, sondern auch Produkte, Orte und Ereignisse können betroffen sein.
- Eine einfache Freigaberegel festlegen: Wer fachlich sensible Texte veröffentlicht, prüft die finale Fassung vollständig.
- Verantwortlichkeit bestimmen: Eine Person oder Funktion muss ändern, stoppen und final entscheiden können.
- Nur sinnvolle Nachweise führen: Bei normalen Veröffentlichungen genügt ein kurzer Freigabesatz im bestehenden System.
- Grenzfälle gezielt eskalieren: Zweitprüfung oder juristische Kontrolle nur dann, wenn Risiko und Wirkung dies rechtfertigen.
Eine allgemeine Pflicht, einen KI-Beauftragten zu bestellen, jedes KI-Tool in ein Register aufzunehmen oder jede KI-Nutzung zu dokumentieren, folgt aus Art. 50 nicht.
Verstöße gegen Art. 50 können sanktioniert werden. Die Verordnung nennt grundsätzlich Obergrenzen von 15 Millionen Euro oder 3 Prozent des weltweiten Vorjahresumsatzes. Für kleine und mittlere Unternehmen gilt die niedrigere Obergrenze; außerdem müssen Sanktionen verhältnismäßig sein. Das spricht für einen gezielten, funktionsfähigen Prozess, nicht für maximale Bürokratie.
Fazit
Nicht jede KI-Nutzung braucht ein Label. Relevant sind klar umrissene Situationen: direkte KI-Interaktion, Emotionserkennung oder biometrische Kategorisierung, Deepfakes und bestimmte öffentliche Informationstexte ohne ausreichende menschliche Kontrolle.
Bei Bildern, Videos und Stimmen kommt es auf die täuschend echte Wirkung an. Bei Texten sind Veröffentlichung, Informationszweck und öffentliches Interesse getrennt zu prüfen. Eine echte fachliche Endkontrolle kann bei relevanten Texten rechtlich entscheidend sein. Sie muss ernst gemeint sein, braucht aber weder automatisch vier Augen noch eine neue Software oder eine umfangreiche Freigabeakte.
Viele Fälle lassen sich mit einer kurzen internen Regel lösen. Bei realistischen Avataren, Voice Cloning, komplexen Agenturketten oder fachlich sensiblen Veröffentlichungen kann eine gezielte Einordnung helfen, unnötige Maßnahmen ebenso zu vermeiden wie echte Transparenzlücken. Ein KI-Startcheck eignet sich für die erste Einordnung. Für interne Sensibilisierung steht die KI-Schulung zur Verfügung. Bei dauerhaftem Koordinationsbedarf kann eine Begleitung als externer KI-Beauftragter oder AI Officer sinnvoll sein.
Häufige Fragen
Muss jeder KI-generierte Text gekennzeichnet werden?
Nein. Art. 50 Abs. 4 betrifft nur veröffentlichte Texte, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren. Außerdem entfällt die Kennzeichnung, wenn eine echte menschliche Überprüfung oder redaktionelle Kontrolle stattgefunden hat und redaktionelle Verantwortung übernommen wird.
Muss ich ChatGPT in einer Kunden-E-Mail erwähnen?
Nach Art. 50 im beschriebenen Normalfall nein. Eine individuell adressierte Kunden-E-Mail ist normalerweise keine Veröffentlichung an die Öffentlichkeit. Das ist keine allgemeine rechtliche Freigabe. Datenschutz, Vertraulichkeit, Berufsrecht, Täuschungsverbote oder vertragliche Vorgaben können unabhängig davon Anforderungen stellen.
Muss ein KI-Bild gekennzeichnet werden?
Nicht automatisch. Eine sichtbare Kennzeichnung nach Art. 50 ist für ein Bild vor allem dann erforderlich, wenn es die Deepfake-Kriterien erfüllt. Offensichtliche Illustrationen und geringfügige Bearbeitungen sind regelmäßig nicht erfasst.
Wann ist ein KI-Bild ein Deepfake?
Wenn es eine hohe Ähnlichkeit zu einer realen oder plausibel realen Person, einem Gegenstand, Ort, einer Einrichtung oder einem Ereignis aufweist und fälschlich authentisch oder wahr erscheint. Alle Kriterien müssen zusammenkommen.
Reicht es, einen KI-Text kurz zu lesen?
Die Dauer entscheidet nicht allein. Bloßes Überfliegen reicht nicht. Die prüfende Person muss den Inhalt bewusst fachlich prüfen, wesentliche Tatsachen und Quellen bewerten und Änderungen oder eine Ablehnung durchsetzen können.
Muss die redaktionelle Prüfung dokumentiert werden?
Art. 50 schreibt keine allgemeine schriftliche Einzeldokumentation, kein Formular, keine Unterschrift und keine feste Aufbewahrungsfrist vor. Ein kurzer Vermerk kann bei Fachbeiträgen trotzdem sinnvoll sein, um Version, Prüfung und Freigabe nachvollziehbar zu machen.
Brauche ich ein Vier-Augen-Prinzip?
Nicht allgemein. Eine fachlich geeignete Person kann grundsätzlich prüfen und veröffentlichen, wenn sie echte Entscheidungs- und Änderungsbefugnis besitzt. Vier Augen sind eine risikobasierte Zusatzmaßnahme für besonders sensible Fälle.
Was gilt für Social Media?
Öffentliche Texte werden nach der Textregel geprüft. Bilder, Videos, Avatare und Stimmen werden unabhängig davon nach der Deepfake-Regel bewertet. Individuelle Direktnachrichten sind regelmäßig nicht veröffentlicht.
Was gilt bei einem Chatbot?
Menschen müssen grundsätzlich ab der ersten Interaktion klar erkennen, dass sie mit einem KI-System sprechen, sofern dies nicht offensichtlich ist. Die gesetzliche Gestaltungspflicht trifft den Anbieter des Systems. Ein integrierendes Unternehmen sollte den Hinweis in der konkreten Oberfläche dennoch abnehmen und seine Rolle prüfen.
Quellen und weiterführende Informationen
- Verordnung (EU) 2024/1689 über künstliche Intelligenz, konsolidierte Fassung vom 27. Juli 2026, insbesondere Art. 3 Nr. 3, 4 und 60, Art. 50, Art. 99 und Art. 113
- Verordnung (EU) 2026/1744, Digital Omnibus on AI, zur begrenzten Übergangsregel für bestehende generative Systeme
- Leitlinien der Europäischen Kommission zu den Transparenzpflichten nach Art. 50, veröffentlicht am 20. Juli 2026
- FAQ der Europäischen Kommission zu Art. 50, Stand 24. Juli 2026
- Freiwilliger EU-Verhaltenskodex zur Transparenz KI-generierter Inhalte, finale Fassung Juli 2026
- EU-Icons für die Kennzeichnung KI-generierter Inhalte, Stand 10. August 2026
- § 2 KI-MIG, § 6 KI-MIG und § 8 KI-MIG zur deutschen Zuständigkeit, zentralen Anlaufstelle und Beschwerdestelle
- Medienstaatsvertrag, insbesondere § 18 Abs. 3 zur Kennzeichnung bestimmter automatisiert erstellter und versandter Inhalte oder Mitteilungen in sozialen Netzwerken
Hinweis zur rechtlichen Einordnung: Dieser Beitrag dient der allgemeinen fachlichen Information. Er ersetzt keine Prüfung des konkreten Einzelfalls und enthält keine Garantie für ein bestimmtes rechtliches Ergebnis. Die Bewertung kann insbesondere aufgrund der genauen Herstellungsweise, des Inhalts, des Veröffentlichungskontexts, der angesprochenen Personen, der Rollen der Beteiligten sowie weiterer anwendbarer Vorschriften anders ausfallen.
Aktualität: Maßgeblich ist der oben genannte Rechts- und Quellenstand. Spätere Änderungen des Rechts, der behördlichen Auslegung, technischer Standards oder der Rechtsprechung können eine neue Bewertung erforderlich machen. Eine Gewähr für die dauerhafte Aktualität nach diesem Stand kann nicht übernommen werden. Gesetzliche Verantwortlichkeiten bleiben unberührt.
Konkreter Fall: Bei Grenzfällen unterstützt das Kompetenzteam Thomas bei der strukturierten fachlichen Einordnung und bei der Gestaltung praktikabler Prüf- und Freigabeprozesse. Ob zusätzlich eine anwaltliche Einzelfallprüfung erforderlich ist, hängt von Inhalt und Risiko des konkreten Einsatzes ab.
Autor und fachliche Prüfung: Gianluca Marasco
Gianluca Marasco ist im Kompetenzteam Thomas in den Bereichen KI-Compliance und KI-Management tätig. Er begleitet Unternehmen als externer AI Officer und KI-Beauftragter bei der verständlichen, risikobasierten und praxistauglichen Umsetzung ihrer KI-Prozesse.