AI Act und Deepfakes: Die Kennzeichnungspflicht seit August 2026
Mit dem AI Act hat die Europäische Union das weltweit erste umfassende KI-Gesetz geschaffen - und für Deepfakes eine konkrete Konsequenz: eine Kennzeichnungspflicht. Seit dem 2. August 2026 müssen KI-generierte oder -manipulierte Bild-, Ton- und Videoinhalte, die echt erscheinen könnten, als solche offengelegt werden. Die Pflicht ist damit geltendes Recht. Diese Seite erklärt verständlich, was das bedeutet, wen es trifft und wo die Grenzen liegen.
Bevor es losgeht: eine wichtige Einordnung
Mit diesem Vorbehalt lohnt sich der Überblick, denn das Thema betrifft weit mehr Menschen und Unternehmen, als viele annehmen.
Worum es geht: die Transparenzpflicht
Das Kernprinzip ist einfach und einleuchtend: Wer synthetische Medien in Umlauf bringt, die real wirken könnten, soll das offenlegen müssen. Das Ziel ist, Täuschung zu vermeiden und Menschen die Möglichkeit zu geben, KI-Inhalte als solche einzuordnen. Geregelt ist das in Artikel 50 des AI Act, den sogenannten Transparenzpflichten.
Der AI Act definiert einen Deepfake dabei weit: KI-generierte oder -manipulierte Bild-, Ton- oder Videoinhalte, die realen Personen, Objekten oder Ereignissen ähneln und fälschlicherweise als echt erscheinen könnten. Bemerkenswert ist, dass es dabei nicht auf eine Täuschungsabsicht ankommt. Auch wer niemanden täuschen will, kann kennzeichnungspflichtig sein - etwa bei einem KI-Avatar der eigenen Person in einem Werbevideo.
Seit wann gilt was?
Der zentrale Stichtag war der 2. August 2026. Seit diesem Datum gelten die Transparenzpflichten des Artikels 50 - zwei Jahre nach Inkrafttreten der Verordnung im August 2024. Weil es sich um eine EU-Verordnung handelt, gilt diese Frist unmittelbar in allen Mitgliedstaaten, ohne dass ein nationales Gesetz sie erst umsetzen müsste.
Bei den Fristen ist eine Feinheit wichtig, die oft übersehen wird. Der AI Act unterscheidet zwei Rollen:
Die Betreiber - also alle, die ein KI-System beruflich nutzen und damit Deepfakes erzeugen oder manipulieren - müssen seit dem 2. August 2026 sichtbar offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde.
Die Anbieter - also die Hersteller der KI-Systeme - müssen ihre Ausgaben zusätzlich technisch, maschinenlesbar markieren (etwa per Wasserzeichen und Metadaten). Hier hat der Gesetzgeber kurz vor dem Stichtag nachjustiert: Mit der Digital-Omnibus-Verordnung (EU) 2026/1744, in Kraft seit dem 27. Juli 2026, gilt für diese technische Markierungspflicht eine Übergangsfrist bis zum 2. Dezember 2026 - allerdings nur für KI-Systeme, die bereits vor dem 2. August 2026 auf dem Markt waren. Neue Systeme müssen von Beginn an markieren. Wichtig: Die Betreiberpflichten hat der Digital Omnibus nicht verschoben, sie gelten ohne Übergangsfrist seit dem 2. August 2026.
Für die meisten Unternehmen ist die erste Rolle die relevante: Sie sind Betreiber, wenn sie zugekaufte KI-Werkzeuge einsetzen - und damit seit August 2026 in der Pflicht.
Wen trifft die Pflicht - und wie muss gekennzeichnet werden?
Die Kennzeichnungspflicht trifft nicht nur große Technologiekonzerne. Betroffen ist praktisch jedes Unternehmen, jede Behörde und jeder Selbstständige, der KI beruflich einsetzt, um realistische Medien zu erzeugen. Ausgenommen ist allein die rein private Nutzung. Nicht erfasst ist außerdem, wer einen fremden Deepfake lediglich weiterverbreitet, ohne selbst ein KI-System eingesetzt zu haben - er ist kein Betreiber im Sinne der KI-VO. Für Plattformen und das bloße Teilen greifen andere Regeln, etwa aus dem Digital Services Act.
Bei der Form der Kennzeichnung ist entscheidend: Sie muss für Menschen wahrnehmbar sein - sichtbar oder hörbar, klar und unterscheidbar, und zwar spätestens beim ersten Kontakt mit dem Inhalt. Ein versteckter Hinweis in den AGB oder in der Datenschutzerklärung genügt ausdrücklich nicht, weil ihn beim Betrachten niemand aufruft. In der Praxis heißt das: ein sichtbares Label im oder am Bild, ein Hinweis im Video, eine hörbare Ansage - direkt am Inhalt.
Die Ausnahmen
Der AI Act arbeitet risikoorientiert - dort, wo das Täuschungspotenzial gering ist, wird die Pflicht abgeschwächt oder entfällt. Die wichtigsten Ausnahmen:
Kunst, Satire und Fiktion. Ist ein Deepfake erkennbar Teil eines künstlerischen, kreativen, satirischen oder fiktionalen Werks, beschränkt sich die Pflicht darauf, das Vorhandensein der Manipulation in einer Weise offenzulegen, die den Kunstgenuss nicht stört. Ein offensichtlich satirisches Video muss also nicht mit einem großen Warnhinweis versehen werden.
Strafverfolgung. Wird ein Deepfake im gesetzlich zugelassenen Rahmen zur Aufdeckung, Verhütung oder Verfolgung von Straftaten eingesetzt, entfällt die Kennzeichnungspflicht.
Geringfügige Bearbeitung. Eine bloß unwesentliche technische Anpassung - etwa eine Belichtungskorrektur - erreicht nicht die Schwelle einer "Manipulation" im Sinne des Deepfake-Begriffs. Wo genau diese Schwelle liegt, ist allerdings einer der noch unklaren Graubereiche.
Und was ist mit KI-generierten Texten?
Die kurze Antwort: Eine generelle Kennzeichnungspflicht für KI-Texte gibt es nicht. Ein mit KI erstellter Marketing-, Produkt- oder Social-Media-Text muss nicht allein deshalb gekennzeichnet werden, weil KI im Spiel war. Der AI Act knüpft die Offenlegungspflicht an einen engen Anwendungsfall: Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren - gedacht ist vor allem an journalistische und nachrichtenähnliche Inhalte.
Selbst in diesem Fall gibt es eine wichtige Ausnahme: Die Kennzeichnung entfällt, wenn der Text einer menschlichen Überprüfung oder redaktionellen Kontrolle unterliegt und eine benannte natürliche oder juristische Person die redaktionelle Verantwortung trägt. Die Leitlinien der Kommission legen die Messlatte dabei höher als bloßes Korrekturlesen: Gemeint ist eine inhaltliche Prüfung auf Richtigkeit, Plausibilität und Quellen - mit der echten Möglichkeit, den Text zu ändern oder abzulehnen.
Der entscheidende Unterschied zu Deepfakes: Für Bild-, Ton- und Videoinhalte gibt es diese redaktionelle Ausnahme nicht. Ein geprüfter Deepfake bleibt kennzeichnungspflichtig.
Leitlinien, Code of Practice und das KI-Icon
Im Juli 2026 hat die Europäische Kommission Leitlinien zu Artikel 50 sowie einen Code of Practice zur Transparenz KI-generierter Inhalte veröffentlicht. Der Code ist freiwillig, die Pflichten des AI Act selbst sind verbindlich. Für die Praxis sind beide Dokumente trotzdem die wichtigste Orientierung, denn sie konkretisieren, wie eine Kennzeichnung konkret aussehen soll.
Vorgesehen ist ein gemeinsames Icon zur Kennzeichnung von Deepfakes und kennzeichnungspflichtigen KI-Texten. Bis ein EU-weit einheitliches Symbol entwickelt ist, dient ein Übergangsicon, in der Regel eine zweibuchstabige Abkürzung wie "KI" oder "AI". Das Icon muss beim ersten Kontakt klar sichtbar sein, eindeutig dem Inhalt zuzuordnen und in einer für das jeweilige Medium geeigneten Position angebracht werden. Bei Audio- und Videoinhalten muss die Wahrnehmbarkeit über die relevante Nutzungsdauer gewährleistet sein, und der Hinweis sollte nach Möglichkeit auch beim Teilen oder Herunterladen erhalten bleiben.
Für Altinhalte gilt: Deepfakes, die vor dem 2. August 2026 erzeugt und veröffentlicht wurden, müssen nach den Hinweisen der Kommission nicht rückwirkend gekennzeichnet werden, eine freiwillige Kennzeichnung wird aber empfohlen. Wer solche Inhalte seit dem Stichtag erneut veröffentlicht oder wesentlich verändert, löst die Kennzeichnungspflicht allerdings aus.
Was bei Verstößen droht
Die Transparenzpflichten sind kein zahnloser Appell. Verstöße können mit Bußgeldern von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes geahndet werden - je nachdem, welcher Betrag höher ist. Hinzu kommt ein praktisches Durchsetzungsrisiko: Ob ein Video ein Label trägt oder nicht, lässt sich oft mit bloßem Auge prüfen. Fachleute rechnen deshalb damit, dass Beschwerden und wettbewerbsrechtliche Abmahnungen ein realistischer Durchsetzungsweg werden.
Ein Gedanke aus der Sicherheitsperspektive
So sinnvoll die Kennzeichnungspflicht für den seriösen Umgang mit KI ist - man sollte sich über ihre Grenze im Klaren sein: Sie schützt nicht vor Betrug. Ein Krimineller, der mit einem Deepfake eine Millionenüberweisung auslöst, wird sein Fälschungsvideo nicht brav als KI-generiert kennzeichnen. Die Kennzeichnungspflicht adressiert den legalen, offenen Einsatz von KI - Marketing, Kommunikation, Medien - und schafft dort Transparenz. Gegen den kriminellen Missbrauch, um den es auf dieser Website vor allem geht, hilft sie nicht.
Das ist keine Kritik am Gesetz, sondern eine Einordnung: Recht und Schutz sind zwei verschiedene Ebenen. Der AI Act macht den ehrlichen Umgang mit KI transparenter. Der Schutz vor dem unehrlichen bleibt eine Frage der eigenen Prozesse - wie im Leitfaden zu Verifikationsprozessen beschrieben. Wie das deutsche Recht Betroffene von missbräuchlichen Deepfakes schützt, behandelt die Seite zur Rechtslage in Deutschland.
Weiterführend auf deepfake.de
