AI Act und Deepfakes: Die Kennzeichnungspflicht ab August 2026
Mit dem AI Act hat die Europäische Union das weltweit erste umfassende KI-Gesetz geschaffen - und für Deepfakes eine konkrete Konsequenz: eine Kennzeichnungspflicht. Ab dem 2. August 2026 müssen KI-generierte oder -manipulierte Bild-, Ton- und Videoinhalte, die echt erscheinen könnten, als solche offengelegt werden. Diese Seite erklärt verständlich, was das bedeutet, wen es trifft und wo die Grenzen liegen.
Bevor es losgeht: eine wichtige Einordnung
Mit diesem Vorbehalt lohnt sich der Überblick, denn das Thema betrifft weit mehr Menschen und Unternehmen, als viele annehmen.
Worum es geht: die Transparenzpflicht
Das Kernprinzip ist einfach und einleuchtend: Wer synthetische Medien in Umlauf bringt, die real wirken könnten, soll das offenlegen müssen. Das Ziel ist, Täuschung zu vermeiden und Menschen die Möglichkeit zu geben, KI-Inhalte als solche einzuordnen. Geregelt ist das in Artikel 50 des AI Act, den sogenannten Transparenzpflichten.
Der AI Act definiert einen Deepfake dabei weit: KI-generierte oder -manipulierte Bild-, Ton- oder Videoinhalte, die realen Personen, Objekten oder Ereignissen ähneln und fälschlicherweise als echt erscheinen könnten. Bemerkenswert ist, dass es dabei nicht auf eine Täuschungsabsicht ankommt. Auch wer niemanden täuschen will, kann kennzeichnungspflichtig sein - etwa bei einem KI-Avatar der eigenen Person in einem Werbevideo.
Ab wann gilt was?
Der zentrale Stichtag ist der 2. August 2026. Ab diesem Datum gelten die Transparenzpflichten des Artikels 50 - zwei Jahre nach Inkrafttreten der Verordnung im August 2024. Weil es sich um eine EU-Verordnung handelt, gilt diese Frist unmittelbar in allen Mitgliedstaaten, ohne dass ein nationales Gesetz sie erst umsetzen müsste.
Bei den Fristen ist eine Feinheit wichtig, die oft übersehen wird. Der AI Act unterscheidet zwei Rollen:
Die Betreiber - also alle, die ein KI-System beruflich nutzen und die erzeugten Inhalte verbreiten - müssen ab dem 2. August 2026 sichtbar offenlegen, dass ein Inhalt künstlich erzeugt wurde.
Die Anbieter - also die Hersteller der KI-Systeme - müssen ihre Ausgaben zusätzlich technisch, maschinenlesbar markieren (etwa per Wasserzeichen und Metadaten). Für diese technische Markierungspflicht zeichnet sich über eine Anpassung des Gesetzes (den sogenannten "Digital Omnibus") eine spätere Frist ab, voraussichtlich der 2. Dezember 2026. Dieser Teil war zum Zeitpunkt der Erstellung dieser Seite noch nicht endgültig formal bestätigt.
Für die meisten Unternehmen ist die erste Rolle die relevante: Sie sind Betreiber, wenn sie zugekaufte KI-Werkzeuge einsetzen - und damit ab August 2026 in der Pflicht.
Wen trifft die Pflicht - und wie muss gekennzeichnet werden?
Die Kennzeichnungspflicht trifft nicht nur große Technologiekonzerne. Betroffen ist praktisch jedes Unternehmen, jede Behörde und jeder Selbstständige, der KI beruflich einsetzt, um realistische Medien zu erzeugen. Ausgenommen ist allein die rein private Nutzung.
Bei der Form der Kennzeichnung ist entscheidend: Sie muss für Menschen wahrnehmbar sein - sichtbar oder hörbar, klar und unterscheidbar, und zwar spätestens beim ersten Kontakt mit dem Inhalt. Ein versteckter Hinweis in den AGB oder in der Datenschutzerklärung genügt ausdrücklich nicht, weil ihn beim Betrachten niemand aufruft. In der Praxis heißt das: ein sichtbares Label im oder am Bild, ein Hinweis im Video, eine hörbare Ansage - direkt am Inhalt.
Die Ausnahmen
Der AI Act arbeitet risikoorientiert - dort, wo das Täuschungspotenzial gering ist, wird die Pflicht abgeschwächt oder entfällt. Die wichtigsten Ausnahmen:
Kunst, Satire und Fiktion. Ist ein Deepfake erkennbar Teil eines künstlerischen, kreativen, satirischen oder fiktionalen Werks, beschränkt sich die Pflicht darauf, das Vorhandensein der Manipulation in einer Weise offenzulegen, die den Kunstgenuss nicht stört. Ein offensichtlich satirisches Video muss also nicht mit einem großen Warnhinweis versehen werden.
Strafverfolgung. Wird ein Deepfake im gesetzlich zugelassenen Rahmen zur Aufdeckung, Verhütung oder Verfolgung von Straftaten eingesetzt, entfällt die Kennzeichnungspflicht.
Geringfügige Bearbeitung. Eine bloß unwesentliche technische Anpassung - etwa eine Belichtungskorrektur - erreicht nicht die Schwelle einer "Manipulation" im Sinne des Deepfake-Begriffs. Wo genau diese Schwelle liegt, ist allerdings einer der noch unklaren Graubereiche.
Ein wichtiger Sonderfall betrifft Texte: KI-generierte Texte zu Themen von öffentlichem Interesse müssen grundsätzlich ebenfalls gekennzeichnet werden - hier gibt es aber eine Ausnahme für Texte, die einer echten redaktionellen Kontrolle unterliegen und für die eine benannte Person die Verantwortung trägt. Für Deepfakes (Bild, Ton, Video) gilt diese redaktionelle Ausnahme jedoch nicht.
Was bei Verstößen droht
Die Transparenzpflichten sind kein zahnloser Appell. Verstöße können mit Bußgeldern von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes geahndet werden - je nachdem, welcher Betrag höher ist. Hinzu kommt ein praktisches Durchsetzungsrisiko: Ob ein Video ein Label trägt oder nicht, lässt sich oft mit bloßem Auge prüfen. Fachleute rechnen deshalb damit, dass Beschwerden und wettbewerbsrechtliche Abmahnungen ein realistischer Durchsetzungsweg werden.
Ein Gedanke aus der Sicherheitsperspektive
So sinnvoll die Kennzeichnungspflicht für den seriösen Umgang mit KI ist - man sollte sich über ihre Grenze im Klaren sein: Sie schützt nicht vor Betrug. Ein Krimineller, der mit einem Deepfake eine Millionenüberweisung auslöst, wird sein Fälschungsvideo nicht brav als KI-generiert kennzeichnen. Die Kennzeichnungspflicht adressiert den legalen, offenen Einsatz von KI - Marketing, Kommunikation, Medien - und schafft dort Transparenz. Gegen den kriminellen Missbrauch, um den es auf dieser Website vor allem geht, hilft sie nicht.
Das ist keine Kritik am Gesetz, sondern eine Einordnung: Recht und Schutz sind zwei verschiedene Ebenen. Der AI Act macht den ehrlichen Umgang mit KI transparenter. Der Schutz vor dem unehrlichen bleibt eine Frage der eigenen Prozesse - wie im Leitfaden zu Verifikationsprozessen beschrieben. Wie das deutsche Recht Betroffene von missbräuchlichen Deepfakes schützt, behandelt die Seite zur Rechtslage in Deutschland.
Weiterführend auf deepfake.de
