Deepfake-Glossar: Die wichtigsten Begriffe
Rund um Deepfakes und KI-gestützte Täuschung kursieren viele Fachbegriffe. Dieses Glossar erklärt die wichtigsten kurz und verständlich - als Nachschlagewerk für alle, die beim Lesen über einen unbekannten Begriff stolpern.
Die Begriffe sind alphabetisch geordnet. Wo ein Thema ausführlicher behandelt wird, finden Sie die vertiefenden Erklärungen in den jeweiligen Bereichen dieser Seite.
AI Act
Die KI-Verordnung der Europäischen Union - das weltweit erste umfassende Gesetz zur Regulierung künstlicher Intelligenz. Für Deepfakes besonders relevant sind die enthaltenen Kennzeichnungspflichten: KI-generierte oder -manipulierte Inhalte müssen unter bestimmten Bedingungen als solche gekennzeichnet werden.
Audio-Deepfake
Ein mit künstlicher Intelligenz erzeugter oder manipulierter Toninhalt, meist eine gefälschte Stimme. Der gängigere Begriff dafür ist Voice-Cloning.
Cheapfake
Auch Shallowfake genannt. Eine Medienmanipulation, die ohne KI auskommt - etwa ein echtes Video, das verlangsamt, beschleunigt, falsch beschriftet oder aus dem Zusammenhang gerissen wird. Technisch simpel, aber wegen der einfachen Erstellung sehr verbreitet und keineswegs harmlos.
CEO-Fraud
Eine Betrugsmasche, bei der sich Angreifer als Geschäftsführer oder anderes Führungsmitglied ausgeben, um Mitarbeiter zu Überweisungen oder zur Herausgabe sensibler Daten zu verleiten. Ursprünglich per E-Mail, heute zunehmend mit Deepfake-Stimme oder -Video verstärkt.
Deepfake
Ein mit künstlicher Intelligenz erzeugtes oder verändertes Medium - Video, Bild oder Ton -, das eine Realität zeigt, die es nie gab. Der Begriff setzt sich zusammen aus "Deep Learning" (die zugrunde liegende KI-Technik) und "Fake" (Fälschung).
Deep Learning
Ein Teilbereich des maschinellen Lernens, bei dem künstliche neuronale Netze aus großen Datenmengen Muster lernen. Die Technik, die Deepfakes ihren Namen und ihre Fähigkeiten gibt.
Diffusionsmodell
Ein modernes KI-Verfahren zur Erzeugung von Bildern, das vielen aktuellen Bildgeneratoren zugrunde liegt. Vereinfacht gesagt lernt es, aus zufälligem Bildrauschen schrittweise realistische Bilder entstehen zu lassen. Gilt als eine der Techniken hinter besonders überzeugenden Deepfakes.
Face-Swap
Das Austauschen eines Gesichts durch ein anderes in einem Bild oder Video - die bekannteste und namensgebende Form des Video-Deepfakes.
GAN (Generative Adversarial Network)
Ein KI-Verfahren, bei dem zwei neuronale Netze gegeneinander arbeiten: Eines erzeugt Fälschungen, das andere versucht sie zu entlarven. Durch diesen Wettstreit werden die erzeugten Fälschungen immer überzeugender. Lange die prägende Technik hinter Deepfakes.
Liveness Detection
Ein technisches Prüfverfahren, das feststellen soll, ob es sich beim Gegenüber um einen echten, lebenden Menschen handelt und nicht um eine Aufnahme oder Fälschung. Wird etwa bei der digitalen Identitätsprüfung eingesetzt, um Deepfakes und statische Bilder auszuschließen.
Live-Deepfake
Eine in Echtzeit erzeugte Fälschung von Gesicht oder Stimme - etwa während eines laufenden Videocalls oder Telefonats. Widerlegt die frühere Annahme, ein Live-Gespräch sei ein zuverlässiger Echtheitsbeweis.
NIS2
Eine EU-Richtlinie zur Erhöhung der Cybersicherheit, die für viele Unternehmen verpflichtende Sicherheitsmaßnahmen und Meldepflichten einführt. Deepfake-gestützte Angriffe fallen unter das Risikomanagement, das betroffene Unternehmen betreiben müssen.
OSINT (Open Source Intelligence)
Die Sammlung und Auswertung öffentlich verfügbarer Informationen. Im Deepfake-Kontext relevant, weil Angreifer öffentlich zugängliches Bild- und Tonmaterial nutzen, um ihre Fälschungen zu trainieren - und weil dieselben Methoden helfen, die eigene Angreifbarkeit einzuschätzen.
Phishing
Der Versuch, über gefälschte Nachrichten an sensible Daten wie Passwörter oder Bankdaten zu gelangen. Die klassische Form läuft per E-Mail; mit Deepfakes verschiebt sich das Prinzip zunehmend auf Stimme (Vishing) und Video.
Social Engineering
Angriffe, die nicht auf Technik zielen, sondern auf Menschen - durch Manipulation, Täuschung und das Ausnutzen psychologischer Muster wie Autorität, Dringlichkeit und Hilfsbereitschaft. Deepfakes sind eine technische Weiterentwicklung dieser Angriffsform.
Vier-Augen-Prinzip
Eine organisatorische Schutzmaßnahme, bei der wichtige Vorgänge - etwa Zahlungen ab einer bestimmten Höhe - von einer zweiten Person freigegeben werden müssen. Eine der wirksamsten Maßnahmen gegen Deepfake-gestützten Überweisungsbetrug.
Vishing (Voice-Phishing)
Phishing per Telefon - der Versuch, über einen Anruf an sensible Daten zu gelangen oder zu Handlungen zu verleiten. Durch Voice-Cloning wird Vishing deutlich gefährlicher, weil die Stimme einer vertrauten Person imitiert werden kann.
Voice-Cloning
Das Klonen einer Stimme mit künstlicher Intelligenz. Aus wenigen Sekunden Audiomaterial lässt sich eine Stimme so nachbilden, dass sie beliebigen neuen Text sprechen kann. Grundlage vieler telefonischer Betrugsmaschen.
Out-of-Band-Verifikation
Die Bestätigung einer Anweisung über einen zweiten, unabhängigen Kanal, den ein Angreifer nicht kontrolliert - etwa ein Rückruf auf einer bekannten Nummer statt einer Antwort im selben Gespräch. Das Kernprinzip wirksamer Verifikationsprozesse.
