Was sind Deepfakes?

Deepfakes sind künstlich erzeugte oder manipulierte Fotos, Videos, Audiodateien oder Texte, die mithilfe Künstlicher Intelligenz so verändert werden, dass sie echt wirken. Besonders problematisch sind sie, wenn eine Person scheinbar etwas sagt, tut oder zeigt, was in Wirklichkeit nie passiert ist. Rechtlich relevant werden Deepfakes vor allem dann, wenn Bild, Stimme, Name oder Identität einer Person ohne Einwilligung genutzt werden. Dann können Persönlichkeitsrecht, Datenschutzrecht, Urheberrecht, Strafrecht und Ansprüche gegen Plattformen betroffen sein.

Deepfake einfach erklärt: Bild, Stimme und Identität

Der Begriff Deepfake setzt sich aus „Deep“ und „Fake“ zusammen. „Deep“ verweist auf Deep Learning, also auf KI-Verfahren mit künstlichen neuronalen Netzen. „Fake“ steht für Fälschung. Gemeint sind Medieninhalte, die durch KI manipuliert oder vollständig neu erstellt werden und ohne nähere Prüfung nicht oder kaum als Fälschung erkennbar sind.

Deepfakes betreffen vor allem drei Bereiche: Bei Bildern und Videos geht es häufig um Gesichter, Mimik, Kopfbewegungen oder Lippenbewegungen. Bei Audioinhalten wird eine Stimme synthetisch nachgebildet oder eine vorhandene Aufnahme in eine andere Stimme umgewandelt. Bei Texten können KI-Systeme längere Nachrichten, Blogbeiträge oder Chatantworten erzeugen, die auf den ersten Blick menschlich wirken.

KI, Stimme und Gesicht: So werden Deepfakes erzeugt

Deepfakes beruhen regelmäßig auf künstlichen neuronalen Netzen. Diese Systeme werden mit Bild-, Video-, Audio- oder Textdaten trainiert und lernen daraus, bestimmte Muster nachzubilden. Bei Gesichtern analysieren sie etwa Mimik, Hautstruktur, Blickrichtung, Beleuchtung, Kopfhaltung, Alter oder Emotionen. Bei Stimmen geht es um Klangfarbe, Sprechtempo, Intonation, Sprachrhythmus und Aussprache.

Häufig werden sogenannte Generative Adversarial Networks eingesetzt, bei denen zwei KI-Komponenten gegeneinander arbeiten. Der Generator erstellt künstliche Inhalte und der Diskriminator prüft, ob diese echt oder gefälscht wirken. Durch diesen fortlaufenden Abgleich verbessert sich das Ergebnis schrittweise, bis eine Fälschung täuschend echt erscheinen kann. Daneben kommen Autoencoder-Verfahren zum Einsatz. Der Encoder analysiert das Gesicht einer Person und zerlegt es in Merkmale und der Decoder setzt diese Merkmale wieder zu einem Bild oder Video zusammen. Werden Quell- und Zielgesicht miteinander trainiert, kann das System lernen, die Merkmale einer Person auf eine andere zu übertragen. Gute Deepfakes entstehen deshalb nicht durch ein bloßes Überkleben eines Gesichts, sondern durch eine genaue Anpassung an Perspektive, Licht, Mimik und Bewegung.

Für überzeugende Ergebnisse benötigt das System Trainingsmaterial. Je nach Verfahren können wenige Bilder, kurze Videos oder einige Minuten Audio ausreichen. Bessere Ergebnisse entstehen jedoch, wenn das Ausgangsmaterial verschiedene Blickwinkel, Lichtverhältnisse, Gesichtsausdrücke und Sprechsituationen enthält. Bei besonders hochwertigen Fälschungen können sehr viele Trainingsdurchläufe notwendig sein. Zugleich sinkt der technische Aufwand durch öffentliche Tools, Apps und Cloud-Dienste immer weiter.

Welche Arten von Deepfakes gibt es?

Die bekannteste Form ist der Face-Swap. Dabei wird das Gesicht einer Person in einem Foto oder Video durch das Gesicht einer anderen Person ersetzt. Die Zielperson erscheint dadurch in einer Szene, in der sie tatsächlich nie war. In Kombination mit einer nachgebildeten Stimme kann der Eindruck entstehen, sie habe bestimmte Aussagen getroffen oder Handlungen vorgenommen.

Beim Face Reenactment, auch Puppet-Master-Verfahren genannt, werden Mimik, Kopfbewegungen oder Lippenbewegungen einer Person gesteuert. Das Gesicht bleibt erkennbar, wird aber in seiner Bewegung manipuliert. So kann eine Person scheinbar lachen, sprechen, nicken oder auf eine bestimmte Weise reagieren, obwohl die Aufnahme dies ursprünglich nicht gezeigt hat.

Beim Lip-Syncing werden Lippenbewegungen an eine andere Tonspur angepasst. Diese Technik kann für Synchronisationen, Übersetzungen oder Filmproduktionen sinnvoll sein. Sie kann aber auch missbraucht werden, um einer Person fremde Aussagen in den Mund zu legen.

Eine weitere Variante ist die Gesichtssynthese. Dabei wird kein bestehendes Gesicht ausgetauscht, sondern ein vollständig künstliches Gesicht erzeugt. Solche Personen existieren in der Realität nicht. Trotzdem können die Bilder wie echte Profilfotos wirken und etwa für gefälschte Accounts, Desinformation oder Betrug eingesetzt werden.

Auch Audio-Deepfakes spielen eine große Rolle. Beim Text-to-Speech-Verfahren gibt ein Anwender einen Text ein, der anschließend mit der Stimme einer bestimmten Person ausgegeben wird. Bei Voice Conversion wird eine vorhandene Sprachaufnahme so umgewandelt, dass sie nach einer anderen Person klingt. Moderne Verfahren versuchen nicht nur die Klangfarbe zu imitieren, sondern auch Sprechweise, Rhythmus, Betonung und sprachliche Eigenheiten.

Sinnvolle Anwendungen der Deepfake-Technologie

Deepfake-Technologie ist nicht nur mit Missbrauch verbunden. In der Filmindustrie kann sie für visuelle Effekte, Alterseffekte oder die digitale Wiederbelebung verstorbener Schauspieler eingesetzt werden. In Mode und E-Commerce sind virtuelle Anproben denkbar, bei denen Kleidung am eigenen digitalen Abbild dargestellt wird. Auch in Bildung, Kunst und Medizin gibt es mögliche Einsatzbereiche. Historische Persönlichkeiten können für interaktive Lernformate visualisiert werden. In der medizinischen Ausbildung können realistische Simulationen von Patienten oder Krankheitsbildern erstellt werden.

Welche Risiken haben Deepfakes für Personen und Unternehmen?

Deepfakes können erhebliche Schäden verursachen, da audiovisuelle Inhalte auf Menschen besonders glaubwürdig wirken. Wer eine Person in einem Video sieht oder ihre Stimme hört, hält den Inhalt häufig zunächst für echt. Genau diese Wahrnehmung kann ausgenutzt werden. Ein wichtiges Risiko liegt im Betrug. Bei sogenannten CEO-Fraud-Fällen kann eine künstlich nachgebildete Stimme genutzt werden, um Mitarbeitende zu Geldtransaktionen zu bewegen. Auch bei Phishing und Spear-Phishing können Deepfakes eingesetzt werden, um Vertrauen herzustellen und Informationen, Zugangsdaten oder Zahlungen zu erlangen.

Ein weiteres Risiko betrifft biometrische Systeme. Wenn Gesichter oder Stimmen in hoher Qualität nachgebildet werden können, geraten Verfahren wie Videoidentifikation oder Sprechererkennung unter Druck. Besonders anfällig sind Situationen, in denen die prüfende Stelle nur das übermittelte Bild- oder Tonsignal erhält und keinen Zugriff auf die Aufnahmesituation hat. Deepfakes können außerdem für Desinformation und politische Manipulation genutzt werden. Denkbar sind gefälschte Videos von Politikern, Führungskräften oder anderen Schlüsselpersonen.

Besonders schwerwiegend ist der Einsatz für sexualisierte Darstellungen ohne Einwilligung. Deepfakes können verwendet werden, um Personen in pornografische Inhalte einzufügen oder künstliche Nacktbilder zu erzeugen. Bekannt geworden sind etwa Fälle, in denen automatisierte Bots massenhaft manipulierte Nacktbilder von Frauen erstellt haben. Solche Anwendungen greifen unmittelbar in die Würde, Intimsphäre und soziale Existenz der Betroffenen ein. Bei sexualisierten Deepfakes können neben zivilrechtlichen Ansprüchen auch Straftatbestände berührt sein. Je nach Inhalt und Verbreitungsform kommen insbesondere § 201a StGB, Beleidigung, üble Nachrede oder Verleumdung in Betracht. Ob eine Strafbarkeit vorliegt, hängt jedoch stark vom konkreten Bildinhalt, der Erkennbarkeit der betroffenen Person, der Verbreitungssituation und dem Vorsatz ab.

Unternehmen können ebenfalls betroffen sein. Gefälschte Aussagen von Geschäftsführern, manipulierte Videos von Vorständen oder künstlich erzeugte Audios können Reputation, Geschäftsbeziehungen und interne Entscheidungsprozesse gefährden. Hinzu kommt ein weiteres Problem: Je bekannter Deepfakes werden, desto leichter können echte Aufnahmen pauschal als angebliche Fälschung bestritten werden. Dadurch kann das Vertrauen in Medieninhalte insgesamt geschwächt werden.

Deepfakes erkennen: typische Hinweise und Grenzen

Deepfakes werden technisch immer besser. Eine sichere Erkennung mit bloßem Auge oder Ohr ist deshalb nicht immer möglich. Dennoch gibt es typische Auffälligkeiten, beispielsweise können bei Gesichtsmanipulationen Übergänge am Gesichtsrand verschwommen wirken. Hautfarbe und -struktur passen manchmal nicht vollständig zum übrigen Kopf. Augen, Zähne oder Haare erscheinen oftmals unscharf. Auch unstimmige Schatten, unpassende Beleuchtung, begrenzte Mimik oder fehlerhafte Profilansichten können Hinweise sein.

Bei Video-Deepfakes ist außerdem die zeitliche Konsistenz wichtig. Es reicht nicht, einzelne Frames überzeugend zu manipulieren. Die Bewegung muss über die gesamte Aufnahme hinweg stimmig bleiben. Fälschungen können daher an kleinen Brüchen zwischen aufeinanderfolgenden Bildern, unnatürlichen Gesichtsausdrücken oder nicht passenden Körperproportionen auffallen.

Bei Audio-Deepfakes können ein metallischer Klang, monotone Betonung, falsche Aussprache, ungewohnte Pausen oder unnatürliche Geräusche auffallen. Auch eine Sprechweise, die nicht zur bekannten Person passt, kann ein Hinweis sein. Moderne Systeme imitieren die Klangfarbe einer Stimme oft gut, haben aber weiterhin Schwierigkeiten mit Akzent, Betonung, Sprachrhythmus und spontanen Reaktionen.

Technische Erkennungsmethoden gehen deutlich weiter: Medienforensische Untersuchungen analysieren digitale Spuren, Metadaten, Kameramerkmale, Bearbeitungsspuren, Lichtverhältnisse, Mikro-Expressionen, physiologische Signale oder charakteristische Sprechmuster. Teilweise werden auch Herzschlagmuster oder kleinste Veränderungen der Haut untersucht, weil solche Merkmale schwerer zu fälschen sind.

Trotzdem bleibt die Erkennung schwierig. Detektionssysteme müssen mit großen Datenmengen trainiert werden und funktionieren häufig nur unter bestimmten Bedingungen zuverlässig. Wenn eine neue Fälschungsmethode auftaucht, kann ein Erkennungssystem versagen, wenn es genau diese Methode nicht gelernt hat. Hinzu kommt, dass Deepfake-Erzeugung und Deepfake-Erkennung in einem technischen Wettrennen stehen. Sobald eine Erkennungsmethode besser wird, können neue Fälschungsverfahren darauf reagieren.

Wie kann man sich vor Deepfakes schützen?

Ein vollständiger Schutz ist kaum möglich. Sinnvoll ist zunächst ein vorsichtiger Umgang mit eigenen Bildern, Videos und Sprachaufnahmen im Internet. Je mehr hochwertiges Material öffentlich verfügbar ist, desto leichter können KI-Systeme damit trainiert werden. Besonders bei Personen des öffentlichen Lebens, Unternehmen, Behörden und exponierten Mitarbeitenden ist dies praktisch relevant. Ebenso wichtig ist Medienkompetenz, denn auffällige Inhalte sollten nicht vorschnell geteilt werden. Insbesondere bei emotionalen, politischen oder rufschädigenden Inhalten sollten mehrere verlässliche Quellen geprüft werden. Wer unsicher ist, sollte nicht zur weiteren Verbreitung beitragen, sondern den Inhalt sichern, melden und rechtlich prüfen lassen.

Technisch können kryptographische Verfahren, digitale Wasserzeichen, Zertifizierungen oder Signaturen helfen. Sie können die Herkunft eines Inhalts absichern und nachträgliche Veränderungen erkennbar machen. Solche Verfahren verhindern allerdings nicht, dass ein Inhalt bereits vor der Absicherung manipuliert wurde. Sie sind daher ein Baustein, aber kein vollständiger Schutz.

Welche Rechte haben Betroffene bei Deepfakes?

Bei Deepfakes steht häufig das allgemeine Persönlichkeitsrecht im Mittelpunkt. Es schützt die persönliche Ehre, das eigene Bild, die Stimme, die Privatsphäre, die Intimsphäre und die soziale Anerkennung einer Person. Wird jemand durch einen Deepfake in falscher, entstellender oder bloßstellender Weise dargestellt, kann dies eine schwerwiegende Persönlichkeitsrechtsverletzung sein.

Daneben kann das Recht am eigenen Bild betroffen sein. Wird eine erkennbare Person ohne Einwilligung in einem manipulierten Foto oder Video verwendet, kann dies unzulässig sein. Bei Stimmen kann ebenfalls ein Schutz bestehen, wenn die Stimme einer Person nachgebildet und zur Täuschung eingesetzt wird. Auch Datenschutzrecht kann eine Rolle spielen, weil Bild-, Video- und Audiodaten personenbezogene Daten sein können.

Je nach Inhalt kommen Unterlassung, Löschung, Berichtigung, Gegendarstellung, Schadensersatz oder Geldentschädigung in Betracht. Bei besonders schweren Fällen, etwa sexualisierten Deepfakes, Betrug, Bedrohung, Verleumdung oder gezielter Rufschädigung, kann auch das Strafrecht betroffen sein. Unternehmen können zusätzlich aus Wettbewerbsrecht, Markenrecht oder aus dem Recht am eingerichteten und ausgeübten Gewerbebetrieb vorgehen, wenn Deepfakes geschäftsschädigend eingesetzt werden.

Zivilrechtlich kommen insbesondere Ansprüche auf Unterlassung, Beseitigung und Schadensersatz in Betracht. Grundlage können das allgemeine Persönlichkeitsrecht in Verbindung mit § 823 Abs. 1 BGB, das Recht am eigenen Bild nach §§ 22, 23 KunstUrhG sowie datenschutzrechtliche Ansprüche nach der DSGVO sein. Bei besonders schweren Eingriffen, etwa sexualisierten Deepfakes oder gezielter Rufschädigung, kann zusätzlich eine Geldentschädigung in Betracht kommen.

SBS LEGAL - Kanzlei für KI-Recht und IT-Recht

Deepfakes berühren häufig das IT-Recht, KI-Recht, Datenschutzrecht und Persönlichkeitsrecht zugleich. SBS LEGAL unterstützt Betroffene und Unternehmen bei der rechtlichen Prüfung von Deepfakes, bei Löschungs- und Unterlassungsansprüchen sowie bei der Durchsetzung weiterer Ansprüche gegen Täter oder Plattformen.

Rechtliche Unterstützung bei Deepfakes, KI-Manipulationen und Identitätsmissbrauch

Wenn manipulierte Bilder, Videos oder Stimmen im Internet verbreitet werden, ist schnelles und rechtlich sauberes Handeln entscheidend. Unsere Kanzlei prüft, ob Ansprüche auf Unterlassung, Löschung, Auskunft, Schadensersatz oder Geldentschädigung bestehen und ob zusätzlich strafrechtliche Schritte in Betracht kommen. Auch Unternehmen beraten wir bei Reputationsschäden, CEO-Fraud-Szenarien, gefälschten Geschäftsführeraussagen und präventiven Maßnahmen gegen KI-gestützten Identitätsmissbrauch.

Der Erstkontakt zu SBS LEGAL ist kostenlos.