DVZ Datenverarbeitungszentrum
Mecklenburg-Vorpommern GmbH
Lübecker Straße 283
19059 Schwerin

Deepfakes auf dem Vormarsch

Gefälschte Videos für kriminelle Zwecke – IT-Forensik im DVZ ist gewappnet

Im Internet erfreut sich ein Trend immer größerer Beliebtheit: Per App (z. B. Face Swap oder Reface) wird das eigene Gesicht täuschend echt in bekannte Filmszenen gesetzt.

Da sind Lacher vorprogrammiert, wenn sich bärtige Männer anstatt von Julia Roberts in Pretty-Woman-Manier in der Badewanne räkeln oder als Superman durch die Luft düsen. Der Unterhaltungsfaktor ist hoch, dennoch bergen Deepfakes, wie sich diese Art der Bild- und Tonmanipulation nennt, ernstzunehmende Gefahren und erfordern daher in der IT-Forensik immer mehr Aufmerksamkeit.

Was versteht man unter Deepfakes?

Deepfakes werden von einer künstlichen Intelligenz durch verschiedene Technologien erzeugt. Der Begriff setzt sich aus den Wörtern Deep, welches für „deep learning“ (zu Deutsch „tiefgehendes Lernen“) steht und Fake, zu Deutsch „Fälschung“ zusammen. Damit ist auch schon gut beschrieben, was eine Deepfake Software tut: durch die Auswertung einer oder mehrerer Bildvorlagen lernt die künstliche Intelligenz diese optischen Merkmale auf ein anderes Motiv zu übertragen. Erstmals wurde diese Art der Videomanipulation im Jahr 2017 auf der Website Reddit entdeckt, wo pornografische Clips mit den Gesichtern prominenter Personen auftauchten.

GAN als vorherrschende technologische Grundlage

Es gibt eine Vielzahl an Technologien, mit denen Deepfakes erstellt werden können. Die meisten basieren jedoch auf Generative Adversarial Networks (GAN), die bereits 2014 entwickelt wurden und aus zwei Komponenten bestehen: einem Generator und einem Diskriminator. Beide arbeiten iterativ zusammen. Kurz gesagt, der Generator bei dieser Technologie ein Video zu synthetisieren, welches den Diskriminator täuscht. Ziel des Diskriminators ist festzustellen, ob das vom Generator erstellte Video als zum Trainingsdatensatz gehörend erkannt werden kann oder nicht. Diese Technik kann zwar sehr überzeugende Fälschungen erzeugen, erfordert jedoch oft eine umfassende Menge an Trainingsdaten. Eine neuere Methode (FSGAN) dagegen erzeugt hochqualitative Fälschungen mit weniger Trainingsdaten. Eine verwandte Technik, das Puppet Mastering, ist in der Lage, ein fotorealistisches Avatar-GAN aufzubauen, das Mimik und Perspektive in Echtzeit auf mobilen Geräten synthetisiert.

Spielerei birgt reale Gefahren

Setzt man sein eigenes Gesicht in einen Videoclip ein, geht es in erster Linie um den Spaß an technischen Spielereien. Im Fall der bereits genannten pornografischen Inhalte mit den Gesichtern prominenter Menschen oder Deepfakes mit anderen Menschen aus Politik, Medien, Kultur etc. geht es in der Regel aber um mehr. Hier stehen oft Rufschädigungen oder das Verbreiten von Unwahrheiten (Fake News) im Fokus. Mithilfe von Deepfakes werden betrügerische Fehl- und Desinformationskampagnen gezielt dafür eingesetzt, Konflikte zu befeuern, die Auszahlung von Geldern zu veranlassen und vieles mehr. In den letzten beiden Jahren waren Deepfakes immer häufiger auch Teil von politischen Schmutzkampagnen im Wahlkampf und verbreiteten sich über soziale Plattformen zudem rasend schnell.

Das rasante Voranschreiten der technologischen Leistung macht es zudem immer schwerer, echte Videos von Deepfakes mit bloßem Auge unterscheiden zu können, daher stellen sie für die IT- und Multimediaforensik ein immer bedeutsamer werdendes Themenfeld dar. Insbesondere seit der nach und nach besser werdenden synthetischen Stimmenimitation mit den dazu passenden Lippensynchronisationen wird es zunehmend komplizierter, Original von Fake zu unterscheiden.

Mailin Thode | IT-Forensik

„Zwar haben wir in unserem Arbeitsalltag in der IT-Forensik noch nicht konkret mit Fällen zu tun, in denen Videos auf Deepfakes untersucht werden müssen, dennoch beobachten wir diese Thematik und die damit verbundenen Technologien aufmerksam, um im Falle eines Falles zu wissen, wonach wir suchen müssen“, erklärt Mailin Thode, die im DVZ als Ermittlerin in der IT-Forensik arbeitet.

Deepfakes entlarven

Zur Erkennung von Deepfakes unterscheidet man drei Herangehensweisen: die manuelle Überprüfung, Low-Level-Computertechniken (konzentrieren sich auf die Erkennung im Syntheseprozess eingeführter Artefakte auf Pixelebene) sowie High-Level-Computertechniken (konzentrieren sich auf semantisch bedeutsamere Merkmale, z. B. Kopfbewegungen, Augenblinzeln, Lippensynchronisation etc.). „Die Technologien werden immer ausgefeilter und die Kriminellen immer einfallsreicher. Wenn wir mit unserer forensischen Arbeit erfolgreich sein wollen, müssen wir immer auf dem neuesten Stand sein“, betont Thode.

Zurück zum Kundenmagazin