Zum Hauptinhalt springen

Millionen von DownloadsNeue App macht Fake-Videos massentauglich

Doublicat erlaubt es den Nutzern, ihr Gesicht in fremde Clips einzufügen. Das ist als Spass gedacht – doch wie gross ist das Missbrauchspotenzial?

Gruselig, aber nicht sehr überzeugend: Wenn man sein eigenes Gesicht anstelle des Antlitzes von Johnny Depp erblickt.
Gruselig, aber nicht sehr überzeugend: Wenn man sein eigenes Gesicht anstelle des Antlitzes von Johnny Depp erblickt.
Video: Doublicat/schü.

Eine neue App legt eine steile Wachstumskurve hin: Doublicat ist innerhalb von sechs Monaten an die Spitze der App-Store-Hitparaden vorgestossen und verzeichnet inzwischen Millionen von Downloads. Die App macht ein Phänomen massentauglich, das wir schon etwas länger als Deepfakes kennen.

Bei dieser Technik wird in einem Video das Gesicht der Hauptfigur durch ein anderes ausgetauscht. Sie arbeitet mithilfe des Deep Learning, einer Methode aus dem Bereich der künstlichen Intelligenz, bei der Algorithmen trainiert werden, damit sie eine bestimmte Aufgabe automatisch erledigen können.

Der Begriff Deepfake ist 2017 entstanden, als ein Nutzer auf der Social-Media-Plattform Reddit Pornoclips veröffentlichte, bei denen er die Gesichter der Darsteller durch Prominente ersetzt hatte. Heute werden Deepfakes zu vielerlei Zwecken eingesetzt: für Kunstprojekte, Filmproduktionen, für politische Aufklärung, aber auch zur Manipulation.

Ein einziges Selfie reicht für den Fake

Ursprünglich war das «Deepfaking» ein rechen- und zeitintensiver Prozess, bei dem man die Software mit einer grossen Anzahl von Fotos jener Person trainieren musste, die in den Film eingefügt werden sollte. Die App Doublicat macht den Prozess nun denkbar einfach: Als Nutzer braucht man nur sein Gesicht in einer einigermassen neutralen Position zu fotografieren – dann kann man es bereits verwenden.

Zur Übernahme stehen ikonische Filmclips aus Kino und Fernsehen bereit, in denen man das eigene Gesicht anstelle von jenem von Benedict Cumberbatch als Sherlock in Szene setzt, als Sheldon in «Big Bang Theory» auftaucht oder Johnny Depp die Rolle des Captain Jack Sparrow in «Pirates of the Caribbean» streitig macht. Auch zu Trump oder Kim Jong-un könnte man mutieren.

Die Qualität der Resultate ist bescheiden bis unbrauchbar: Das liegt daran, dass die App in der Basisvariante zwar kostenlos ist, jedoch zum Abschluss eines Abos motivieren will. Das kostet 4.50 Franken pro Woche, 7.50 Franken im Monat oder 43 Franken im Jahr. Dafür gibt es bessere Qualität und die Möglichkeit, mehr als ein Video aufs Mal zu erstellen.

Bloss harmlose Unterhaltung?

Doublicat ist als Unterhaltung gedacht: Die Deepfakes haben den Zweck, Freunde und Bekannte in den sozialen Medien zu erheitern oder verblüffen. Doch steckt in ihr auch ein Missbrauchspotenzial?

Da ist erstens die Gefahr des Datenschutzes: Bei der Face-App, die die Nutzer künstlich altern lässt, vermuteten US-Datenschützer wegen ihrer Herkunft aus Russland ein Risiko. Ähnliches könnte man auch bei der neuen App vermuten: Denn viele Deepfake-Anwendungen benötigen ein 3-D-Modell der Nutzer, das zum Beispiel für Gesichtserkennung oder biometrische Anwendungen benutzt werden könnte. Doch Doublicat kommt ohne ein solches Modell nur mit einem «flachen» Bild aus.

Und die Datenschutzbestimmungen von Doublicat sind erfreulich klar: Man werde keine Gesichtserkennung durchführen oder biometrische Daten zur Identifizierung verwenden.

Gutes Ausgangsmaterial nötig

Das zweite Risiko wären irreführende Videos, die für missbräuchliche Zwecke erstellt werden. Deepfakes sind als politische Guerilla-Taktik inzwischen gang und gäbe: Die Umweltaktivisten von Extinction Rebellion haben Mitte April die belgische Premierministerin Sophie Wilmès in einem gefälschten Video behaupten lassen, die Klima- und die Corona-Krise hätten einen gemeinsamen Ursprung.

Wirkt echt, ist aber falsch.
Wirkt echt, ist aber falsch.
Video: Screenshot: Facebook schü.

Werden manipulative Videos mit der neuen App nun endgültig massentauglich? Doublicat errichtet eine kleine Hürde gegen Anwender, die nicht ihr eigenes, sondern ein fremdes Gesicht in einen Clip hineinmontieren wollen: Der Nutzer kann beim Einrichten kein vorhandenes Foto verwenden, sondern muss ein Selfie machen. Aber natürlich lässt sich diese Hürde leicht umgehen.

Die grösste Hürde ist jedoch die Qualität: Für einen glaubwürdigen Fake braucht es nicht nur die Software, sondern vor allem auch gutes Ausgangsmaterial – und dafür muss man weiterhin einen gewissen Aufwand betreiben.

Eines bewirkt die App indes auf jeden Fall: Sie führt vor Augen, wie einfach Manipulationen inzwischen sind – Doublicat verwendet RefaceAI. Das ist eine ursprünglich in der Ukraine entwickelte Softwareschnittstelle, die sich breit einsetzen lässt. Noch viele ähnliche Apps werden – für mehr oder weniger lautere Zwecke – nicht auf sich warten lassen.

Kostenlos für iPhone und Android.

3 Kommentare
    Ralf Schrader

    '...doch wie gross ist das Missbrauchspotenzial?'

    Das hängt von der Naivität der Anschauer ab. Eigentlich sollte jeder wissen, dass selbst seriöse Zeitung und TV- Sender niemals unmanipulierte Bilder veröffentlichen. Bilder sind so glaubhaft wie Fieberfantasien. Ich habe längst aufgehört Bilder, vor allem bewegte, anzuschauen.