Der Reddit-User mit dem Namen "Deepfakes" veröffentlichte im Herbst 2017 erste Porno-Videos, die er mit Hilfe von Deep-Learning-Technologien manipuliert hatte. Die Köpfe der echten Darstellerinnen ersetzte er durch die Häupter prominenter Schauspielerinnen, was erwartungsgemäß auf große "Resonanz" stieß. Seitdem sind solche Manipulationen nach ihm benannt: Deepfakes. Sie erreichten schon wenige Monate später die große Politik, als ein besonderer Clip auf Youtube hochgeladen wurde. Darin sagt jemand, bei dem es sich scheinbar um Barack Obama handelt, Donald Trump sei ein Volldepp: "President Trump is a total and complete dips. Now. See I would never say these things – at least not in public address."

"Ich würde so etwas ja nie sagen", fügte er hinzu – "zumindest nicht der Öffentlichkeit". Ein Filmstudio hatte die gefakte öffentliche Ansprache mit Hilfe von künstlicher Intelligenz produziert.

Noch phantasievoller waren Wissenschaftler des Massachusetts Institute of Technology: Sie ließen letztes Jahr den 1994 verstorbenen US-Präsidenten Richard Nixon jene Rede vortragen, die er gehalten hätte, wenn im Jahr 1969 die Apollo-11-Mission gescheitert und die Astronauten verschollen wären. Für diesen Fall hatten ihm Mitarbeiter prophylaktisch andächtige Worte aufgeschrieben: "Good evening my fellowmen, fate has ordained the men who went to the moon to explore in peace will stay on the moon to rest in peace."

Das Schicksal habe gewollt, dass die Männer, die auszogen, um friedlich den Mond zu erforschen, nun auf dem Mond bleiben werden, um in Frieden zu ruhen, so der gefakte Präsident. Ein Toter spricht über ein Unglück, das nie stattgefunden hat. Alles scheint nun möglich - vor allem auf dem Gebiet krimineller Manipulationen. Filme, Telefonate und Video-Konferenzen können gefälscht werden.

"Die Anwender sollten sich darüber bewusst sein, dass so etwas möglich ist. Rechenleistung, Algorithmen und die künstliche Intelligenz, um solche Fälschungen zu generieren, sind da. Und nicht nur in der Forschung, sondern auch im Alltag. Jeder mit ein paar Computerkenntnissen kann Deepfakes generieren", so Jelle Wieringa. Er ist Technical Evangelist, also so etwas wie ein Technologie-Berater beim IT-Sicherheitsdienstleister Knowbe4. Er sieht seine Mission darin, Unternehmenskunden für die künftigen Gefahren durch Deepfakes zu sensibilisieren. Gegenwärtig allerdings, so räumt er ein, verwenden Kriminelle solche Techniken noch äußerst selten. Ein relativ alter Trick aber werde damit sicherlich bald neu aufgelegt: "Es wird gefälschte E-Mails geben, beispielsweise vom Chef, der einen anweist, Geld zu transferieren. Und um dem Nachdruck zu verleihen, folgt dann eine Sprachnachricht mit der gefälschten Stimme vom Chef."

Und vor internationale Verwicklungen durch digitale Manipulationen warnt derweil eine US-Aktivistengruppe. In ihrem Video spricht der gefakte Führer der Atommacht Nordkorea vom historisch unvermeidlichen Ende der Demokratie: "It’s not hard for Democracy to collapse. All you have to do is nothing"