SENDETERMIN Mi, 01.08.18 | 22:30 Uhr | Das Erste

Videos im Netz: Alles Fake?

PlayWie sehr können wir Videos noch vertrauen? Die Fälschungsmöglichkeiten werden immer vielfältiger. Facebook warnt in Werbung davor.
Videos im Netz: Alles Fake? | Video verfügbar bis 01.08.2019 | Bild: dpa

Inhalt in Kürze:
– Künstliche Intelligenz macht es möglich, Gesichter und Sprache zu manipulieren.
– Google lässt einen Computer Telefonate führen und mit Software lassen sich Gesichter austauschen.
– "Plusminus" untersucht, wie leicht sich Menschen und Computer täuschen lassen und fertigt ein eigenes Merkel-Fakevideo.

Fakevideo mit Barack Obama

Fake Video
Obama schimpft über Trump? Alles nur ein Fake ... | Bild: Das Erste

Auf Youtube kursiert ein Video von Barack Obama mit erstaunlichen Aussagen. "President Trump is a total and complete dipshit." Präsident Trump ist ein Vollidiot, sagt er da. Ein Double hat ihm diese Worte in den Mund gelegt. Das Bild rechnete eine Profisoftware mit Hilfe künstlicher Intelligenz, dazu kam eine aufwändige Nachbearbeitung. Deep-Fake nennt man so etwas.

Kostenlose Fake-Software

Nun gibt es myfakeapp, eine kostenlose Software im Internet, die mit Hilfe künstlicher Intelligenz ähnliches können soll. Plusminus macht mit den BR-Digitalexperten den Test. Wir wollen Angela Merkel eine Aussage zum Dieselskandal treffen lassen. Wird es gelingen, und wie leicht fallen Menschen herein?

Der Google-Duplex-Versuch

Ein Telefonat mit einer künstlichen Intelligenz kann täuschend echt sein.
Ein Telefonat mit einer künstlichen Intelligenz kann täuschend echt sein. | Bild: Das Erste

Künstliche Intelligenz, also Software, die eigenständig dazu lernt, kann bereits Menschen imitieren. Google hat im Mai einen Versuch präsentiert und einen Computer mit menschlicher Stimme ein Telefonat führen lassen, um einen Friseurtermin auszumachen. Friseur: "Hallo, wie kann ich Ihnen helfen?" Google: "Hallo, ich rufe an, um einen Haarschnitt für eine Kundin zu buchen. Ich suche einen Termin am 3. Mai." Friseur: "Klar, geben Sie mir eine Sekunde. "Google: "Mm-hmm." Friseur: "Klar, welche Zeit wäre Ihnen recht?" Google: "Um 12 Uhr." Die Angerufenen haben tatsächlich geglaubt, mit einem Menschen zu sprechen. Wurden Sie hintergangen? Nikil Mukerji, Philosoph, Ludwig-Maximilians Universität, München: "Wir müssen darauf achten, dass wir bei dem Einsatz solcher Technologien immer mit offenen Karten spielen. Das heißt, die Menschen müssen wissen, spreche ich gerade mit einer echten Person oder spreche ich mit einer Maschine."

Kann man der menschlichen Stimme noch trauen?

Eine digitale Stimmkopie ist gar kein Problem mehr.
Eine digitale Stimmkopie ist gar kein Problem mehr.  | Bild: Das Erste

Bislang galt die menschliche Stimme noch als einzigartig. Damit ist es vorbei. Künstliche Intelligenz kann inzwischen ein täuschend ähnliches digitales Double produzieren. Das kanadische Startup Lyrebird demonstriert das im Internet, vertont Twitternachrichten von Donald Trump mit seiner digitalen Stimmkopie. Jeder kann ganz einfach die eigene Stimme digitalisieren. Wir sprechen auf der Website von Lyrebird 30 vorgegebene Sätze ein. Nach kurzer Rechenzeit ist die Stimmkopie fertig. Und dann kann jeder über die Tastatureingabe einen ausgedachten Text mit der eigenen digitalen Stimme sprechen lassen. Derzeit ist so etwas allerdings nur in Englisch machbar und die Trumpkopie ist gut geschützt, um Missbauch vorzubeugen. Das können wir also für unseren Merkelfake noch nicht nutzen. Deshalb engagieren wir die Stimmimitatorin Antonia von Romatowski.

Merkel-Fakevideo

Wir trimmen sie in der Maske äußerlich noch ein wenig auf Kanzlerin, obwohl wir später am Rechner ihr Gesicht mit dem von Merkel austauschen wollen. Und wir haben uns etwas für Deutschlands Dieselfahrer ausgedacht. Und das soll unser Double sprechen: "Die Bundesregierung hat mit den Kommunen vereinbart, dass ab Januar 2019 Dieselfahrverbote verhängt werden, um das Gesundheitsrisiko zu minimieren. Das Kraftfahrtbundesamt wird nun die Hersteller zur Nachrüstung von Katalysatoren verpflichten. Die Hersteller haben auch die Kosten dafür zu tragen." Nun spielen wir das Material in die kostenlose Fake-Software ein. Sie soll die Gesichtszüge von Angela Merkel, erlernt aus verschiedenen Videos, auf unser Double rechnen. Wird die Software das schaffen?

Videomanipulation auf Snapchat

Videomanipulation gibt es sogar bereits schon in den Funktionen des sozialen Netzwerks Snapchat, das gerade unter Jugendlichen weit verbreitet ist. In Echtzeit können auf Videos, die verschickt werden, Spaß-Filter draufgesetzt werden. Ebenso wird mit einem einzigen Merkelfoto als Vorlage das Gesicht zur Pseudokanzlerin. Was wächst da für eine Jugend heran? Nikil Mukerji, Philosoph, Ludwig-Maximilians Universität, München: "Ich denke, es wächst eine sehr viel medienkompetentere Generation heran, als wir das früher kannten. Junge Menschen wissen heute, wie leicht es ist, Bilder zu manipulieren, und das ist auch ein ziemlicher Umbruch in der gesellschaftlichen Situation, früher war das nicht der Fall."

3D-Merkel mit der Pinscreen-App

In nicht mal einer Minute ist zum Beispiel mit der kostenlosen App Pinscreen aus einer Merkelfotovorlage eine digitale dreidimensionale Kunstfigur gerechnet. Das hat Spaßfaktor, ist für unser Vorhaben aber keine Option.

Wie reagieren Menschen und Computer auf das Merkel-Fake?

Da ist nun nach langer Rechenzeit das Merkel-Fake fertig, die Originalgesichtszüge auf unser Double übertragen. Werden die Leute das für wahr halten? Wir zeigen unser Video Auto- und Taxifahrern in der Münchner Innenstadt.
"Ist das von Ihnen manipuliert, sie spricht so komisch?"
"Ja, das ist aber nicht die Frau Merkel."
"Sie dachten, es ist Frau Merkel?"
"Ich dachte, es ist Frau Merkel."
"Und wer hat das gesprochen?"
"Ist das nicht die Frau Merkel?"
"Das ist mit Sicherheit nicht die Frau Merkel."

Ein Fake Video mit Angela Merkel – ganz einfach per App.
Ein Fake Video mit Angela Merkel – ganz einfach per App. | Bild: Das Erste


Aber das soziale Netzwerk Facebook akzeptiert es als echt. Wir haben unser Video zum Test gepostet. Die automatische Gesichtserkennung von Facebook hat es als Merkel identifiziert und uns weitere politische Nachrichtenvideos zur Ansicht vorgeschlagen. Was könnte so ein Video mit der Aussage von Angela Merkel zum Dieselverbot und der Nachrüstverpflichtung für Hersteller auslösen, wenn es sich im Netz schnell verbreitet? Wir zeigen es dem Finanzmarktexperten Professor Christoph Kaserer. von der Technischen Universität München: "Man muss einfach sehen, dass an der Börse solche Nachrichten innerhalb von Sekunden verarbeitet werden, wenn die Marktteilnehmer davon ausgehen, dass eine solche Nachricht echt ist, würden wir innerhalb kürzester Zeit einen erheblichen Kurseinbruch bei den Automobilaktien, auch bei Zulieferern sehen. Das hätte also große Folgen für die Bewertung der Aktie."

Was bedeuten Fakevideos für die Gesellschaft?

Fake Video
Was bedeuten diese Manipulations-Möglichkeiten für eine Gesellschaft? | Bild: Das Erste

Gute Deepfakes können in Zukunft Märkte manipulieren und unsere Gesellschaft verändern. Nikil Mukerji, Philosoph, Ludwig-Maximilians Universität, München: "Ich kann mich immer auf den Standpunkt stellen, das will ich nicht glauben, was da gerade gezeigt wird, das ist wahrscheinlich so ein Deepfake. Und darin liegt eine große Gefahr für die Gesellschaft, weil die Art und Weise, wie wir miteinander diskutieren, natürlich gefährdet ist. So dass der Goldstandard der Beweisführung, das man Bildmaterial zeigt, das Ereignisse dokumentiert, uns in der Gesellschaft verloren gehen könnte." Es wird nicht mehr lange dauern, bis Stimme und Gesicht täuschend echt manipulierbar sind. Die Technologien dazu sind da, der breiten Masse sind sie im Moment noch verwehrt.

Bericht: Reinhard Weber
Stand: August 2018

Stand: 02.08.2018 11:52 Uhr