Hao Li kann jeden in George W. Bush ver­wan­deln und Paul Walk­er zurück ins Leben holen. Kaum ein­er manip­uliert Videos so wie er. Heute kämpft Li gegen das Mon­ster, das er mit erschaf­fen hat.

 

In der Halle herrscht reges Treiben. Anzugträger und Busi­ness­frauen rauschen von einem Tre­f­fen zum näch­sten. Inmit­ten des Rum­mels sitzt eine junge Frau vor einem Bild­schirm. Aus diesem blickt ihr Michelle Oba­ma ent­ge­gen – oder doch nicht? Es wirkt, als wäre das Gesicht der ehe­ma­li­gen First Lady mit jen­em der jun­gen Frau ver­schmolzen. Das dig­i­tale Abbild übern­immt jedes Lächeln, jede Augen­be­we­gung und jedes Stirn­run­zeln.

Am Bild­schirm daneben ver­wan­delt sich ein älter­er Mann in George W. Bush. Dies­mal wirkt das Ergeb­nis noch real­is­tis­ch­er, fast so, als würde man den früheren amerikanis­chen Präsi­den­ten vor sich sehen. «Wie furcht­bar», ruft der Mann aus und lacht. Die Szene spielt sich während des Weltwirtschafts­fo­rums in der Halle des Davos­er Kon­gresszen­trums ab. Hao Li beobachtet das Vorge­hen schmun­zel­nd. Die Instal­la­tion ist sein Werk. Er will damit auf die Gefahr von Video­ma­nip­u­la­tio­nen hin­weisen. «Diese Tech­nolo­gie entwick­elt sich rasend schnell. Jed­er kann damit heute jemand anderes wer­den, und das sog­ar in Echtzeit», sagt er.

Li ist ausseror­dentlich­er Pro­fes­sor an der Uni­ver­si­ty of South­ern Cal­i­for­nia (USC). Er beschäftigt sich mit Deep­fakes: Videos, die mit­tels kün­stlich­er Intel­li­genz manip­uliert wer­den. Damit kann man Per­so­n­en Dinge sagen oder tun lassen, die sie nie gesagt oder getan haben. Im Som­mer prahlte der Face­book-Grün­der Mark Zucker­berg in einem so gefälscht­en Video damit, die Kon­trolle über Mil­liar­den von gestohle­nen Dat­en zu haben. 2018 sorgte ein Clip für Auf­se­hen, hin­ter dem der Schaus­piel­er Jor­dan Peele steck­te: Darin beze­ich­net Barack Oba­ma seinen Nach­fol­ger Don­ald Trump als Vol­lid­ioten.

Je bess­er solche Fälschun­gen wer­den, umso gröss­er ist ihr Gefahren­poten­zial: Ein Fake-Video, das authen­tisch wirkt, kann den Ruf ein­er Per­son ruinieren oder sie für fremde Zwecke miss­brauchen. Umgekehrt kön­nte jemand, der bei ein­er ver­bote­nen oder moralisch frag­würdi­gen Hand­lung gefilmt wird, behaupten, es han­dle sich bei der Auf­nahme um einen Deep­fake. «Das wäre, wie wenn Trump ‹Fake-News› ruft», sagt Li. Nur wer­den solche Behaup­tun­gen im schlimm­sten Fall unmöglich zu wider­legen sein.

Heute sind die Fälschun­gen bei genauem Hin­se­hen noch als solche erkennbar. Oft klingt die Stimme anders, die Lip­pen­syn­chro­ni­sa­tion ist nicht per­fekt, die Gesichts­be­we­gun­gen wirken unnatür­lich. Doch Li ist überzeugt, dass sich das sehr bald ändern wird. Der 39-Jährige weiss, wovon er spricht. Er ist ein Deep­fake-Pio­nier. Seit Jahren befasst sich Li mit Com­put­er­grafik und dem Manip­ulieren von Videos. Er hat dazu beige­tra­gen, dass sich Emo­jis des Smart­phone-Her­stellers Apple mit Gesicht­saus­drück­en steuern lassen. Heute hil­ft er die Gesichter von Schaus­piel­ern auf die Kör­p­er von Stunt-Dou­bles zu pro­jizieren und vertreibt eine App, mit der Nutzer ihre eige­nen Avatare kreieren kön­nen.

«Jurassic Park» und «Terminator» gaben den Ausschlag

Auf den ersten Blick kön­nte man meinen, Li wäre selb­st einem Com­put­er­spiel entstiegen. Zu dem dun­klen Anzug trägt er glitzernde Turn­schuhe, das Haar hat er auf ein­er Seite kurz geschoren, auf der anderen hängt ihm ein blonder Schopf ins Gesicht. Als er begann, mit den Gren­zen zwis­chen Real­ität und Fik­tion zu spie­len, hätte er nicht gedacht, dass dieser tech­nis­che Fortschritt eines Tages zur Bedro­hung wer­den kön­nte.

Li wuchs als Sohn tai­wanis­ch­er Ein­wan­der­er in Saar­brück­en auf. In sein­er Jugend sah er die Filme «Juras­sic Park» und «Ter­mi­na­tor» – und erkan­nte fasziniert, dass Com­put­ertech­nik Dinge erschaf­fen kann, die nicht real sind. Nach einem Infor­matik­studi­um in Karl­sruhe machte er sein Dok­torat an der ETH Zürich. Dort forschte Li unter anderem im Bere­ich der 3‑D-Rekon­struk­tion. Er wollte Dinge dig­i­tal­isieren, die sich bewe­gen – wie men­schliche Kör­p­er oder noch spez­i­fis­ch­er: Gesichter.

2013 starb der Schaus­piel­er Paul Walk­er bei einem Autoun­fall – mit­ten in den Drehar­beit­en zu «Fast & Furi­ous 7», einem Teil der gle­ich­nami­gen Action-Film­rei­he. Bald darauf klin­gelte Lis Tele­fon. Weta Dig­i­tal, ein führen­des Unternehmen für visuelle Effek­te mit Sitz in Neusee­land, bot ihm einen Auf­trag an: Er sollte helfen, den Film fer­tigzustellen. Li kreierte eine Tech­nolo­gie, mit deren Hil­fe Walk­ers Gesicht­szüge während der Drehar­beit­en auf die Gesichter der Dou­bles pro­jiziert wur­den. Der Film war ein­er der ersten, bei denen ein dig­i­tal erschaf­fen­er Schaus­piel­er eine so wichtige Rolle ein­nahm.

«Das Ergeb­nis wirk­te in manch­er Hin­sicht wie eine hochw­er­tige Deep­fake-Ver­sion, aber es brauchte ein Team und sehr viel Hard­ware-Lösun­gen, um das möglich zu machen», sagt Li bei ein­er Vorstel­lung sein­er Arbeit in Davos. Heute dig­i­tal­isiert er in den USA häu­fig die Gesichter von Schaus­piel­ern für Stun­tauf­nah­men oder Ani­ma­tio­nen: jenes von Will Smith, das von Arnold Schwarzeneg­ger oder Hugh Jack­man für «Wolver­ine».

Scarlett Johanssons Gesicht in Pornofilmen

Doch Li hat­te nicht vor, sich auf Fil­man­i­ma­tio­nen zu beschränken. Er wollte die Möglichkeit, mit Sein und Schein zu spie­len, der bre­it­en Öffentlichkeit zugänglich machen. 2015 grün­dete er das Start­up Pin­screen. In den Jahren darauf entwick­elte er eine App, die anhand eines Fotos Avatare erstellt. Genau wie Deep­fakes arbeit­et diese mit kün­stlich­er Intel­li­genz.

Hat­te Li zu Beginn von Pin­screen geah­nt, welche Gefahr diese Tech­nik in den falschen Hän­den darstellen kön­nte? Er schüt­telt den Kopf. «Für uns war die Tech­nolo­gie rein für Unter­hal­tungszwecke, für Filme oder Videospiele. Was sollte schon dabei sein, wenn jemand zum Beispiel mit ein­er Smart­phone-App seinen eige­nen Avatar erzeugt?» Die Antwort liess nicht lange auf sich warten.

Die ersten Deep­fakes taucht­en 2017 auf – bei Pornovideos. Ein Nutzer des Online-Forums Red­dit stellte Clips ins Inter­net, bei denen die Gesichter von Porn­odarstel­lerin­nen durch jene von Schaus­pielerin­nen wie Scar­lett Johans­son, Gal Gadot oder Emma Wat­son erset­zt wur­den. «Nie­mand in meinem Umfeld war auf so etwas vor­bere­it­et», erin­nert sich Li. Wer hin­ter der Soft­ware steck­te, war nicht klar, «doch die Entwick­ler macht­en den Quell­code öffentlich, so dass for­t­an so gut wie jed­er solche Videos erzeu­gen kon­nte». Plöt­zlich waren Forsch­er wie Li mit zahlre­ichen Fra­gen kon­fron­tiert: Was bedeutet das für die Entwick­lung der Tech­nolo­gien? Sollte man über die Möglichkeit­en zum Miss­brauch informieren? Oder die Forschung in dem Bere­ich kom­plett abbrechen?

Katz-und-Maus-Spiel

Li glaubt nicht daran, dass dies eine Lösung wäre. «Tech­nik ist wed­er gut noch schlecht, es kommt darauf an, was man aus ihr macht.» Wichtig sei hinge­gen, den Leuten klarzu­machen, wofür sie einge­set­zt wer­den kann – und Wege zu find­en, um die Fälschun­gen als solche zu iden­ti­fizieren.

Heute arbeit­et der 39-Jährige mit dem Com­put­er­wis­senschafter Hany Farid von der Uni­ver­si­ty of Cal­i­for­nia in Berke­ley zusam­men. Die bei­den liefern sich in einem Forschung­spro­jekt eine Art Katz-und-Maus-Spiel. Lis Team erstellt Deep­fakes und ver­sucht zu sehen, wie weit man diese per­fek­tion­ieren kann. Farids Auf­gabe ist es, Algo­rith­men zu schaf­fen, die die Fälschun­gen als solche erken­nen.

Noch gelingt das. Doch Li denkt, dass es nicht mehr lange dauern wird, bis die besten Fälschun­gen selb­st für Algo­rith­men unerkennbar wer­den: «Vor ein paar Monat­en habe ich gesagt, wir seien wohl in sechs bis zwölf Monat­en so weit. Heute denke ich, dass es noch schneller gehen wird.»

Quelle: www.nzz.ch

Kostenlos - eBook digitale Kompetenz

digitalexpert-logo-newExklusiv bei digitalexpert.ch

Jetzt kostenlos bestellen:
Exklusiv bei digitalexpert.ch - eBook digitale Kompetenz

Ihre E-Mail-Adresse (Pflichtfeld)

Ich wünsche jeweils über neue kostenlose eBooks informiert zu werden

digitalexpert-logo-newExklusiv bei digitalexpert.ch

Jetzt kostenlos bestellen:
Exklusiv bei digitalexpert.ch — eBook digital comptence (english)

 

Ihre E-Mail-Adresse (Pflichtfeld)

Ich wünsche jeweils über neue kostenlose eBooks informiert zu werden