Der Traum vom Ganzkörper-Avatar: Die Technologie ist beeindruckend, wirft aber auch Fragen auf - t3n

Mit der neuen Technologie von Synthesia kann man von sich einen digitalen Klon erstellen lassen. Sie übernehmen Gestik, Mimik und die Stimme des menschlichen Vorbilds. Doch von Deepfakes möchte das Startup nicht sprechen. Ich bin gestresst und komme zu spät, denn was soll man für den Rest der Ewigkeit anziehen? Das hört sich an, als würde ich sterben, aber das Gegenteil ist der Fall. Ich werde in gewisser Weise ewig leben, dank des KI-Video-Start-ups Synthesia. In den letzten Jahren hat das Unternehmen KI-generierte Avatare produziert, jetzt bringt es eine neue Generation auf den Markt. Dafür nutzt das Unternehmen die neuesten Fortschritte in generativer KI, und die Avatare sind realistischer und ausdrucksstärker als alles, was ich je gesehen habe. Und an diesem Tag wird Synthesia einen von mir erstellen. Als ich im eleganten Studio von Synthesia in East London ankomme, werde ich von Tosin Oshinyemi, dem Produktionsleiter des Unternehmens, begrüßt. Er wird mich durch den Prozess der Datenerfassung führen und anleiten – und mit „Datenerfassung“ meine ich die Erfassung meiner Gesichtszüge, Eigenheiten und mehr. Dieser Text ist zuerst in der Ausgabe 7/2024 von MIT Technology Review erschienen. Darin beschäftigen wir uns damit, wie das eigentlich gescheiterte Konzept Gamification doch noch unsere Arbeit und unser Lernen besser machen kann. Hier könnt ihr die TR 7/2024 bestellen. [tableofcontents] Mehr Nachrichtenstudio als Deepfake-Fabrik Er stellt mir einen wartenden Stylisten und einen Visagisten vor, und ich verfluche mich dafür, dass ich so viel Zeit mit den Vorbereitungen verschwendet habe. Ihre Aufgabe ist es, dafür zu sorgen, dass die Leute so gekleidet sind, dass sie vor der Kamera gut aussehen und dass sie von einer Aufnahme zur nächsten gleich wirken. Die Stylistin sagt mir, dass mein Outfit in Ordnung sei (puh), und die Visagistin schminkt mein Gesicht und ordnet meine Haare. Die Umkleidekabine ist mit Hunderten lächelnder Polaroids von Menschen dekoriert, die vor mir digital geklont worden sind – das waren bislang vor allem Schauspieler:innen und Synthesia-Kundinnen und -Kunden. Abgesehen von dem kleinen im Flur surrenden Supercomputer, der die im Studio generierten Daten verarbeitet, fühlt man sich eher wie in einem Nachrichtenstudio als in einer Deepfake-Fabrik. Ich scherze, dass Oshinyemi das hat, was die MIT Technology Review eine „Berufsbezeichnung der Zukunft“ nennen könnte: „Direktor für Deepfake-Erstellung“. „Wir bevorzugen den Begriff ‚synthetische Medien‘ als Gegensatz zu ‚Deepfake‘“, sagt er. Es handelt sich um einen feinen, aber durchaus bemerkenswerten Unterschied in der Semantik. Beide meinen KI-generierte Videos oder Audioaufnahmen von Menschen, die etwas tun oder sagen, was nicht unbedingt im wirklichen Leben passiert ist. Aber Deepfakes haben einen schlechten Ruf. Seit ihrer Einführung vor fast einem Jahrzehnt steht der Begriff für etwas Unethisches, sagt Alexandru Voica, Leiter der Abteilung Unternehmensangelegenheiten und -politik bei Synthesia. Man denke nur an sexuelle Inhalte, die ohne Zustimmung produziert werden, oder an politische Kampagnen, die Desinformation oder Propaganda verbreiten. „Synthetische Medien sind die harmlose, produktive Version davon“, argumentiert er. Und Synthesia will die beste Version dieser Version anbieten. Mit „synthetischen Medien“ raus aus dem „Uncanny Valley“ Bislang zeigen alle KI-generierten Videos von Menschen eine gewisse Steifheit, Unschärfe oder andere unnatürliche Elemente, durch die sie leicht von der Realität zu unterscheiden sind. Da sie der Realität zwar sehr nahe kommen, ihr aber doch nicht ganz entsprechen, können diese Videos bei den Menschen ein Gefühl der Verärgerung, des Unbehagens oder des Ekels hervorrufen – ein Phänomen, das allgemein als „Uncanny Valley“ oder „Tal der Unheimlichkeit“ bekannt ist. Synthesia behauptet, seine neue Technologie werde uns endlich aus diesem Tal herausführen. Dank der rasanten Fortschritte in der generativen KI und einer Fülle von Trainingsdaten, die von menschlichen Schauspielerinnen und Schauspielern erstellt und in das KI-Modell eingespeist wurden, konnte Synthesia Avatare produzieren, die tatsächlich menschenähnlicher und ausdrucksstärker sind als ihre Vorgänger. Die digitalen Klone sind besser in der Lage, ihre Reaktionen und ihre Intonation an die Stimmung ihrer Skripte anzupassen – sie verhalten sich zum Beispiel fröhlicher, wenn sie über fröhliche Dinge sprechen, und ernster oder trauriger, wenn sie über unangenehme Dinge sprechen. Auch die Mimik – die winzigen Bewegungen, die ohne Worte für uns sprechen – können sie besser anpassen. Aber dieser technologische Fortschritt bedeutet auch einen größeren sozialen und kulturellen Wandel. Immer mehr von dem, was wir auf unseren Bildschirmen sehen, wird von KI generiert (oder zumindest manipuliert), und es wird immer schwieriger zu unterscheiden, was real ist und was nicht. Dies bedroht unser Vertrauen in alles, was wir sehen. Das könnte sehr reale, sehr gefährliche Folgen haben. Zwischen Fakt und Fiktion „Ich glaube, wir müssen uns davon verabschieden, die Wahrheit auf schnellem Wege herausfinden zu können“, sagt Sandra Wachter, Professorin am Oxford Internet Institute, die sich mit den rechtlichen und ethischen Auswirkungen von KI beschäftigt. „Die Vorstellung, dass man einfach schnell etwas googeln kann und weiß, was Fakt und was Fiktion ist – ich glaube nicht, dass das noch so funktioniert.“ Während ich mich also darauf freute, dass Synthesia mein digitales Double herstellte, fragte ich mich auch, ob die Unterscheidung zwischen synthetischen Medien und Deepfakes im Grunde bedeutungslos ist. Selbst wenn bei Ersteren die Absicht des Schöpfers und vor allem die Zustimmung des Subjekts im Mittelpunkt stehen – gibt es wirklich eine Möglichkeit, KI-Avatare sicher herzustellen, wenn das Endergebnis dasselbe ist? Und wollen wir wirklich aus dem Tal der Unheimlichkeit herauskommen, wenn dies bedeutet, dass wir die Wahrheit nicht mehr erfassen können? Wie es mit Synthesia begann Victor Riparbelli, CEO von Synthesia, erzählt, dass die Entstehungsgeschichte von Synthesia auf seine Jugenderfahrungen in Dänemark mit avantgardistischer, ausgefallener Technomusik zurückgeht. Das Internet ermöglichte es ihm, Software herunterzuladen und seine eigenen Songs zu produzieren, ohne teure Synthesizer kaufen zu müssen. „Ich glaube fest daran, dass man den Menschen die Möglichkeit geben sollte, sich so auszudrücken, wie sie es können, weil ich glaube, dass dies zu einer leistungsfähigeren Welt führt“, sagt er mir. Er sah die Möglichkeit, etwas Ähnliches mit Videos zu machen, als er auf Forschungen zum Einsatz von Deep Learning stieß, um Gesichtsausdrücke von einem menschlichen Gesicht auf ein anderes auf dem Bildschirm zu übertragen. „Das war das erste Mal, dass ein Deep-Learning-Netzwerk Videobilder erzeugen konnte, die echt aussahen und sich auch so anfühlten.“ Diese Forschung führte Matthias Niessner, Professor an der Technischen Universität München, durch. Gemeinsam mit Riparbelli, der Professorin des University College London, Lourdes Agapito und Steffen Tjerrild, mit dem Riparbelli zuvor an einem Kryptowährungsprojekt gearbeitet hatte, gründete er 2017 Synthesia. Erste Generation von KI-Avataren auf dem Markt Ursprünglich entwickelte das Unternehmen Synchronisationstools für die Unterhaltungsindustrie, stellte aber fest, dass die Messlatte dafür sehr hoch lag und die Nachfrage gering war. Im Jahr 2020 änderte Synthesia seine Ausrichtung und brachte seine erste Generation von KI-Avataren für Firmenkunden auf den Markt. Dieser Schwenk machte Synthesia 2023 zum Einhorn – mit einer Bewertung von über einer Milliarde US-Dollar. Die erste Generation von Avataren war plump, wiederholte immer die gleichen Bewegungen. Spätere Versionen wirkten schon menschlicher, aber hatten immer noch Schwierigkeiten, komplizierte Wörter zu sagen, und waren etwas unsynchronisiert. [caption id="attachment_1663814" align="aligncenter" width="620"] Tosin Oshinyemi, der Produktionsleiter des Unternehmens, führt Melissa Heikkilä durch den Prozess der Datenerfassung. (Fotos: David Vintiner)[/caption] Die Herausforderung besteht darin, dass die Menschen daran gewöhnt sind, in die Gesichter anderer Menschen zu schauen. „Wir als Menschen wissen, was echte Menschen tun“, sagt Jonathan Starck, CTO von Synthesia. Seit dem Säuglingsalter „ist man auf Menschen und Gesichter eingestellt. Man weiß, was richtig ist, und alles, was nicht richtig ist, springt sofort ins Auge“. Diese früheren KI-generierten Videos wurden mit generativen adversen Netzwerken (GANs) erstellt – einer älteren Technik, bei der zwei neuronale Netzwerke eingesetzt werden, die sich gegenseitig beeinflussen. Dank Sprach- und Diffusionsmodellen werden die Avatare immer besser Inzwischen arbeitet das Unternehmen mit generativen neuronalen Netzen, die eine höhere und gleichmäßigere Qualität liefern – und mit denen es viel bessere Avatare erstellen kann. Je mehr Daten diesen Modellen zugeführt werden, desto besser lernen sie. Synthesia verwendet dazu sowohl große Sprach- als auch Diffusionsmodelle; Erstere helfen den Avataren, auf das Skript zu reagieren, und Letztere erzeugen die Pixel. „Ich glaube, wir sind zu 98 Prozent fertig“, sagt Riparbelli. Trotz des Qualitätssprungs richte sich das Unternehmen noch nicht an die Unterhaltungsindustrie. Synthesia verstehe sich weiterhin als Plattform für Unternehmen. Da die Menschen immer mehr Zeit damit verbrächten, sich Videos auf YouTube und TikTok anzusehen, werde es eine größere Nachfrage nach Videoinhalten geben. Riparbelli argumentiert, dass die Technologie von Synthesia Unternehmen dabei helfen könne, ihre langweiligen Unternehmensmitteilungen, Berichte und Schulungsmaterialien in Inhalte umzuwandeln, die sich die Menschen tatsächlich ansähen – oder für Marketingzwecke. Er gibt an, dass bereits 56 Prozent der Fortune-100-Unternehmen die Synthesia-Technologie nutzen – also die nach dem Ranking der Zeitschrift Fortune umsatzstärksten 100 Unternehmen der Welt. Die überwiegende Mehrheit dieser Unternehmen setze sie für die interne Kommunikation ein. Dazu sollen Zoom, Xerox, Microsoft und Reuters zählen. Die Dienste kosten ab 22 Dollar pro Monat. [crosslinks ids="1625454,1618793,1623868"] Gesichtsbewegungen als Trainingsdaten In der KI-Forschung gibt es ein Sprichwort: Müll rein, Müll raus. Wenn die Trainingsdaten Müll sind, spiegelt sich das in den Ergebnissen wider. Je mehr Datenpunkte das KI-Modell von meinen Gesichtsbewegungen, Mikroausdrücken, Kopfneigungen, meinem Blinzeln, Achselzucken und meinen Handbewegungen erfasst, desto realistischer wird der Avatar sein. Im Studio bemühe ich mich sehr, keinen Müll zu machen. Ich stehe vor einem Greenscreen, und Oshinyemi führt mich durch den Kalibrierungsprozess. Ich muss meinen Kopf und dann die Augen kreisförmig bewegen. Dadurch soll das System in die Lage versetzt werden, meine natürlichen Farben und Gesichtszüge zu erkennen. Dann werde ich gebeten, den Satz „All the boys ate a fish“ (alle Jungs haben einen Fisch gegessen) zu sagen, wodurch alle Mundbewegungen erfasst werden, die zur Bildung von Vokalen und Konsonanten erforderlich sind. Wir filmen mich auch schweigend „faulenzend“. [caption id="attachment_1663817" align="aligncenter" width="620"] Je mehr Datenpunkte das KI-System über Gesichtsbewegungen, Mikroexpressionen, Kopfneigungen, Blinzeln, Zucken und Handbewegungen erfasst, desto realistischer wird der Avatar.(Foto: David Vintiner)[/caption] Dann bittet Oshinyemi mich, ein Skript für eine fiktive YouTuberin in verschiedenen Tonlagen vorzulesen, wobei er mir das Spektrum der Emotionen vorgibt, die ich vermitteln soll. Zuerst soll ich es neutral und informativ vorlesen, dann ermutigend, genervt und beschwerend und schließlich aufgeregt und überzeugend. „Hey, willkommen zurück bei Elevate Her mit eurer Gastgeberin Jess Mars. Es ist toll, dass ihr hier seid. Wir werden uns gleich einem Thema widmen, das ziemlich heikel ist und uns ehrlich gesagt sehr nahe geht – dem Umgang mit Kritik auf unserer spirituellen Reise“, lese ich vom Teleprompter ab und versuche gleichzeitig, mir vorzustellen, wie ich mich während der Beschwerdeversion bei meinem Partner über etwas beschwere. „Egal, wo man hinschaut, man hat das Gefühl, dass sich immer eine kritische Stimme zu Wort meldet, nicht wahr?“ Das Problem geht über Mundbewegungen hinaus Wir drehen mehrere Takes mit verschiedenen Varianten. In einigen Versionen darf ich meine Hände bewegen. In anderen bittet mich Oshinyemi, einen Metallstift zwischen die Finger zu nehmen. Er sagt, er wolle damit die Möglichkeiten der Technologie testen, wenn es um die Kommunikation mit den Händen gehe. In der Vergangenheit war es eine große Herausforderung, KI-Avatare natürlich aussehen zu lassen und Mundbewegungen mit der Sprache zu synchronisieren, sagt David Barber, Professor für maschinelles Lernen am University College London, der nicht an Synthesia mitwirkt. Das liege daran, dass das Problem weit über die Mundbewegungen hinausgehe. Man müsse auch an die Augenbrauen, alle Muskeln im Gesicht, das Schulterzucken und die vielen verschiedenen kleinen Bewegungen denken, mit denen sich Menschen ausdrücken. Synthesia arbeitet seit 2020 mit Schauspielerinnen und Schauspielern zusammen, um seine Modelle zu trainieren. Ihre Doppelgänger:innen bilden die 225 Bestandsavatare, die den Kundinnen und Kunden zur Verfügung stehen. Um seine neueste Generation von Avataren zu trainieren, benötigte Synthesia jedoch mehr Daten. Im vergangenen Jahr arbeitete das Unternehmen mit rund 1000 professionellen Schauspielerinnen und Schauspielern in London und New York zusammen. Synthesia nutzt die Avatare drei Jahre lang. Danach werden die Schauspielenden gefragt, ob sie ihren Vertrag verlängern wollen. Wenn ja, kommen sie ins Studio, um einen neuen Avatar zu erstellen. Wenn nicht, löscht das Unternehmen ihre Daten. Die Unternehmenskunden von Synthesia können auch ihre eigenen Avatare erstellen, indem sie jemanden ins Studio schicken, der dann vieles von dem macht, was ich gerade tue. [caption id="attachment_1663821" align="aligncenter" width="620"] Im Motion-Capture-Prozess verwendet Synthesia Referenzmuster, um das aus verschiedenen Winkeln aufgenommene Material auszurichten.(Foto: David Vintiner)[/caption] Nachdem das Team alle Aufnahmen gemacht hat, die es braucht, um meine Mimik einzufangen, gehe ich nach unten, um weitere Texte für Stimmproben vorzulesen. Dazu muss ich einen Passus lesen, in dem ich mich ausdrücklich damit einverstanden erkläre, dass meine Stimme geklont wird und dass Alexandru Voica sie über seinen Account nutzen kann, um Videos auf der Synthesia-Plattform zu erstellen. Einverständnis ist der Schlüssel Dieser Prozess unterscheidet sich stark davon, wie viele KI-Avatare, Deepfakes oder synthetische Medien – wie auch immer man sie nennen möchte – erstellt werden. Die meisten Deepfakes werden nicht in einem Studio erstellt. Studien haben gezeigt, dass es sich bei der überwiegenden Mehrheit der Deepfakes im Internet um nicht einvernehmliche sexuelle Inhalte handelt, für die in der Regel aus sozialen Medien gestohlene Bilder verwendet werden. Generative KI hat die Erstellung dieser Deepfakes einfach und billig gemacht, und in den USA und Europa gab es mehrere öffentlichkeitswirksame Fälle von Kindern und Frauen, die auf diese Weise missbraucht wurden. Experten warnen auch davor, dass die Technologie zur Verbreitung politischer Desinformationen eingesetzt werden kann – eine besonders akute Gefahr angesichts des diesjährigen weltweiten Superwahljahrs. [caption id="attachment_1663823" align="aligncenter" width="620"] Im Studio für die Stimmaufnahmen liest Melissa Heikkilä einen Passus vor, in dem sie ausdrücklich zustimmt, dass ihre Stimme geklont wird.(Fotos: David Vintiner)[/caption] Synthesia erstellt keine Avatare von Personen ohne deren ausdrückliche Zustimmung. Aber es ist dennoch nicht immun gegen Missbrauch. Letztes Jahr fanden Forscher pro-chinesische, als Nachrichten verpackte Fehlinformationen, die mit Avataren von Synthesia erstellt wurden. Seitdem hat das Unternehmen strengere Prüfmechanismen eingeführt: Es versieht die KI-Avatar-Videos mit einem Wasserzeichen, das Auskunft darüber gibt, wo und wie sie erstellt wurden. Früher hatte das Unternehmen vier interne Moderatoren, heute sind zehn Prozent der 300 Mitarbeitenden mit dieser Aufgabe betraut. Außerdem entwickelt ein eigens dafür angestellter Ingenieur bessere KI-gestützte Moderationssysteme für Inhalte. Diese Filter helfen Synthesia dabei, jeden einzelnen Beitrag zu überprüfen, den seine Kundinnen und Kunden zu erstellen versuchen. Alles, was verdächtig oder zweideutig ist, wie etwa Inhalte über Kryptowährungen oder sexuelle Gesundheit, wird an die menschlichen Inhaltsmoderatorinnen und -moderatoren weitergeleitet. Synthesia führt auch ein Verzeichnis aller Videos, die das System erstellt. Wer darf welche Avatare erstellen? Und obwohl jeder der Plattform beitreten kann, sind viele Funktionen erst dann verfügbar, wenn man ein umfangreiches Prüfsystem durchläuft, das Gespräche mit dem Vertriebsteam, Vertragsunterzeichnungen und Sicherheitsaudits umfasst, so Voica. Einsteigerkunden sind auf die Produktion rein sachlicher Inhalte beschränkt, und nur Unternehmenskunden, die benutzerdefinierte Avatare verwenden, können Meinungsinhalte erstellen. Darüber hinaus dürfen nur akkreditierte Nachrichtenorganisationen Inhalte zu aktuellen Themen produzieren. Voica glaubt, dass diese Maßnahmen abschreckend wirken und die meisten Akteure, die Schlechtes im Schilde führen, auf frei verfügbare Open-Source-Tools zurückgreifen werden. Ich stelle einige dieser Grenzen auf die Probe, als ich mich für den nächsten Schritt in meinem Avatar-Erstellungsprozess in das Synthesia-Büro begebe. Um die Videos zu erstellen, in denen mein Avatar zu sehen sein wird, muss ich ein Drehbuch schreiben. Ich nutze Voicas Account und entscheide mich, Passagen aus Hamlet sowie frühere Artikel, die ich geschrieben habe, zu verwenden. Außerdem nutze ich eine neue Funktion der Synthesia-Plattform, einen KI-Assistenten, der jeden Weblink oder jedes Dokument in ein fertiges Skript umwandelt. Ich versuche, meinen Avatar dazu zu bringen, Nachrichten über die neuen Sanktionen der Europäischen Union gegen den Iran zu lesen. Voica schreibt mir sofort: „Du bringst mich in Schwierigkeiten!“ Das System hat sein Konto markiert, weil er versucht hat, eingeschränkte Inhalte zu erstellen. [caption id="attachment_1663832" align="aligncenter" width="620"] KI-gestützte Filter helfen Synthesia bei der Überprüfung jedes einzelnen Inhalts, den seine Kunden zu erstellen versuchen. Nur akkreditierte Nachrichtenorganisationen dürfen Beiträge zu aktuellen Themen erstellen.(Screenshot: Synthesia)[/caption] Dienstleistungen ohne diese Einschränkungen anzubieten, wäre „eine großartige Wachstumsstrategie“, sagt Riparbelli. Aber „wir glauben, dass der richtige Weg, diese Technologien in der Gesellschaft einzuführen, darin besteht, am Anfang etwas zu restriktiv zu sein“. Doch selbst wenn diese Leitplanken perfekt funktionieren würden, wäre das Endergebnis dennoch ein Internet, in dem alles gefälscht ist. Unsere Informationslandschaft ist bereits sehr unübersichtlich. Einerseits ist das öffentliche Bewusstsein dafür geschärft, dass KI-generierte Inhalte florieren und ein mächtiges Werkzeug für Fehlinformationen sein könnten. Andererseits ist immer noch unklar, ob Deepfakes im großen Umfang für Fehlinformationen eingesetzt werden und ob sie auf breiter Front dazu beitragen, die Überzeugungen und das Verhalten der Menschen zu verändern. Schiele ich wirklich so stark? Blinzle ich so viel? Und bewege ich meinen Kiefer so? Oh Gott. Problematische Verbreitung von KI-Inhalten Wenn Menschen den Inhalten, die sie sehen, zu skeptisch gegenüberstehen, könnten sie aufhören, überhaupt etwas zu glauben. Dieses Vertrauensvakuum kann ausgenutzt werden, um über die Authentizität echter Inhalte zu lügen. Forscher nennen dies die „Lügendividende“. Claire Leibowicz, Leiterin der Abteilung für KI und Medienintegrität bei der gemeinnützigen Organisation Partnership on AI, befürchtet, dass es durch das wachsende Bewusstsein für diese Lücke einfacher werde, „echtes Material oder Medien als Beweismittel in vielen verschiedenen Zusammenhängen plausibel zu leugnen und anzuzweifeln, nicht nur in den Nachrichten, [sondern] auch vor Gericht, in der Finanzdienstleistungsbranche und in vielen unserer Institutionen“. Auch Riparbelli räumt ein, dass die Verbreitung von KI-generierten Inhalten auf kurze Sicht wahrscheinlich zu Problemen führen wird. Während die Menschen darauf trainiert sind, nicht alles zu glauben, was sie lesen, neigen sie immer noch dazu, Bildern und Videos zu vertrauen. Menschen müssten jetzt KI-Produkte selbst testen, um zu sehen, was möglich sei, und sie sollten nichts glauben, was sie online sehen, wenn sie es nicht überprüft haben. Zuerst dachte ich, der Avatar sei ich Am Tag nach meinem letzten Besuch schickt mir Voica die Videos mit meinem Avatar per E-Mail. Als ich das erste abspiele, bin ich verblüfft. Es ist genauso seltsam, wie sich selbst vor der Kamera zu sehen oder eine Aufnahme der eigenen Stimme zu hören. Dann fange ich mich. Zuerst dachte ich, der Avatar sei ich. Je mehr ich mir Videos von „mir“ ansehe, desto mehr winde ich mich. Schiele ich wirklich so stark? Blinzle ich so viel? Und bewege ich meinen Kiefer so? Oh Gott. Es ist gut. Es ist wirklich gut. Aber es ist nicht perfekt. „Wirklich gute Animation“, schreibt mir mein Freund. „Aber die Stimme klingt manchmal genau wie du, und manchmal wie ein typischer Amerikaner und mit einem merkwürdigen Tonfall“, fügt er hinzu. „Seltsam.“ Er hat recht. Die Stimme ist manchmal ich, aber im wirklichen Leben nicke ich mehr. Mein Akzent ist durch die Jahre, die ich im Vereinigten Königreich gelebt, amerikanisches Fernsehen gesehen und eine internationale Schule besucht habe, ein transatlantisches Durcheinander. Mein Avatar sagt das Wort „Roboter“ manchmal mit britischem Akzent und manchmal mit amerikanischem. Das ist etwas, das wahrscheinlich niemandem sonst auffallen würde. Aber der KI schon. "Digitale Leichen" Carl Öhman, Assistenzprofessor an der Universität Uppsala, beschäftigt sich mit digitalen Überresten und ist Autor des neuen Buches The Afterlife of Data. Er nennt Avatare wie meinen „digitale Leichen“. „Es sieht genauso aus wie du, aber es ist niemand zu Hause“, sagt er. „Das wäre so, als würde man Sie klonen, aber Ihr Klon ist tot. Und dann animiert man den Leichnam mit elektrischen Impulsen, damit er sich bewegt und spricht.“ So fühlt es sich auch an. Die kleinen Nuancen, in denen ich mich nicht wiedererkenne, reichen aus, um mich abzuschrecken. Andererseits könnte der Avatar jeden täuschen, der mich nicht sehr gut kennt. Er glänzt, wenn er eine Geschichte präsentiert, die ich darüber geschrieben habe, wie Robotik ihren eigenen ChatGPT-Moment bekommen könnte; der virtuelle KI-Assistent fasst den langen Text in einem anständigen kurzen Video mit meinem Avatar zusammen. Ich denke, wenn ich damit meinen Kollegen einen Jahresbericht vorlegen würde, wäre dieses Maß an Authentizität vielleicht schon ausreichend. „Was wir machen, ist mehr wie PowerPoint als wie Hollywood“, sagt auch Riparbelli. Die neueste Generation von Avataren ist sicherlich noch nicht reif für die Kinoleinwand. Sie zeigen den Avatar nur von vorne und von der Hüfte aufwärts im Hochformat. Aber in nicht allzu ferner Zukunft, so Riparbelli, hoffe das Unternehmen, Avatare zu schaffen, die mit ihren Händen kommunizieren und Gespräche miteinander führen können. Geplant sind auch Ganzkörper-Avatare, die in einem von einer Person geschaffenen Raum laufen und sich bewegen können. (Das Rigg, das diese Technologie ermöglicht, existiert bereits, siehe Bild Seite 74.) Aber wollen wir das wirklich? Es sieht nach einer düsteren Zukunft aus, in der Menschen KI-generierte Inhalte konsumieren, die ihnen von KI-generierten Avataren präsentiert werden. Sie werden KI nutzen, um diese Inhalte in weitere Inhalte umzuwandeln – die dann wiederum wahrscheinlich benutzt werden, um andere KIs zu trainieren. Zumindest hat mir dieses Experiment deutlich gemacht, dass der Technologiesektor dringend seine Verfahren zur Inhaltsmoderation verbessern und sicherstellen muss, dass der Herkunftsnachweis der Inhalte, wie Wasserzeichen, robust ist. Wie werden die KI-Avatare in wenigen Jahren aussehen? Auch wenn die Technologie und die Inhaltsmoderation von Synthesia noch nicht perfekt sind, so sind sie doch deutlich besser als alles, was ich bisher auf diesem Gebiet gesehen habe. Die KI-Entwicklung schreitet rasant voran, und es ist sowohl aufregend als auch beängstigend, sich vorzustellen, wie KI-Avatare in nur wenigen Jahren aussehen werden. Vielleicht müssen wir in Zukunft Sicherheitsvorkehrungen treffen, um zu zeigen, dass wir tatsächlich mit einem echten Menschen und nicht mit einer KI kommunizieren. Ich fand es seltsam tröstlich, dass mein Avatar in einem der Videos über nicht einvernehmliche Deepfakes schimpft und mit soziopathisch glücklicher Stimme sagt: „Die Tech-Giganten? Oh! Die machen einen Riesengewinn!“ Das würde ich nie tun. Dieser Artikel stammt von Melissa Heikkilä. Sie ist Redakteurin bei der US-amerikanischen Ausgabe von MIT Technology Review. Sie berichtet über Entwicklungen auf dem Gebiet der künstlichen Intelligenz.