Folgen nicht absehbar: KI-Software kreiert täuschend echte Videos
Faszinierend und beängstigend: Mit der OpenAI-Software Sora lassen sich durch einfache Textbefehle Videos erstellen, die täuschend echt aussehen. Die Gefahr von Missbrauch ist hoch - gerade in einem "Superwahljahr" wie diesem.
Eine elegante Frau schlendert durch eine regennasse Stadt. Neon-Leuchtreklamen spiegeln sich in den Pfützen. Doch an dieser Szene ist nichts echt. Es ist ein Beispielvideo der Firma Open AI. Mit einem kurzen Textbefehl, einem sogenannten Prompt, lassen sich mit ihrem neuen KI-Generator Sora im Handumdrehen erstaunlich realistisch wirkende Filmszenen erzeugen: von Menschen, detailreichen Landschaften oder lebensecht wirkenden Tieren.
Wenn man Videos nicht mehr trauen kann
Selbst historische Aufnahmen können damit generiert werden, die auf den ersten Blick nicht mehr zu unterscheiden sind von echtem Material. Jan Claas van Treeck, Professor für digitale Transformation an der Hochschule Fresenius in Hamburg, sieht die Gefahr, dass wir Fotos, Audios und jetzt auch Videos künftig nicht mehr trauen können: "Kann ich mich noch darauf verlassen, dass mediale Abbildungen in irgendeiner Form etwas mit Wahrheit zu tun haben? Mit den immer besser werdenden KI-Systemen werden wir sehen, dass wir ein immer größeres Problem haben werden, uns zu fragen: Ist das jetzt wahr, was wir da gerade gesehen haben?"
Professor van Treeck: "Dadurch werden auch Jobs wegfallen"
Neben Open AI haben auch andere Tech-Giganten wie Google bereits Video mit KI-Software entwickelt. Ganz neue Möglichkeiten tun sich dadurch auf, aber auch Probleme, so van Treeck: "Es wird eine massive soziale Umwälzung passieren, weil damit natürlich Jobs wegfallen."
Die Jobs von Videoproduzenten, Kameraleuten, Grafikern und Animationsfirmen könnten zum Teil ersetzt werden oder sich massiv verändern. Denn bald kann jeder mit nur einem Textbefehl tanzende Hasen, Roboter und Mammuts zum Leben erwecken.
Wird das Internet von Deepfakes geflutet?
Die größte Gefahr aber ist Missbrauch. Tagesschau-Moderatoren wurden schon früher durch KI generierte Sätze in den Mund gelegt. Was passiert, wenn Fake-Videos künftig von jedem ganz leicht hergestellt werden können? Welchen Informationen können wir noch trauen? Wird das Internet von Deepfakes geflutet? Werden Falschinformationen die Meinungsbildung massiv beeinflussen? Fragen, die im "Superwahljahr" mit der Europawahl, mehreren Landtagswahlen und der US-Präsidenschaftswahl besonders wichtig sind.
Die Revolution hat längst begonnen, sagt Judith Simon. Sie forscht über Ethik in der IT und ist Mitglied des Deutschen Ethikrats. "Was wir ja schon gesehen haben, ist, dass diese Deepfakes eingesetzt werden für Manipulationen und Propaganda", erklärt Simon. "Das ist alles nichts Neues, Manipulation und Propaganda gab es schon immer. Aber es hat sich verändert, wie schnell und wie einfach das geht. Es haben jetzt sehr viele Leute Tools in der Hand, mit denen sie Inhalte generieren können, um die öffentliche Meinung gezielt in die Irre zu führen. Und das macht mir schon Sorgen. Je besser die Technologien werden, umso schwieriger wird es natürlich zu unterscheiden: Was ist Wahrheit? Und was ist Fake?
KI und Wahlen: Sam Altman ist nervös
Selbst der Chef von Open AI, Sam Altman, ist nach eigener Aussage "nervös", was mit KI bei Wahlen angerichtet werden könnte. Er hat Sora bisher nur ausgewählten Testern zur Verfügung gestellt. Noch ist die neue Software der Öffentlichkeit also nicht zugänglich. Denn es braucht Regulierung. Oder sogar Verbote?
"Es ist ein bisschen so, als wäre die Büchse der Pandora geöffnet", findet Simon. "Wir haben jetzt diese Technologien auf dem Markt. Man wird bestimmte Nutzungsszenarien vielleicht einschränken, verhindern oder verbessern können. Aber sie komplett zu verbieten, das halte ich für unrealistisch."
Gegenmaßnahmen: Kennzeichnungspflicht und Wasserzeichen
Eine Kennzeichnungspflicht für Videos, die mithilfe von KI entstanden sind, würde helfen. An der Hamburger Hochschule für Angewandte Wissenschaften wurden vor Kurzem Wasserzeichen für KI-generierte Inhalte entwickelt. Aber selbst die könnte man wohl fälschen. "Die sind wichtig und notwendig", meint Simon. "Aber es wird auch einen Wettbewerb darüber geben, wie man diese Schutzmaßnahmen durchbrechen kann. Das ist ein bisschen wie bei Viren-Scannern: Wenn die Viren immer besser werden, müssen auch die Virenscanner immer besser werden. Ähnlich ist es beim Nachweisen von Fake-Inhalten."
Welten nach eigenem Gusto erschaffen. Dies ist der nächste große Schritt in der KI-Revolution. Faszinierend und beängstigend, dass diese Bilder künstlich sind. Noch ist Sora nicht zugänglich. Noch gibt es hier und da Bildfehler, noch kann man maximal einminütige Videos herstellen. Und doch: Schon jetzt ist Erstaunliches auf Knopfdruck möglich. Aber wo wird uns diese rasante Entwicklung hinführen? Die Folgen für die Gesellschaft sind nicht absehbar. Es braucht Regulierung. Sonst leben wir irgendwann in einer Welt, in der man nichts mehr glauben kann.
Schlagwörter zu diesem Artikel
Künstliche Intelligenz (KI)
