Ethikerin Judith Simon über KI und die Würde von Verstorbenen
Der Dokumentarfilm "Eternal You - Vom Ende der Endlichkeit" zeigt, wie Menschen Künstliche Intelligenz nutzen, um mit ihren Verstorbenen in Kontakt zu treten. Wie moralisch bedenklich ist das? Ein Gespräch mit Judith Simon, Professorin für Ethik in der Informationstechnologie an der Universität Hamburg.
Frau Simon, würden Sie Kontakt zu einem verstorbenen Menschen aufnehmen, ihn mittels KI weiterleben lassen?
Judith Simon: Es fällt mir im Moment schwer, mir das vorzustellen. Aber natürlich kann sich die Situation ganz anders darstellen: Wenn man weiß, dass ein Angehöriger stirbt und er oder sie vielleicht für die Kinder noch etwas hinterlassen möchte. Ich will das nicht kategorisch ausschließen, auch wenn ich es mir im Moment nicht vorstellen kann.
In gewisser Weise übernehmen die Start-ups, die dieses Programm anbieten, die Rolle der Religion. Denn auch Religion bietet in gewisser Weise Unsterblichkeit an. Wo sehen Sie Gemeinsamkeiten und wo Unterschiede?
Simon: Ich hätte den Bezug gar nicht unbedingt zur Religion hergestellt, sondern erstmal zu anderen Erinnerungspraktiken. Wir erinnern uns schon jetzt mittels Technologien an Leute, die gestorben sind. Sei es über Bilder oder über die letzten Nachrichten, die die Personen noch auf der Mailbox hinterlassen haben. Insofern ist dieses Interagieren mit dem Avatar eine Fortsetzung dieses Interagierens mit Erinnerungen. Es gibt aber auch eine ganze Reihe von Problemen, die damit auftauchen, weil man im normalen Trauerprozess irgendwann auch die Intensität, mit der man sich mit dem Trauern beschäftigt, nachlässt. Und das widerspricht gegebenenfalls den Geschäftsmodellen von den Anbietern solcher Avatare.
Die Dokumentation zeigt Beispiele von Unternehmen und Usern. In den USA werden die Anwendungen schon "death capitalism" genannt. Wo sind dabei Ihre größten moralischen Bedenken?
Simon: Ich glaube, es gibt zwei unterschiedliche Arten von Problemen. Das eine entspringt direkt aus diesen Geschäftsmodellen, und zwar den Kunden über ein Abo-Modell möglichst lange an diesen Avatar zu binden. Oder es ist ein datenbasiertes Werbemodell: Auch dann gibt es den Anreiz, dass ich möglichst viel mit dieser Software interagieren soll. In beiden Fällen steht das einem Trauerprozess, der irgendwann mal auch auf eine Reduktion der Interaktion mit dem Verstorbenen abzielt, ein Stück weit entgegen.
Würden Sie sagen, dass die Würde von Toten da missachtet wird? Denn in der Dokumentation berichten Menschen, dass die Avatare plötzlich Dinge sagen wie: "Gestern war ich noch im Himmel - heute bin ich in der Hölle."
Simon: Es macht einen Unterschied, ob ein Sterbender selber so einen Avatar für seine Hinterbliebenen trainiert oder ob Hinterbliebene das auf der Basis von Daten eines Verstorbenen machen. Das ist auch eine Frage von Zustimmung. Und das Zweite ist ein Grundproblem, das sich verschärft, weil diese Systeme häufig selbst lernen und sich der Avatar meines verstorbenen Verwandten im Laufe der Zeit weiterentwickelt und unvorhersehbare Dinge tut. Man stellt sich dann die Frage der Angemessenheit. Gerade Trauernde sind in einer sehr vulnerablen, sehr empfindlichen Situation, sodass unvorhersehbare Aussagen, die in anderen Kontexten nicht so schlimm sind, sehr verstörend wirken können, wenn sie auf einmal von einem verstorbenen Verwandten geäußert werden.
Bedeutet das Erschaffen digitaler Klone oder Avatare, dass wir nicht loslassen können? Dass wir alles immer verfügbar machen wollen, überführen wollen in eine unendliche Gegenwart, ohne Alter oder Krankheit, ohne Vergänglichkeit? Und ist das überhaupt gesund?
Simon: Das kann natürlich solche Effekte haben, aber ich glaube nicht, dass es das zwingend haben muss. Solche Systeme werden in ganz vielen unterschiedlichen Formen eingesetzt, die Leute haben unterschiedliche Bedürfnisse. Ein Abschluss des Trauerns findet sowieso nicht endgültig statt, aber die Intensität, mit der ich trauere, lässt für gewöhnlich irgendwann ein bisschen nach. Und natürlich besteht auch die Möglichkeit, dass man diesen Akt des Trauerns völlig verändert.
Ein positives Beispiel dieser Form der Erinnerung ist zum Beispiel, dass viele Holocaust-Überlebende sich als Hologramm filmen lassen und erzählen, was ihnen widerfahren ist. Ist das nicht auch eine Form der Unsterblichkeit?
Simon: Das ist genau das, was ich zu Beginn meinte, dass Erinnerungspraktiken prinzipiell etwas Wunderbares sind und da auch neue Technologien ganz sinnvoll eingesetzt werden können. Aber wie bei allen Sachen stellt sich immer die Frage: Für welchen Zweck, an was und in welcher Form will ich mich erinnern? Und gerade, wenn sich diese Avatare dynamisch weiterentwickeln und dazu in sehr individuellen persönlichen Trauerbeziehungen reinspielen, ist das eine andere Situation.
Die Filmemacher der Dokumentation stehen zu Beginn der Dreharbeiten diesen ganzen Anwendungen sehr ablehnend gegenüber, haben aber am Ende eingeräumt, dass die Frage gar nicht so leicht zu beantworten ist. Können Sie diesen kleinen Gesinnungswandel auch verstehen?
Simon: Absolut. Ich glaube, man hat oft erstmal eine Abwehrhaltung gegenüber neuen Technologien. Dann merken wir relativ schnell, dass einerseits bestimmte dystopische Momente gar nicht unbedingt stattfinden, und auf der anderen Seite Leute auch vernünftige Umgangsformen haben mit vielen Technologien. Das führt zu so einer Entzauberung und auch einer Relativierung. Trotzdem sollte man immer die Augen offen halten für mögliche Probleme, aber gleichzeitig auch betonen, dass es Kontinuitäten gibt und neue Möglichkeiten.
Das Interview führte Peter Helling.
Schlagwörter zu diesem Artikel
Dokumentarfilm
