Pepper-Blog (19) "Der Alltag ist dem Robotischen näher als man denkt."
Der Soziologe Armin Nassehi stellt sein neues Buch (1) in der Muthesius Kunsthochschule in Kiel vor. Nach einem sehr wissenswerten Vortrag findet der Autor kurz Zeit, um mit NDR Reporter Lornz Lorenzen über Pepper und die KI zu reden.
Lieber Herr Prof. Nassehi! Moin, ich beschäftige mich seit August vergangenen Jahres mit einem besonderen Projekt. Die Informatiker der Universität Lübeck sind auf uns zugekommen und haben gesagt, wir haben einen Roboter, der ist 1,20 Meter groß, der heißt Pepper, wir wollen, dass er Plattdeutsch lernt. Mittlerweile existieren knapp 20 Ausgaben dieses Blogs, der sich mit den verschiedensten Aspekten des Themas befasst. Wenn ich sie nun als (Technik)Soziologen fragen darf, wie ist ihre Erfahrung mit Robotern bislang?
Armini Nassehi: Also das Interessante an Robotern ist ja, dass sie etwas tun, was man erwartet, dass sie aber gleichzeitig einen Handlungsspielraum haben. Man würde eine Maschine, die genau das tut, was man ihr sagt, also zum Beispiel ein Automobil, bei dem ich aufs Gaspedal drücke und dann wird es schneller und auf die Bremse drücke und dann wird es langsamer, nicht als Roboter beschreiben. Man würde wahrscheinlich noch nicht mal eine Maschine, die das ohne meine Beteiligung macht, als Roboter beschreiben. Roboter sind Apparate, die eine Aufgabe lösen, die auf den ersten Blick so aussieht, als würde der Roboter selbst Entscheidungen treffen, selbst wenn er das nicht tut. Und das ist ja das Spannende, schon der Begriff ist ja interessant, das kommt ja von Arbeit (2). Die arbeiten selbst und wir würden ja den Begriff des Roboters verwenden, wenn der Roboter selbst die Wirklichkeit detektiert, mit der er umgeht.
Ja, sonst wäre das eben nur ein ferngesteuerter Apparat, hinter dem wiederum ein Mensch die Kontrolle hat.
Nassehi: Ein Automobil das allein fährt ist eher ein Roboter, das würde mit dem gleichen Problem arbeiten, das wir im Bewusstsein auch haben, dass wir nur die Realität kennen, die wir mit unseren eigenen Mitteln detektieren können. Und das ist techniksoziologisch interessant, weil das eine Technik ist, die nicht mehr eindeutig ist, also die immer einen formalen Fehler enthält, seit wir die Unvollständigkeitssätze von Gödel (3) kennen. Und das finde ich an Robotik interessant, auch wenn man den Begriff zum Teil für etwas anderes verwendet, also die große Werkshalle bei VW, wo die Schweißnähte jetzt gemacht werden, aber eigentlich sind es nur Maschinen.
Das sind Industrieroboter, denke ich. Und man könnte jetzt sagen, das ist doch eigentlich ganz gut, die sind da festgetackert im Fundament, arbeiten abgesperrt, hinter Sicherheitsgittern. Aber nun gibt es ja diesen Begriff auch schon etwas länger, nämlich den Begriff "Social Robotics", also einen sozialen Roboter. Ist das vielleicht schon ein Widerspruch in sich selbst, also wenn man sagt, ein "sozialer" Roboter?
Nassehi: Das kommt auf die Komplexität an. Also, wir kennen ja die ganzen Diskussionen, etwa über den Turing-Test (4) und solche Dinge, oder das chinesische Zimmer (5), also wo man sich die Frage stellt, kann man, wenn genug Daten verarbeitet werden können, noch unterscheiden, ob das von einem Menschen stammt oder nicht.
Heute haben wir die Situation, dass es ziemlich viele Apparate gibt, die deshalb "Social Robots" sind, weil sie in Interaktion mit uns treten. Bei der Lufthansa-Hotline zum Beispiel, da kriegen sie niemand mehr ans Telefon, sondern sie geben etwas ein und dann gibt er eine Antwort.
Das sind die Chatbots, genau.
Nassehi: Ja, und das Interessante ist, dass die irgendwann an ein Ende kommen. Das ist ganz erstaunlich, sie stellen eine Frage, die nicht in das Raster der möglichen Fragen passt und dann sagt sie, bitte rufen sie die Hotline an, an die man kaum herankommt. Das Soziale daran ist, dass es ein Hin und Her zwischen der Maschine und dem Menschen in Echtzeit gibt. Und je mehr Daten verarbeitet werden können und je erwartbarer die Fragen sind, desto menschenähnlicher, ich würde sagen, desto natürlicher wird diese Art von Interaktion. Aber das ist natürlich nicht etwas, was menschliche Qualität hat, das ist klar.
Also, sie sagen "menschliche Qualität", das ist doch jetzt die große Frage. Wenn es so funktioniert "als ob" ein Mensch dahinter wäre, und die Maschine immer menschlicher wird, geraten wird da nicht in eine schwierige Situation?
Nassehi: Da wird es, genau, schwierig. Und ich würde sagen, da bewähren sich die Dinge natürlich auch. Denken wir an unser Gespräch, das wir beide jetzt führen: Man könnte Sie oder mich vielleicht durch einen Roboter ersetzen, aber bestimmte Sprünge wären nicht möglich. Ich könnte Sie zum Beispiel fragen, warum interessieren Sie sich eigentlich für Plattdeutsch? Oder, was haben Sie eigentlich für komische Erfahrungen gemacht, dass Sie mich so angucken? Oder, was haben Sie denn mal studiert? Und das sind ja dann Fragen, die kaum richtig beantwortet werden können durch einen Apparat, der all das nicht hat, selbst wenn er so etwas ähnliches wie menschliche Qualitäten simulieren kann. Also, ich glaube, an der Simulation kommt man nicht vorbei, wobei in Alltagssituationen reicht uns das aus. Für mich als Soziologe ist daran interessant, wie erwartbar Alltagssituationen sind. Wenn ich irgendwo hin gehe und mir eine Brezel bestelle, oder hier in Norddeutschland ein Brötchen, dann werde ich mit dem Verkäufer oder der Verkäuferin nur darüber reden. Ich werde aber nicht fragen, sind Sie eigentlich katholisch oder glauben Sie an die Auferstehung des Fleisches? Oder was sagen Sie eigentlich zur AfD? Also, das sind Fragen, die schon aus Rollenerwartungsgründen fast ausgeschlossen sind. Der Alltag ist diesem Robotischen dann ohnehin näher, als man so denkt.
Das hat ja auch einen soziologischen Aspekt. Können wir davon ausgehen, dass wir in zwei Jahren Roboter vielleicht überall in der Altenpflege haben oder auch in der Schule, was meinen Sie? Der Medientheoretiker Marshall McLuhan hat ja mal gesagt: "Erst formen Menschen die Werkzeuge und dann formen die Werkzeuge uns".
Nassehi: Na klar funktioniert das. Man muss nur nach Japan gehen und sich die Pflegeroboter angucken. Die funktionieren. Und Ihre Bemerkung ist natürlich sehr wichtig, sie haben McLuhan zitiert, das gibt es in anderen Zusammenhängen, dass der Gebrauch von Technik natürlich auch den Technikgebrauch verändert und uns verändert. Das ist keine Frage, dass bestimmte Informationstechniken unser Bewusstsein verändern. Das ist ein alter Hut, das kennen wir. Interessanterweise ist es so, dass wir uns ja darauf einstellen und das inzwischen für natürlich halten. Ich glaube ja, dass Techniken dann funktionieren, wenn man sie nicht für Techniken hält. Oder sagen wir mal so, wenn sie so eingebettet sind in Erwartungsstrukturen, dass das Technische daran nicht auffällt, und zurzeit fallen bestimmte Dinge noch auf.
Haben sie dafür ein konkretes Beispiel dafür?
Nassehi: Also es war ein totaler Aufreger, als es die ersten Flugzeuge gab, in denen man "Fly-by-Wire" gehabt hat und man wusste beim Airbus, es waren glaube ich die ersten, die das gemacht haben, dass die Bewegungen, die der Pilot an diesem Joystick gemacht hat, von einem Rechner umgerechnet werden, der dann die Start- und Landeklappen steuert. Das war damals so die Frage, ja wird der Pilot da nicht seiner Autonomie beraubt? Heute würden wir sagen, es ist ganz toll, weil der Pilot sich dadurch auf andere Sachen konzentrieren kann und die Dinge womöglich besser funktionieren. Und daran muss man sich gewöhnen. Das ist doch das Spannende. Also Automobile durften am Anfang nur ganz, ganz langsam fahren. Heute kann ich mit 200 über die Autobahn düsen und wir machen uns keine großen Gedanken. Es werden trotzdem noch Leute totgefahren, aber das ist "okay". Also "Menschen machen Fehler". Aber dieser Satz funktioniert bei Technik noch nicht: "Mann, das ist ja halt nur ein Algorithmus", oder "Das ist ja halt nur Technik, und Technik macht halt Fehler". Das können wir nicht so leicht ertragen, aber das wird irgendwann kommen.
Der Philosoph Günter Anders hat in seinem Buch "Die Antiquiertheit des Menschen" bereits in den 1950er-Jahren über das Gefühl der Minderwertigkeit gesprochen, dass Menschen gegenüber der Technik empfinden könnten. Und wie sollte das jetzt erst sein mit dem technischen Fortschritt, der KI, ChatGpt, und Robotern wie diesem Pepper?
Nassehi: Wir haben bei allen Techniken, die uns irgendwie entlasten oder die Dinge ersetzen, so eine Demütigungserfahrung. Die Dampfmaschine war auch schon eine Demütigungserfahrung, man denke an die Maschinenstürmer damals. Also das ist etwas, was es schon viel länger gibt. Der Buchdruck ist eine Demütigungserfahrung. Und Günther Anders hat das, sagen wir mal, fast nur normativ gesehen. Wir würden doch inzwischen sagen, dass manche der Techniken uns tatsächlich entlasten, dass sie das Leben einfacher machen, dass sie es zum Teil auch lebenswerter machen, dass wir auch Vorteile davon haben. Da ist immer eine Ambivalenz. Man kann sagen, wie toll ist es, dass wir mit bestimmten Techniken die Räume so stark überwinden können. Da kann man gleichzeitig sagen, wir wissen die Räume, wo wir sind, nicht mehr zu schätzen. Beides gilt. Und ich glaube, da werden wir nie rauskommen.
Die Demütigung, das hält ein Mensch dann aus, oder?
Nassehi: Also das ist etwas, was es schon viel, viel, viel länger gibt. Man überwindet sich auch, indem man sich einfach daran gewöhnt.
ChatGPT ist noch eine Demütigung.
Nassehi: Die wird noch demütigender, wenn noch mehr Daten zur Verfügung stehen und die Antworten noch perfekter werden. Aber wir werden uns daran gewöhnen und das trotzdem verwenden. Also ich verwende ChatGPT schon fast jeden Tag.
Wie war ihre erste Erfahrung? War das ein Schockmoment?
Nassehi: Nein, ein Schockmoment ist das nicht gewesen. Es ist eher ein Staunen gewesen. Ich finde es interessant, dass das Demütigende nicht unmittelbar mit der Technik zu tun hat, sondern mit unserem Alltag. Ich beschäftige mich seit langem damit, wie erwartbar das ist, was wir alle im Alltag so tun. Und nur weil die Dinge so erwartbar sind, "träge" sage ich dafür gern, kann ChatGpt funktionieren. Das ist eigentlich ein Abbild der Ausrechenbarkeit unserer Kommunikation in der Gesellschaft. Und das finde ich das Interessante. Ich finde ohnehin, an der Digitaltechnik kann man viel über unsere nicht digitale Realität lernen. Digitalität hat immer mit Mustererkennung zu tun, hat immer mit Erwartbarkeiten zu tun, hat immer damit zu tun, dass die Dinge regelmäßiger sind, als wir so denken, obwohl unsere Selbstbeschreibung von hoher Individualität, von Einzigartigkeit, von Singularität geprägt ist, was selbst ein Muster ist, das wir verwenden.
Man kann also sagen, mit Robotik und KI erforschen wir uns irgendwie auch selbst. Vielen Dank Herr Prof. Nassehi
Nassehi: Danke schön.
(1) Armin Nassehi,, "Gesellschaftliche Grundbegriffe - Ein Glossar de öffentlichenRede", C.H.Beck Verlag, 2023
(2) Das tschechische Wort "robot" bedeutet übersetzt in etwa "unfreiwillige Arbeit".
(3) Kurt Gödel war ein österreichischer Mathematiker, Philosoph, Logiker und Wegbereiter des Computers. Mit seiner 1931 erschienen bahnbrechenden Arbeit zu den "Unvollständigkeitssätzen" machte er eine große Hoffnung zunichte, nämlich die, dass man ein widerspruchsfreies System der Mathematik schaffen könnte. Er wies nach, das es in allen hinreichend komplexen Systemen Elemente gibt, die weder beweis, noch widerlegbar sind. Das meint Nassehi, wenn er von einem "formalen Fehler" spricht, der in jedem Computer, jeder KI und somit jedem Roboter miteingebaut ist.
(4) Der britische Logiker, Kryptoanalytiker und Computerpionier Alan Turing entwickelte bereits 1950 eine Versuchsanordnung zum Test von KI-Systemen. Und sie ist ist so aufgebaut: Ein Proband befindet sich in einem Raum und bekommt von zwei Seiten, die er nicht einsehen kann, schriftliche Nachrichten zugestellt. Auf der einen Seite befindet sich ein Mann, der vorgibt eine Frau zu sein. Auf der anderen Seite agiert ein Computer, der ebenfalls vortäuscht, eine Frau zu sein. Wenn es dem Probanden am Ende der Konversation nicht mit Sicherheit gelingt, zu entscheiden, wer, wer ist, gilt der "Turing-Test" als bestanden.
(5) Das Gedankenexperiment zum "Chinesischen Zimmer" stammt vom Philosophen John Searle (1980). Es greift den Turing-Test auf und soll verdeutlichen, das eine KI, selbst dann, wenn sie das "Imitations-Spiel" (Imitation Game) besteht, noch lange nicht über ein auch nur annähernd menschliches Bewußtsein verfügen muss.
Das Interview führte Lornz Lorenzen.
