Pepper-Blog (31) Selber denken in Zeiten der KI
Es ist so bequem, dem Navi zu folgen, oder ChatGPT einen Brief schreiben zu lassen. Doch das birgt Gefahren in sich. Und die hat wohl niemand klarer (voraus)gesehen als Immanuel Kant, in seiner Schrift "Was ist Aufklärung?".
Als Roboter Pepper bei der Gründung des neuen CHAI-Instituts mit dabei war, (siehe Ausgabe 29) hatte ich, Kants Geburtstag im Hinterkopf, die Gelegenheit mit dem Philosophen Stephan Schmid zu sprechen. Er ist Professor für die Geschichte der Philosophie an der Universität Hamburg und kennt sich natürlich auch mit Kant aus. Und so beginnt das Interview auch direkt mit einem Zitat des großen Aufklärers aus Königsberg, der schreibt im Jahr 1784:
"Es ist so bequem, unmündig zu sein. Habe ich ein Buch, das für mich Verstand hat, einen Seelsorger, der für mich Gewissen hat, einen Arzt, der für mich die Diät beurteilt usw., so brauche ich mich ja nicht selbst zu bemühen. Ich habe nicht nötig zu denken, wenn ich nur bezahlen kann; andere werden das verdrießliche Geschäft schon für mich übernehmen."(1)
Dazu fällt mir im alltäglichen ganz banal ein, dass ich mich zunehmend auf das Navi verlasse und nicht mehr auf meine eigene Ortskenntnis setze. Mit dem Kopf zu rechnen ist ja auch schon so ein "verdrießliches Geschäft", das ich schon vor langer Zeit an Taschenrechner abgegeben habe. Und mit den aktuellen KI-Anwendungen geht da ja noch sehr viel mehr. Insofern ist Kant hier wahnsinnig aktuell, oder?
Stephan Schmid: Ja, Kant ist in der Tat sehr aktuell. Denn, wie Sie richtig sagen, ist mit der KI ein neues Instrument dazu gekommen, das wir verwenden können, um uns Entscheidungen abnehmen zu lassen und intellektuell faul zu sein. Und Kant ermahnt uns vor einer solchen intellektuellen Faulheit und hält uns an, selbst zu denken oder, wie er es auch ausdrückt, es zu wagen, uns unseres eigenen Verstandes zu bedienen. Allerdings sollte uns diese berechtigte Mahnung nicht glauben lassen, dass es uns möglich wäre, alles alleine kritisch zu durchdenken und jede Entscheidung in all ihren Facetten zu überprüfen, bevor wir sie fällen.
Als endliche Wesen sind wir auch in unserem Denken und Entscheiden auf eine Arbeitsteilung angewiesen und kommen nicht umhin, uns auf andere Personen oder auch Dinge (wie zum Beispiel Messinstrumente) zu verlassen. Der Versuch, dies nicht zu tun, wäre eine Überforderung - und so wollte Kant seine Aufforderung zum Selberdenken auch gar nicht verstanden wissen. Das gilt nun aber auch für unseren Umgang mit dem Taschenrechner, dem Navi oder der KI: Es wäre falsch, aus Kants berechtigter Ermahnung ein generelles Verbot der Verwendung solcher Geräte abzuleiten. Im Gegenteil: Sie können uns ja auch helfen, unsere Denkfähigkeiten für die wirklich wichtigen Fragen einzusetzen. Kant würde daher wohl nur an einen intellektuell verantwortlichen Umgang mit diesen Geräten appellieren. Das heißt daran, dass wir die Antworten dieser Tools nicht unkritisch akzeptieren und zum Beispiel eine durch ChatGPT ausgespuckte Antwort auf eine Frage ohne weitere Prüfung als korrekt annehmen.
Es ist doch aber nicht zu leugnen, dass Menschen sich immer mehr auf Entscheidungen anderer verlassen. Das müssen ja nicht nur andere Menschen sein, auf die man sich verlässt, sondern das könnten ja auch komplexe Algorithmen verpackt in kleinen schwarzen Kästen sein, vollgestopft mit Milliarden von Transistoren, die (Vor)entscheidungen treffen. Zu diesem Aspekt noch ein weiteres Zitat aus Kants Aufklärungsschrift, das hier sehr gut passen könnte.
"Satzungen und Formeln. Diese mechanischen Werkzeuge eines vernünftigen Gebrauchs oder viel mehr Missbrauchs seiner Naturgaben, sind die Fußfesseln einer immerwährenden Unmündigkeit. Wer sie auch abwürfe, würde dennoch auch über den schmalsten Graben einen nur unsicheren Sprung tun, weil er zu dergleichen freier Bewegung nicht gewöhnt ist."
Das ist wieder das Beispiel mit dem Navigationssystem. Wenn es ausfällt, bin ich erstmal aufgeschmissen, gestresst und unsicher.
Schmid: Ja, auch das ist erst einmal richtig: Wir verlassen uns immer mehr auf die Entscheidungen anderer. Aber wie schon gesagt: Das halte ich nicht automatisch für problematisch. Tatsächlich müssen wir heute in einer eng vernetzten Welt oft derart komplexe Entscheidungen treffen, dass wir gar nicht anders können, als uns dabei auf andere zu verlassen. Und auch wenn ich Kants Ermahnung, das nicht unkritisch zu tun, ganz unterschreiben kann, teile ich Kants Abwertung‚ mechanischer Werkzeuge‘ des Vernunftgebrauchs, die er in die Formulierung dieser Mahnung einbindet, nicht: Sie suggeriert einen Gegensatz zwischen einem Vernunftgebrauch im Geist einerseits und mechanischen Prozessen in der Natur andererseits, den ich nicht so stark sehe. Am Ende hängt auch der nackte Mensch, der kein einziges technisches Instrument verwendet, in seinem Denken von "mechanischen" Prozessen ab - nämlich von den Prozessen, die es uns erlauben, Dinge wahrzunehmen.
Es geht daher nicht darum, mechanische Prozesse oder technische Hilfsmittel zu verteufeln, sondern darum, immer wieder die kritische Frage zu stellen, in welchen Kontexten wir gute Gründe dafür haben, uns auf diese Mechanismen zu verlassen und in welchen anderen Kontexten eben nicht. Das von Kant nahegelegte Bild, dass wir je in einer Situation gewesen wären, wo wir hätten handeln können, ohne auf gewisse Mechanismen zu vertrauen, halte ich für naiv. Die Frage ist nicht: Mechanismus oder nicht Mechanismus, sondern welche Mechanismen verdienen unser Vertrauen und welche nicht.
Wenn ich jetzt ChatGPT bitte, einen Text über Kant zu schreiben, eine Zusammenfassung seiner wichtigsten Ideen und so weiter, dann kann ich diesen Text doch nur beurteilen, wenn ich ein fundiertes philosophisches Grundwissen habe. Wenn ich aber mich darauf verlasse, die KI wird das schon richtig sagen oder zusammenfassen, dann sehe ich da ein großes Problem. Ich kenne noch Zettelkästen, Bibliotheken, Bücher, die konnte man anfassen und dann auf Seite 395 nachprüfen, ob ein Zitat stimmt. Wie sehen Sie das?
Schmid: Das scheint mir ein wunderbares Beispiel dafür, dass wir keine Sorge haben müssen, dass uns ChatGPT alles abnehmen kann, insbesondere das eigene Denken. Selbst wenn ChatGPT etwas produziert, wie Sie sagen, dann habe ich ja nur etwas davon, wenn ich das verstehen kann. Aber das Verstehen selbst kann mir kein ChatGPT abnehmen. Das Verstehen selbst geschieht in mir. Aber natürlich bleibt die wichtige Ermahnung von oben: Ich sollte diese Antwort, die mir ChatGPT auf meine Frage gibt, nicht unkritisch für bare Münze nehmen.
Abschließend nochmal zu Kant, was meinen Sie, könnten wir mitnehmen von ihm, zu seinem 300. Geburtstag?
Schmid: Eine Menge! Zum einen sicher, seine hier besprochene Aufforderung zum kritischen Selberdenken. Die scheint mir zeitlos richtig und gerade heute, wo wir mit so vielen Informationen konfrontiert sind, mit denen wir irgendwie zu Rande kommen müssen, wichtiger denn je. Zum anderen - und das ist vielleicht eher für die Wissenschaften im Allgemeinen und die Philosophie im Besonderen wichtig - hat Kant darauf hingewiesen, dass wir nicht nur beim Akzeptieren irgendwelcher Antworten, sondern auch beim Stellen unserer Fragen kritisch sein sollten. Das heißt, dass wir darüber klar werden sollten, dass nicht jede Frage automatisch sinnvoll ist, und dass wir nur dann echte Erkenntnisse gewinnen können, wenn wir Fragen stellen, die wir auch beantworten können.
Darüber hinaus zeigte Kant eindrücklich, dass wir beim Nachdenken über die Fragen, die wir sinnvollerweise stellen können, interessante Einsichten darüber gewinnen können, wie unsere Welt beschaffen sein muss, damit wir so über sie nachdenken und reden können, oder überhaupt so in ihr bewegen können, wie wir das eben tun. Kant hat damit neue Arten von Fragen formuliert. Und ob man mit seinen Antworten darauf nun übereinstimmt oder nicht - so war die Formulierung dieser neuartigen Fragen (nämlich Fragen darüber, welche Fragen überhaupt sinnvoll sind) doch bahnbrechend.
Vielen, vielen Dank.
So ehren die Philosoph:innen der Universität Hamburg den Denker aus Königsberg mit einer öffentlichen Ringvorlesung. Im Mai geht es um Fragen der Menschlichkeit und Selbsterhaltung und in einer zweiten Veranstaltung um die spannende Frage, was ist gerechtes Glück?
Und das ist noch lange nicht alles: Die Universität Kiel bietet ebenfalls eine öffentliche Ringvorlesung an. Der Titel lautet: "Revolution der Denkart - 300 Jahre Kant". Im Audimax dreht sich im Mai dann zum Beispiel alles um die Frage: "Ist Kants Philosophie gefühllos? In einer weiteren Vorlesung wird "Kants Friedensschrift in der heutigen Zeit" verortet.
Das Interview führte Lornz Lorenzen
(1) Der Text: "Was ist Aufklärung von Immanuel Kant, erschien ursprünglich unter dem Titel: "Beantwortung der Frage: Was ist Aufklärung?" in: "Berlinische Monatsschrift", Dezember- Heft 1784, S. 481-494. Der Aufsatz beginnt mit den berühmten Worten, die ich hier zum 300 Geburtstag gern in voller Länge wiedergeben möchte:
"Aufklärung ist der Ausgang des Menschen aus seiner selbst verschuldeten Unmündigkeit. Unmündigkeit ist das Unvermögen, sich seines Verstandes ohne Leitung eines anderen zu bedienen. Selbst verschuldet ist diese Unmündigkeit, wenn die Ursache derselben nicht am Mangel des Verstandes, sondern der Entschließung und des Mutes liegt, sich seiner ohne Leitung eines andern zu bedienen. "Sapere aude"! Habe Mut, dich deines eigenen Verstandes zu bedienen, ist also der Wahlspruch der Aufklärung."
PLATTDEUTSCHE ZUSAMMENFASSUNG
Un för Lüüd, de dat hild hebbt, hier de Tosamenfaten vun de Google-Gemini-KI: Kants Bottschop vun de Opklärung is aktueller denn je. Se makt Moot uns egen Denken to bruken, kritisch to achterfragen un Verantworten för uns Weten to övernehmen. De Philosop hett all in’t 18. Johrhundert vör "selbstverschuldete Unmündigkeit" dörch Afhängigkeit vun annere warnt. Sien Motto weer: "Sapere aude!" - "Hebb den Moot, dien egen Verstand to bruken!". Dat bedüüd, nich allens ahn Kritik to övernehmen, man sülvst to denken un Informatschonen to pröven. Wi schüllt den Insatz vun Technik reflektieren un uns ehre Grenzen bewußt sien. So kann de KI ok en Help, aver keen Ersatz för´t Denken sien." So fiern de Universitäten in Hamborg un Kiel Kants 300. Boortsdag mit Ringvörlesungen to Themen as Minschlichkeit, Sülvstbehauptung, gerechtes Glück un Freeden
