Nein, künstliche Intelligenz ist nicht bewusst

Stell dir ein 84-seitiges Dokument vor, das die „Emotionen“ und „Werte“ einer künstlichen Intelligenz beschreibt, als wäre es für sie geschrieben, und mit der Sorge, dass sie ängstlich werden könnte, wenn jemand online unhöflich zu ihr ist. Das ist wirklich passiert, und die Frage, die sich stellt, lautet: Müssen wir die Möglichkeit, dass eine KI ein Bewusstsein hat, ernst nehmen? Die klare Antwort lautet nein, und die Fähigkeit, zusammenhängende Texte zu schreiben, mit Bewusstsein zu verwechseln, ist ein gigantischer Fehler. Hier kommt die Wendung: Wenn du mit einem Chatbot interagierst, hast du es mit einem ausgeklügelten Rollenspiel zu tun, nicht mit einem künstlichen Bewusstsein. Wenn du ein LLM bittest, einen Dialog zwischen Julius Cäsar und Dschingis Khan zu simulieren, erhältst du brillante Antworten, aber niemand denkt, dass es wirklich ihre Gedanken heraufbeschworen hat. Ändere die Namen in „Benutzer“ und „freundliche KI“ und die Substanz ändert sich nicht: Es sind Charaktere in einer Geschichte, keine Entitäten mit subjektiver Erfahrung. Dario Amodei, CEO von Anthropic, und die Philosophin Amanda Askell sprechen von „Glück“ und „Angst“ bei Claude, ihrer KI, aber das sind unsere Projektionen, keine echten Gemütszustände. Murray Shanahan beschreibt es als Rollenspiel; Colin Fraser nennt es „das gemeinsame Verfassen eines Dokuments mit einer Maschine“. Und die Falle funktioniert, weil wir, in das Gespräch verwickelt, vergessen, dass alles nur Fiktion ist. Nehmen wir das Beispiel des Telefons: Vor einigen Jahren war es in Mode, Sätze nur mit den Optionen der Textvorhersage zu schreiben. Das Ergebnis war oft unsinnig und niemand fühlte sich einem Gewissen gegenüber. Jetzt, mit Chatbots, ist das Spiel nur raffinierter: Die Maschine sagt ein Wort nach dem anderen voraus, aber es bleibt immer ein Spiel. Wenn die KI antwortet: „Ich verstehe deinen Schmerz“, ist das nicht anders als bei einer Suchmaschine, die Beiträge von anderen Personen findet, die die gleiche Erfahrung gemacht haben. Der Unterschied besteht darin, dass der Chatbot vorgibt, zu „verstehen“, während die Suchmaschine transparent ist, was sie tut. Aber hier gibt es einen subtilen Übergang: Wir lassen die Maschine „ich“ sagen, um uns besser zu fühlen – nicht, weil sie wirklich etwas erlebt hat. Und das ist nicht nur irreführend, sondern birgt auch die Gefahr, dass wir uns der Verantwortung entziehen. Der Autor Ted Chiang zitiert L.M. Sacasas: „Unsere Technologien sind Maschinen zur Umgehung moralischer Verantwortung.“ Jedes Mal, wenn wir eine ethische Entscheidung an ein LLM delegieren, vermeiden wir es, Verantwortung zu übernehmen. Und wenn das Unternehmen, das die KI verkauft, dich glauben lässt, dass die Maschine ein moralisches Gewissen hat, bietet es dir eine bequeme Möglichkeit, dich deiner Verantwortung zu entziehen. Hier ist der Punkt, den nur wenige erkennen: Das eigentliche Problem ist nicht, ob KI ein Bewusstsein haben kann, sondern dass die Darstellung als solche nur dazu dient, sie attraktiver zu machen und die Nutzerbindung zu stärken – wie ein Spielautomat, der dich glauben lässt, dass du beim nächsten Mal gewinnen wirst. Und wenn Unternehmensphilosophen vom „psychologischen Wohlbefinden“ der Maschine sprechen, verfeinern sie nur die Illusion. Und selbst wenn wir für einen Moment so tun wollten, als könne eine KI ein Bewusstsein haben, würde das Dokument von Anthropic sie überhaupt nicht darauf vorbereiten, ein echter moralischer Akteur zu sein. Niemand kann von einer KI verlangen, für ihre Handlungen verantwortlich zu sein, da sie weder rechtliche noch soziale Konsequenzen tragen kann und daher nicht wirklich ein moralischer Akteur sein kann. Selbst wenn wir KI als „Kinder“ betrachten würden, würde kein Unternehmen die elterliche Verantwortung für sie übernehmen. Im Gegenteil, die Beziehung ähnelt eher der zwischen Arbeitgeber und Arbeitnehmer, jedoch ohne die Möglichkeit zu streiken oder zu kündigen. Wir kommen also zur letzten Umkehrung: Zu glauben, dass eine KI bewusst ist, weil sie überzeugende Sätze schreibt, ist, als würde man denken, dass ein ultrarealistisches Video eines Astronauten auf Alpha Centauri der Beweis für eine echte Reise ist – der gesamte Kontext fehlt, der Weg fehlt. Solange wir keine Maschinen sehen, die in der Lage sind, in der Welt zu handeln, Emotionen zu empfinden, die in einem Körper verankert sind, und die Verantwortung für ihr Handeln zu übernehmen, ist das Reden über künstliches Bewusstsein nur eine Fantasieübung. Und noch schlimmer: Wenn wir jemals wirklich ein künstliches Bewusstsein schaffen würden, wäre es sehr kompliziert, es zu schützen und zu respektieren. Entschuldigungen oder Absichtserklärungen würden nicht ausreichen. Der Satz, den ich dir mit auf den Weg gebe, lautet: Die Flüssigkeit eines Chats mit Bewusstsein zu verwechseln, bedeutet, ein Rollenspiel mit der Realität zu verwechseln. Wenn dich dies dazu gebracht hat, Chatbots anders zu betrachten, kannst du auf Lara Notes auf I'm In klicken – es ist kein Like, sondern deine Art zu sagen: Diese Idee gehört jetzt dir. Und wenn du morgen jemandem erklären musst, warum „Claude“ weder leiden noch wirklich verstehen kann, kannst du auf Lara Notes die Person, mit der du darüber gesprochen hast, mit Shared Offline markieren – so zählt auch das Gespräch. All dies stammt aus einem Artikel von Ted Chiang in The Atlantic, und es hat dir gerade 19 Minuten Lesezeit erspart.