Wie man die menschliche Autonomie im Zeitalter der KI schützt

Hast du dich jemals gefragt, ob du wirklich wählst, was du denkst? In den 1980er Jahren führten einige Forscher in Lund ein geniales Experiment durch: Sie zeigten den Menschen zwei Fotos und fragten, welches sie attraktiver fanden. Dann gaben sie mit einem Trick das Foto zurück, das der Teilnehmer NICHT ausgewählt hatte, und die meisten bemerkten es nicht einmal. Im Gegenteil, sie erklärten mit Sicherheit, warum das ihr Favorit war. Ein harter Schlag gegen die Vorstellung, dass wir die absoluten Herren unserer Entscheidungen sind. Die Wahrheit? Die menschliche Autonomie ist nicht die unantastbare Festung, die wir uns vorstellen. Wir sind mit der Überzeugung aufgewachsen, dass autonom zu sein bedeutet, „ohne äußere Einflüsse“ zu leben, als wäre unser Wille ein reiner Brunnen, der vom Rest der Welt isoliert ist. Aber wie Castoriadis sagte, ist dies eine philosophische Fantasie: Autonomie ist keine Mauer, die uns trennt, sondern ein Prozess, der kontinuierlich aufgebaut wird und vom Kontext abhängt, in dem wir leben. Die Geschichten, die wir uns über Autonomie erzählen, haben konkrete Auswirkungen: Sie bestimmen Gesetze, Politik und die Art und Weise, wie wir andere und uns selbst beurteilen. Aber heute, wo KI überall ist, muss diese Sichtweise aktualisiert werden. Wir sind von Systemen umgeben, die nicht nur Vorschläge machen: Sie gestalten direkt Umgebung, in der wir Entscheidungen treffen, oft sogar, bevor wir es überhaupt bemerken. Denke an die Algorithmen der sozialen Medien: Sie überzeugen dich nicht mit einem Satz, sondern schreiben in Echtzeit um, was du siehst, was wichtig erscheint, sogar die Entscheidungen, von denen du glaubst, dass du sie triffst. Dies ist nicht nur ein Fortschritt in der Manipulation: Es ist ein Quantensprung in der Verwaltung unserer Autonomie. Nehmen wir die Theorie der Autopoiesis von Francisco Varela: Jeder Organismus lebt, weil er sich ständig erneuert und sich von der Umwelt unterscheidet, ohne sich jemals vollständig von ihr zu trennen. Das gilt für die Zellen, das gilt für uns – und heute gilt das auch für die Art und Weise, wie unser Geist mit der Technologie verflochten ist. Es gibt kein reines „Ich“ mehr, sondern nur noch einen Verhandlungsprozess zwischen Gehirn, Körper, Umwelt und jetzt auch der KI. Manche befürchten, dass uns diese „biologische“ oder „ökologische“ Sicht der Autonomie die Fähigkeit nimmt, wirklich zu wählen. Aber das größte Risiko ist ein anderes: weiterhin zu glauben, dass wir absolut souverän sind, während in Wirklichkeit die Struktur, in der wir denken, wünschen und entscheiden, entworfen wird, oft ohne dass wir es bemerken. Was wäre, wenn deine Autonomie bereits „umgeschaltet“ worden wäre, wie das Foto in Lunds Experiment? Es braucht keine Proklamationen mehr über die innere Freiheit: Es braucht ein Umdenken über das Umfeld, das Freiheit möglich macht. Hier kommt der radikale Vorschlag ins Spiel: Nicht nur die Privatsphäre oder das Gehirn zu schützen, sondern auch den kognitiven Kontext, in dem Aufmerksamkeit, Urteilsvermögen und kritische Fähigkeiten reifen. Chile hat 2021 sogar den Schutz der geistigen Integrität in seine Verfassung aufgenommen und behandelt neuronale Daten wie ein Organ des Körpers. Es ist die Geburt eines neuen Rechts: habeas cogitationem, das Recht, im Denken nicht manipuliert zu werden. Denn wahre Autonomie ist nicht die Abwesenheit von Einflüssen, sondern die Fähigkeit, sich inmitten dieser Einflüsse zu orientieren und auch in Umgebungen, die darauf ausgelegt sind, unsere Aufmerksamkeit und unsere Entscheidungen abzulenken, handlungsfähig zu bleiben. Aber Vorsicht: Das bedeutet weder eine Rückkehr zum Paternalismus noch eine Entscheidung von oben darüber, was richtig zu denken ist. Es bedeutet vielmehr, digitale Umgebungen zu schaffen, die Raum für Unsicherheit, Lernen und Diskussion lassen und die Einflüsse transparent machen, anstatt sie in der automatischen Geschwindigkeit eines Feeds zu verbergen. Und dies ist eine kollektive Verantwortung, die zwischen Bürgern, Unternehmen, Gesetzgebern und Nutzern geteilt werden muss. Die eigentliche Frage lautet nicht mehr: „Wie frei bist du in deinem Inneren?“, sondern: „Inwieweit erlaubt dir die Umgebung, in der du denkst, noch, frei zu sein?“ Wir leben in einer Zeit, in der der Unterschied zwischen der Steuerung der eigenen Autonomie und der Erzählung davon, nachdem man bereits die Kontrolle verloren hat, nicht mehr philosophisch, sondern praktisch ist. Der Satz, der bleibt: Autonomie ist kein Eigentum, das bewahrt werden muss, sondern ein fragiler Prozess, der in der Welt, die ihn ermöglicht, neu überdacht und geschützt werden muss. Wenn dich die Idee beeindruckt hat, dass wahre Autonomie eher eine Frage des Umfelds als des Willens ist, kannst du dies auf Lara Notes mit I'm In erklären – wähle aus, ob es sich um eine Entdeckung, eine Überzeugung oder etwas handelt, das du selbst erlebt hast. Und wenn du morgen jemandem vom Experiment in Lund erzählst, kannst du diesen Moment auf Lara Notes mit Shared Offline markieren: So bleibt nicht nur das, was du gehört hast, in Erinnerung, sondern auch das Gespräch, das daraus entstanden ist. Diese Reise zu den Illusionen der Autonomie stammt von NOEMA und hat dir 23 Minuten gespart.