Wie KI unsere Welt sieht

Ein Mann geht nachts die Straße entlang. Auf der anderen Seite eines Schaufensters bewegt sich ein iMac, als würde er ihn mit den Augen verfolgen: Wenn der Mann springt, neigt sich der Computer, wenn er eine Grimasse macht, öffnet das Gerät das CD-Laufwerk. Das war eine Apple-Werbung aus dem Jahr 2002, aber heute lautet die Frage nicht mehr, wann die Maschinen uns ansehen werden, sondern wie sie uns bereits sehen. Und die Antwort ist seltsamer, als wir denken: Der Fehler besteht nicht darin, zu glauben, dass die künstliche Intelligenz unsere Welt nur „verstehen“ muss, sondern darin, nicht zu sehen, dass sie sie in Wirklichkeit von Grund auf neu konstruiert, indem sie Codes und Abkürzungen verwendet, die uns lächerlich oder gefährlich erscheinen. Die gängige Vorstellung ist, dass wir KI beibringen müssen, so zu sehen wie wir, so zu denken wie wir. Aber die Wahrheit ist, dass sie nach völlig anderen Logiken wahrnehmen und oft gezwungen sind, die Realität zu vereinfachen, bis sie sie verzerren. Der wahre Perspektivensprung besteht darin, dass wir den Maschinen nicht nur die Dinge erklären müssen: Wir müssen lernen, die Welt auch aus ihrer Sicht zu sehen, um zu verstehen, wo sie Fehler machen, wo sie stolpern und warum. Ein konkretes Beispiel: Als die Künstlerin Elisa Giardina Papa daran arbeitete, eine KI in der Bilderkennung zu schulen, musste sie um jedes Objekt, zum Beispiel eine Frau auf dem Sofa, „Bounding Boxes“ zeichnen. Wenn sich jedoch das Muster auf dem T-Shirt der Frau mit dem Stoff des Sofas vermischte, verlor die Maschine die Fähigkeit, die beiden Objekte zu unterscheiden. Für den Algorithmus, erzählt Papa, „landete das Bild in einer queeren, unbestimmten Kategorie: weder nur Frau noch nur Sofa“. Es war kein trivialer Fehler: Es war die strukturelle Grenze eines Systems, das nur das sieht, was es etikettieren kann. Und das Gleiche passiert mit transparenten Gegenständen oder mit einem zur Seite gestellten Stuhl: Es braucht nur wenig, damit die Realität aus dem Rahmen fällt. Der Künstler Eryk Salvaggio, der eine KI darin trainierte, Pilze im Wald zu erkennen, musste jedes ungewöhnliche Detail ignorieren – genau das Gegenteil des menschlichen Instinkts, der nach der Ausnahme sucht. Das Ergebnis? KI sieht die Welt als statistischen Durchschnitt und nicht als eine Sammlung einzigartiger Details. Und wenn wir versuchen, die Welt an sie anzupassen, passieren seltsame Dinge. Die Amazon-Go-Geschäfte, in denen man gehen konnte, ohne an der Kasse vorbeizukommen, benötigten tausend Personen, um die Bilder manuell zu überprüfen und die Fehler der KI zu korrigieren, und bei 700 von 1.000 Einkäufen war ein menschliches Eingreifen erforderlich. Am Ende wurde das Experiment beendet. Ein weiterer Extremfall: die Tragödie von Elaine Herzberg, die von einem fahrerlosen Uber-Auto angefahren wurde. Die Sensoren hatten die Frau auf der Straße „gesehen“, aber sie konnten sie nicht klassifizieren: manchmal als Fahrzeug, manchmal als unbekanntes Objekt, manchmal als Radfahrerin. Da das System sie nie als Fußgängerin außerhalb des Zebrastreifens eingestuft hatte, bremste es nicht. Das Problem war nicht die Technologie, sondern ihre Unfähigkeit, etwas zu akzeptieren, das nicht in die vordefinierten Muster passte. Aber diese Vereinfachungen sind nicht nur technischer Natur. Tom Williams, ein Robotik-Forscher, berichtet, wie KI oft Menschen missversteht, die mit unterschiedlichen Akzenten oder Dialekten sprechen – und sie dazu zwingt, ihre Stimme zu „bereinigen“, um erkannt zu werden. Und wenn Unternehmen versuchen, die Daten zu verbessern, um inklusiver zu sein, riskieren sie, neue Formen der Überwachung zu schaffen oder alte Vorurteile zu reproduzieren, wie damals, als Microsoft Rassenkategorien verwendete, die aus der Pseudowissenschaft des 19. Jahrhunderts entlehnt waren. Was also tun? Ein alternativer Weg ergibt sich aus denselben Systemen, die versuchen, die „Bounding Boxes“ zu überwinden. Waymo hat begonnen, Menschen als digitale Strichmännchen darzustellen, als Punktskelette, die es ermöglichen, nicht nur zu verstehen, ob jemand die Straße überquert, sondern auch, in welche Richtung er schaut oder ob er im Begriff ist, die Richtung zu ändern. Auf diese Weise beschränkt sich der Computer nicht darauf, das, was er sieht, einfach „in eine Box zu stecken“, sondern versucht, Posen, Absichten und Bewegungen zu interpretieren. Es ist ein Schritt in Richtung einer Idee von Empathie, die nicht emotional, sondern kognitiv ist: Wir verlangen von der KI nicht, Emotionen zu empfinden, sondern – zumindest teilweise – unsere Art zu sein und uns zu bewegen zu verstehen. Um dies zu erreichen, müssen wir auch unsere Schnittstellen überdenken: Es reicht nicht aus, dass sie für uns einfach zu bedienen sind, sie müssen die KI in die Lage versetzen, die Komplexität der menschlichen Umwelt wirklich zu erfassen. So wie wir einst Ordnersymbole verwendet haben, um den Menschen zu helfen, Computer zu verstehen, müssen wir jetzt auch „Übersetzer“ entwickeln, die der KI helfen, die Nuancen unserer Welt zu erfassen, nicht nur ihre vereinfachte Version. Und die endgültige Umkehrung ist folgende: Der Weg besteht nicht nur darin, KI beizubringen, so zu sehen wie wir, sondern zu lernen, mit ihrer fremdartigen Art, die Realität zu lesen, zu leben, wobei wir wissen, wo sie stolpern oder verletzen können. Andernfalls riskieren wir, in einer Welt zu leben, die für Algorithmen und nicht für Menschen konzipiert ist. Wenn du dachtest, dass es ausreicht, „KI beizubringen, so zu sehen wie wir“, dann bereite dich darauf vor, deine Meinung zu ändern: Wir müssen auch lernen, so zu sehen wie sie, um zu verhindern, dass die Welt zu einer Reihe von Kisten wird, in denen niemand wirklich anerkannt wird. Wenn dich diese Perspektive beeindruckt hat, kannst du dies auf Lara Notes mit I'm In anzeigen – es ist die Geste, die besagt: Diese Vision ist jetzt Teil deiner Denkweise. Und wenn du sie heute Abend jemandem erzählst – vielleicht in Erinnerung an die Absurdität der Amazon Go-Geschäfte oder den Fall von Elaine Herzberg – kannst du auf Lara Notes diejenigen, die bei dir waren, mit Shared Offline markieren, damit du weißt, dass dieses Gespräch etwas bewirkt hat. Diese Reise in die Wahrnehmungen der KI stammt von NOEMA und hat dir 14 Minuten gespart.