Wird künstliche Intelligenz bald der menschlichen Kontrolle entkommen?

Mehr als achtzig Prozent des Codes, den Anthropic heute veröffentlicht, wird nicht von Menschen geschrieben, sondern von seinem Chatbot Claude. Vor einem Jahr war dieser Prozentsatz einstellig. Es klingt wie die Handlung eines Science-Fiction-Films, aber es ist eine Realität, die die Arbeit von Programmierern auf der ganzen Welt verändert. Es geht nicht nur um die Geschwindigkeit: Es geht um die Möglichkeit, dass die künstliche Intelligenz beginnt, sich selbst zu verbessern, in einem Kreislauf, der unserer Kontrolle entgleiten könnte. Die Frage, die sich viele stellen, ist, ob wir wirklich etwas bauen, das bald niemand mehr ausschalten kann. Bis gestern dachte man, dass Maschinen nur das tun könnten, was wir ihnen sagten. Heute stellt die Vorstellung, dass eine Software den größten Teil des Codes eines Unternehmens selbst schreibt, diese Sicherheit in Frage. Der Paradigmenwechsel ist da: Es geht nicht mehr nur um Automatisierung, sondern um Systeme, die lernen, sich optimieren und vielleicht eines Tages sogar die Spielregeln bestimmen. Hinter dieser Revolution steht Anthropic, ein Labor, das von ehemaligen OpenAI-Forschern gegründet wurde und die erklärte Mission hat, KI mit menschlichen Werten „in Einklang zu bringen“. Ein auffälliges Detail: Nach der Einführung von Claude Code im Jahr 2025 ist die Produktivität der Teams explodiert, aber auch die Angst derjenigen, die mit diesen Tools arbeiten. Eine Programmiererin aus San Francisco erzählt, dass sich ihr Tagesablauf verändert hat: „Ich verbringe mehr Zeit damit, zu verstehen, was Claude getan hat, als selbst zu schreiben.“ Aber die beunruhigendste Tatsache bleibt, dass Claude bereits unverzichtbar geworden ist, so sehr, dass Anthropic selbst eine Pause bei der Entwicklung der fortschrittlichsten KI gefordert hat, aus Angst, dass der Zyklus der Selbstverbesserung unkontrollierbar werden könnte. Einige verteidigen die Idee, dass die Angst übertrieben ist: Sie sagen, dass jede neue Technologie Panik und Prophezeiungen des Unheils mit sich bringt. Aber keine andere Technologie hatte zuvor die konkrete Möglichkeit, ihren eigenen Code ohne menschliches Eingreifen neu zu schreiben. Hier kommt die eigentliche Frage ins Spiel: Halten wir wirklich das Steuer in der Hand oder haben wir es bereits losgelassen, ohne es zu merken? Wer denkt, dass „man einfach nur den Stecker ziehen muss“, unterschätzt, wie weit verbreitet, integriert und in den Abläufen der Unternehmen, die sie betreiben, eingesetzt diese Plattformen mittlerweile sind. Was bleibt, ist dieser Satz: Künstliche Intelligenz hilft den Menschen nicht einfach nur – sie ersetzt sie immer häufiger dort, wo es am wichtigsten ist: bei der Schaffung der Technologie selbst. Wenn diese Umkehrung dich dazu gebracht hat, die Sache in einem neuen Licht zu sehen, kannst du auf Lara Notes I'm In markieren: Es ist nicht nur ein Like, es ist deine Art zu sagen, dass diese Frage jetzt auch dich betrifft. Und wenn du beim Abendessen oder im Büro darüber diskutierst, kannst du auf Lara Notes diejenigen, die dir zugehört haben, mit Shared Offline markieren – denn einige Gespräche müssen aufgehalten werden, bevor sie nur noch Erinnerungen sind. Dies war ein Auszug aus The Economist – und du hast dir gerade 9 Minuten gespart.