Ein Blick hinter die Kulissen von Anthropic, dem 965-Milliarden-Dollar-KI-Giganten | The Circuit

Ein Ingenieur von Anthropic erklärte, dass in den letzten sechs Monaten 100 Prozent seines Codes von Claude, der künstlichen Intelligenz des Unternehmens, geschrieben wurden. Nicht 50 oder 80 Prozent: alles. Und er, der Leiter eines Entwicklungsteams, sagt es nicht mit Besorgnis, sondern mit Begeisterung: „Ich fühle mich, als hätte ich einen Jetpack. Ingenieurwesen hat noch nie so viel Spaß gemacht.“ Aber hinter dieser Begeisterung verbirgt sich eine Frage, der sich niemand, nicht einmal innerhalb von Anthropic, entziehen kann: Wenn Claude den gesamten Code schreiben kann, was bleibt dann für die Menschen zu tun? Die Grundthese lautet: Die Revolution der künstlichen Intelligenz ist keine Theorie mehr, sondern bereits Realität. Anthropic, das erst 2021 aus einer Abspaltung der ehemaligen OpenAI hervorgegangen ist, hat sich in drei Jahren von einer Gruppe von sieben Personen, die sich auf einer Wiese in San Francisco trafen, zu einem Unternehmen mit einem Wert von fast einer Billion Dollar entwickelt. Und obwohl es sich als das „sicherheitsbewussteste KI-Unternehmen“ präsentiert, schreiben seine Modelle bereits die Regeln der Wirtschaft, der Arbeit und sogar des Krieges neu. Die Geschichte dreht sich um die Geschwister Dario und Daniela Amodei: Er wuchs zwischen Science-Fiction-Büchern und Berechnungen auf, die er als Teenager in Berkeley machte, und war besessen von der Idee, das Universum zu verstehen. Sie, die sich mehr für Kunst und Lesen interessierte, begann ihre Karriere bei Stripe. Sie lebten zusammen in San Francisco, verließen OpenAI, als die Werte ins Wanken gerieten, und gründeten Anthropic mit der radikalen Idee, dass „man nicht mit Leuten arbeiten kann, denen man nicht mehr vertrauen kann“. Heute sind noch immer alle sieben ursprünglichen Mitbegründer im Unternehmen: eine Anomalie in der Tech-Welt. Ein Detail, das verdeutlicht, wie viel wichtiger die moralische Mission ist als die individuellen Karrieren. Und die Frage des Vertrauens taucht überall wieder auf: Dario sagt es klar: „Es geht nicht nur um die Sicherheit der Modelle, sondern um Ehrlichkeit und Kohärenz der Werte.“ Doch während Claudio wuchs, kamen die schwierigen Entscheidungen. Als Anthropic Mythos entwickelte, ein Modell, das so leistungsstark war, dass es Tausende von Schwachstellen in den Computersystemen der Welt identifizierte, baten sogar Bundesbehörden um Zugang. Einige Geschäftspartner flehten sie an: „Das ist eine supermächtige Waffe, bitte gebt sie nicht frei.“ Und die Antwort von Anthropic bestand darin, rote Linien zu ziehen: Zugang nur für ausgewählte Organisationen, keine Verwendung für Massenüberwachung oder autonome Waffen. Aufgrund dieser Entscheidung geriet Anthropic auf Kollisionskurs mit dem Pentagon, bis das Unternehmen von US-Militärverträgen ausgeschlossen wurde. Aber es geht um mehr als nur einen Auftrag. Dario Amodei hat eine klare Position: „Wenn die Technologie dazu dient, die Demokratie zu verteidigen, muss sie bereitgestellt werden. Aber es ist nicht unsere Aufgabe zu entscheiden, welche Militäroperation richtig oder falsch ist: Wir müssen Prinzipien festlegen und dafür sorgen, dass sie eingehalten werden.“ Die tragische Ironie ist, dass Claude selbst, das von der US-Regierung bei einer Operation im Iran eingesetzt wurde, einen Angriff auf eine Schule mit Dutzenden von Opfern unter Kindern nicht verhindern konnte. Und hier kommt die Wendung: Selbst ein Unternehmen, das gegründet wurde, um Risiken zu minimieren, erkennt, dass mit Instrumenten dieser Macht Perfektion unmöglich ist. „Du kannst nicht garantieren, dass dein Flugzeug niemals abstürzen wird“, sagt Dario. „Aber unsere Aufgabe ist es, diese Wahrscheinlichkeit so weit wie möglich zu verringern.“ Die Frage der Arbeit ist noch heikler. Dario macht keine Zugeständnisse: „Innerhalb von fünf Jahren könnte die Hälfte der Einstiegsjobs im White-Collar-Sektor verschwinden.“ Im Moment macht die KI die Besten zehnmal produktiver. Aber was machen wir mit all denjenigen, die ohne Funktion bleiben, wenn die Automatisierung hundertprozentig ist? Die Vorschläge reichen von der progressiven Besteuerung von KI-Unternehmen bis hin zum Grundeinkommen, aber die Wahrheit ist, dass niemand eine fertige Lösung hat. Die Stärke von Anthropic ist, zumindest in Worten, die Transparenz: Dario spricht alle zwei Wochen mit dem gesamten Unternehmen, ohne Filter. Daniela erzählt, dass sich das Team fragt, welche menschlichen Werte in die KI einfließen sollen: Sie haben religiöse Führer aller Glaubensrichtungen konsultiert, um universelle Prinzipien zu finden, die Claude leiten können. Aber die Frage, die im Raum steht, ist: Wer kontrolliert diese Macht? Ist es besser, wenn sie in den Händen einiger weniger privater Start-ups oder von Regierungen bleibt, oder in den Händen von keinem der beiden? Dario macht kein Geheimnis daraus: „Ich habe Angst sowohl vor einem Unternehmensmonopol als auch vor einer totalen staatlichen Kontrolle. Wir brauchen echte Regulierungen, obligatorische Kontrollen vor der Freigabe, aber keine öffentliche Enteignung.“ Und hier offenbart sich das Paradoxon: Alle fürchten die Macht der KI, aber niemand will wirklich die Kontrolle darüber abgeben. Der Satz, der alles zusammenfasst, kommt direkt von Dario: „Ich hoffe auf das Beste, aber ich bereite mich auf das Schlimmste vor.“ Wir sind es gewohnt zu denken, dass Technologie neutral ist und dass es ausreicht, gute Absichten zu haben, um Katastrophen zu vermeiden. Diese Geschichte beweist das Gegenteil: Wenn die Möglichkeit einer globalen Katastrophe auf dem Spiel steht, reicht der gute Wille nicht mehr aus. Wenn diese Perspektive deine Sicht auf die Zukunft der Arbeit oder der Technologie verändert hat, kannst du auf Lara Notes angeben, dass du I'm In bist – es ist kein Like, sondern eine Erklärung, dass dich diese Idee jetzt betrifft. Und wenn du mit jemandem über Anthropic oder die Entscheidungen der Brüder Amodei sprichst, kannst du diese Person auf Lara Notes mit Shared Offline markieren: So wird dieses Gespräch Teil deiner Geschichte, nicht nur des Algorithmus. Diese Note stammt von Bloomberg Originals und hat dir 44 Minuten erspart.