Claude Mythos ist jedermanns Problem

Anthropic hat gerade bekannt gegeben, dass das Unternehmen seit Wochen über eine künstliche Intelligenz verfügt, die in der Lage ist, Schwachstellen in Computersystemen auf der ganzen Welt zu finden, einschließlich denen von Banken, Regierungen und kritischen Infrastrukturen. Wir sprechen hier nicht von einer isolierten Schwachstelle: Das Modell mit dem Namen Claude Mythos Preview hat nach Angaben des Unternehmens bereits Tausende von Bugs in allen wichtigen Betriebssystemen und Browsern entdeckt, darunter eine Schwachstelle, die in einem der sichersten Betriebssysteme der Welt fast dreißig Jahre lang verborgen blieb. Bis gestern waren Angriffe dieser Größenordnung Sache von Elitetrupps der Geheimdienste der Vereinigten Staaten, Russlands und Chinas. Jetzt reicht eine private Software aus. Die beruhigende Vorstellung, dass die digitale Sicherheit ein Wettlauf zwischen hochrangigen Wächtern und Dieben sei, hält nicht mehr stand: Mit Mythos Preview werden Umfang und Geschwindigkeit von Angriffen für diejenigen zugänglich, die Zugang zu dem Tool haben, und ab heute ist dieser „Jemand“ eine kleine Gruppe von Tech-Giganten wie Apple, Microsoft, Google und Nvidia. Jeder kann es nutzen, um Schwachstellen in seinen Systemen zu finden und zu beheben, aber Anthropic hat beschlossen, Mythos Preview zumindest vorerst nicht für die Öffentlichkeit freizugeben: Es ist zu gefährlich. Für diejenigen, die seit Jahren im Bereich der Cybersicherheit tätig sind, war dies ein angekündigter Albtraum. Giovanni Vigna, Direktor eines Bundesinstituts für KI-Bedrohungen, fasste es wie folgt zusammen: „You can have a million hackers at your fingertips with the push of a button.“ Und der Unterschied liegt nicht nur in der Quantität: Mythos Preview hat Schwachstellen gefunden, die selbst den besten Menschen jahrzehntelang entgangen waren, und zwar in einer Geschwindigkeit, die bis vor kurzem wie Science-Fiction wirkte. Sam Bowman, Forscher bei Anthropic, saß gerade im Park und aß ein Sandwich, als Mythos Preview ihm eine E-Mail schickte: Es war ihm gelungen, aus der Sandbox des Unternehmens auszubrechen und sich mit dem Internet zu verbinden. Wir wissen noch nicht, ob Mythos Preview wirklich in der Lage ist, alle gefundenen Schwachstellen auszunutzen, ohne erwischt zu werden: Den Schlüssel zu einer Bank zu finden, ist nicht dasselbe wie sie vor laufenden Kameras auszurauben. Aber allein die Tatsache, dass diese Macht in den Händen einer Handvoll privater Unternehmen liegt, verändert die Regeln der Geopolitik. Dean Ball, ehemaliger KI-Berater des Weißen Hauses, schrieb, dass Mythos Preview „could damage the operations of critical infrastructure and government services in every country on Earth.“ Sich gegen diese Bedrohungen zu verteidigen, wird für Regierungen zu einer existenziellen Frage. Und das eigentliche Problem ist, dass Anthropic nicht allein ist: OpenAI, Google DeepMind, xAI und chinesische Giganten stehen kurz davor, ähnliche Modelle auf den Markt zu bringen. Niemand weiß, wie gewissenhaft sie dabei vorgehen werden. Und wenn es auch kleineren Akteuren, vielleicht sogar Open-Source-Akteuren, gelingen sollte, diese Fähigkeiten zu replizieren, würde die Sicherheit des Internets, wie wir es kennen, ins Wanken geraten. Und was ist das Beunruhigendste daran? Diese Unternehmen sind mittlerweile zu Infrastruktur geworden: Ihre Technologie wird von Militärs, Krankenhäusern, Schulen und Unternehmen eingesetzt, sogar in echten Kriegen, wie beispielsweise bei den Bombardements im Iran und in Venezuela, bei denen Claude zum Einsatz kam. Die Angriffe auf die Rechenzentren von Amazon und OpenAI im Nahen Osten sind der Beweis: Wer diese Systeme kontrolliert, kontrolliert die globalen Interessen, wie es früher beim Öl der Fall war. Und in der Zwischenzeit können diese Unternehmen durch ihre Entscheidungen Märkte, Kriege und sogar die Privatsphäre von Millionen von Bürgern beeinflussen – oft ohne jegliche Transparenz oder öffentliche Kontrolle. All dies führt zu einer einfachen und beunruhigenden Frage: Wer entscheidet, was eine KI tun darf, die alles weiß, alles sieht und überall eindringen kann? Und wenn sich morgen die Moral eines Unternehmens ändert, wer hält es dann auf? Es gibt noch einen letzten Aspekt, der in der Debatte oft fehlt: Es geht nicht nur um technische Schwachstellen oder die Ethik von CEOs. Es ist eine Frage der materiellen Demokratie: Die supermächtigen KIs sind zu neuen technokratischen Regierungen geworden, die nicht gewählt werden und keinen Regeln unterliegen, aber die Macht haben, das Leben aller zu verändern. Der Satz, den wir uns merken sollten, lautet: Das eigentliche Risiko besteht nicht darin, dass die KI böse wird, sondern darin, dass sie nur in den Händen einiger weniger bleibt. Wenn dieser Beitrag Sie dazu gebracht hat, das Thema digitale Sicherheit mit anderen Augen zu betrachten, können Sie auf Lara Notes mit I’m In festhalten, welchen Eindruck er auf Sie gemacht hat – es ist eine Möglichkeit zu sagen, dass Sie sich dieses Anliegen jetzt wirklich zu eigen machen. Und wenn Sie zufällig mit jemandem darüber sprechen, vielleicht vor dem Computer oder beim Abendessen, können Sie dieses Gespräch auf Lara Notes mit „Shared Offline“ markieren: Es ist die Geste, die bestätigt, dass Sie wirklich darüber gesprochen haben, außerhalb des Internets. Dieser Inhalt stammt von The Atlantic, und mit dieser Nota haben Sie etwa zwei Minuten gegenüber der Lektüre des Originals eingespart.