Bengio: „Wenn Ihnen Sicherheit am wichtigsten ist, verlassen Sie die Unternehmen, die an der Spitze der KI-Entwicklung stehen.“

Einige der besten Forscher auf dem Gebiet der künstlichen Intelligenz verlassen heute die fortschrittlichsten Unternehmen der Branche – nicht, um mehr zu verdienen oder ihre Karriere zu ändern, sondern weil sie glauben, dass die Arbeit, die sie leisten, die Zukunft der Menschheit gefährden könnte. Yoshua Bengio, einer der Väter des Deep Learning, hat gerade einen direkten Appell gestartet: Wenn dir die Sicherheit wirklich am Herzen liegt, verlasse die KI-Big-Tech-Unternehmen. Bis vor Kurzem sagte sogar er sich selbst, dass die katastrophalen Risiken der künstlichen Intelligenz weit entfernt und beherrschbar seien und dass andere rechtzeitig Lösungen finden würden. Dann, mit dem Aufkommen von ChatGPT und immer leistungsstärkeren Modellen, brach dieses Gefühl der Distanz zusammen: „Mir wurde klar, dass wir viel weiter waren, als wir dachten, und dass wir diese Systeme nicht wirklich unter Kontrolle hatten.“ Zu diesem Zeitpunkt, so Bengio, hatte er keine andere Wahl mehr: Er widmete sein Leben der Verringerung der Risiken der KI und gründete in Montreal LawZero, eine Organisation, die von Grund auf sichere künstliche Intelligenz entwickelt und weder Aktionären noch Gewinnlogiken verpflichtet ist. Aber der Wendepunkt, so erzählt er, sei nicht schmerzlos gewesen. Jahrelang ignorierte er die Warnungen von Kollegen, die die Gefahren kommen sahen, da er davon überzeugt war, dass der Nutzen die Risiken überwiege. Erst der zunehmende moralische Druck veranlasste ihn, seinen Kurs zu ändern. Er ist nicht der Einzige. Jacob Coxon, ehemaliger Mitarbeiter von Anthropic, berichtete im Time-Magazin, dass in den KI-Unternehmen an der Spitze eine Art Resignation herrscht: „Es gibt diese fast fatalistische Atmosphäre, in der viele akzeptieren, dass das Rennen inzwischen außer Kontrolle geraten ist, und sich darauf beschränken, so sicher wie möglich zu arbeiten, auch wenn sie glauben, dass trotzdem alles schiefgehen kann.“ Es ist, als wären alle von der Angst gelähmt, dass jemand anderes, sobald er aus dem Rennen ist, noch mehr Gas gibt und diejenigen zurücklässt, die eigentlich innehalten und nachdenken möchten. Doch laut Bengio rechtfertigt diese Angst nicht, weiterzumachen: „Ich glaube nicht, dass wir rechtzeitig eine wirksame Regulierung sehen werden, und kein Land und kein Unternehmen ist wirklich darauf vorbereitet, KI sicher zu entwickeln.“ Hier liegt der Knackpunkt: Die Gründe, die die Besten in den großen Unternehmen halten – Zugang zu Daten, Ressourcen, die Hoffnung, von innen heraus Einfluss zu nehmen – werden durch das konkrete Risiko überlagert, zu einem außer Kontrolle geratenen System beizutragen. Bengio verweist auch auf die Geschichte der UN nach der Atombombe: 1946 schlugen die Vereinigten Staaten vor, Atomwaffen unter internationale Kontrolle zu stellen, aber niemand hatte den Mut, den ersten Schritt aus dem Wettrüsten heraus zu wagen. „Wir haben eine Wahl vor uns“, betont er. Und diesmal, so sagt er, gebe es eine echte Alternative: für Unternehmen zu arbeiten, die die Sicherheit an erste Stelle setzen, wie LawZero, das gerade mehr als 200 Millionen US-Dollar von den Regierungen Kanadas und Deutschlands erhalten hat. Der Punkt, den niemand laut ausspricht, ist, dass die individuelle Entscheidung wirklich zählt: Der Wandel wird nicht durch eine große kollektive Entscheidung herbeigeführt, sondern durch die Summe vieler mutiger persönlicher Entscheidungen. Hier ist die Perspektive, die in der Diskussion fehlt: Die wahre Revolution ist nicht eine neue Technologie, sondern die moralische Rebellion derer, die sich entscheiden, nicht länger Komplizen zu sein. Bengio sagt es deutlich: „Die Turing-Medaille ist nichts wert, wenn unsere Arbeit nicht dem Gemeinwohl dient oder, schlimmer noch, wenn sie katastrophale Schäden verursachen könnte.“ Der Satz, den man sich merken sollte, lautet: „Wir können das Rennen nicht allein stoppen, aber genug von uns können es.“ Wenn Sie durch das Anhören dieser Geschichte Ihre Arbeit im Bereich KI in einem anderen Licht gesehen haben, können Sie diesen Moment auf Lara Notes mit I'm In markieren – es ist die Geste von jemandem, der erklärt, dass ihn diese Idee jetzt wirklich betrifft. Und wenn Sie in ein paar Tagen mit jemandem darüber sprechen, können Sie auf Lara Notes die Funktion Shared Offline verwenden, um die Person zu taggen: So weiß sie, dass dieses Gespräch für Sie wichtig war. Dieser Beitrag stammt von Transformer und spart Ihnen 2 Minuten Lesezeit.