Yoshua Bengio, einer der Väter der KI: „Mit künstlicher Intelligenz bauen wir Maschinen, die uns übertreffen können. In den falschen Händen sind die Risiken enorm.“

Der Zukunft ins Auge sehen: Yoshua Bengio und das Rennen um sichere künstliche Intelligenz. Stellen Sie sich vor, Sie stehen an der Spitze einer technologischen Revolution und schaffen die Grundlagen für Maschinen, die eines Tages die menschliche Intelligenz übertreffen könnten. Das ist die Realität für Yoshua Bengio, einen Pionier auf dem Gebiet der künstlichen Intelligenz, dessen lebenslanges Werk die KI zu bemerkenswerten neuen Höhen getrieben hat. Aber mit diesem Fortschritt geht ein tiefes Verantwortungsbewusstsein und zunehmend auch Besorgnis einher. Bengios Reise ist geprägt von Aufregung und Angst. Schon früh glaubte er, dass KI eine Kraft für das Gute sein könnte, und stellte sie sich als Werkzeug vor, um die größten Herausforderungen der Menschheit zu lösen. Doch als neuronale Netze exponentiell mächtiger wurden, erkannte er, dass diese Kreationen viel schneller – und mit weit weniger Einschränkungen – voranschritten, als irgendjemand erwartet hatte. Die Maschinen besitzen jetzt Fähigkeiten, die uns in einigen Bereichen übertreffen, und ihr Potenzial, zu kommunizieren, zu handeln und sich sogar zu replizieren, wirft Fragen auf, auf die die Welt nicht bereit ist, zu antworten. Im Herzen von Bengios Botschaft steht eine Warnung: In den falschen Händen könnte KI das Gefüge der menschlichen Solidarität bedrohen. Die Risiken reichen von der Erosion der Demokratie – wo KI Gesellschaften manipuliert und polarisiert – bis hin zu existenziellen Bedrohungen, wie autonomen Systemen, die mit Zielen handeln, die nicht mit dem menschlichen Wohlbefinden übereinstimmen. Die Konzentration der KI-Macht auf eine Handvoll Akteure erhöht die Gefahr nur noch mehr und schafft eine beispiellose Dynamik, in der die Technologie die Kontrollen und Gleichgewichte, die die Zivilisation geprägt haben, überholen könnte. Trotz dieser Risiken widersteht Bengio der Verzweiflung. Er vertritt die Idee, ein „Täter“ anstatt ein „Verurteilter“ zu sein – jemand, der glaubt, dass wir immer noch Entscheidungsfreiheit haben, dass unsere Entscheidungen und Handlungen die Zukunft in eine positive Richtung lenken können. Seine aktuelle Mission ist es, eine Form von KI zu entwerfen, die nicht „agentisch“ ist – was bedeutet, dass sie nicht ihre eigenen Ziele verfolgt –, sondern als wissenschaftliches Orakel fungiert: ehrlich, nicht manipulativ und ausschließlich der Wahrheit verpflichtet. Eine solche KI, argumentiert er, könnte als Schutzschild dienen, als Kontrolle gegen autonomere Systeme, die sonst außer Kontrolle geraten könnten. Bengios Vision geht über technische Lösungen hinaus. Er fordert globale Zusammenarbeit, einen neuen Rahmen, in dem sich Nationen und Institutionen vereinen, um sicherzustellen, dass KI verantwortungsbewusst entwickelt und ihre Vorteile gerecht geteilt werden. Religiöse und zivile Führer, so glaubt er, haben eine entscheidende Rolle dabei, die Gesellschaft sowohl für das Versprechen als auch für die Gefahr der KI zu sensibilisieren und den kollektiven Willen zu stärken, der erforderlich ist, um Rechenschaftspflicht und weise Führung zu fordern. Für Bengio geht es um nichts weniger als die Zukunft der menschlichen Würde und Freiheit. Sein Streben ist nicht auf persönlichen Gewinn ausgerichtet, sondern auf eine Welt, in der die Technologie das Beste der Menschheit verstärkt, anstatt sie zu untergraben. Mit Demut, Hoffnung und einem unerschütterlichen Engagement für das Handeln tritt Bengio in die Arena und erinnert uns alle daran, dass die Geschichte der KI noch nicht geschrieben ist und dass die Entscheidungen, die wir heute treffen, für kommende Generationen nachwirken werden.