Bengio : « Si vous donnez la priorité à la sécurité, quittez les entreprises d'IA de pointe »

Aujourd’hui, certains des meilleurs chercheurs en intelligence artificielle au monde quittent les entreprises les plus avancées du secteur, non pas pour gagner plus d’argent ou pour changer de carrière, mais parce qu’ils estiment que le travail qu’ils accomplissent peut mettre en péril l’avenir de l’humanité. Yoshua Bengio, l’un des pères du deep learning, vient de lancer un appel direct : si la sécurité vous tient vraiment à cœur, quittez les géants de la tech de l’IA. Jusqu’à récemment, même lui se disait que les risques catastrophiques de l’intelligence artificielle étaient lointains, gérables, et que d’autres trouveraient les solutions à temps. Puis, avec l’arrivée de ChatGPT et de modèles toujours plus puissants, ce sentiment de détachement s’est effondré : « J’ai réalisé que nous étions beaucoup plus avancés que nous ne le pensions et que nous ne contrôlions pas vraiment ces systèmes ». À ce moment-là, explique Bengio, il n’avait plus le choix : il a consacré sa vie à réduire les risques de l’IA, en fondant LawZero à Montréal, une organisation qui développe une intelligence artificielle sécurisée dès sa conception et qui ne répond ni aux actionnaires ni à une logique de profit. Mais ce tournant, raconte-t-il, n'a pas été indolore. Pendant des années, il a ignoré les avertissements de collègues qui voyaient les dangers arriver, convaincu que les avantages l'emportaient sur les risques. Seule la pression morale croissante l'a amené à changer de cap. Il n’est pas le seul. Jacob Coxon, ancien employé d’Anthropic, a déclaré au Time qu’une sorte de résignation régnait dans les entreprises d’IA de pointe : « Il y a cette atmosphère presque fataliste, où beaucoup acceptent que la course est désormais hors de contrôle et se contentent de travailler de la manière la plus sûre possible, même s’ils pensent que tout peut quand même mal tourner ». C'est comme si tout le monde était paralysé par la crainte que quelqu'un d'autre, une fois hors de la course, accélère encore davantage, laissant derrière lui ceux qui voudraient s'arrêter pour réfléchir. Pourtant, selon Bengio, cette crainte ne justifie pas de continuer : « Je ne pense pas que nous verrons une réglementation efficace à temps, et aucun pays ni aucune entreprise n'est vraiment préparé à développer l'IA de manière sûre ». Voici le nœud du problème : les raisons qui retiennent les meilleurs talents au sein des grandes entreprises – l’accès aux données, les ressources, l’espoir d’exercer une influence de l’intérieur – sont dépassées par le risque concret de contribuer à un système hors de contrôle. Bengio cite également l’histoire de l’ONU après la bombe atomique : en 1946, les États-Unis ont proposé de placer les armes nucléaires sous contrôle international, mais personne n’a eu le courage de faire le premier pas pour sortir de la course aux armements. « Nous avons un choix à faire », insiste-t-il. Et cette fois, dit-il, il existe une véritable alternative : travailler pour des entreprises qui placent la sécurité avant tout, comme LawZero, qui vient de recevoir plus de 200 millions de dollars des gouvernements canadien et allemand. Ce que personne n'ose dire à voix haute, c'est que le choix individuel compte vraiment : le changement ne viendra pas d'une grande décision collective, mais de la somme de nombreux choix personnels courageux. Voici la perspective qui fait défaut dans le débat : la véritable révolution n'est pas une nouvelle technologie, mais la rébellion morale de ceux qui décident de ne plus être complices. Bengio le dit clairement : « La médaille Turing ne vaut rien si notre travail ne sert pas le bien commun ou, pire, s'il risque de causer des dommages catastrophiques ». La phrase à répéter est la suivante : « Nous ne pouvons pas arrêter la course seuls, mais un nombre suffisant d'entre nous le peut. » Si écouter cette histoire vous a fait voir votre travail dans l'IA sous un jour différent, sur Lara Notes, vous pouvez marquer le moment avec I'm In — c'est le geste de ceux qui déclarent que cette idée vous concerne désormais vraiment. Et si, dans quelques jours, vous vous retrouvez à en parler avec quelqu'un, sur Lara Notes, vous pouvez utiliser Shared Offline pour taguer cette personne : elle saura ainsi que cette conversation comptait pour vous. Cette intervention vient de Transformer et vous fait gagner 2 minutes de lecture.