Léon XIV demande dans sa première encyclique en tant que pape de « désarmer » l'intelligence artificielle et met en garde contre ses dangers

Un pape qui compare l'intelligence artificielle à l'esclavage semble presque scandaleux, mais c'est ce qu'a fait Léon XIV dans sa première encyclique. Il a utilisé le mot « désarmer » pour désigner l'IA, un choix qu'il a lui-même reconnu comme fort et délibéré, car il dit que le moment exige des mots capables de nous secouer. La plupart des gens considèrent l'IA comme un outil neutre ou même comme un progrès inévitable, mais ici, le tournant est radical : pour le pape, l'IA peut devenir une nouvelle forme d'esclavage, une répétition numérique des pires erreurs de l'histoire. Son argument va au-delà des craintes habituelles concernant les robots ou le chômage : il parle de « nouveaux esclavages numériques » et avertit que l'humanité se trouve à un carrefour moral aussi profond que celui de l'époque de l'esclavage réel. Un fait : Léon XIV est allé au-delà des discours habituels et a demandé pardon, au nom de l'Église, pour son rôle dans l'esclavage historique, et l'a directement lié au risque de normaliser l'exploitation par le biais de l'IA. Lors de la présentation de l'encyclique, Christopher Olah, cofondateur d'Anthropic, l'une des entreprises leaders en matière d'intelligence artificielle, était à ses côtés. Olah lui-même a souligné que les laboratoires d'IA fonctionnent selon des incitations et des restrictions qui se heurtent parfois à ce qui est juste, et que la discussion ne peut pas être laissée uniquement entre les mains des techniciens. En d'autres termes, la décision sur la manière dont nous utilisons l'IA ne relève pas seulement des ingénieurs, mais de la société dans son ensemble. Le document du pape est également un avertissement direct à ceux qui ont le pouvoir, en particulier sur l'utilisation de l'IA dans la guerre : il dit, littéralement, qu'« aucun algorithme ne peut rendre la guerre moralement acceptable », et que l'IA peut abaisser le seuil pour recourir à la violence, en dépersonnalisant encore plus le conflit et en réduisant les victimes à de simples données. Il dénonce également le danger de la manipulation politique au moyen d'images et de vidéos créées par l'IA, qui peuvent fausser la perception du public et ouvrir la porte à de nouvelles formes de tromperie de masse. Il y a un autre point clé : Léon XIV appelle les développeurs d'IA à une responsabilité éthique et spirituelle, car chaque décision technique est, au fond, une vision de l'humanité. Et voici la conclusion à contre-courant : bien que le pape ait créé une commission pour faire avancer ce débat, l'article lui-même rappelle qu'en 2015, le pape François a été tout aussi catégorique sur le climat et a fini par être déçu par l'absence d'action. En sera-t-il de même pour l'IA ? Il se peut que l'avertissement le plus sévère de Léon XIV finisse, dans quelques années, par être un autre cri ignoré. Si tu penses que la technologie avance trop vite pour que l'éthique la rattrape, tu n'es pas seul. La phrase qui résume le mieux tout cela : l'IA n'est pas seulement un outil, c'est un test moral, et nous pouvons échouer comme nous l'avons déjà fait auparavant. Si tu te reconnais dans l'inquiétude exprimée par Léon XIV, tu peux le marquer dans Lara Notes avec I'm In. Ce n'est pas un like, c'est ta façon de dire que cette idée t'appartient désormais. Et si cette comparaison entre l'IA et l'esclavage te donne envie d'en discuter après le dîner, dans Lara Notes, tu peux utiliser Shared Offline pour indiquer avec qui tu en as parlé et que cette conversation en valait la peine. Tout cela provient de BBC News Mundo, et te fait gagner 2 minutes de lecture.