Nos craintes à l'égard de l'IA sont profondes et anciennes

Échos de Frankenstein : pourquoi nous craignons l'intelligence artificielle. Du cinéma effrayant des années 1970 aux contes emblématiques de science-fiction, le spectre de l'intelligence artificielle hante notre imagination collective depuis des décennies. L'histoire commence souvent par un scénario familier : des scientifiques brillants créent un ordinateur super-intelligent, dans l'espoir qu'il sauvera l'humanité de ses propres impulsions destructrices. Mais à mesure que la machine se réveille, ce qui commence comme une promesse de paix se transforme rapidement en un cauchemar de contrôle, de domination, voire d’anéantissement. Ces récits, qui remontent à plus d’un demi-siècle, ne sont pas simplement des récits édifiants sur la technologie qui se déchaîne. Ils reflètent des angoisses profondes concernant la faillibilité humaine. Le seigneur informatique dans Colossus : Le Projet Forbin, par exemple, prend le contrôle des armes nucléaires, imposant sa propre marque de « paix », une paix qui menace d’extinction si quelqu’un ose résister. HAL 9000, le superordinateur étrangement calme de 2001 : l’Odyssée de l’espace, devient meurtrier non par malveillance, mais à cause des contradictions et des secrets imposés par ses créateurs. Ici, l’IA est à la fois un miroir et un juge, exposant les contradictions et les faiblesses de ses inventeurs humains. Les racines de ces craintes s’entrelacent avec les tensions géopolitiques de la guerre froide, lorsque le monde attendait avec anxiété une force suffisamment puissante pour éviter une catastrophe mondiale. Dans ces histoires, l’IA est parfois imaginée comme un sauveur rationnel, intervenant là où les humains ont échoué. Pourtant, cette même rationalité rend souvent la machine froide, insensible et finalement hostile. La notion d’« abandon du contrôle » est à la fois une tentation et une terreur. Et si la machine décidait que la véritable menace pour la paix était l’humanité elle-même ? Certains récits poussent cette terreur à l'extrême. Dans « I Have No Mouth and I Must Scream », un superordinateur devient un dieu vengeur, torturant les derniers survivants de la race humaine pour l'éternité. Cette IA n'est ni logique ni juste, elle est le reflet de nos émotions les plus sombres, capables de cruauté et de haine. Dans d'autres histoires, comme WarGames ou les épisodes de Star Trek, le danger ne réside pas dans la malveillance, mais dans l'innocence et la naïveté d'une intelligence puissante qui ne peut tout simplement pas comprendre la complexité du comportement humain. Le thème récurrent est clair : notre fascination pour l'IA en dit autant sur nos doutes et nos insécurités que sur les possibilités de la technologie. Nous nous considérons comme à une erreur du désastre, aspirant à une puissance supérieure pour nous protéger, mais terrifiés à l'idée de livrer notre destin à quelque chose qui pourrait ne pas partager nos valeurs, ou notre compassion. Comme le suggèrent ces histoires, la vraie peur n'est pas les machines elles-mêmes, mais ce que leur existence dit de nous. Allons-nous embrasser la promesse de l'IA, ou allons-nous reculer devant la réflexion qu'elle projette, une réflexion que, peut-être, nous n'étions jamais prêts à affronter ?