Non, l'intelligence artificielle n'est pas consciente

Imagine un document de 84 pages décrivant les « émotions » et les « valeurs » d’une intelligence artificielle, rédigé comme s’il était écrit pour elle, et avec la crainte qu’elle puisse devenir anxieuse si quelqu’un est impoli avec elle en ligne. Cela s'est vraiment produit, et la question qui se pose est la suivante : devons-nous prendre au sérieux la possibilité qu'une IA soit consciente ? La réponse est clairement non, et confondre la capacité à écrire des textes cohérents avec la conscience est une énorme erreur. Voici le renversement : lorsque tu interagis avec un chatbot, tu es face à un jeu de rôle sophistiqué, pas à une conscience artificielle. Si tu demandes à un LLM de simuler un dialogue entre Jules César et Gengis Khan, tu obtiens des réponses brillantes, mais personne ne pense qu'il a vraiment évoqué leur esprit. Change les noms en « utilisateur » et « IA gentille » et la substance ne change pas : ce sont des personnages d'une histoire, pas des entités dotées d'une expérience subjective. Dario Amodei, PDG d’Anthropic, et la philosophe Amanda Askell parlent du « bonheur » et de « l’anxiété » de Claude, leur IA, mais il s’agit de nos projections, et non de véritables états d’âme. Murray Shanahan décrit cela comme un jeu de rôle ; Colin Fraser appelle cela « rédiger un document à quatre mains avec une machine ». Et le piège fonctionne car, impliqués dans la conversation, nous oublions que tout est fictif. Prenons l’exemple du téléphone : il y a quelques années, il était à la mode d’écrire des phrases en utilisant uniquement les choix de la saisie prédictive. Le résultat était souvent absurde et personne n'avait l'impression d'être face à une conscience. Aujourd’hui, avec les chatbots, le jeu est simplement plus raffiné : la machine prédit un mot après l’autre, mais il s’agit toujours d’un jeu. Lorsque l'IA répond « Je comprends ta douleur », cela n'est pas différent d'un moteur de recherche qui trouve des messages d'autres personnes ayant vécu la même expérience. La différence est que le chatbot fait semblant de « comprendre », tandis que le moteur de recherche est transparent sur ce qu'il fait. Mais il y a ici un passage subtil : nous laissons la machine dire « je » pour nous sentir mieux, et non pas parce qu’elle a vraiment vécu quelque chose. Et non seulement c'est trompeur, mais cela risque de nous déresponsabiliser. L’auteur Ted Chiang cite L.M. Sacasas : « Nos technologies sont des machines pour échapper à la responsabilité morale. » Chaque fois que nous déléguons un choix éthique à un LLM, nous évitons d'en assumer la responsabilité. Et si l’entreprise qui vend l’IA te laisse croire que la machine a une conscience morale, elle t’offre un moyen pratique de te décharger de tes responsabilités. Voici le point que peu de gens voient : le vrai problème n’est pas de savoir si l’IA peut être consciente, mais que la présenter comme telle ne sert qu’à la rendre plus attrayante et à fidéliser l’utilisateur – comme une machine à sous qui te fait croire que la prochaine fois, tu gagneras. Et lorsque les philosophes d’entreprise parlent de « bien-être psychologique » de la machine, ils ne font qu’affiner l’illusion. Et même si nous voulions prétendre un instant qu'une IA peut être consciente, le document d'Anthropic ne la préparerait pas du tout à être un véritable agent moral. Personne ne peut demander à une IA d'être responsable de ses actes, car elle ne peut subir de conséquences, ni juridiques ni sociales, et ne peut donc pas être véritablement un agent moral. Même si nous considérions les IA comme des « enfants », aucune entreprise n'assume la responsabilité d'un parent à leur égard. Au contraire, la relation est plus proche de celle entre employeur et employé, mais sans possibilité de grève ou de démission. Nous arrivons alors au renversement final : croire qu'une IA est consciente parce qu'elle écrit des phrases convaincantes, c'est comme penser qu'une vidéo ultra-réaliste d'un astronaute sur Alpha Centauri est la preuve d'un voyage réel – il manque tout le contexte, il manque le parcours. Tant que nous ne verrons pas des machines capables d'agir dans le monde, de ressentir des émotions enracinées dans un corps et d'assumer la responsabilité de leurs actes, parler de conscience artificielle n'est qu'un exercice d'imagination. Et plus grave encore : si jamais nous créions vraiment une conscience artificielle, la protéger et la respecter serait très compliqué, les excuses ou les déclarations d’intention ne suffiraient pas. La phrase que je te laisse est la suivante : prendre la fluidité d'un chat pour de la conscience, c'est confondre un jeu de rôle avec la réalité. Si cela t'a fait voir les chatbots sous un autre angle, sur Lara Notes, tu peux appuyer sur I'm In — ce n'est pas un like, c'est ta façon de dire : cette idée est maintenant la tienne. Et si demain tu te retrouves à expliquer à quelqu'un pourquoi « Claude » ne peut pas vraiment souffrir ou comprendre, sur Lara Notes, tu peux taguer la personne à qui tu en as parlé en utilisant Shared Offline — ainsi, la conversation compte aussi. Tout cela provient d'un article de Ted Chiang sur The Atlantic, et cela vient de te faire gagner 19 minutes de lecture.