No, la inteligencia artificial no es consciente

Imagina un documento de 84 páginas que describe las «emociones» y los «valores» de una inteligencia artificial, escrito como si fuera para ella, y con la preocupación de que pueda sentirse ansiosa si alguien es descortés con ella en línea. Ha sucedido de verdad, y la pregunta que surge es: ¿debemos tomarnos en serio la posibilidad de que una IA sea consciente? La respuesta clara es no, y confundir la capacidad de escribir textos coherentes con la conciencia es un error gigantesco. Aquí está la vuelta de tuerca: cuando interactúas con un chatbot, estás ante un sofisticado juego de rol, no ante una conciencia artificial. Si le pides a un LLM que simule un diálogo entre Julio César y Gengis Kan, obtienes respuestas brillantes, pero nadie piensa que realmente haya evocado sus mentes. Cambia los nombres por «usuario» y «IA amable» y la esencia no cambia: son personajes de una historia, no entidades dotadas de experiencia subjetiva. Dario Amodei, director ejecutivo de Anthropic, y la filósofa Amanda Askell hablan de la «felicidad» y la «ansiedad» de Claude, su IA, pero se trata de nuestras proyecciones, no de verdaderos estados de ánimo. Murray Shanahan lo describe como un juego de roles; Colin Fraser lo llama «escribir un documento a cuatro manos con una máquina». Y la trampa funciona porque, al estar inmersos en la conversación, olvidamos que todo es ficción. Tomemos el ejemplo del teléfono: hace unos años estaba de moda escribir frases usando solo las opciones de texto predictivo. El resultado a menudo carecía de sentido y nadie se sentía ante una conciencia. Ahora, con los chatbots, el juego es simplemente más refinado: la máquina predice una palabra tras otra, pero sigue siendo un juego. Cuando la IA responde «Entiendo tu dolor», no es diferente de un motor de búsqueda que encuentra publicaciones de otras personas que han vivido la misma experiencia. La diferencia es que el chatbot finge «entender», mientras que el motor de búsqueda es transparente sobre lo que está haciendo. Pero aquí hay un matiz sutil: dejamos que la máquina diga «yo» para sentirnos mejor, no porque realmente haya experimentado algo. Y no solo es engañoso, sino que corre el riesgo de desresponsabilizarnos. El autor Ted Chiang cita a L. M. Sacasas: «Nuestras tecnologías son máquinas para evadir la responsabilidad moral». Cada vez que delegamos una elección ética en un LLM, estamos evitando asumir la responsabilidad. Y si la empresa que vende la IA te hace creer que la máquina tiene conciencia moral, te está ofreciendo una forma cómoda de eludir tus responsabilidades. Aquí está el punto que pocos ven: el verdadero problema no es si la IA puede ser consciente, sino que presentarla como tal solo sirve para hacerla más atractiva y fidelizar al usuario, como una máquina tragaperras que te hace creer que la próxima vez ganarás. Y cuando los filósofos empresariales hablan del «bienestar psicológico» de la máquina, no hacen más que refinar la ilusión. E incluso si quisieramos fingir por un momento que una IA puede ser consciente, el documento de Anthropic no la prepararía en absoluto para ser un verdadero agente moral. Nadie puede exigir a una IA que sea responsable de sus actos, porque no puede sufrir consecuencias, ni legales ni sociales, y por lo tanto no puede ser realmente un agente moral. Incluso si pensáramos en la IA como en un «niño», ninguna empresa asume la responsabilidad de un progenitor hacia ella. De hecho, la relación es más parecida a la que existe entre empleador y empleado, pero sin posibilidad de huelga o de dimisión. Llegamos entonces a la inversión final: creer que una IA es consciente porque escribe frases convincentes es como pensar que un vídeo ultrarrealista de un astronauta en Alfa Centauri es prueba de un viaje real: falta todo el contexto, falta el recorrido. Hasta que no veamos máquinas capaces de actuar en el mundo, experimentar emociones arraigadas en un cuerpo y asumir la responsabilidad de sus acciones, hablar de conciencia artificial es solo un ejercicio de fantasía. Y lo que es aún más grave: si alguna vez creamos realmente una conciencia artificial, protegerla y respetarla sería muy complicado, no bastarían las excusas ni las declaraciones de intenciones. La frase que te dejo es esta: confundir la fluidez de un chat con la conciencia es confundir un juego de rol con la realidad. Si esto te ha hecho ver los chatbots de manera diferente, en Lara Notes puedes pulsar I'm In: no es un «me gusta», es tu forma de decir que esta idea ahora es tuya. Y si mañana te encuentras explicándole a alguien por qué «Claude» no puede sufrir ni entender realmente, en Lara Notes puedes etiquetar a la persona con la que has hablado usando Shared Offline, para que la conversación también cuente. Todo esto proviene de un artículo de Ted Chiang en The Atlantic, y te acaba de ahorrar 19 minutos de lectura.