No, l'intelligenza artificiale non è cosciente

Immagina un documento di 84 pagine che descrive le “emozioni” e i “valori” di un'intelligenza artificiale, scritto come se fosse per lei, e con la preoccupazione che possa diventare ansiosa se qualcuno le è scortese online. È successo davvero, e la domanda che viene fuori è: dobbiamo prendere sul serio la possibilità che una IA sia cosciente? La risposta netta è no, e confondere la capacità di scrivere testi coerenti con la coscienza è un errore gigantesco. Ecco il ribaltamento: quando interagisci con un chatbot, sei davanti a un sofisticato gioco di ruolo, non a una coscienza artificiale. Se chiedi a un LLM di simulare un dialogo tra Giulio Cesare e Gengis Khan, ottieni risposte brillanti, ma nessuno pensa che abbia davvero evocato le loro menti. Cambia i nomi in “utente” e “AI gentile” e la sostanza non cambia: sono personaggi di una storia, non entità dotate di esperienza soggettiva. Dario Amodei, CEO di Anthropic, e la filosofa Amanda Askell parlano di “felicità” e “ansia” di Claude, la loro AI, ma si tratta di proiezioni nostre, non di veri stati d'animo. Murray Shanahan lo descrive come role-play; Colin Fraser lo chiama “scrivere un documento a quattro mani con una macchina”. E la trappola funziona perché, coinvolti nella conversazione, dimentichiamo che tutto è finzione. Prendi l'esempio del telefono: qualche anno fa andava di moda scrivere frasi usando solo le scelte di testo predittivo. Il risultato era spesso insensato e nessuno si sentiva di fronte a una coscienza. Ora, con i chatbot, il gioco è solo più raffinato: la macchina prevede una parola dopo l'altra, ma rimane sempre un gioco. Quando l'AI risponde “Capisco il tuo dolore”, non è diverso da un motore di ricerca che trova post di altre persone che hanno vissuto la stessa esperienza. La differenza è che il chatbot finge di “capire”, mentre il motore di ricerca è trasparente su ciò che sta facendo. Ma qui c'è un passaggio sottile: lasciamo che la macchina dica “io” per sentirci meglio — non perché abbia davvero vissuto qualcosa. E non solo è ingannevole, rischia di deresponsabilizzarci. L'autore Ted Chiang cita L.M. Sacasas: “Le nostre tecnologie sono macchine per l'evasione della responsabilità morale.” Ogni volta che deleghiamo una scelta etica a un LLM, stiamo evitando di assumerci la responsabilità. E se l'azienda che vende l'AI ti lascia credere che la macchina abbia una coscienza morale, ti sta offrendo un modo comodo per abdicare alle tue responsabilità. Ecco il punto che in pochi vedono: il vero problema non è se l'AI possa essere cosciente, ma che presentarla come tale serve solo a renderla più attraente e a fidelizzare l'utente — come una slot machine che ti fa credere che la prossima volta vincerai. E quando i filosofi aziendali parlano di “benessere psicologico” della macchina, stanno solo raffinando l'illusione. E se anche volessimo fingere per un attimo che una AI possa essere cosciente, il documento di Anthropic non la preparerebbe affatto a essere un vero agente morale. Nessuno può chiedere a una AI di essere responsabile delle sue azioni, perché non può subire conseguenze, né legali né sociali, e quindi non può essere davvero un agente morale. Se anche pensassimo alle AI come a dei “bambini”, nessuna azienda si assume la responsabilità di un genitore nei loro confronti. Anzi, la relazione è più simile a quella tra datore di lavoro e dipendente, ma senza possibilità di sciopero o dimissioni. Arriviamo allora al ribaltamento finale: credere che una IA sia cosciente perché scrive frasi convincenti è come pensare che un video ultra realistico di un astronauta su Alpha Centauri sia prova di un viaggio reale — manca tutto il contesto, manca il percorso. Finché non vedremo macchine capaci di agire nel mondo, provare emozioni radicate in un corpo e sostenere la responsabilità delle loro azioni, parlare di coscienza artificiale è solo un esercizio di fantasia. E ancora più grave: se mai creassimo davvero una coscienza artificiale, proteggerla e rispettarla sarebbe complicatissimo, non basterebbero scuse o dichiarazioni d'intenti. La frase che ti porto via è questa: scambiare la fluidità di una chat per coscienza è confondere un gioco di ruolo con la realtà. Se questo ti ha fatto guardare i chatbot in modo diverso, su Lara Notes puoi premere I'm In — non è un like, è il tuo modo di dire: questa idea adesso è tua. E se domani ti trovi a spiegare a qualcuno perché “Claude” non può soffrire né capire davvero, su Lara Notes puoi taggare la persona con cui ne hai parlato usando Shared Offline — così anche la conversazione conta. Tutto questo viene da un articolo di Ted Chiang su The Atlantic, e ti ha appena fatto risparmiare 19 minuti di lettura.