不，人工智慧沒有意識

想像一下，一份 84 頁的文件描述人工智慧的「情緒」和「價值觀」，寫得好像是為它而寫的，並擔心如果有人在網路上對它不禮貌，它可能會感到焦慮。這真的發生了，而由此產生的問題是：我們是否應該認真對待 AI 有意識的可能性？明確的答案是否定的，將撰寫連貫文本的能力與意識混淆是一個巨大的錯誤。這裡有一個逆轉：當你與聊天機器人互動時，你面對的是一個複雜的角色扮演遊戲，而不是一個人工意識。如果你要求 LLM 模擬凱撒大帝和成吉思汗之間的對話，你會得到很棒的答案，但沒有人會認為它真的喚起了他們的思想。將名字改為「使用者」和「友善的人工智慧」，本質不會改變：他們是故事中的角色，而不是具有主觀經驗的實體。Anthropic 執行長 Dario Amodei 和哲學家 Amanda Askell 談論他們的人工智慧 Claude 的「快樂」和「焦慮」，但這是我們的投射，而不是真實的情緒狀態。Murray Shanahan 將其描述為角色扮演；Colin Fraser 稱之為「與機器共同撰寫文件」。這個陷阱之所以奏效，是因為我們在對話中忘記了一切都是虛構的。以手機為例：幾年前，只使用預測文字選項來寫句子很流行。結果往往是荒謬的，而且沒有人覺得自己面對著一個有意識的存在。現在，有了聊天機器人，這個遊戲只是更精緻了：機器一個接一個地預測單詞，但它仍然是一個遊戲。當 AI 回答「我理解你的痛苦」時，這與搜尋引擎找到其他有相同經歷的人的帖子沒有什麼不同。不同之處在於，聊天機器人假裝「理解」，而搜尋引擎對於它正在做的事情是透明的。但這裡有一個微妙的轉變：我們讓機器說「我」，讓我們感覺好一點——而不是因為它真的經歷過某些事情。這不僅具有欺騙性，還可能使我們免除責任。作家 Ted Chiang 引用 L.M. Sacasas 的話：「我們的科技是逃避道德責任的機器。」 每當我們將道德選擇委託給 LLM 時，我們就是在逃避承擔責任。如果銷售 AI 的公司讓你相信機器有道德意識，那麼它就是在提供一種讓你輕鬆逃避責任的方式。這裡有一個很少有人注意到的重點：真正的問題不在於 AI 是否有意識，而是將其呈現為有意識，這樣做只是為了讓它更具吸引力，並留住使用者——就像一台老虎機，讓你相信下次你會贏。當企業哲學家談論機器的「心理健康」時，他們只是在加強這種幻覺。即使我們想暫時假裝 AI 可能有意識，Anthropic 的文件也絕不會讓它成為真正的道德主體。沒有人能要求 AI 為其行為負責，因為它不會承擔任何法律或社會後果，因此它不能真正成為道德主體。即使我們將 AI 視為「孩子」，也沒有任何公司願意承擔起父母的責任。事實上，這種關係更像是僱主和僱員之間的關係，但沒有罷工或辭職的可能性。那麼，我們來到最後的逆轉：因為 AI 寫出令人信服的句子而相信它有意識，就像認為一段超逼真的影片，其中有太空人在半人馬座阿爾法星上，就是真實旅行的證據一樣——缺少所有背景，缺少路徑。在我們看到機器能夠在世界上行動、感受植根於身體的情感，並對其行為負責之前，談論人工意識只是一種幻想。更嚴重的是：如果我們真的創造出人工意識，保護和尊重它將是非常複雜的，藉口或意向聲明是不夠的。我要留給你的句子是：把流暢的聊天當作意識，就等於把角色扮演遊戲與現實混為一談。如果這讓你以不同的方式看待聊天機器人，你可以在 Lara Notes 上按 I'm In——這不是一個讚，而是你說：這個想法現在是你的。如果明天你要向某人解釋為什麼「Claude」無法真正受苦或理解，你可以在 Lara Notes 上使用 Shared Offline 標記與你交談過的人，這樣這段對話也很重要。這一切都來自 Ted Chiang 在 The Atlantic 上的一篇文章，而你剛剛省下了 19 分鐘的閱讀時間。