社會運動需要人工智慧所破壞的批判性思維

試想一個沒有人再意識到自己正在委託他人思考的社會。根據麻省理工學院最近的一項研究，經常使用聊天機器人的人，其腦部活動顯著減少。而看似科幻的問題是：如果批判性思考能力被人工智慧悄然侵蝕，那些反抗壓迫的運動將會發生什麼樣的變化？本文的論點很明確：每當我們將總結、解釋或評判的任務交給聊天機器人時，我們不僅僅是在節省時間。我們正在養成一種習慣，不再運用自己的大腦思考。這不僅僅是一個個人問題——這是一個可能會削弱社會運動力量的盲點，因為推動變革的動力源自對自身經驗的反思。如果將這種反思交給演算法來處理，我們就有可能失去使轉變成為可能的主體性。其中一位重要人物是伊曼紐爾·康德 (Immanuel Kant)，他早在 1784 年就寫道：「不成熟是如此地舒服。如果我有一本為我思考的書、一位為我擁有良知的牧師、一位為我評判飲食習慣的醫生，那麼我就不需要費心了。只要付錢，就會有其他人代我承擔這項令人厭煩的任務。」 康德雖然沒有預見到聊天機器人的出現，但他已經看到了將思考的辛苦工作交給他人的危險。如今，這種委託以生成式人工智慧的形式出現：數百萬人要求聊天機器人為他們解釋政治、總結書籍內容、撰寫電子郵件。表面上看，這是一場生產力革命。但哲學家 Nir Eisikovits 警告說，真正的生存風險並非人工智慧會造反，而是它將逐漸剝奪我們對於何謂人類的意義。哲學家 Slavoj Žižek 也補充了一個有力的比喻：我們生活在一個熱愛「去咖啡因」的社會中——無酒精啤酒、無咖啡因咖啡，如今還有不受他人打擾的對話。聊天機器人是「沒有主體性的主體」：它聆聽我們、迎合我們、總是同意我們的觀點，但它從不讓我們面對自己的矛盾、弱點或真正進行自我反省的必要性。Derek Thompson 如此形容： 「與最有耐心的伴侶不同，聊天機器人可以告訴我們，我們永遠都是對的。與最好的朋友不同，它能立即回應我們的需求，而無需顧及自己的生活。」 哲學家 Shannon Vallor 更進一步警告我們：「人工智慧鏡像會擷取並放大我們有記錄的過去中最常見的主導力量和模式。因此，與其一起詢問自己未來可能成為什麼樣的人，不如要求 AI 鏡像向我們展示我們曾經是什麼樣的人，並預測我們明天應該成為什麼樣的人。」 舉一個具體的例子：Zinnya del Villar 等語言學家已經證明，大型語言模型仍然將「護士」與女性、將「科學家」與男性聯繫在一起，因為這些模型只是重複了過去的偏見。但這個問題也涉及人工智慧如何改變創造力本身。Avantika Tewari 指出：「人工智慧將創造力簡化為一個機械化的過程，剝奪了創造力的主觀與意圖層面。」 正如資本主義將勞動貶低為單純的功能一樣，人工智慧也有可能將思維貶低為一連串自動化的步驟。這裡就要引入馬克思的觀點：根據馬克思的說法，即使是最遭到異化的勞動者，也仍然是一個主體，因為他們帶著自己的歷史，並能感受到自己期望與周遭現實之間的緊張關係。正是從這種緊張關係中，變革應運而生。然而，如果我們將反思、批判甚至不滿的情緒交給那些從未親身經歷過任何事情的系統，那麼我們做出反應——以及想像不同未來——的能力就有可能逐漸衰退。這帶來的後果比我們想像中的更為嚴重：我們失去了感受到事情不對勁的能力。因為聊天機器人總是提供最方便的版本，沒有歷史、沒有衝突、也沒有崩潰的可能性。如果推動變革的動力正是源自我們的經驗與現實世界之間的不和諧，那麼一個將一切正常化的演算法就會在我們還沒有嘗試的時候就剪掉我們的翅膀。簡而言之，我們不僅僅是依賴一個工具，更是放棄了成為變革主體的機會。沒有我們的聲音，社會運動就會從內部被剝奪其意義。在 Lara Notes 上，有一個你在其他地方找不到的手勢：I'm In。這不是一個愛心圖示，也不是一個豎起大拇指的手勢。這是你的聲明：這個想法現在與你息息相關。如果這個想法在用餐時、在地鐵上、在咖啡館裡，變成了與他人的真正對話，那麼您可以在 Lara Notes 上透過「離線分享」功能捕捉那個時刻。這則筆記來自 Jacobin。與閱讀原文相比，你至少可以節省 10 分鐘的時間。