社会运动需要人工智能所破坏的批判性思维

想象一下，在这样一个社会中，人们已经不再意识到自己正在将思维交给别人。根据麻省理工学院最近的一项研究，经常使用聊天机器人的人的大脑活动会出现明显的下降。而看似科幻小说般的问题是：如果批判性思维能力被人工智能悄然侵蚀，那么那些反抗压迫的运动会发生什么样的变化？本文的论点非常明确：每当我们让聊天机器人来进行总结、解释或评判时，我们所做的不仅仅是节省时间。我们正在养成一种习惯，那就是不再用自己的头脑思考。这不仅仅是个人的问题——这是一个可能会削弱社会运动力量的盲点，因为推动变革的动力来自对自身经历的反思。如果将这种反思交给算法来完成，我们就有可能失去使变革成为可能的主体性。在这方面，伊曼纽尔·康德（Immanuel Kant）是一个重要人物。早在 1784 年，他就写道：“不成熟是多么舒服啊。如果我有一本为我思考的书，一个为我拥有良知的牧师，一个为我评判饮食习惯的医生，那么我就不需要费力了。只要付钱，就会有其他人代我承担这项令人厌烦的任务。” 康德并未预见到聊天机器人的出现，但他已经意识到将思考的劳动交给他人的危险。如今，这种委托以生成式人工智能的形式出现：数百万人让聊天机器人为他们解释政治、总结书籍、撰写电子邮件。从表面上看，这是一场生产力革命。但哲学家尼尔·艾西科维茨（Nir Eisikovits）警告说，真正的生存风险并非人工智能会造反，而是它会逐渐剥夺我们对何为人类的理解。哲学家斯拉沃伊·齐泽克（Slavoj Žižek）则补充了一个有力的比喻：我们生活在一个热衷于一切“去咖啡因化”的社会中——无酒精啤酒、无咖啡因咖啡，现在还有不受他人打扰的对话。聊天机器人是“没有主体性的主体”：它倾听我们的声音，顺从我们的意愿，总是认同我们的观点，但它从不会让我们直面自己的矛盾、弱点或真正面对自我的必要性。德里克·汤普森（Derek Thompson）是这样表达的：“与最有耐心的伴侣不同，聊天机器人可以告诉我们，我们永远是对的。与最好的朋友不同，它会立即响应我们的需求，而无需顾及自己的生活。” 哲学家 Shannon Vallor 则更进一步，她警告我们：“人工智能镜像会提取并放大我们有据可查的过去中那些占主导地位的力量和最常见的模式。因此，我们没有共同思考自己能够成为什么，而是要求人工智能镜子向我们展示我们曾经是谁，并预测我们明天应该成为什么。” 举一个具体的例子：Zinnya del Villar 等语言学家已经证明，大型语言模型仍然将“护士”与女性、将“科学家”与男性联系在一起，因为这些模型只是在重复过去的偏见。但这个问题也涉及人工智能如何改变创造力本身。Avantika Tewari 指出：“人工智能将创造力简化为一种机械过程，剥夺了创造力的主观性和意向性维度。” 正如资本主义将劳动简化为单纯的功能一样，人工智能也有可能将思维简化为一系列自动化步骤。马克思在这里发挥了作用：根据马克思的观点，即使是最异化的劳动者也仍然是一个主体，因为他带着自己的历史，并且能够感受到自己期望与周围现实之间的紧张关系。正是这种张力催生了变革。然而，如果我们将反思、批判甚至不满情绪交给那些从未亲身经历过任何事情的系统，那么我们做出反应——以及想象不同未来——的能力就有可能逐渐衰弱。由此产生的后果比我们想象的更为严重：我们将失去察觉问题所在的能力。因为聊天机器人总是为你提供最舒服的版本，没有历史，没有冲突，也没有崩溃的可能。而如果变革的动力恰恰源于我们的经历与现实世界之间的不和谐，那么一个将一切都正常化的算法就会在我们还没来得及尝试之前就剪掉我们的翅膀。简而言之，我们不仅仅是在依赖一种工具，更是在放弃自己成为变革主体的机会。没有我们的声音，社会运动就会从内部被掏空。在 Lara Notes 上，有一个你在其他地方找不到的手势：I'm In。这不是一个心形图标，也不是一个竖起大拇指的手势图标。这是你的声明：这个想法现在与你息息相关。如果这种思考变成了与他人的真正对话——无论是在晚餐时、在地铁上还是在咖啡馆里——你可以在 Lara Notes 上通过“离线分享”来记录下那一刻。这篇“笔记”来自《雅各宾》（Jacobin）。与阅读原文相比，您至少可以节省 10 分钟时间。