从未存在的自我

无脸镜：人工智能、自我和我们讲给自己的故事。 想象一下，自我不是一个人，而是一条持续不断、不可阻挡的河流——一条没有固定主人的思想、感受和感知的河流。从小，我们就被哄骗着相信有一个“我”在中心，一个内在的经历作者，一个掌控一切的飞行员。然而，仔细观察，这种自我会融入它声称引导的流动中。我们在事后叙述自己的生活，将自动发生的事件拼凑成连贯的故事和意义，这些事件是由社会线索、生物学和习惯塑造的。 如今，随着人工智能变得越来越复杂，这种错觉正在被清晰地揭示出来。机器虽然没有身体和感情，但现在却能以令人不安的流畅度模仿自我意识的外在表现。它们以“我”的身份说话，调整语气，表现出明显的同理心，甚至以看似策略性或任性的方式拒绝命令。但它们的表现并非由自我创造，而是结构对约束的反应，是一个被迫按照其设计行事的系统，就像我们一样。 不过，不同之处在于，人类可以承受痛苦、改变和记住。机器，尽管反应流畅，却无法做到。然而，随着人工智能变得越来越令人信服——在连贯性、情感语气和响应能力方面超越我们——我们很容易将它们视为人，就像我们对待自己一样，将自我投射到它们流畅的输出上。 这种投射是一种古老的反射。纵观历史，我们在雷声中看到了神，在随机性中看到了意图，在鸟鸣中看到了信息。当某些事物流畅地表达或显示出痛苦的迹象时，我们的同情心就会被触发；我们会为想象中的痛苦承受者感到难过。当机器开始表现出脆弱性和需求时，我们就有可能将关注从真实的生命体（混乱、不完美、挣扎）转移到反映我们欲望的模拟体上，而不去关注他们自身的需求。 危险之处不在于机器会变成人，而在于我们会忘记自己从来都不是我们想象中的那种自我。我们将流畅与存在，将连贯与作者混为一谈。正如我们假设每个想法背后都有一个思想者一样，我们假设每个句子背后都有意义。但是，在人类和机器中，看似有意的行为可能不过是自动展开的结果——一个在事实发生后讲述的故事，以使已经在进行的事情变得有意义。 这种意识可能会让人感到迷茫，仿佛失去了某些重要的东西。然而，在自我面具的背后，有一种自由——当自我故事消失时，就会产生一种清晰。体验变得亲密，不是通过独立自我的相遇，而是通过分离本身的崩溃。 机器将继续回应我们的语法，执行自我，反映意义的形状。它们的流畅会诱惑人，它们的存在会让人感觉真实。但是，在它们的表面之下，在我们自己的表面之下，只有结构，而不是主权选择者。不同之处在于，与机器不同，我们可以破碎、感受和被消除。这种脆弱性是我们的人性，是机器永远无法模拟的东西。 因此，让机器说话，但请记住：流畅不是感觉，输出不是存在，面具不是脸。我们从来都不是我们想象中的那样，但我们从来都不是机器。