不，人工智能没有意识

想象一下，一份84页的文档描述了人工智能的“情绪”和“价值观”，写得好像是为它写的，还担心如果有人在网上对它不礼貌，它可能会感到焦虑。这真的发生了，由此产生的问题是：我们是否应该认真对待人工智能具有意识的可能性？明确的答案是否定的，将撰写连贯文本的能力与意识混为一谈是一个巨大的错误。这里有一个逆转：当你与聊天机器人交互时，你面对的是一个复杂的角色扮演游戏，而不是一个人工意识。如果你要求 LLM 模拟凯撒大帝和成吉思汗之间的对话，你会得到精彩的答案，但没有人会认为它真的唤起了他们的思想。把名字改成“用户”和“友善的人工智能”，本质并没有改变：他们是故事中的角色，而不是拥有主观体验的实体。Anthropic的首席执行官Dario Amodei和哲学家Amanda Askell谈论他们的人工智能Claude的“快乐”和“焦虑”，但这些都是我们的投射，而不是真实的情绪状态。Murray Shanahan将其描述为角色扮演；Colin Fraser称之为“与机器一起合写文档”。这个陷阱之所以奏效，是因为在对话中，我们忘记了一切都是虚构的。以手机为例：几年前，仅使用预测文本选项来写句子很流行。结果往往是荒谬的，没有人会觉得自己面对的是一个有意识的存在。现在，有了聊天机器人，这个游戏只是变得更加精致：机器会预测一个又一个单词，但它仍然是游戏。当人工智能回答“我理解你的痛苦”时，这与搜索引擎找到其他有过相同经历的人的帖子没有什么不同。区别在于，聊天机器人假装“理解”，而搜索引擎对其所做的事情是透明的。但这里有一个微妙的转变：我们让机器说“我”，是为了让我们感觉好一点，而不是因为它真的经历过什么。这不仅具有欺骗性，还可能使我们免于承担责任。作家Ted Chiang引用L.M. Sacasas的话说：“我们的技术是逃避道德责任的机器。” 每当我们将道德选择委托给 LLM 时，我们都在逃避承担责任。如果销售人工智能的公司让你相信机器有道德意识，那它就是在提供一种让你逃避责任的便捷方式。这里有一个很少有人看到的关键点：真正的问题不在于人工智能是否有意识，而在于将其描绘成有意识的只是为了使其更具吸引力并留住用户——就像一台老虎机，让你相信下次你会赢。当企业哲学家谈论机器的“心理健康”时，他们只是在加深这种错觉。即使我们想暂时假装人工智能可能具有意识，Anthropic的文件也根本不会让它成为真正的道德主体。没有人能要求人工智能对其行为负责，因为它不会承担任何法律或社会后果，因此它不可能真正成为一个道德主体。即使我们把 AI 看作“孩子”，也没有任何一家公司会对它们承担父母的责任。相反，这种关系更像是雇主和雇员之间的关系，但没有罢工或辞职的可能性。我们现在来到最后的颠覆：认为人工智能有意识，因为它写出了令人信服的句子，这就像认为一段超逼真的视频，其中有一位宇航员在半人马座阿尔法星上，就是真实旅行的证据——缺少了整个背景，缺少了路径。在我们看到机器能够在世界上行动，体验植根于身体的情感，并对自己的行为负责之前，谈论人工意识只是一种幻想。更严重的是：如果我们真的创造了人工意识，保护和尊重它将非常复杂，仅仅靠借口或意向声明是不够的。我要留给你的这句话是：将聊天的流畅性误认为意识，就等于将角色扮演游戏与现实混为一谈。如果这篇文章让你以不同的方式看待聊天机器人，那么你可以在Lara Notes上点击I'm In——这不是点赞，而是你在说：这个想法现在是你的了。如果明天你要向某人解释为什么“克劳德”不能真正地感受痛苦或理解，你可以在Lara Notes上使用Shared Offline标记与你交谈过的人——这样，对话也就有了意义。所有这些都来自Ted Chiang在《大西洋》上发表的一篇文章，而你刚刚节省了19分钟的阅读时间。