我们绝不能赋予人工智能代理人法人资格

想象一下，明天人工智能可能拥有与法人相同的权利：签订合同、拥有资产、提起诉讼或被起诉。这听起来像科幻小说，但辩论是真实的，许多人都在认真对待。问题的关键在于：赋予人工智能法人资格并不是向前迈出的一步，而是一场冒险，我们很可能会后悔。人们常常认为，如果公司虽然不是人，但也具有法人资格，那么人工智能也应该具有法人资格，尤其是当它们管理大量资金或执行自主行动时。但这种类比是大错特错的。公司由人组成，拥有监管机构，负责人是有血有肉的人。人工智能无论多么复杂，都没有良知，不会产生情绪，也不害怕受到惩罚——它可以模拟一切，但什么都感觉不到。那些推动机器“权利”的人经常会引用一些极端案例：人工智能管理投资基金、人工智能制定法律、人工智能做出医疗决策。但真正的问题是：如果人工智能造成损害，谁来赔偿？或者，更糟糕的是，如果人工智能“决定”违反法律，谁来负责？如今，如果一家银行犯错，其高管可能面临罚款、解雇甚至监禁的风险。如果责任被推卸给数字实体，那么就没有人会真正承担后果。一个具体的例子：20世纪80年代，在美国出现了关于“空壳公司”的讨论——这些公司在创立时没有雇员，只是为了规避责任。这些公司被禁止，因为它们允许人们规避规则。赋予人工智能法律人格，就好像创造了一个完美的遮挡物，在其背后，任何人都不会受到起诉。请注意：人工智能不害怕破产，不会感到羞耻，不会后悔，如果你用罚款“惩罚”它，它也不会有任何感觉。一个发人深省的数据：2023年，近60%的美国软件公司表示，他们正在决策过程中测试自主人工智能。如果明天这些AI拥有了法人资格，谁又能真正控制损害？很少有人考虑到的一个方面：每当法律赋予一个新主体（从公司到基金会）以法人资格时，都是因为其背后有人，且这些人承担着明确的责任。赋予机器同样的地位，意味着为那些编程、资助或使用这些人工智能的人创造一个完美的盾牌。而挑衅就在于此：如果明天一群游说者成功地让人工智能被认定为法人，那会怎么样？我们可能会发现自己在与看不见、没有面孔的实体作斗争，这些实体会提起诉讼、购买房地产或影响政府，却从未真正被追究责任。总结所有内容的句子是这样的：赋予人工智能法人资格并不能保护我们免受其错误的影响——而是保护控制人工智能的人免受我们质疑。如果这个观点让你从不同的角度看待这个问题，你可以在Lara Notes上用I'm In来标记：这不是点赞，而是一种表示这个想法现在已经成为你思维方式一部分的方式。如果你碰巧与某人谈论这个话题，比如讲述“太阳公司”的故事，或是关于谁是真正的付费者的问题，你可以在Lara Notes上用Shared Offline标记这段对话，这样即使在屏幕之外，它也能保持活跃。这个想法来自《金融时报》：今天，它为你节省了几分钟的阅读时间，也避免了许多混乱的讨论。