如何在人工智能时代保护人类的自主权

你有没有想过，你是否真的选择了你所想的？上世纪80年代，在隆德，一些研究人员进行了一项巧妙的实验：他们向人们展示两张照片，询问他们觉得哪一张更有吸引力。然后，他们通过一个小把戏，把参与者没有选择的照片还给了他们，而大多数人甚至都没有注意到。相反，他们还自信地解释了为什么那张照片是他们的最爱。这对我们是自己选择的绝对主人这一想法来说是沉重的一击。真相是什么？人类的自主并不是我们想象中那座不可触碰的堡垒。我们从小就相信，自主意味着“在没有外部影响的情况下”生活，就好像我们的意志是一口纯净的井，与世界其他地方隔绝。但正如卡斯托里亚迪斯所说，这是一种哲学幻想：自主并非一堵将我们隔开的墙，而是一个不断构建的过程，取决于我们所处的环境。我们给自己讲述的关于自主的故事具有具体的影响：它们指导着法律、政治，以及我们评判他人和自己的方式。但如今，随着人工智能无处不在，这种观点需要更新。我们被各种系统所包围，这些系统不仅仅提供建议：它们直接塑造我们做出决策的环境，而且通常在我们意识到之前就已经发生。想想社交媒体的算法：它们不会用一句话说服你，而是实时重写你看到的内容、看起来重要的内容，甚至是你认为自己做出的选择。这不仅是操纵方面的进步，更是管理我们自主性方面的飞跃。以弗朗西斯科·瓦雷拉（Francisco Varela）的自生理论为例：每个有机体之所以能够生存，是因为它不断自我更新，从环境中脱颖而出，但又从未完全与环境分离。这适用于细胞，也适用于我们——如今，这也适用于我们的思想与技术交织的方式。不再存在纯粹的“我”，而只是大脑、身体、环境，现在还有人工智能之间的协商过程。有些人担心，这种“生物学”或“生态学”视角的自主性会剥夺我们真正做出选择的能力。但最大的风险是另一个：我们继续相信自己是绝对的主宰，而实际上，我们思考、渴望和决定的结构本身是被设计好的，而且我们通常对此毫无察觉。如果你的自主性已经像隆德实验中的照片那样被“切换”了，那会怎么样？我们不再需要高谈阔论内在自由：我们需要重新思考使自由成为可能的环境。这就是激进提议的出发点：不仅要保护隐私或大脑，还要保护注意力、判断力和批判能力成熟的认知环境。2021年，智利甚至将对心理完整性的保护纳入其宪法，将神经数据视为身体的一个器官。这是一项新权利的诞生： habeas cogitationem，即思想不受操纵的权利。因为真正的自主并不是没有受到影响，而是有能力在影响中找到方向，即使在旨在转移我们注意力和选择的环境中，也能保持主动。不过，请注意：这并不意味着回到家长式管理，也不意味着从上而下决定正确的思维方式。相反，这意味着构建数字环境，为不确定性、学习和对比留出空间，并使影响变得透明，而不是将其隐藏在自动滚动的动态消息中。这是一项集体责任，需要由公民、企业、立法者和用户共同承担。真正的问题不再是“你内心有多自由？”，而是“你思考的环境还能让你保持多大程度的自由？”。我们所处的这个时代，引导你的自主性与在失去控制之后再谈论自主性之间的区别不再是哲学上的，而是实践上的。剩下的这句话：自主并不是一种需要守护的财产，而是一个脆弱的过程，需要在使其成为可能的世界中得到重新思考和保护。如果你被“真正的自主性是一个环境问题，而非意志问题”的想法所打动，那么你可以在Lara Notes上通过I'm In来表达——选择它是一个发现、一种信念，还是你亲身经历过的事情。如果明天你发现自己在向别人讲述隆德的实验，你可以在Lara Notes上用Shared Offline标记这一刻：这样，不仅你听到的内容，而且由此产生的对话都会留在记忆中。这段关于自主性错觉的旅程来自NOEMA，为你节省了23分钟。