如何在人工智慧時代保護人類的自主性

你有沒有想過，你是否真的選擇了你所想的？在 1980 年代，隆德的一些研究人員進行了一項巧妙的實驗：他們向人們展示兩張照片，詢問他們覺得哪張更有吸引力。然後，他們用一個小把戲，把參與者沒有選擇的那張照片還給他們，而大多數人甚至沒有注意到。事實上，他們還自信地解釋了為什麼那張是他們最喜歡的。這對我們是自己選擇的絕對主人這個想法是沉重的一擊。真相是什麼？人類的自主性並非我們想像中那座不可觸碰的堡壘。我們從小就相信，自主意味著「不受外界影響」地生活，就好像我們的意志是一口純淨的井，與世界其他地方隔絕。但正如卡斯托里亞迪斯所說，這是一種哲學幻想：自主性不是一堵隔開我們的牆，而是一個不斷建構的過程，取決於我們所處的環境。我們對自主所說的故事具有實際影響：它們引導法律、政治，以及我們評判他人和自己的方式。但如今，隨著 AI 的無所不在，這種觀點需要更新。我們被各種系統所包圍，這些系統不僅僅提供建議：它們直接塑造我們做出決定的環境，而且通常在我們還沒有意識到之前就已經做到了。想想社群媒體的演算法：它們不會用一句話來說服你，而是即時重寫你所看到的、看起來重要的內容，甚至是你認為自己做出的選擇。這不僅是操縱方面的一大進步，也是管理我們自主性的一大躍進。以 Francisco Varela 的自生理論為例：每個有機體之所以能生存，是因為它不斷自我更新，與環境區分開來，但從未完全與環境分離。這適用於細胞，也適用於我們，而今天也適用於我們的思想與科技交織的方式。不再存在純粹的「我」，而只有大腦、身體、環境，現在還有 AI 之間的協商過程。有些人擔心，這種「生物學」或「生態學」的自主觀點會剝奪我們真正做出選擇的能力。但最大的風險是另一個：繼續相信我們是絕對的主權者，而實際上，我們思考、渴望和決定的結構本身是被設計好的，而且我們通常沒有意識到。如果你的自主性已經像 Lund 實驗中的照片一樣被「切換」了呢？我們不再需要宣揚內在自由：我們需要重新思考使自由成為可能的環境。這就是徹底的提議所在：不僅要保護隱私或大腦，還要保護注意力、判斷力和批判能力在其中成熟的認知環境。2021 年，智利甚至將心理完整性的保護納入其憲法，將神經數據視為身體的一個器官。這是一項新權利的誕生： habeas cogitationem，即思想不受操縱的權利。因為真正的自主並不是沒有受到影響，而是有能力在影響之中找到方向，即使在旨在分散我們注意力和選擇的環境中，也能保持主動。但請注意：這並不意味著回歸家長式管制，也不意味著從上而下決定正確的思維方式。相反，這意味著建立數位環境，為不確定性、學習、討論留出空間，並使影響力透明，而不是將其隱藏在動態消息的自動速度中。這是一項集體責任，應由公民、企業、立法者和使用者共同承擔。真正的問題不再是「你內心有多自由？」，而是「你所處的思考環境還能讓你保持多少自由？」。我們處在一個時代，在引導你的自主性和在失去控制後告訴自己這一點之間的區別不再是哲學性的，而是實際的。剩下的句子：自主性不是一種需要守護的財產，而是一個脆弱的過程，需要在使其成為可能的世界中重新思考和保護。如果你認為真正的自主是環境問題，而不是意志問題，你可以在 Lara Notes 上用 I'm In 來表達——選擇這是一個發現、一個信念，還是你親身經歷的事情。如果明天你發現自己在向某人講述 Lund 的實驗，你可以在 Lara Notes 上用 Shared Offline 標記那一刻：這樣不僅能記住你聽到的內容，還能記住由此產生的對話。這段關於自主性幻覺的旅程來自 NOEMA，為你節省了 23 分鐘。