人工智慧力量悖論

2018 年，OpenAI 最先進的語言模型有 1.17 億個參數。如今，不到六年後，最強大的模型已超過一兆。舉例來說：所需的運算能力在連續十年內每年都成長了十倍。我們正面對著一項比歷史上任何其他技術都成長得更快的技術，令人難以置信的是，這種成長的速度本身正在改變世界的主宰者。人們一直認為，只有國家才有權力監管和管理關鍵技術。但對於人工智慧來說，情況恰恰相反：真正掌握控制權的是企業，而不是政府。這就是 AI 真正的地緣政治革命。直到幾年前，科技公司還被視為單純的服務提供者，是政府手中的工具。然而，如今，OpenAI、Google、Meta 等公司以及其他少數公司決定其模型可以做什麼、誰可以使用、如何使用以及用於什麼目的。他們擁有以前只有國家才擁有的權力。文章的作者之一、DeepMind 共同創辦人 Mustafa Suleyman 是最早表示 AI 開發者是「新的地緣政治參與者」的人之一，他們的主權並非來自投票或社會契約，而是來自技術能力。當美國參議員 Ted Cruz 表示國會在人工智慧方面「根本不知道自己在做什麼」時，他意識到存在著巨大的權力真空。矛盾的是，AI 變得越強大、越容易取得，就越難以控制。AI 不像核能：不需要秘密實驗室或多年的研究，只要程式碼外洩，任何人都可以從網路上下載先進的模型。Meta 看到其 Llama-1 模型在推出幾天後就出現在網路上，而如今，幾乎同樣強大的版本可以在一台電腦上運行，而且你可以每小時幾歐元的價格租用這台電腦。不久，精密的模型將直接在智慧型手機上運行。這意味著，一個國家、一家公司或一項法規的最小漏洞都會成為全球風險的敞開大門——從大規模的假新聞、不斷演進的數位武器，到失控的 AGI 等生存規模的威脅。但真正的問題是：誰能真正掌控這場競賽？傳統的答案——國家——在今天已經不夠了。在西方，私人企業擁有行動自由，沒有任何政府能真正加以限制。在中國，國家和企業交織在一起，控制更加嚴格，但科技發展太快，即使在那裡也無法真正加以限制。與此同時，美國和中國將 AI 視為一場零和挑戰：贏得這場競賽的一方認為自己可以主宰這個世紀。但當他們競爭時，技術無處不在，大多數國家將被迫依賴那些控制最先進模型和晶片的人。而這就是逆轉的時刻：解決方案不再是國家之間制定規則，而是建立一個即使是科技公司（不管喜歡與否）也能坐在全球決策桌前的系統。有史以來第一次，關鍵技術的治理必須由開發者、擁有者和使用者，以及政府、專家和民間社會共同設計。像核能那樣的國家間談判模式已經不夠了，因為 AI 太容易複製、傳播速度太快，而且太分散。我們需要一種「技術審慎」的治理，由靈活、預防性、無懈可擊的規則組成，並能夠隨著 AI 的發展而調整。有三個強而有力的想法：一個類似於聯合國氣候小組的全球科學工作小組，負責確定和監控 AI 的風險；一個類似於武器的不擴散制度，以防止危險模型在國家、公司和個人之間不受控制地傳播；以及一個類似於全球金融機構的技術穩定機構，可以在危機中進行干預並實施普遍規則。但如果沒有企業的直接和負責任的參與，這一切都無法實現，因為無論好壞，企業才是當今遊戲的真正裁判。反對者？我們習慣認為真正的危險是大型科技公司掌權。但還有一個更大的風險：沒有人真正掌控，我們面對的是一種沒有制約、沒有規則的技術，而且當出現問題時，沒有人能夠作出回應。在一個只需一個「失控」模型就能造成全球性損害的世界中，危險不僅來自過於強大的公司，也來自過於弱小或被孤立的公司。如果你想要一句值得記住的話：人工智慧不僅在改變我們能做的事情，還在改變誰才是真正的掌控者。如果這個想法讓你以全新的視角看待 AI，你可以在 Lara Notes 上按下 I'm In：這是一個表示這個觀點現在已成為你思維方式一部分的動作。如果幾天後，你發現自己與某人討論誰真正決定 AI 的未來，你可以在 Lara Notes 上使用 Shared Offline 標記此人，這樣就能留下重要對話的記錄。這則筆記來自 Foreign Affairs，可為你節省 21 分鐘。