矽谷對能夠自行組裝的機器人感到興奮不已

最近，一群人在舊金山的街道上擋路，舉著「停止人工智慧競賽」和「不要建造天網 (Skynet)」的標語。他們的目標是哪些人？是那些正在開發能夠自我改進的機器人的人工智慧公司。這些機器人不僅能執行命令，還能學習、自我優化，而且（至少在理論上）有朝一日可能會設計出下一代的人工智慧。正在席捲矽谷的論點是：我們面對的不再是為我們工作的電腦，而是能夠自行運作的系統。而且，這些系統的改進速度不再是線性的，而是可能會呈現出指數級的增長。這個想法並不新鮮。早在 1960 年代，統計學家 I. J. Good 就預測道：「能夠設計出比自己更優秀版本的機器，將是人類所需的最後一項發明。」 然而，幾十年來，這仍然只是科幻小說中的情節。直到幾年前，關於機器人可以進行真正研究的說法還幾乎令人啼笑皆非：ChatGPT 連加法都做不好，更別說設計新的演算法了。如今，情況已經改變了。OpenAI 公開表示，將在未來六個月內推出一款「人工智慧研究助理」。Anthropic 表示，他們 90% 的程式碼已經是由他們的 AI 模型 Claude 撰寫的。Anthropic 執行長 Dario Amodei 估計，自動編碼工具已使內部流程的速度提升了 15% 至 20%。就 Google DeepMind 而言，該公司開發了 AlphaEvolve，這是一種人工智慧代理，已將全球資料中心的運算能耗降低了 0.7%，並將 Gemini 模型的訓練速度加快了 1%。但這些數字背後隱藏著一個問題：這些工作中有多少真正是自主完成的，又有多少是由人類監督的？Anthropic 的政策主管 Jack Clark 是第一個承認，目前真正的優先事項是「了解我們在多大程度上將 AI 開發的各個方面自動化」的人。因為目前，自動化仍處於零散狀態：機器人可以最佳化小型任務，但尚未能完全掌控研究工作。然而，這場競賽已經開始了。OpenAI 的 Sam Altman 為 2028 年設定了目標：一名「完全自動化的人工智慧研究員」，能夠在沒有人為介入的情況下做出重大發現。其他人，例如 AI Futures Project 的 Eli Lifland，則預測研究將在 2032 年前完全自動化。但也有人持保留態度。DeepMind 的 Pushmeet Kohli 指出，就目前而言，「完整的自我改進循環尚未形成」：機器可以進行最佳化，但它還沒有值得最佳化的目標。真正的突破不在於讓機器人寫程式碼，而在於讓它具備所謂的研究「品味」——也就是像一位出色的工程師那樣，能夠選擇有趣的問題並判斷哪些才是重要的問題。而這是一種人類目前仍然無法企及的特質。此外，還有資源問題：晶片、能源、資金。只要其中一項資源短缺，進展就會停滯不前。然而，即使是朝向自動化邁出的微小一步，也已經能夠帶來改變。川普 (Trump) 總統任期內的前人工智慧顧問 Dean Ball 警告道：「這可能會改變全球在人工智慧方面的競爭格局，改變科技地緣政治，以及更多方面。」 公共機構步履蹣跚：美國政府機構在處理稅務時仍使用 COBOL，這是一種源自 1960 年代的程式設計語言。如果人工智慧發展得更快，政治很可能會落得更遠。而且，關於自複製人工智慧的最極端夢想不一定要變成現實才能產生影響：僅僅是這種夢想成真的可能性，就已經在轉移資源、注意力和權力。研究人工智慧風險的瑞典哲學家 Nick Bostrom 如今自稱是「溫和的宿命論者」。此外，DeepMind、OpenAI、Meta、史丹佛大學和伯克利大學的二十位頂尖研究人員都將 AI 研究的自動化視為該產業面臨的最緊迫風險之一。伯尼·桑德斯 (Bernie Sanders) 在參議院發出警告：「人類真的可能會失去對地球的控制權。」 但除了恐懼之外，還有一股炒作浪潮，而這正好符合這些技術開發者的利益。如果你以為機器只會替我們完成任務，那麼是時候更新你的認知了：現在，機器的目標是自我改進，而這場競賽已經開始。如果你覺得這個故事與你有關，可以在 Lara Notes 上按下「I'm In」按鈕：這不是點讚，而是你表示現在這個想法也屬於你的方式。如果你最終還是要跟別人聊這件事——比如說，你可能會告訴別人 Anthropic 90% 的程式碼其實是機器人寫的——那麼在 Lara Notes 上有一個「Shared Offline」的按鈕，按下這個按鈕就能永遠結束那場重要的對話。本筆記源自《大西洋月刊》的一篇文章：你原本需要花 15 分鐘以上的時間閱讀，但在這裡卻省下了將近 45 分鐘。