Demis Hassabis：智能代理、強人工智慧 (AGI) 以及下一個重大科學突破

當 Demis Hassabis 向全球所有科學家免費提供 AlphaFold 時，他並沒有為其申請專利。對於一家領先的 AI 公司來說，這幾乎是一個難以理解的舉動。然而，如今每一種新藥都會經過 AlphaFold 的檢驗，而 AlphaFold 的免費開放使用已經加速了超過一千篇學術論文的科學發展。在此，真正的革命不僅在於 AI 的強大功能，更在於其分佈和使用方式。大家都認為人工智慧是一場誰能建造出更強大大腦的競賽。但 Hassabis 的想法恰恰相反：挑戰不僅僅是建立更大的模型，而是要使這些模型真正有用、易於使用，並且能夠像我們一樣持續學習，而不是每次都從零開始。如今，大多數模型都是「無狀態」運作的，也就是說，它們在兩個工作階段之間會忘記所有內容：每個提示都是全新的開始，彷彿從未從過去學到任何東西一樣。然而，人類大腦的運作方式卻截然不同：在睡眠期間，大腦會重新整理並鞏固關鍵經驗——這是 Hassabis 在攻讀海馬體功能博士學位期間研究的細節。2013 年，當 DeepMind 設計出首個能夠擊敗 Atari 電子遊戲的程式時，真正的突破正是源自這個生物學概念：該模型在其內部「重玩」最精彩的遊戲過程，並從獲勝的連續動作中學習。然而，在當今，即使擁有龐大的記憶窗口（數百萬個權杖），大多數人工智慧系統仍以粗暴的方式累積資料，無法區分真正重要的資訊與背景雜訊。每當模型需要尋找正確的資訊來做出決策時，都會付出實際的代價。在這裡，Hassabis 進行了一個令人震驚的比較：儘管目前的模型擁有龐大的「記憶」，但實際上，它們的效率和選擇性卻不如記憶有限但組織良好的人類。而這裡正是關鍵所在：單純提升運算能力或增加資料量是不夠的。我們需要一種全新的學習品質——即具備適應環境、進行長期推理以及建立個人化且有選擇性的記憶的能力。想要一個實際的例子嗎？儘管取得了進展，但至今仍沒有任何人工智慧代理能夠創作出一款能夠稱霸世界排行榜的遊戲，即使在今天，任何人都可以在半小時內完成一款原型遊戲，而當年 17 歲的哈薩比斯卻花了六個月的時間才做到這一點。它們仍然缺乏賦予作品意義和價值的「靈魂」和深厚的創造力：正是人類的驅動力將一件工具變成了傑作。然而，這條界線正在變得越來越模糊。Hassabis 預測，在真正實現完全自主之前，我們將在未來 6 至 12 個月內看到團隊透過使用 AI 代理人，將生產力提高一千倍。由此產生的一個問題是：當這些能力不再僅限於少數實驗室掌握，而是透過開放原始碼模型廣泛普及，而且這些模型小到可以在手機上運行，又強大到足以解決真正的問題時，會發生什麼事？在這方面，Gemma 模型在兩週內就獲得了 4,000 萬次開放下載，而這僅僅是個開始。對於那些想要實現下一個科學突破的人，哈薩比斯提出了兩條規則：尋找研究空間極其龐大的問題——例如蛋白質的構造或圍棋的棋盤走法，這些領域沒有任何蠻力演算法能夠解決——並確定一個明確的目標，一個可以進行「攀登」的「目標函數」。接下來，您需要大量真正的實驗，或者足夠的資料來模擬您想要探索的領域。在這種情況下，新一代的人工智慧不僅會成為「問題解決者」，還可能成為科學家的合作夥伴：它們不僅能夠找到答案，還能提出全新的問題，例如「發明」下一個值得解決的千禧年問題。Hassabis 甚至提出了一項測試：使用 1901 年以前的資料訓練人工智慧，看看它是否能像愛因斯坦在 1905 年那樣，自行「發現」狹義相對論。最終目標不僅是解決棘手問題，更是開拓知識的新領域。這種方法還有一個令人驚訝之處：哈薩比斯不相信存在一個包羅萬象的「單一超級大腦」。相反地，他設想的是使用專業工具的通用系統——一種人工智慧「管弦樂團」，其中每個模型都擅長一項工作，但與其他模型協作。未來所需要的概念不僅是更強大的能力，還是更好的協調能力，以及在使用工具時更多的「手工技巧」。如果您想知道，真正運用 AI 進行科學研究的新創公司與僅僅打包 API 的新創公司之間有何區別，答案就在這裡：真正的影響力來自於那些將多個領域的深厚專業知識結合在一起的公司，這些領域不僅包括資訊科學，還包括物理、生物學和材料科學。Hassabis 最後給了一個聽起來像是挑戰的建議：「困難的問題並不比簡單的問題更複雜。它們只是以不同的方式呈現出困難。如果你只有一次人生，那就把它用在能夠在你離開後改變世界的事情上。」 也許在我們還在旅途中的時候，通用智慧就會到來。但真正的問題是：如果你知道明天你的工具可能會在你還在玩遊戲的時候改變遊戲規則，你今天會建立什麼？真正的創新不在於模型的規模，而在於它能夠引導我們提出的問題品質。如果這個觀點為您開啟了對人工智慧和科學的全新視角，您可以在 Lara Notes 上按下「I'm In」——這是您宣告這個想法現在已經屬於您的方式。如果明天你發現自己正在與他人討論 AlphaFold 或能夠提出問題的模型，你可以使用 Shared Offline 標記這段對話：因為真正出色的想法總是先經過面對面的討論。本筆記源自 Y Combinator 對 Demis Hassabis 的採訪，為您節省了 37 分鐘的時間。