班吉歐：「如果你把安全擺在第一位，就離開尖端人工智慧公司。」

如今，世界上一些頂尖的人工智慧研究人員正在離開該領域最先進的公司，這並非為了賺取更多收入或轉換職業，而是因為他們認為自己正在從事的工作可能會危及人類的未來。深度學習的先驅之一約書亞·班吉歐 (Yoshua Bengio) 最近發出了一項直接呼籲：如果你真的關心安全，就離開大型人工智慧科技公司。直到不久前，就連他自己也認為人工智慧的災難性風險還很遙遠、是可以掌控的，而且其他人會及時找到解決方案。然而，隨著 ChatGPT 和越來越強大的模型的出現，這種疏離感隨之崩潰：「我意識到，我們的進展遠比我們想像的要快得多，而且我們實際上並未真正掌控這些系統。」 班吉歐表示，當時他別無選擇：他將畢生精力投入於降低人工智慧的風險，在蒙特婁創立了 LawZero，這是一家致力於開發從設計上就安全的人工智慧的組織，且不受股東或營利邏輯的影響。但他表示，這個轉變並非毫無代價。多年來，他一直忽視那些預見危險到來的同事所發出的警訊，堅信好處大於風險。只有日益增長的道德壓力才讓他改變了方向。他並非唯一一個有這種想法的人。Anthropic 前員工雅各布·考克森 (Jacob Coxon) 在《時代雜誌》上表示，在尖端 AI 公司中瀰漫著一種無奈的情緒：「那裡有一種近乎宿命論的氛圍，許多人認為這場競賽已經失控，他們只是盡可能以最安全的方式工作，即使他們認為一切仍可能出錯。」 彷彿每個人都被一種恐懼所束縛：一旦自己退出競爭，其他人就會加速前進，將那些想停下來思考的人拋在後面。然而，根據班吉歐的說法，這種恐懼並不能成為繼續前進的理由：「我不認為我們會及時看到有效的監管，而且沒有任何國家或公司真正準備好以安全的方式開發人工智慧。」 問題的關鍵在於：讓頂尖人才留在大型企業的理由——能夠取得資料、資源，以及希望從內部施加影響——被助長失控系統的實際風險所蓋過。班吉歐還提到了原子彈後的聯合國歷史：1946 年，美國提議將核武器置於國際管制之下，但沒有人有勇氣邁出第一步，退出軍備競賽。他強調：「我們面臨一個選擇。」 他說，這次有一個真正的替代方案：為那些將安全置於首位的組織工作，例如 LawZero，該公司剛剛從加拿大和德國政府獲得了超過 2 億美元的資金。沒有人敢大聲說出的重點是，個人的選擇確實至關重要：改變不會來自重大的集體決策，而是來自許多勇敢的個人選擇的累積。這就是討論中缺少的觀點：真正的革命並非一種新技術，而是那些決定不再成為共犯的人的道德反抗。班吉歐明確表示：「如果我們的研究工作沒有為公共利益服務，或者更糟的是，如果它有可能造成災難性損害，那麼圖靈獎就毫無價值。」 值得重複的一句話是：「我們單憑一己之力無法阻止這場競賽，但如果我們有足夠多的人，就能做到。」 如果聆聽這個故事讓你從不同的角度看待自己在 AI 領域的工作，你可以在 Lara Notes 上用「我加入」來標記這個時刻——這是宣告這個想法現在真的與你息息相關的舉動。如果幾天後你發現自己正在與某人談論此事，你可以在 Lara Notes 上使用「離線分享」功能標記對方：這樣對方就會知道，對你來說，那次對話很重要。這篇貼文來自 Transformer，為您節省 2 分鐘的閱讀時間。