深入探索價值 9,650 億美元的人工智慧巨頭 Anthropic | The Circuit

Anthropic 的一位工程師表示，在過去六個月裡，他的程式碼百分之百都是由公司的人工智慧 Claude 所撰寫。不是 50% 或 80%：而是全部。而他身為開發團隊的負責人，說起這件事並不焦慮，反而充滿熱情：「我覺得自己有個噴射背包，工程從未如此有趣。」 但這種熱情背後隱藏著一個沒有人能避免的問題，即使在 Anthropic 內部也是如此：如果 Claude 可以編寫所有程式碼，那人類還能做什麼？基本論點是：人工智慧革命不再是一個理論，而是已經成為現實。Anthropic 於 2021 年從前 OpenAI 分拆而成，在三年內從一個在舊金山草坪上聚會的七人小組，發展成價值近 1 兆美元的公司。儘管它自稱為「最注重安全的 AI 公司」，但其模型已經在重寫經濟、工作甚至戰爭的規則。故事圍繞著兄妹 Dario 和 Daniela Amodei 發展：Dario 在科幻小說和青少年時在伯克利進行的計算中長大，他沉迷於理解宇宙的想法。而 Daniela 更接近藝術和閱讀，她的職業生涯始於 Stripe。他們一起住在舊金山，在價值觀出現裂痕時離開 OpenAI，並以「無法再與不信任的人合作」的激進理念創立了 Anthropic。如今，最初的七位共同創辦人仍然都在公司：這在科技界是一個異常現象。這個細節讓我們明白，道德使命比個人職涯更重要。信任的問題無處不在：Dario 明確表示：「這不僅僅是模型的安全性，更是價值觀的誠實性和一致性。」 然而，隨著 Claudio 的成長，困難的選擇也隨之而來。當 Anthropic 開發出 Mythos 時，這個模型強大到可以識別全球電腦系統中的數千個漏洞，甚至連聯邦機構也要求取得存取權。一些企業合作夥伴懇求他們：「這是一個超強大的武器，請不要發布。」 Anthropic 的回應是劃定紅線：僅供特定組織使用，不得用於大規模監控或自主武器。由於這個選擇，Anthropic 與五角大樓發生衝突，甚至被禁止參與美國軍事採購。但這裡的風險比一份合約還要大。Dario Amodei 的立場很明確：「如果技術用於捍衛民主，就應該提供。但我們沒有資格決定哪些軍事行動是對是錯：我們必須制定原則並確保其得到遵守。」 悲劇性的諷刺是，美國政府在伊朗行動中使用的 Claude 並沒有阻止一次對學校的襲擊，造成數十名兒童受害。這裡出現了逆轉：即使是一家為了將風險降至最低而成立的公司，也承認，使用如此強大的工具，完美是不可能的。Dario 表示：「你無法保證你的飛機永遠不會墜毀。「但我們的任務是盡可能降低這種可能性。」 就業問題更加棘手。Dario 直言不諱：「在五年內，白領領域一半的入門工作可能會消失。」 目前，AI 使最優秀的人的生產力提高了十倍。但是，當自動化達到 100% 時，我們該如何處理所有失去工作的人？建議從對 AI 公司的累進稅制到全民基本收入不等，但事實是，沒有人有現成的解決方案。Anthropic 的優勢，至少在口頭上，是透明度：Dario 每兩週會與整個公司對話，毫無保留。Daniela 說，團隊正在思考要將哪些人類價值觀納入 AI：他們諮詢了各種信仰的宗教領袖，以找到可以指導 Claude 的普遍原則。但問題是：誰來控制這種力量？它是否應該留在少數私人新創公司或政府手中，還是兩者都不應該？Dario 直言不諱：「我既害怕企業壟斷，也害怕國家全面控制。我們需要真正的監管，強制性的發布前審查，但不是公共徵用。」 這裡揭示了一個悖論：每個人都害怕 AI 的力量，但沒有人真正想放棄對它的控制。總結一切的這句話正是來自 Dario： 「我希望最好的結果，但我為最壞的情況做好準備。」 我們習慣認為科技是中立的，只要有良好的意圖就足以避免災難。這個故事證明了相反的情況：當面臨全球災難的可能性時，善意已經不夠。如果這個觀點改變了你對工作或科技未來的看法，你可以在 Lara Notes 上標記 I'm In——這不是一個按讚，而是在宣告這個想法現在與你有關。如果你最終與某人談論 Anthropic 或 Amodei 兄弟的選擇，你可以在 Lara Notes 上用 Shared Offline 標記他：這樣，這段對話就會成為你故事的一部分，而不僅僅是演算法的一部分。這篇 Note 來自 Bloomberg Originals，為你節省了 44 分鐘。