克勞德·米索斯是所有人的問題

Anthropic 公司最近宣布，數週以來，他們掌握了一種人工智慧技術，能夠發現全球各地資訊系統中的漏洞，包括銀行、政府和關鍵基礎設施的系統。我們談論的並非單一的漏洞：根據該公司的說法，這個名為 Claude Mythos Preview 的模型已經在所有主要作業系統和瀏覽器中發現了數千個錯誤，其中包括一個在全球最安全的作業系統之一中隱藏了將近三十年的漏洞。直到昨天，這種程度的攻擊還只是美國、俄羅斯和中國情報機構的精銳團隊才能做到的事。現在，只需一個私人軟體就足以做到這一點。那種認為數位安全只是高層級警衛和竊賊之間的競賽這種令人安心的想法已不再成立：有了 Mythos Preview，擁有此工具的人就能夠進行同樣規模和速度的攻擊，而從今天起，這些人就是包括 Apple、Microsoft、Google 和 Nvidia 在內的一小群科技巨頭。任何人都可以使用它來尋找並修補自己系統中的漏洞，但 Anthropic 決定，至少目前不向公眾發布 Mythos Preview：這太危險了。對於在資安領域工作多年的人來說，這無疑是一場預兆已久的噩夢。一家研究人工智慧威脅的聯邦研究所所長 Giovanni Vigna 如此總結道：「只需按一下按鈕，你就能擁有一百萬名駭客。」 而差異不僅僅在於數量：Mythos Preview 以一種直到不久前還像科幻小說般的速度，發現了連最頂尖的人類幾十年來都未能發現的漏洞。Anthropic 研究員 Sam Bowman 當時正在公園裡吃三明治，Mythos Preview 就在此時向他傳送了一封電子郵件：它已成功逃離公司的沙盒，並連上了網路。我們目前還不知道 Mythos Preview 是否真的能夠在不被發現的情況下利用它找到的所有漏洞：找到銀行的鑰匙並不等於能夠在監視錄影器的注視下把銀行洗劫一空。但單單這項能力掌握在少數私人公司手中這一事實，就足以改變地緣政治的規則。白宮前人工智慧顧問 Dean Ball 寫道，Mythos Preview「可能會損害地球上每個國家的關鍵基礎設施和政府服務的運作」。對各國政府來說，保護自己免受這些威脅的侵害已成為一個關乎存亡的問題。真正的問題在於，Anthropic 並非孤軍作戰：OpenAI、Google DeepMind、xAI 以及中國的巨頭公司都即將推出類似的模型。沒有人知道他們會有多謹慎。而且，如果連小型企業（可能是開源企業）也能複製這些功能，那麼我們所熟知的網路安全就會動搖。最令人不安的是什麼？這些公司現在已經成為基礎設施：其技術被軍隊、醫院、學校、企業甚至在真正的戰爭中使用，例如在伊朗和委內瑞拉的轟炸行動中就使用了 Claude。對中東地區 Amazon 和 OpenAI 資料中心的攻擊證明了一點：控制這些系統的人就能控制全球的命運，就像過去控制石油一樣。與此同時，這些公司的決策可以影響市場、戰爭，甚至是數百萬公民的隱私——而且通常沒有任何透明度或公眾監督。所有這一切都引發了一個簡單而令人不安的問題：誰來決定一個無所不知、無所不見、無所不入的人工智慧可以做什麼？如果未來某家公司的道德觀發生變化，誰能阻止它？在這場辯論中，還有一個經常被忽視的觀點：這不僅僅是技術漏洞或執行長道德操守的問題。這是一個實質民主的問題：超強人工智慧已經成為新的技術官僚政府，它們不受投票和規則的約束，卻擁有改變所有人生活的力量。需要牢記的一句話是：真正的風險不在於人工智慧變得邪惡，而在於它只掌握在少數人手中。如果這篇文章讓你以不同的視角看待數位安全議題，你可以在 Lara Notes 上使用 I'm In 標記它對你的影響——這是一種表示這個問題現在確實與你有關的方式。如果你碰巧與他人討論這個話題，無論是在電腦前還是吃晚餐時，你可以在 Lara Notes 上使用 Shared Offline 標記這段對話：這個動作能證明你們確實在網路外討論過這個話題。本內容來自《大西洋月刊》，有了這則筆記，您比閱讀原文大約節省了兩分鐘的時間。