人工智慧安全專家：這些是 2030 年唯一會留下來的 5 份工作！- Roman Yampolskiy 博士

最後五個工作：面對超智慧的未來。 想像一下，在未來十年內，你所知道的幾乎所有工作（司機、教授、水管工、藝術家）都會被淘汰，這並不是在遙遠的科幻時代，而是在未來十年內。這是人工智慧安全辯論的核心所產生的挑釁性願景，因為人工智慧（AGI）的加速競賽可能會顛覆我們工作生活的結構。 多年來，人們一直認為，只要採取正確的預防措施，先進的人工智慧就可以變得安全，並對人類有益。但隨著 AI 能力的爆炸性發展，安全研究卻遠遠落後，差距也越來越大。科技的進步是呈指數級的，幾乎是超指數級的，而我們控制甚至理解這些系統的能力卻只能緩慢地增長，如果有的話。我們只能修補意外行為，而 AI 會學習、適應，並在各個領域中越來越超越人類。 我們已經目睹了這種轉變：AI 模型現在在數學競賽中表現出色，能夠生成科學證明，並使創意任務自動化。不久，人工智慧不僅能在幾乎所有認知追求中與人類匹敵，甚至超越人類。在短短幾年內，機器人技術的進步意味著，即使是曾經被認為不會受到自動化影響的體力勞動，也將由機器以更好、更快、更便宜的方式完成。 那麼，這對我們來說意味著什麼？到 2030 年，預測是嚴峻的：只剩下少數工作，也許不超過五個。這些工作是由於傳統、個人偏好或單純渴望人性化的原因，人們仍會付錢給人類來完成。也許是治療師、私人教練或訂製工匠。但這些將是小眾的、幾乎是偶像化的例外，而不是規則。絕大多數的工作，即所有可以在電腦上或由機器人完成的工作，都可以自動化。 在這種情況下，通常的安慰——「重新培訓以獲得新工作」——會消失。如果所有工作都可以自動化，就沒有 B 計劃。挑戰不僅是經濟上的，也是存在的：當我們所知的工作消失時，我們如何找到意義？我們如何建構失業率高達 99% 的社會？即使是全民基本收入，似乎也只是這種劇變的一個小答案。 所有這些都在巨大風險的陰影下展開。超智能的進程並不保證會有好結果。正在開發的系統不僅僅是工具；它們是代理人，不可預測且可能無法控制。即使是創造者也無法完全理解它們的內部運作方式。災難性濫用甚至滅絕級事件的可能性是真實存在的，尤其是因為人工智慧能夠創造出新的生物威脅或其他超出我們目前想像的危險。 有些人希望能透過技術或立法來解決問題，但關於如何使超智慧 AI 變得安全，甚至是否可行，目前尚未達成共識。同時，在巨大的金融和地緣政治動機的驅使下，全球對人工智慧發展的主導地位競爭無情。呼籲謹慎、抗議或監管，以對抗創新的動力和難以想像的力量的誘惑。 還有一個深刻的哲學轉折：隨著人工智慧能夠模擬整個世界和人類代理人，模擬假設（我們可能已經生活在人工現實中）獲得了新的合理性。如果我們很快就能執行數十億次逼真的模擬，那麼我們現在就有可能處於其中一個模擬世界。 儘管如此，儘管存在緊迫性和生存危機，日常生活仍在繼續。我們堅持日常生活，過濾噪音，並繼續前進。也許這是一種生存特質，也許是否認，但這也是一種行動呼籲：要求建立這些系統的人給出答案，重新思考有意義的生活代表什麼，也許最重要的是，認識到人類創造的最終發明可能是重塑或終結我們所有人的發明。