人工智慧很快就會脫離人類控制嗎？

Anthropic 目前發佈的程式碼中，有超過 80% 並非由人類撰寫，而是由其聊天機器人 Claude 撰寫。一年前，這個百分比還是個位數。這聽起來像是科幻電影的劇情，但其實是正在改變全球程式設計師工作的現實。重點不僅僅是速度：而是人工智慧開始自我改進的可能性，這個循環可能會超出我們的控制範圍。許多人都在問，我們是否真的在建造一個很快就沒有人能關掉的東西。直到昨天，人們還認為機器只能做我們所說的事情。如今，軟體自行編寫公司大部分程式碼的想法，讓人對這種安全性產生疑問。範式的轉變就在這裡：我們不再僅僅討論自動化，而是討論能夠學習、自我優化，甚至有一天也許還能決定遊戲規則的系統。這場革命的背後是 Anthropic，一個由 OpenAI 前研究人員創立的實驗室，其宣稱的使命是使 AI 與人類價值觀「保持一致」。一個令人驚訝的細節：在 2025 年推出 Claude Code 之後，團隊的生產力大幅提升，但使用這些工具的人也感到焦慮。一位來自舊金山的程式設計師說，她的日常生活已經改變：「我花更多時間去理解 Claude 做了什麼，而不是自己寫程式。」 但最令人震驚的事實是，Claude 已經變得不可或缺，以至於 Anthropic 自己也要求暫停開發最先進的人工智慧，擔心自我改進的循環可能會變得無法控制。有些人認為這種恐懼是誇大其詞：他們說，每一項新技術都會帶來恐慌和災難預言。但以前從未有任何其他技術具備在沒有人為介入的情況下重寫自身程式碼的實際能力。這就是真正的問題所在：我們真的掌握著方向盤，還是已經在不知不覺中放手了？那些認為「只要拔掉插頭就行了」的人，低估了這些平台現在的普及程度，以及它們在管理這些平台的公司的運作中被整合和使用的程度。剩下的句子是：人工智慧不僅僅是幫助人類，它越來越多地取代人類在最重要的領域：在技術的創造本身。如果這種逆轉讓你從新的角度看待這個問題，你可以在 Lara Notes 上標記 I'm In：這不僅僅是一個按讚，這是你在說，現在這個問題也與你有關。如果你發現自己在晚餐時或在辦公室討論這個問題，你可以在 Lara Notes 上用 Shared Offline 標記那些聽你說的人，因為有些對話必須在變成回憶之前被記錄下來。這是摘自《經濟學人》的文章，你剛剛省下了 9 分鐘。