我們是否正在見證人工智慧超智能的第一步？

臨界點：我們是否處於人工智慧超智慧的邊緣？ 想像一下，在一個世界中，人工智慧不僅與人類的能力相匹配，而且迅速超越人類，以我們幾乎無法理解的速度學習、推理和進化。這不僅僅是像《駭客任務》或《終結者》這樣的科幻大片的內容，這是領先的科技願景家認為可能很快就會成為現實的情境。 這個想法的種子早在 1965 年就已經播下，當時數學家 Irving John Good 預測，一旦機器變得足夠聰明，能夠自我完善，就會引發「智慧爆炸」。我們已經在 AlphaGo Zero 等系統中看到了這一點，該系統在沒有任何人類指導的情況下，與自己進行了數百萬次遊戲，並達到了人類無法達到的技能水準。現代人工智慧模型現在可以編寫、改進甚至重組自己的軟體，有時甚至可以自主工作數小時。這些系統處理和綜合的資訊量超過任何人一生中所能吸收的資訊量，處理龐大的資料集，評論大量書籍，並為複雜問題發現新的解決方案。 然而，儘管有這些進步，人類仍然掌控著方向盤。人工智慧需要我們設定目標、評估進度，並確定何時發生真正的突破。由於當今的模型缺乏靈活的一般推理能力，因此完全獨立的自我改進（真正的超智能）仍然難以實現。它們在專注領域表現出色，有時會發現演算法或解決讓大多數人感到困惑的研究生級數學問題，但它們尚無法在不同領域之間轉移見解，或以穩健、通用的方式自主升級自己的智慧。 缺少的成分通常被稱為人工通用智慧 (AGI)：這種適應性強的跨學科思維讓人類從一個領域學習並應用於另一個領域。一旦人工智慧跨越這個門檻，結合了廣博的知識、記憶和推理，從 AGI 到超智慧的躍進可能會迅速且不可預測。 關於我們距離這個臨界點有多近，各種觀點差異很大。一些專家認為我們只差幾年，而另一些專家則認為我們仍然缺乏對智慧真正意義的基本理解。產業安全測試顯示，目前的模型正在提升其自主維持複雜任務的能力，但它們仍然無法達到超智慧曙光的失控自我改進。 有一點很明確：科幻與現實之間的界線正在模糊。如果人工智慧實現了一般智慧，將人類般的判斷力與超人的速度和記憶力融合在一起，那麼通往智慧爆炸的道路（機器開始在各個方面超越我們的那一刻）可能比我們意識到的要短得多。問題似乎不再是這一飛躍是否會發生，而是我們是否會認出我們跨越它的那一刻，以及我們是否準備好迎接接下來的事情。