우리는 AI 슈퍼인텔리전스를 향한 첫걸음을 보고 있는가?

전환점: 우리는 AI 슈퍼인텔리전스의 문턱에 서 있나요? 인공 지능이 인간의 능력과 일치할 뿐만 아니라 인간의 능력을 빠르게 능가하고, 우리가 거의 이해할 수 없는 속도로 학습하고, 추론하고, 진화하는 세상을 상상해 보세요. 이것은 매트릭스나 터미네이터와 같은 공상 과학 블록버스터의 소재일 뿐만 아니라 선도적인 기술 비전가들이 곧 현실이 될 수 있다고 믿는 시나리오입니다. 이 아이디어의 씨앗은 1965년, 수학자 어빙 존 굿(Irving John Good)이 기계가 스스로를 개선할 만큼 똑똑해지면 '지능 폭발'을 일으킬 것이라고 예측하면서 심어졌습니다. 우리는 이미 AlphaGo Zero와 같은 시스템에서 이러한 것을 엿볼 수 있었습니다. AlphaGo Zero는 인간의 지침 없이 수백만 개의 게임을 스스로 플레이하고 사람들이 도달할 수 없는 수준의 기술을 달성했습니다. 현대 AI 모델은 이제 자체 소프트웨어를 작성, 개선, 심지어 재구성할 수 있으며, 때로는 몇 시간 동안 자율적으로 작동할 수 있습니다. 이러한 시스템은 인간이 평생에 걸쳐 흡수할 수 있는 것보다 더 많은 정보를 처리하고 합성하며, 방대한 데이터 세트를 다루고, 방대한 양의 책을 비판하며, 복잡한 문제에 대한 새로운 해결책을 발견합니다. 그러나 이러한 발전에도 불구하고, 여전히 인간의 손길이 필요합니다. 인공지능은 우리가 목표를 설정하고, 진행 상황을 평가하고, 진정한 돌파구가 언제 발생하는지 결정하는 데 우리를 필요로 합니다. 완전히 독립적인 자기 개선, 즉 진정한 초지능으로의 도약은 오늘날의 모델에는 유연하고 일반적인 추론이 부족하기 때문에 여전히 달성하기 어렵습니다. 모델은 집중된 영역에서 탁월하며 때로는 알고리즘을 발견하거나 대부분의 사람들을 혼란스럽게 하는 대학원 수준의 수학을 해결하기도 하지만, 아직은 서로 다른 분야 간에 통찰력을 전달하거나 강력하고 일반적인 방식으로 자율적으로 자신의 지능을 업그레이드할 수 있는 수준은 아닙니다. 누락된 요소는 종종 인공 일반 지능 또는 AGI라고 불리는 것입니다. 즉, 인간이 한 영역에서 배운 것을 다른 영역에 적용할 수 있는 적응형 학제 간 사고입니다. 일단 AI가 방대한 지식, 기억, 추론을 결합하여 이 한계를 넘어서면 AGI에서 초지능으로의 도약은 빠르고 예측할 수 없을 것입니다. 우리가 이 전환점에 얼마나 가까운지에 대한 관점은 극적으로 다릅니다. 일부 전문가들은 우리가 몇 년 거리에 있다고 생각하지만, 다른 전문가들은 우리가 여전히 지능이 무엇인지에 대한 기본적인 이해가 부족하다고 주장합니다. 산업 안전성 테스트에 따르면 현재의 모델은 복잡한 작업을 자율적으로 수행할 수 있는 능력을 갖추고 있지만, 슈퍼인텔리전스의 시작을 알리는 급속한 자기 개선에는 여전히 미치지 못합니다. 한 가지 분명한 것은 공상 과학과 현실 사이의 경계가 흐려지고 있다는 것입니다. 인공지능이 인간과 같은 판단력을 초인적인 속도와 기억력과 결합하여 일반 지능을 달성한다면, 지능 폭발로 가는 길, 즉 기계가 모든 면에서 우리를 능가하기 시작하는 순간은 우리가 생각하는 것보다 훨씬 짧을 수 있습니다. 더 이상 이 도약이 일어날 것인지 아닌지가 아니라, 우리가 그것을 넘었을 때 그 순간을 인식할 것인지, 그리고 다음에 올 준비가 되어 있을 것인지 여부가 문제인 것 같습니다.