AI 안전 전문가: 2030년에 남을 유일한 5가지 직업! - Roman Yampolskiy 박사

마지막 다섯 가지 직업: 초지능적인 미래에 직면하다. 당신이 알고 있는 거의 모든 직업(운전사, 교수, 배관공, 예술가)이 먼 공상 과학 시대가 아닌, 아마도 다음 10년 이내에 구식이 되는 세상을 상상해 보십시오. 인공 일반 지능(AGI)을 향한 경쟁이 가속화되면서 일상적인 삶의 구조를 뒤엎을 위협을 받고 있는 가운데, 인공지능 안전 논쟁의 핵심에서 도발적인 비전이 등장하고 있습니다. 수년간, 올바른 예방 조치로 첨단 AI가 인류에게 안전하고 유익하게 만들어질 수 있다는 믿음이 지속되었습니다. 그러나 AI 기능이 폭발적으로 증가함에 따라 안전 연구는 크게 뒤처지고 있으며 그 격차는 점점 더 벌어지고 있습니다. 기술의 발전은 기하급수적으로, 거의 초급수적으로 증가하는 반면, 이러한 시스템을 제어하거나 이해하는 우리의 능력은 느리게 증가하거나 전혀 증가하지 않습니다. AI가 학습하고 적응하며 점점 더 많은 영역에서 인간을 능가하는 동안 우리는 예기치 않은 행동을 수정하는 것 외에는 할 수 있는 일이 없습니다. 우리는 이미 변화를 목격하고 있습니다. AI 모델은 이제 수학 대회에서 탁월한 성과를 내고, 과학적 증거를 생성하며, 창의적인 작업을 자동화합니다. 곧 AI는 거의 모든 인지적 추구에서 인간을 능가할 것입니다. 그리고 불과 몇 년 안에, 로봇 공학의 발전으로 인해 한때 자동화로부터 안전하다고 여겨졌던 육체 노동조차도 기계에 의해 더 빠르고 더 저렴하게 수행될 것입니다. 그렇다면 우리에게 남은 것은 무엇일까요? 2030년까지의 예측은 매우 암울합니다. 5개도 채 안 되는 소수의 직업만이 남을 것입니다. 전통, 개인적 선호도, 또는 단순히 인간적인 감성을 느끼고자 하는 욕망 때문에 사람들은 여전히 인간에게 돈을 지불할 것입니다. 테라피스트, 개인 트레이너, 맞춤형 장인 등이 여기에 해당합니다. 그러나 이는 규칙이 아닌, 거의 페티시화된 예외적인 직업일 것입니다. 대부분의 직업은 컴퓨터나 로봇으로 대체될 수 있습니다. 이 시나리오에서는 '새로운 직업을 위해 재교육'이라는 일반적인 편안함이 사라집니다. 모든 직업이 자동화될 수 있다면, 플랜 B는 없습니다. 문제는 경제적일 뿐만 아니라 실존적입니다. 우리가 아는 대로 일할 때 의미를 어떻게 찾을 수 있습니까? 실업률이 99%인 사회를 어떻게 구성할까요? 보편적 기본소득도 이러한 엄청난 변화에 대한 작은 답변처럼 보입니다. 그리고 이 모든 것이 엄청난 위험의 그림자 아래 펼쳐집니다. 초지능을 향한 행진이 좋은 결과로 끝날 것이라고 보장할 수는 없습니다. 개발 중인 시스템은 단순한 도구가 아닙니다. 예측할 수 없고 잠재적으로 통제할 수 없는 주체입니다. 심지어 그들의 창조자들도 그들이 내부적으로 어떻게 작동하는지 완전히 이해하지 못합니다. 특히 AI가 새로운 생물학적 위협이나 현재 우리의 상상력을 뛰어넘는 다른 위험을 창조할 수 있기 때문에, 재앙적인 오용이나 심지어 멸종 수준의 사건의 가능성은 현실입니다. 일부는 기술적 또는 입법적 해결책을 희망하지만, 초지능형 AI를 안전하게 만드는 방법이나 그것이 가능한지에 대한 합의는 없습니다. 한편, AI 개발에서 우위를 점하기 위한 세계적인 경쟁은 막대한 재정적, 지정학적 인센티브에 의해 끊임없이 추진되고 있습니다. 혁신의 추진력과 상상할 수 없는 힘의 유혹에 맞서 견인력을 얻기 위해 주의를 기울이고, 항의하고, 규제를 요구합니다. 또한 깊은 철학적 반전이 있습니다. AI가 전체 세계와 인간 요인을 시뮬레이션할 수 있게 되면, 우리가 이미 인공 현실 속에서 살고 있을지도 모른다는 시뮬레이션 가설이 새로운 타당성을 얻습니다. 만약 우리가 곧 수십억 개의 실물 시뮬레이션을 실행할 수 있다면, 그 확률은 지금 우리가 그 시뮬레이션에 있는 쪽으로 기울게 됩니다. 그러나 긴급성과 실존적 위험에도 불구하고 일상 생활은 계속됩니다. 우리는 일상에 집착하고, 소음을 걸러내고, 계속 앞으로 나아갑니다. 아마도 그것은 생존 특성일 수도 있고, 거부일 수도 있지만, 또한 행동의 촉구입니다. 이러한 시스템을 구축하는 사람들에게 답변을 요구하고, 의미 있는 삶을 사는 것이 무엇을 의미하는지 다시 생각하고, 무엇보다도 인류가 창조하는 마지막 발명이 우리 모두를 재창조하거나 끝낼 수 있다는 것을 인식하는 것입니다.