AI 파워 역설

2018년, OpenAI의 가장 진보된 언어 모델은 1억 1,700만 개의 매개변수를 가지고 있었습니다. 6년이 채 지나지 않은 오늘, 가장 강력한 모델은 1조 개를 넘어섰습니다. 이해하기 쉽도록 설명하자면, 필요한 계산 성능은 10년 동안 매년 10배씩 증가했습니다. 우리는 역사상 그 어떤 것보다 빠르게 성장하는 기술에 직면해 있습니다. 놀라운 것은 바로 이 성장 속도 자체가 세계의 지배 구조를 바꾸고 있다는 것입니다. 항상 국가만이 결정적인 기술을 규제하고 관리할 수 있는 권한을 가지고 있다고 생각합니다. 그러나 인공 지능의 경우, 그 반대입니다. 정부가 아닌 기업이 진정한 통제권을 가지고 있습니다. 그리고 이것이 AI의 진정한 지정학적 혁명입니다. 몇 년 전까지만 해도 기술 기업은 단순한 서비스 제공업체, 즉 정부의 손에 있는 도구로 간주되었습니다. 하지만 오늘날 OpenAI, Google, Meta 및 그 외 소수의 기업들은 자신들의 모델이 무엇을 할 수 있는지, 누가 어떻게, 어떤 목적으로 모델을 사용할 수 있는지 결정합니다. 그들은 이전에는 국가만이 가졌던 권력을 가지고 있습니다. 이 글의 저자 중 한 명이자 DeepMind의 공동 설립자인 무스타파 술레이만은 AI 개발자들이 투표나 사회 계약이 아닌 기술적 능력에서 파생된 주권을 가진 "새로운 지정학적 행위자"라고 말한 최초의 사람 중 한 명이었습니다. 그리고 미국 상원의원 테드 크루즈가 의회가 AI에 대해 "무엇을 하고 있는지 전혀 모른다고" 말할 때, 그는 엄청난 권력 공백을 인정하는 것입니다. 역설적이게도 AI가 강력해지고 접근하기 쉬워질수록 제어하기가 더 어려워집니다. AI는 원자력과 다릅니다. 비밀 연구소나 수년간의 연구가 필요하지 않습니다. 코드 유출만 있으면 누구나 웹에서 고급 모델을 다운로드할 수 있습니다. Meta는 출시 며칠 만에 Llama-1 모델이 온라인에 올라가는 것을 보았으며, 오늘날 거의 동일한 성능의 버전이 시간당 몇 유로에 대여할 수 있는 컴퓨터에서 실행되고 있습니다. 곧 정교한 모델이 스마트폰에서 직접 실행될 것입니다. 이는 국가, 기업 또는 규제의 사소한 결함이 대규모의 잘못된 정보, 진화하는 디지털 무기, 통제 불능의 AGI와 같은 실존적 규모의 위협에 이르기까지 글로벌 위험에 대한 열린 문이 된다는 것을 의미합니다. 그러나 진짜 문제는 누가 이 경쟁을 진정으로 통제할 수 있는가 하는 것입니다. 전통적인 답인 국가만으로는 오늘날에는 더 이상 충분하지 않습니다. 서구에서는 민간 기업이 어떠한 정부도 진정으로 제한할 수 없는 행동의 자유를 누리고 있습니다. 국가와 기업이 얽혀 있는 중국에서는 통제력이 더 강하지만, 기술이 너무 빠르게 진행되어 그곳에서도 실제로 통제할 수 없습니다. 한편, 미국과 중국은 AI를 제로섬 게임으로 취급하고 있습니다. 이 경쟁에서 이기는 쪽이 이 세기를 지배할 수 있다고 생각하는 거죠. 그러나 그들이 경쟁하는 동안 기술은 모든 곳에 퍼지고, 대부분의 국가들은 가장 진보된 모델과 칩을 통제하는 자들에게 의존할 수밖에 없을 것입니다. 그리고 여기에서 역전이 일어납니다. 해결책은 더 이상 국가 간에 규칙을 만드는 것이 아니라, 좋든 싫든 기술 기업도 글로벌 의사 결정 테이블에 앉을 수 있는 시스템을 구축하는 것입니다. 처음으로 중요한 기술의 거버넌스는 정부, 전문가, 시민 사회와 함께 기술을 개발하는 사람, 소유하는 사람, 사용하는 사람이 함께 설계해야 합니다. 핵 문제와 같은 국가 간 협상 모델로는 더 이상 충분하지 않습니다. AI는 복제가 너무 쉽고, 확산이 너무 빠르며, 너무 분산되어 있기 때문입니다. 민첩하고 예방적이며 결함이 없는 규칙으로 구성되고 AI가 진화함에 따라 적응할 수 있는 "기술적으로 신중한" 거버넌스가 필요합니다. 세 가지 강력한 아이디어: AI의 위험을 정의하고 모니터링하기 위한 UN 기후 패널과 유사한 글로벌 과학 태스크포스, 무기와 마찬가지로 위험한 모델이 국가, 기업 및 개인 간에 통제 없이 확산되는 것을 방지하기 위한 비확산 체제, 위기 시 개입하고 보편적인 규칙을 부과할 수 있는 세계 금융 기관과 유사한 기술 안정성 기구. 그러나 오늘날 좋든 나쁘든 게임의 진정한 중재자인 기업들의 직접적이고 책임감 있는 참여 없이는 이 모든 것이 작동하지 않을 것입니다. 반대 의견은 무엇일까요? 우리는 진정한 위험은 권력을 장악하는 대형 기술 기업이라고 생각하는 데 익숙합니다. 그러나 더 큰 위험이 있습니다. 아무도 실제로 권력을 잡지 못하고, 제동이 없고, 규칙이 없으며, 무언가 잘못되었을 때 대응할 수 있는 사람이 없는 기술이 우리에게 돌아오는 것입니다. 단 하나의 "통제되지 않는" 모델만으로도 전 세계적인 피해를 일으킬 수 있는 세상에서 위험은 너무 강력한 기업뿐만 아니라 너무 약하거나 방치된 기업에도 있습니다. 기억해야 할 문구를 원하신다면: AI는 우리가 할 수 있는 것을 바꾸는 것뿐만 아니라 누가 실제로 지배하는지도 바꾸고 있습니다. 이 아이디어가 AI를 새로운 시각으로 보게 만들었다면 Lara Notes에서 I'm In을 누르세요. 이 관점이 이제 당신의 사고 방식의 일부라고 말하는 행동입니다. 그리고 며칠 후 AI의 미래를 실제로 결정하는 사람이 누구인지에 대해 누군가와 이야기하는 동안 Lara Notes에서 해당 사람을 Shared Offline으로 태그할 수 있습니다. 이렇게 하면 중요한 대화의 흔적이 남게 됩니다. 이 노트는 Foreign Affairs에서 제공되며 21분의 시간을 절약해줍니다.