벵지오: '안전을 우선시한다면 프론티어 AI 기업을 떠나세요'

오늘날 세계 최고의 인공지능 연구자들 중 일부는 더 많은 돈을 벌거나 커리어를 바꾸기 위해서가 아니라, 자신이 하고 있는 일이 인류의 미래를 위태롭게 할 수 있다고 믿기 때문에 업계에서 가장 선도적인 기업을 떠나고 있습니다. 딥러닝의 아버지 중 한 명인 요수아 벤지오는 최근 다음과 같은 직접적인 호소를 했습니다. "안전을 진정으로 걱정한다면 AI 빅테크 기업을 떠나십시오." 얼마 전까지만 해도 그조차도 인공지능의 치명적인 위험은 먼 미래의 일이고, 통제 가능하며, 다른 사람들이 때맞춰 해결책을 찾을 것이라고 스스로에게 말하곤 했습니다. 그런데 ChatGPT와 점점 더 강력한 모델들이 등장하면서 그러한 거리감이 무너졌습니다. "저는 우리가 생각했던 것보다 훨씬 더 앞서 나가고 있었으며, 이러한 시스템을 실제로 통제하고 있지 않다는 것을 깨달았습니다." 그 시점에서 벵지오는 더 이상 선택의 여지가 없었다고 말합니다. 그는 AI의 위험을 줄이는 데 자신의 삶을 바쳤고, 몬트리올에 설계상 안전한 인공지능을 개발하고 주주나 이윤 논리에 휘둘리지 않는 조직인 LawZero를 설립했습니다. 하지만 그가 말하길, 이 전환은 고통 없는 것이 아니었습니다. 그는 위험이 다가오는 것을 감지한 동료들의 경고를 수년간 무시하며, 이익이 위험보다 크다고 확신했습니다. 오직 커져가는 도덕적 압박만이 그가 방향을 바꾸도록 만들었습니다. 그는 유일한 사람이 아닙니다. 전 안트로픽(Anthropic) 소속이었던 제이컵 콕슨(Jacob Coxon)은 타임(Time) 지에 기고한 글에서 선도적인 AI 기업들 사이에는 일종의 체념이 지배하고 있다고 말했습니다. "거의 숙명론적인 분위기가 존재합니다. 많은 사람들이 이제는 경쟁이 통제 불능 상태에 이르렀다는 것을 받아들이고, 모든 것이 여전히 잘못될 수 있다고 생각하면서도 가능한 한 가장 안전한 방식으로 일하는 데 그치고 있습니다." 마치 모두가 경쟁에서 이탈한 다른 누군가가 더욱 속도를 내어, 반면 멈춰서 생각하고 싶은 사람들을 뒤처지게 할 것이라는 두려움에 사로잡힌 것 같습니다. 하지만 벵지오에 따르면 이러한 두려움은 계속 나아가는 것을 정당화하지 못합니다. "효과적인 규제가 제때 마련될 거라고 생각하지 않으며, 어떤 국가나 기업도 정말로 안전하게 AI를 개발할 준비가 되어 있지 않습니다." 핵심은 다음과 같습니다. 최고의 인재들이 대기업에 머무르는 이유 – 데이터와 자원에 대한 접근, 내부에서 영향력을 행사하겠다는 희망 – 는 통제 불능인 시스템에 기여할 수 있다는 실질적인 위험에 의해 상쇄됩니다. 벵지오는 또한 원자폭탄 이후의 유엔 역사를 언급합니다. 1946년 미국은 핵무기를 국제적 통제 하에 두자고 제안했지만, 누구도 군비 경쟁에서 벗어나는 첫걸음을 내딛을 용기가 없었습니다. "우리는 선택의 기로에 서 있습니다"라고 그는 강조합니다. 그리고 이번에는 진정한 대안이 있다고 그는 말합니다. 바로 LawZero와 같이 안전을 최우선으로 여기는 기업에서 일하는 것입니다. LawZero는 최근 캐나다와 독일 정부로부터 2억 달러가 넘는 자금을 지원받았습니다. 아무도 입 밖으로 내지 않는 요점은 개인의 선택이 정말로 중요하다는 것입니다. 변화는 거대한 집단적 결정에서 오는 것이 아니라 수많은 용기 있는 개인적 선택의 합에서 비롯될 것입니다. 이것이 논의에서 빠진 관점입니다. 진정한 혁명은 새로운 기술이 아니라 더 이상 공범이 되지 않기로 결심한 사람들의 도덕적 반란입니다. 벵지오는 이렇게 명확히 말합니다. "우리의 연구가 공익에 도움이 되지 않거나, 더 나아가 치명적인 피해를 초래할 위험이 있다면 튜링상은 아무런 가치가 없습니다." 반복해야 할 문장은 다음과 같습니다. "우리 혼자서는 이 경주를 멈출 수 없지만, 우리 중 충분한 사람들이 모이면 가능합니다." 이 이야기를 듣고 AI 분야에서의 본인의 일을 다른 시각에서 바라보게 되었다면, Lara Notes에서 I'm In으로 이 순간을 기록할 수 있습니다. 이는 이제 이 아이디어가 정말로 본인과 관련이 있다고 선언하는 제스처입니다. 그리고 며칠 뒤에 누군가와 이 주제에 대해 이야기하게 된다면, Lara Notes에서 Shared Offline 기능을 사용하여 해당인을 태그할 수 있습니다. 그러면 그 사람은 그 대화가 당신에게 중요했다는 것을 알게 될 것입니다. 이 글은 Transformer에서 제공되며, 2분의 독서 시간을 절약해 드립니다.