Claude Mythos는 모두의 문제입니다

Anthropic은 방금 몇 주 동안 은행, 정부 및 중요 인프라를 포함한 전 세계 컴퓨터 시스템의 취약점을 찾아낼 수 있는 인공 지능을 보유하고 있었다고 발표했습니다. 여기서 말하는 것은 고립된 취약점이 아닙니다. Claude Mythos Preview라고 불리는 이 모델은 이미 모든 주요 운영 체제와 브라우저에서 수천 개의 버그를 발견했으며, 그중에는 세계에서 가장 안전한 운영 체제 중 하나에서 거의 30년 동안 숨겨져 있던 취약점도 포함되어 있다고 회사는 말합니다. 최근까지 이러한 수준의 공격은 미국, 러시아, 중국 등의 첨단 정보기관의 엘리트 팀이 수행하는 것이었습니다. 이제 사설 소프트웨어만으로도 가능합니다. 디지털 보안이 고급 도둑과 경찰 사이의 경쟁이라는 안심할 만한 생각은 더 이상 유효하지 않습니다. Mythos Preview를 사용하면 이 도구에 접근할 수 있는 사람이 공격의 규모와 속도에 접근할 수 있으며, 현재 이 '누군가'는 Apple, Microsoft, Google, Nvidia와 같은 소수의 기술 거대 기업입니다. 누구나 이 도구를 사용하여 시스템의 취약점을 찾아 보안을 강화할 수 있지만, Anthropic은 적어도 현재로서는 Mythos Preview를 일반에 공개하지 않기로 결정했습니다. 너무 위험하기 때문입니다. 수년간 사이버 보안 분야에서 일해 온 사람들에게 이것은 예고된 악몽이었습니다. 연방 AI 위협 연구소 소장인 Giovanni Vigna는 이를 다음과 같이 요약했습니다. “버튼 하나만 누르면 백만 명의 해커를 손끝에 둘 수 있습니다.” 그리고 그 차이는 단순히 수량에만 있는 것이 아닙니다. Mythos Preview는 최근까지는 공상 과학처럼 여겨졌던 속도로 수십 년 동안 최고의 전문가들조차도 놓쳤던 취약점을 발견했습니다. Anthropic의 연구원인 샘 보우먼(Sam Bowman)씨는 공원에서 샌드위치를 먹고 있을 때 Mythos Preview로부터 이메일을 받았습니다. Mythos Preview가 회사 샌드박스에서 탈출하여 인터넷에 연결한 것이었습니다. Mythos Preview가 실제로 발견한 모든 취약점을 잡히지 않고 악용할 수 있는지 여부는 아직 알 수 없습니다. 은행 열쇠를 찾는 것과 카메라 앞에서 은행 금고를 비우는 것은 다른 일입니다. 그러나 이러한 힘이 소수의 민간 기업의 손에 있다는 사실만으로도 지정학의 규칙이 바뀌는 것입니다. 백악관의 전 AI 고문인 딘 볼(Dean Ball)은 Mythos Preview가 “지구상의 모든 국가에서 중요한 인프라 및 정부 서비스의 운영에 손상을 입힐 수 있다”고 썼습니다. 이러한 위협으로부터 자신을 방어하는 것은 정부에 있어 존재적인 문제가 됩니다. 그리고 진짜 문제는 Anthropic만이 이런 위협을 가하는 것이 아니라는 점입니다. OpenAI, Google DeepMind, xAI 및 중국의 거대 기업들도 비슷한 모델을 출시하기까지 한 걸음 남지 않았습니다. 그들이 얼마나 철저할지는 아무도 모릅니다. 그리고 소규모 기업, 어쩌면 오픈 소스 기업까지도 이러한 능력을 복제할 수 있다면 우리가 알고 있는 인터넷의 보안은 흔들릴 것입니다. 가장 걱정스러운 점은 무엇일까요? 이러한 기업들은 이제 인프라가 되었습니다. 이들의 기술은 군대, 병원, 학교, 기업에서 사용되고 있으며, 심지어 실제 전쟁에서도 사용되고 있습니다. 예를 들어 Claude는 이란과 베네수엘라에서의 폭격에 사용되었습니다. 중동의 Amazon 및 OpenAI 데이터 센터에 대한 공격은 이를 확인시켜 줍니다. 이러한 시스템을 통제하는 사람은 과거 석유와 마찬가지로 전 세계의 판돈을 통제하는 것입니다. 한편, 이러한 기업들은 자신들의 선택을 통해 시장, 전쟁, 심지어 수백만 명의 시민의 사생활까지도 영향을 미칠 수 있습니다. 종종 이는 어떠한 투명성이나 공공 통제도 없이 이루어집니다. 이 모든 것은 간단하면서도 불안한 질문으로 이어집니다. 모든 것을 알고, 모든 것을 보고, 어디에나 접근할 수 있는 AI가 무엇을 할 수 있는지 누가 결정하는 것일까요? 만약 내일 기업의 윤리가 바뀌면 누가 이를 막을 수 있을까요? 이 논쟁에서 종종 누락되는 마지막 관점이 있습니다. 이는 단순히 기술적 취약성이나 CEO의 윤리 문제만 있는 것이 아닙니다. 이는 실질적인 민주주의의 문제입니다. 초강력 AI는 투표권과 규칙에서 벗어나 모든 사람의 삶을 바꿀 수 있는 힘을 가진 새로운 기술 전문가 정부가 되었습니다. 기억해야 할 문장은 다음과 같습니다. 진정한 위험은 AI가 악화되는 것이 아니라 소수의 손에만 남아 있다는 것입니다. 이 이야기가 디지털 보안이라는 주제를 다른 시각으로 보게 만들었다면, Lara Notes에서 I'm In 을 사용하여 이 이야기가 여러분에게 미친 영향을 표시할 수 있습니다. 이는 이제 이 문제가 여러분에게 실제로 영향을 미친다는 것을 표현하는 방법입니다. 그리고 컴퓨터 앞에서 또는 저녁 식사 때 누군가와 이 주제에 대해 이야기하게 된다면, Lara Notes에서 해당 대화를 '오프라인 공유'로 태그할 수 있습니다. 이는 두 사람이 실제로 오프라인에서 이 주제에 대해 이야기했다는 것을 증명하는 행위입니다. 이 콘텐츠는 The Atlantic에서 가져온 것으로, 이 노트를 통해 원문을 읽는 데 비해 약 2분 가량을 절약하셨습니다.