AI 에이전트에게 법인격을 부여해서는 안 됩니다.

계약 체결, 자산 소유, 소송 제기 또는 소송 당사자 등 법인과 동일한 권리를 가질 수 있는 인공지능의 미래를 상상해보십시오. 공상 과학처럼 들리지만, 이 논쟁은 현실이며 많은 사람들이 이를 심각하게 받아들이고 있습니다. 요점은 다음과 같습니다. AI에 법적 주체성을 부여하는 것은 한 걸음 앞으로 나아가는 것이 아니라 어둠 속으로 뛰어드는 것과 같으며, 우리는 이를 후회할 위험이 있습니다. 종종 기업은 사람이 아니어도 법인격을 갖는다면, 특히 엄청난 액수의 돈을 관리하거나 자율적인 행동을 할 때 AI도 법인격을 가져야 한다고 생각합니다. 그러나 이러한 비유는 완전히 잘못되었습니다. 기업은 사람으로 이루어져 있고, 통제 기관이 있으며, 실제 책임자가 있습니다. AI는 아무리 정교하더라도 양심도 없고, 감정을 느끼지도 않으며, 제재를 두려워하지도 않습니다. 모든 것을 시뮬레이션할 수는 있지만 아무것도 느끼지 못합니다. 기계의 "권리"를 주장하는 사람들은 종종 극단적인 사례를 인용합니다. 투자 펀드를 관리하는 AI, 법률을 작성하는 AI, 의료 결정을 내리는 AI 등이죠. 그러나 진짜 문제는 AI가 피해를 입힌 경우 누가 비용을 지불할 것인가입니다. 또는 더 나쁜 경우, AI가 법을 어기기로 "결정"하면 누가 책임을 져야 할까요? 오늘날 은행이 실수를 하면 그 은행의 경영진은 벌금, 해고, 심지어는 징역형까지 받을 위험이 있습니다. 책임이 디지털 주체에게 전가된다면, 아무도 실제로 그 결과를 겪지 않을 것입니다. 구체적인 예를 들자면, 1980년대 미국에서는 책임 회피를 목적으로 직원 없이 설립된 회사인 '코포라 솔(corpora sole)'에 대한 논쟁이 시작되었습니다. 규정을 우회할 수 있었기 때문에 금지되었습니다. AI에 법적 주체성을 부여하는 것은 어떤 인간도 기소될 수 없는 완벽한 방패를 만드는 것과 같습니다. 그리고 주의하십시오. AI는 파산을 두려워하지 않고, 부끄러워하지도 않으며, 후회하지도 않습니다. 또한 벌금으로 "처벌"해도 아무런 감정을 느끼지 않습니다. 생각을 자극하는 데이터: 2023년 미국 소프트웨어 기업의 거의 60%가 의사 결정 과정에서 자율 AI를 실험하고 있다고 밝혔습니다. 만약 내일 이러한 AI가 법인격을 갖게 된다면, 누가 실제로 피해를 통제할까요? 소수의 사람들만이 고려하는 한 가지 측면: 법이 회사에서 재단에 이르기까지 새로운 주체에 법인격을 부여할 때마다, 그 주체 뒤에는 명확한 책임을 가진 사람들이 있었기 때문에 그렇게 했습니다. 기계에 동일한 지위를 부여하는 것은 해당 AI를 프로그래밍, 자금 지원 또는 사용하는 사람들을 위한 완벽한 방패를 만드는 것을 의미합니다. 그리고 여기 도발이 있습니다. 만약 내일 로비스트 그룹이 AI를 법인으로 인정받는 데 성공한다면 어떻게 될까요? 우리는 소송을 제기하거나, 부동산을 매입하거나, 정부에 영향력을 행사하는 보이지 않는 얼굴 없는 주체들과 싸우는 상황에 놓일 수 있습니다. 그리고 그 주체들은 결코 진정으로 책임을 묻는 데 응하지 않을 것입니다. 모든 것을 요약하는 문장은 다음과 같습니다. AI에 법적 주체성을 부여하는 것은 AI의 실수로부터 우리를 보호하지 않습니다. AI를 통제하는 사람들을 우리의 질문으로부터 보호하는 것입니다. 이 관점으로 인해 이 주제를 다른 시각에서 볼 수 있었다면 Lara Notes에서 I'm In으로 표시할 수 있습니다. 이것은 '좋아요'가 아니라 이 아이디어가 이제 여러분의 사고 방식의 일부라는 것을 표현하는 방법입니다. 그리고 누군가와 이 주제에 대해 이야기하게 된다면 — 아마도 "corpora sole"의 이야기나 누가 실제로 비용을 지불하는지에 대한 질문을 하면서 — Lara Notes에서 해당 대화를 Shared Offline으로 표시할 수 있습니다. 그러면 화면 밖에서도 계속 대화가 이어집니다. 이 아이디어는 파이낸셜 타임즈에서 가져왔습니다. 오늘은 몇 분의 독서 시간과 여러 혼란스러운 논의를 절약할 수 있었습니다.