AI 시대에 인간의 자율성을 보호하는 방법

자신이 생각하는 것을 정말로 선택하는지 궁금해한 적이 있습니까? 1980년대에 룬드에서 몇몇 연구자들은 기발한 실험을 했습니다. 사람들에게 두 장의 사진을 보여주고 어느 쪽이 더 매력적이라고 생각하는지 물었습니다. 그런 다음 속임수를 써서 참가자가 선택하지 않은 사진을 돌려주었는데, 대부분은 이를 알아차리지도 못했습니다. 오히려 자신이 왜 그 사진을 더 좋아했는지 자신 있게 설명했습니다. 우리가 자신의 선택을 절대적으로 통제한다는 생각에 큰 충격을 받았습니다. 진실은 무엇일까요? 인간의 자율성은 우리가 상상하는 것처럼 만질 수 없는 요새가 아닙니다. 우리는 자율성이란 "외부 영향 없이" 사는 것을 의미한다고 믿으며 성장했습니다. 마치 우리의 의지가 세상의 다른 모든 것에서 고립된 깨끗한 우물인 것처럼 말입니다. 그러나 카스토리아디스가 말했듯이, 이것은 철학적 환상입니다. 자율성은 우리를 분리하는 벽이 아니라 지속적으로 구축되고 우리가 살고 있는 환경에 따라 달라지는 과정입니다. 자율성에 대해 우리가 스스로에게 하는 이야기는 구체적인 영향을 미칩니다. 그것은 법률, 정치, 우리가 다른 사람과 우리 자신을 판단하는 방식을 이끌어갑니다. 그러나 오늘날 AI가 어디에나 있는 상황에서 이 관점은 업데이트되어야 합니다. 우리는 단순히 제안하는 것에 그치지 않는 시스템에 둘러싸여 있습니다. 이러한 시스템은 우리가 결정을 내리는 환경을 직접 구성하며, 종종 우리가 알아차리기 전에 그렇게 합니다. 소셜 미디어 알고리즘을 생각해보세요. 한 문장으로 당신을 설득하는 것이 아니라, 당신이 보는 것, 중요해 보이는 것, 심지어 당신이 스스로 선택한다고 생각하는 것까지도 실시간으로 다시 씁니다. 이것은 단순히 조작의 한 단계가 아니라, 우리 자율성의 관리에 있어 한 단계 도약하는 것입니다. 프란시스코 바렐라(Francisco Varela)의 자생 이론을 살펴보십시오. 모든 유기체는 끊임없이 스스로를 재생함으로써 살아가고, 환경과 완전히 분리되지 않으면서도 환경과 구별됩니다. 이것은 세포에 적용되며, 우리에게도 적용됩니다. 그리고 오늘날에는 우리의 마음이 기술과 얽혀 있는 방식에도 적용됩니다. 더 이상 순수한 '나'는 존재하지 않으며, 뇌, 몸, 환경, 그리고 이제 AI 사이의 협상 과정만 존재합니다. 어떤 사람들은 이러한 "생물학적" 또는 "생태학적" 자율성 관점이 우리에게 진정한 선택의 능력을 빼앗아갈까 봐 두려워합니다. 그러나 가장 큰 위험은 다른 데 있습니다. 우리가 절대적인 주권자라고 계속 믿는 동안, 실제로 우리가 생각하고, 원하고, 결정하는 구조 자체가 설계되고 있는 것입니다. 종종 우리는 이를 깨닫지 못합니다. 룬드(Lund)의 실험에서 사진처럼 당신의 자율성이 이미 "전환"되었다면 어떨까요? 더 이상 내면의 자유에 대한 선언은 필요하지 않습니다. 자유를 가능하게 하는 환경을 다시 생각해야 합니다. 여기서 급진적인 제안이 나옵니다. 사생활이나 뇌뿐만 아니라 주의력, 판단력, 비판적 능력이 성숙하는 인지적 맥락도 보호해야 합니다. 칠레는 2021년에 신경 데이터를 신체 기관으로 취급하여 정신적 완전성에 대한 보호를 헌법에까지 포함시켰습니다. 이것은 새로운 권리의 탄생입니다. habeas cogitationem, 즉 사고가 조작되지 않을 권리입니다. 진정한 자율성은 영향력의 부재가 아니라, 그 영향력 속에서 방향을 찾을 수 있는 능력, 우리의 주의와 선택을 방향을 바꾸도록 설계된 환경에서도 행위자로 남을 수 있는 능력입니다. 그러나 주의하십시오. 이것은 보호주의로 돌아가는 것도, 무엇이 옳은 생각인지 위에서 결정하는 것도 아닙니다. 오히려 불확실성, 학습, 토론을 위한 공간을 남겨두고, 피드의 자동 속도에 영향을 숨기는 대신 투명하게 만드는 디지털 환경을 구축하는 것을 의미합니다. 그리고 이것은 시민, 기업, 입법자, 사용자 간에 분담해야 할 공동의 책임입니다. 진정한 질문은 더 이상 "내면에서 얼마나 자유로운가?"가 아니라 "생각하는 환경이 여전히 얼마나 자유롭게 할 수 있게 하는가?"입니다. 우리는 자율성을 주도하는 것과 이미 통제력을 잃은 후에 자율성을 이야기하는 것의 차이가 더 이상 철학적인 것이 아니라 실용적인 시대에 살고 있습니다. 남아있는 문구: 자율성은 보호해야 할 재산이 아니라, 그것을 가능하게 하는 세상에서 재고되고 보호되어야 하는 취약한 과정입니다. 진정한 자율성은 의지가 아닌 환경의 문제라는 생각이 마음에 들었다면, Lara Notes에서 I'm In으로 이를 선언할 수 있습니다. 그것이 발견인지, 신념인지, 아니면 직접 경험한 것인지 선택하세요. 그리고 내일 누군가에게 Lund의 실험에 대해 이야기하게 된다면, Lara Notes에서 Shared Offline으로 그 순간을 기록할 수 있습니다. 이렇게 하면 들은 내용뿐만 아니라 그로부터 시작된 대화도 기억에 남게 됩니다. 자율성의 환상에 대한 이 여행은 NOEMA에서 제공하며, 23분의 시간을 절약할 수 있었습니다.