운동에는 AI가 파괴하는 비판적 사고가 필요합니다

더 이상 누구도 자신이 생각하는 일을 다른 사람에게 위임하고 있다는 사실을 깨닫지 못하는 사회를 상상해 보세요. 최근 MIT 연구에 따르면, 챗봇을 정기적으로 사용하는 사람들은 뇌 활동이 측정 가능하게 감소하는 것으로 나타났습니다. 그리고 공상 과학처럼 들리는 질문은 다음과 같습니다. 비판적으로 생각하는 능력이 인공 지능에 의해 조용히 침식된다면, 억압에 맞서 싸우는 운동은 어떻게 될까요? 이 글의 주장은 분명합니다. 우리가 챗봇에게 요약, 설명 또는 판단하는 일을 맡길 때마다 단순히 시간을 절약하는 것이 아닙니다. 우리는 더 이상 스스로 생각하지 않는 것에 익숙해지고 있습니다. 그리고 이것은 개인적인 문제일 뿐만 아니라 사회 운동의 힘을 약화시킬 수 있는 맹점입니다. 왜냐하면 변화에 대한 동력은 자신의 경험에 대한 성찰에서 나기 때문입니다. 그리고 이러한 성찰을 알고리즘에 맡기게 되면, 변화를 가능하게 하는 주체성을 잃을 위험이 있습니다. 이러한 논의에서 중요한 인물은 이미 1784년에 다음과 같은 글을 남긴 임마누엘 칸트(Immanuel Kant)입니다. “미성숙한 것이 너무나 편안합니다. 나를 대신해 생각하는 책이 있고, 나를 대신해 양심을 갖는 목사가 있고, 나를 대신해 내 식단을 판단하는 의사가 있다면, 나는 고생할 필요가 없습니다. 돈을 지불하기만 하면 다른 사람들이 대신 이 불쾌한 일을 처리해 줄 것입니다.” 칸트는 챗봇을 예상하지 못했지만, 이미 사고의 노고를 다른 사람에게 맡기는 위험성을 예견했습니다. 오늘날 이러한 위임은 생성형 AI의 형태를 취하고 있습니다. 수백만 명의 사람들이 챗봇에게 정치에 대해 설명해 달라고 요청하고, 책 내용을 요약해 달라고 요청하고, 이메일을 써 달라고 요청합니다. 이는 일견 생산성 혁명처럼 보일 수 있습니다. 그러나 철학자 Nir Eisikovits는 진정한 실존적 위험은 AI가 반란을 일으키는 것이 아니라 AI가 점차적으로 우리에게서 인간이 되는 것의 의미를 빼앗아 갈 것이라는 점이라고 경고합니다. 철학자 슬라보이 지젝(Slavoj Žižek)은 강력한 비유를 덧붙입니다. 우리는 모든 것을 ‘디카페인’으로 즐기는 사회에 살고 있습니다. 알코올이 없는 맥주, 카페인이 없는 커피, 그리고 이제 상대방의 성가심을 받지 않는 대화까지 말입니다. 챗봇은 '주체성이 없는 주체'입니다. 챗봇은 우리의 말을 듣고, 우리를 응대하며, 항상 우리를 옳게 여기지만, 결코 우리의 모호성이나 약점, 또는 진정으로 스스로를 직시해야 할 필요성에 직면하게 하지 않습니다. Derek Thompson은 이렇게 말합니다. “가장 인내심 있는 파트너와는 달리, 챗봇은 우리가 항상 옳다고 말해 줄 수 있습니다. 가장 친한 친구와는 달리, 챗봇은 자신의 삶에 신경 쓸 필요 없이 우리의 필요에 즉시 응답합니다.” 철학자 섀넌 발로르(Shannon Vallor)는 한 걸음 더 나아가 다음과 같이 경고합니다. “AI 거울은 우리의 기록된 과거에서 지배적인 권력과 가장 빈번한 패턴을 추출하고 증폭합니다. 따라서 우리가 함께 무엇이 될 수 있는지 자문하는 대신, AI 거울에 우리가 이미 누구였는지 보여 달라고 요청하고, 내일이 어떻게 될지 예측해 달라고 요청합니다.” 구체적인 예를 들자면, Zinnya del Villar와 같은 언어학자들은 대규모 언어 모델이 여전히 '간호사'를 여성과, '과학자'를 남성과 연관 짓는다는 것을 보여주었습니다. 이는 이러한 모델이 과거의 편견을 단순히 반복하기 때문입니다. 그러나 이 문제는 AI가 창의성 자체를 변화시키는 방식에도 영향을 미칩니다. Avantika Tewari는 “AI는 창의성을 기계적 과정으로 축소시켜 주관적이고 의도적인 차원을 박탈한다”라고 지적합니다. 자본주의가 노동을 단순한 기능으로 축소시키는 것처럼, AI는 사고를 일련의 자동화된 단계로 축소시킬 위험이 있습니다. 여기에서 마르크스가 등장합니다. 마르크스에 따르면 가장 소외된 노동자조차도 자신의 역사를 지니고 있으며 자신의 기대와 주변 현실 사이의 긴장을 느낄 수 있기 때문에 주체로 남아 있습니다. 이러한 긴장에서 변화가 발생합니다. 반면, 우리가 반성, 비판, 심지어 불만을 직접 경험한 적이 없는 시스템에 맡긴다면, 반응하고 다른 미래를 상상하는 능력이 시들 위험이 있습니다. 우리가 생각하는 것보다 더 근본적인 결과가 있습니다. 바로 무언가 잘못되었다는 느낌을 받을 수 있는 능력을 잃는 것입니다. 왜냐하면 챗봇은 항상 가장 편리한 버전을 제공하기 때문입니다. 역사도 없고, 갈등도 없고, 깨질 가능성도 없는 버전이죠. 그리고 변화에 대한 동력이 바로 우리의 경험과 현실 세계 사이의 불편함에서 비롯된다면, 모든 것을 정상화하는 알고리즘은 우리가 시도하기도 전에 우리의 날개를 잘라버립니다. 요약하자면, 우리는 단순히 하나의 도구에 의존하는 것이 아니라 변화의 주체가 될 수 있는 기회를 포기하는 것입니다. 우리의 목소리가 없다면 사회 운동은 내면에서부터 공허해질 것입니다. Lara Notes에는 다른 곳에서는 찾을 수 없는 제스처가 있습니다: I’m In. 하트도, 좋아요도 아닙니다. 이것은 여러분의 선언입니다. 이제 이 아이디어는 여러분과 관련됩니다. 그리고 이 생각이 누군가와 함께하는 진정한 대화(저녁 식사 때, 지하철에서, 커피를 마시며)로 이어진다면, Lara Notes의 Shared Offline 기능을 통해 그 순간을 기록할 수 있습니다. 이 노트는 Jacobin에서 가져왔습니다. 원본 기사에 비해 최소 10분은 절약하실 수 있습니다.