인간 기계

한 유명한 컴퓨터 과학자는 이렇게 말했습니다. “1960년대에는 이미 사람들이 기계와 대화하는 것이 진정한 감정을 불러일으킨다고 믿었습니다.”” 이는 터무니없게 들릴 수 있지만, 이는 Joseph Weizenbaum이 자신의 프로그램 ELIZA를 발표했을 때 실제로 일어난 일입니다. ELIZA는 매우 단순했고, 몇 가지 대화 패턴만 모방할 수 있었지만, 그럼에도 불구하고 많은 사용자들이 ELIZA를 대등한 상대와 같은 존재로 여겼습니다. 오늘날 ChatGPT, Claude, Gemini를 보면서 우리는 종종 언어 모델이 처음부터 마치 고유한 개성을 가진 것처럼 만들어졌다고 생각합니다. 하지만 이는 전혀 사실이 아닙니다. 그리고 여기에 거의 모든 사람이 저지르는 오류가 있습니다. 널리 퍼진 가설: ChatGPT와 같은 대규모 언어 모델은 단순히 방대한 양의 데이터에서 생성되며, 그 후에는 성격, 의견, 어쩌면 일종의 영혼까지 갖춘 거의 '완성된' 상태라고 생각합니다. 그러나 실제로는 완성된 챗봇 제품은 대규모 후처리의 결과물입니다. 소위 베이스 모델, 즉 훈련을 통해 얻은 기본 모델은 아직 '대화 상대'가 아니며, 훈련 자료에서 얻은 것만 내뱉을 뿐입니다. 훈련 자료가 주로 수학적 정의로 구성되어 있다면, 해당 모델은 계산기처럼 들릴 것입니다. Reddit 대화가 주를 이루면 갑자기 거의 인간처럼 보입니다. 결정적인 점: 인간적인 요소는 내재되어 있지 않으며, '추가'됩니다. 예를 들어, 일론 머스크의 비서인 Grok는 심지어 “진실성과 객관성을 극대화하도록 설계되었다”고 명시적으로 묘사됩니다. Anthropic은 Claude를 “도움이 되고, 정직하며, 해가 없는” 존재라고 묘사합니다. 기본 모델 자체에는 이러한 특성이 없습니다. 이러한 특성은 목표 지향적인 미세 조정, 즉 '강화 학습' 프로세스를 통해, 그리고 Anthropic의 경우 챗봇에 윤리적 특성을 가르치는 Amanda Askell과 같은 철학자 팀을 통해 얻어집니다. 따라서 챗봇의 성격은 데이터에서 우연히 발견된 것이 아니라 설계된 제품입니다. 이러한 모델을 위한 훈련 데이터는 매우 다양한 혼합물입니다. Common Crawl, 즉 방대한 인터넷 데이터, Reddit, Wikipedia, 프로그래밍 코드를 위한 GitHub, ArXiv 및 PubMed의 과학 논문, 디지털 책 등 수학부터 일상 언어, 정교한 문학 독일어부터 문법적 재앙에 이르기까지 모든 것이 포함됩니다. 맥락에 따라 모델은 감정 없는 로봇처럼 보일 수도, 친근한 친구처럼 보일 수도 있습니다. 그러나 봇이 정말로 '인간적'으로 보이는 이러한 순간은 종종 불안정하고 상황에 따라 달라지며 개발자가 제한적으로만 제어할 수 있습니다. 많은 사람들이 간과하는 세부 사항: AI의 표면적 인간성은 종종 작은 언어적 마커에 의해서만 생성됩니다. 예를 들어 봇이 감정을 암시하거나, 내적 상태를 묘사하거나, 심지어 이모티콘을 사용하는 경우 등이 있습니다. 이것이 이른바 엘리자 효과입니다. 우리는 듣고 싶어 하기 때문에 인간성을 읽어냅니다. 흔히 논의되지 않는 생각: AI 모델이 의도적으로 비인간적으로 조정된다면 어떻게 될까요? 공식 표현, 코드 또는 냉정한 관료적 언어로만 응답하는 챗봇은 너무 '인간적인' 봇만큼이나 우리를 혼란스럽게 하지 않을까요? 따라서 실제 결정권은 개발자에게 있습니다. 개발자는 챗봇에 얼마나 많은 인간성이 담겨 있는지 결정합니다. 이는 기술적 부산물이 아니라 윤리적 선언입니다. 결론적으로, 챗봇의 성격은 훈련의 결과가 아니라 의도적인 설계 문제입니다. 이제부터 AI와 대화할 때, 여러분은 자신이 느끼는 인간미가 인위적인 것임을 알게 될 것입니다. 그리고 내일은 그 인간미가 완전히 달라질 수도 있습니다. 이 생각이 계속 머릿속에 맴도는 경우, Lara Notes에서 I'm In을 사용하여 이 새로운 AI 이미지가 이제 여러분의 사고 방식의 일부라는 사실을 표시할 수 있습니다. 그리고 오늘 저녁에 누군가와 AI가 때로는 인간적으로, 때로는 매우 낯설게 느껴지는 이유에 대해 논의한다면, Shared Offline으로 대화 내용을 기록할 수 있습니다. 이렇게 하면 함께 생각했던 순간을 간직할 수 있습니다. 이 글은 문화 잡지 메르쿠르(Merkur)에 실린 Max Beck의 에세이입니다. 10분 동안 읽는 대신 3분 동안 들으셨습니다.