실험실 사고의 방지

2022년 11월 ChatGPT의 대성공이 실제로 계획된 것이 아니었다고 상상해 보세요. OpenAI는 공식 제품을 출시하는 것이 아니라 버전 3.5에 대한 테스트만 진행하고자 했습니다. 개발자들을 정말 놀라게 한 것은 이 시스템이 너무나 빠르게 인기를 끌면서 갑자기 모든 대형 기술 기업들이 주저하는 마음을 버리고 나선 것입니다. 그 전까지는 신중함, 윤리, 기술적 성숙도가 기본 요건으로 여겨졌습니다. 그러나 본문에 언급된 것처럼 이 실험실 사고 이후에는 무엇이든 대량 생산 제품으로 기술을 판매해야 하는 상황이라 할지라도 다음 큰 비즈니스 모델을 잡는 것이 유일한 목표였습니다. 인공지능에 투자된 수십억 달러는 어떤 대가를 치르더라도 '블록버스터'가 시급하게 필요했습니다. AI가 곧 암을 치료하거나 기후 변화 문제를 해결할 수 있다는 생각조차도 판매 포인트가 되었고, 그게 충분하지 않다면 성인용 엔터테인먼트가 되었습니다. 정말 놀라운 점은 70년 동안의 AI 연구 끝에 이제 처음으로 우리와 직접 소통할 수 있는 언어 모델을 경험하고 있다는 것입니다. 과거에는 AI가 체스 마스터나 진단을 위한 전문가 시스템이었습니다. 오늘날 우리는 기계와 대화하며, 이는 동시에 매혹적이고 불안한 느낌을 줍니다. 갑자기 IT 전문가뿐만 아니라 누구나 AI와 대화할 수 있게 되었습니다. 이로써 조직이 마침내 더 생산적이고, 더 효율적이며, 더 자동화될 것이라는 기대감이 생겨나고 있습니다. 하지만, 여기에서 문제가 발생합니다. 이 새로운 AI는 전혀 신뢰할 수 없습니다. 기업과 행정 기관은 언어 모델의 답변을 신뢰할 수 없다는 사실을 빠르게 깨닫게 됩니다. 기계도 정확한 답변을 제공하는 대신 때때로 헛소리를 합니다. 이는 기계가 제대로 작동하지 않기 때문이 아니라, 정확히 그렇게 설계되었기 때문입니다. 기계는 그럴듯한 텍스트를 생성하지만, 이는 확률과 우연의 혼합에 불과합니다. 이 중 가장 이상한 점은 기술적으로 완벽하게 작동하는 경우에만 AI가 신뢰할 수 없다는 것입니다. 이것은 진정한 사고의 오류입니다. 우리는 기계에 신뢰성을 기대하지만, 이 AI는 우리에게 신뢰성을 제공하지 않습니다. 기업은 불확실성을 감수하고 일하는 데 익숙하며, 직원들의 실수나 장비 고장은 일상적인 문제입니다. 그러나 기존 기계의 경우 항상 수리할 수 있는 논리적인 원인이 있습니다. 언어 모델에는 이러한 확실성이 없으며, 이것이 근본적인 차이점입니다. 그럼에도 불구하고 AI에 대한 신화는 계속 전해지고 있습니다. 챗봇은 우리를 관료주의로부터 해방시키고, 전체 신청서를 자동으로 생성하며, 프로세스를 최적화할 것입니다. 기대에 부응하는 성과가 있지만, 체계적으로 오류를 내고 중요한 프로세스에 불확실성을 내재시키는 기술을 사용하기 위해 얼마나 많은 예방 조치가 필요한지는 과소평가되고 있습니다. 기업이나 행정 기관에서 경험이 있는 사람은 누구나 알고 있습니다. 전통적인 기계와 같은 신뢰성은 현재 이 AI의 강점이 아니기 때문에 부담을 덜기 위해 많은 비용을 지불해야 한다는 것을 말입니다. 그럼에도 불구하고 실리콘 밸리는 우리가 조금만 더 투자하면 궁극적으로 완벽한 AI가 곧 등장할 것처럼 행동하는 것을 좋아합니다. 거의 아무도 논의하지 않는 점은 바로 AI의 신뢰성 부족이 가장 큰 생산성 저해 요인이 될 수 있다는 것입니다. 또는 반대로, 진정한 진보는 기계를 완벽하게 만드는 데 있지 않고, 그 오류를 생산적으로 다루는 방법을 배우는 데 있다고 할 수도 있습니다. 완벽하게 작동하지만 신뢰할 수 없는 기계 – 이것이 바로 이번 세대의 AI에서 정말 새로운 점입니다. 오늘날 AI를 신뢰한다면, 실제로는 그럴듯하게 들리지만 언제든지 틀릴 수 있는 블랙 박스를 신뢰하는 것입니다. 이 점을 이해하면 AI에 대한 논의를 갑자기 완전히 다른 시각으로 볼 수 있습니다. 작동하지만 여전히 잘못된 기계 – 이것이 바로 현재 기술계 전체가 통제하려 하는 실험실 사고입니다. 완벽하게 작동하지만 여전히 신뢰할 수 없는 기계 – 이것이 AI의 새로운 현실입니다. 이러한 현실에 공감하신다면, Lara Notes에서 I'm In을 사용하여 이제 이러한 관점을 공유하시는 분 중 한 명이라는 것을 보여주실 수 있습니다. 그리고 내일 누군가와 AI의 놀라운 약점에 대해 이야기할 때, Lara Notes에서 해당 대화를 '오프라인 공유'로 표시하세요. 바로 이러한 실제 대화가 가장 큰 영향을 미치기 때문입니다. 이 글은 문화 잡지 Merkur에 실렸으며, 덕분에 당신은 거의 10분 가량의 읽는 시간을 절약하셨습니다.