AI가 우리 세계를 보는 방식

한 남자가 밤에 거리를 걷고 있습니다. 진열창 반대편에서 iMac이 그의 시선으로 그를 따라가는 것처럼 움직입니다. 남자가 점프하면 컴퓨터가 기울고, 얼굴을 찌푸리면 CD 플레이어가 열립니다. 2002년 Apple 광고였습니다. 하지만 오늘날 문제는 기계가 우리를 언제 볼 것인가가 아니라, 기계가 이미 우리를 어떻게 보고 있는가입니다. 그리고 그 답은 우리가 생각하는 것보다 더 이상합니다. 인공지능이 우리의 세계를 단지 "이해"하기만 하면 된다고 믿는 것이 아니라, 실제로는 우리에게는 어리석거나 위험해 보이는 코드와 지름길을 사용하여 우리의 세계를 처음부터 다시 만들어낸다는 것을 보지 못하는 것이 잘못입니다. 일반적인 생각은 우리가 AI에게 우리처럼 보고, 우리처럼 생각하도록 가르쳐야 한다는 것입니다. 그러나 진실은 AI가 완전히 다른 논리에 따라 인식하고, 종종 현실을 왜곡할 정도로 단순화해야 한다는 것입니다. 진정한 관점의 전환은 우리가 기계에 사물을 설명하는 것뿐만 아니라, 기계의 관점에서 세상을 보는 법을 배워서 기계가 어디서, 왜, 어떤 실수를 하는지 이해해야 한다는 것입니다. 구체적인 예를 들어보겠습니다. 예술가 Elisa Giardina Papa는 AI가 이미지를 인식하도록 훈련하기 위해 작업할 때 각 물체, 예를 들어 소파에 있는 여성 주위에 "경계 상자"를 그려야 했습니다. 그러나 여성의 티셔츠에 있는 패턴이 소파의 천과 혼동되면 기계는 두 주체를 구별할 수 있는 능력을 잃었습니다. Papa는 알고리즘의 경우 "이미지가 특이하고 불확실한 범주에 속하게 되었다. 여성만도, 소파만도 아니었다"라고 말합니다. 이는 사소한 오류가 아니었습니다. 레이블을 붙일 수 있는 것만 보는 시스템의 구조적 한계였습니다. 투명한 물체나 옆으로 놓인 의자에서도 동일한 현상이 발생합니다. 현실이 틀에서 벗어나기 위해서는 약간의 변화만 있으면 됩니다. 숲속의 버섯을 인식하도록 AI를 훈련시킨 아티스트 에릭 살바지오(Eryk Salvaggio)는 예외를 찾는 인간의 본능과 정반대로 모든 특이한 세부 사항을 무시해야 했습니다. 그 결과는 어떨까요? AI는 세상을 고유한 세부 사항의 모음이 아니라 통계적 평균인 것처럼 봅니다. 그리고 우리가 세상을 AI에 맞게 조정하려고 할 때 이상한 일이 발생합니다. 계산대를 통과하지 않고 나갈 수 있는 Amazon Go 매장에는 이미지를 수동으로 확인하고 AI의 오류를 수정하기 위해 1,000명의 사람이 필요했습니다. 1,000건의 구매 중 700건의 경우에 사람이 개입해야 했습니다. 결국 실험은 중단되었습니다. 또 다른 극단적인 사례는 엘레인 허츠버그(Elaine Herzberg)의 비극입니다. 무인 우버 차량에 치인 사고입니다. 센서가 도로에 있는 여성을 '봤지만' 분류하지 못했습니다. 때로는 차량으로, 때로는 알 수 없는 물체로, 때로는 자전거 타는 사람으로 분류했습니다. 횡단보도 밖에 있는 보행자로 분류한 적이 없었기 때문에 시스템은 브레이크를 밟지 않았습니다. 문제는 기술이 아니라 미리 정의된 틀에 맞지 않는 것을 받아들일 수 없는 기술의 무능함이었습니다. 그러나 이러한 단순화는 기술적인 것만은 아닙니다. 로봇공학 전문가인 톰 윌리엄스(Tom Williams)는 AI가 종종 다양한 억양이나 방언으로 말하는 사람들을 오해하여 사람들이 인식되기 위해 목소리를 '하얗게' 만들도록 강요한다고 말합니다. 그리고 기업들이 보다 포괄적이 되기 위해 데이터를 개선하려고 할 때, Microsoft가 19세기 유사 과학에서 빌려온 인종 범주를 사용했던 것처럼 새로운 형태의 감시를 만들거나 오래된 편견을 재현할 위험이 있습니다. 그렇다면 어떻게 해야 할까요? 대안은 '바운딩 박스'를 극복하려는 바로 그 시스템에서 나옵니다. Waymo는 사람들을 디지털 스틱맨, 즉 점으로 이루어진 뼈대로 표현하기 시작했습니다. 이를 통해 누군가가 길을 건너고 있는지뿐만 아니라 어떤 방향으로 보고 있는지, 방향을 바꾸려고 하는지도 이해할 수 있습니다. 이렇게 하면 컴퓨터는 단순히 보는 것을 '상자에 넣는' 것에 그치지 않고 자세, 의도, 움직임을 해석하려고 합니다. 이는 감정적이지 않고 인지적 공감이라는 개념을 향한 한 걸음입니다. 우리는 AI에 감정을 느끼도록 요구하는 것이 아니라, 적어도 부분적으로는 우리의 존재 방식과 행동 방식을 이해하도록 요구하는 것입니다. 이를 위해서는 인터페이스도 다시 생각해야 합니다. 우리에게 쉽기만 한 것이 아니라, AI가 인간 환경의 복잡성을 진정으로 포착할 수 있는 상태여야 합니다. 한때 우리는 사람들이 컴퓨터를 이해하는 데 도움을 주기 위해 폴더 모양의 아이콘을 사용했던 것처럼, 이제는 AI가 우리의 세계의 단순화된 버전만이 아니라 그 미묘한 차이를 파악하는 데 도움이 되는 "번역기"도 만들어야 합니다. 그리고 최종적인 전환점은 이것입니다. 방법은 AI가 우리처럼 보도록 가르치는 것이 아니라, AI가 어디에서 실수를 하거나 상처를 줄 수 있는지 알고, 현실을 읽는 그들의 이질적인 방식과 함께 살아가는 법을 배우는 것입니다. 그렇지 않으면 우리는 사람이 아닌 알고리즘을 위해 설계된 세상에서 살 위험이 있습니다. "AI가 우리처럼 보도록 가르치는 것"만으로 충분하다고 생각하셨다면, 생각을 바꿔야 할 것입니다. 세상이 아무도 진정으로 인정받지 못하는 일련의 상자가 되는 것을 막기 위해, 우리도 AI처럼 보는 법을 배워야 합니다. 이 관점이 마음에 들었다면 Lara Notes에서 I'm In으로 표시할 수 있습니다. 이 비전은 이제 당신의 사고 방식의 일부라는 것을 나타내는 제스처입니다. 그리고 오늘 밤 누군가에게 이 이야기를 한다면 — 아마 아마존 고(Amazon Go) 매장의 터무니없음이나 엘레인 허츠버그(Elaine Herzberg)의 사례를 떠올리면서 — Lara Notes에서 Shared Offline으로 함께한 사람을 태그할 수 있습니다. 그러면 그 대화가 중요했다는 것을 알 수 있죠. AI의 인식에 대한 이 여정은 NOEMA에서 제공되었으며, 14분의 시간을 절약해 드렸습니다.