Как ИИ видят наш мир

Мужчина идет по улице ночью. По другую сторону витрины iMac двигается так, будто следит за ним взглядом: когда человек прыгает, компьютер наклоняется, если он гримасничает, машина открывает CD-проигрыватель. Это была реклама Apple 2002 года, но сегодня вопрос уже не в том, когда машины будут смотреть на нас, а в том, как они уже видят нас. И ответ более странный, чем мы думаем: ошибка заключается не в том, чтобы верить, что искусственный интеллект должен только «понимать» наш мир, а в том, чтобы не видеть, что на самом деле он воссоздает его с нуля, используя коды и ярлыки, которые кажутся нам нелепыми или опасными. Общая идея заключается в том, что мы должны научить ИИ видеть, как мы, рассуждать, как мы. Но правда в том, что они воспринимают мир по совершенно другой логике и часто вынуждены упрощать реальность до такой степени, что искажают ее. Настоящий скачок в перспективе заключается в том, что мы должны не только объяснять вещи машинам: мы должны научиться видеть мир также с их точки зрения, чтобы понять, где они ошибаются, где они спотыкаются и почему. Конкретный пример: когда художница Элиза Джардина Папа работала над обучением ИИ распознаванию изображений, ей приходилось рисовать «ограничительные рамки» вокруг каждого объекта, например, женщины на диване. Но если узор на футболке женщины сливался с тканью дивана, машина теряла способность различать два объекта. По словам Папы, для алгоритма «изображение попало в странную, неопределенную категорию: ни только женщина, ни только диван». Это была не банальная ошибка: это была структурная ограниченность системы, которая видит только то, что может пометить. И то же самое происходит с прозрачными предметами или со стулом, поставленным боком: достаточно малого, чтобы реальность вышла за рамки шаблонов. Художник Эрик Сальваджо, который обучал ИИ распознавать грибы в лесу, должен был игнорировать любую необычную деталь — полную противоположность человеческому инстинкту, который ищет исключение. Результат? ИИ видят мир как статистическое среднее, а не как набор уникальных деталей. И когда мы пытаемся приспособить мир к ним, происходят странные вещи. Магазинам Amazon Go, где можно было выйти, не проходя через кассу, требовалась тысяча человек, чтобы вручную проверять изображения и исправлять ошибки ИИ, и на каждую тысячу покупок в семистах случаях требовалось вмешательство человека. В конце концов эксперимент был прекращен. Еще один предельный случай: трагедия Элейн Херцберг, сбитой беспилотным автомобилем Uber. Датчики «увидели» женщину на дороге, но не смогли ее классифицировать: иногда как транспортное средство, иногда как неизвестный объект, иногда как велосипедиста. Поскольку система никогда не классифицировала ее как пешехода, переходящего дорогу вне пешеходного перехода, она не затормозила. Проблема заключалась не в технологии, а в ее неспособности принять то, что не вписывалось в заранее определенные схемы. Но эти упрощения не только технические. Том Уильямс, исследователь в области робототехники, рассказывает, как ИИ часто неправильно понимает тех, кто говорит с разными акцентами или на разных диалектах, заставляя людей «отбеливать» свой голос, чтобы их распознали. И когда компании пытаются улучшить данные, чтобы сделать их более инклюзивными, они рискуют создать новые формы слежки или воспроизвести старые предрассудки, как это произошло, когда Microsoft использовала расовые категории, позаимствованные из псевдонауки XIX века. Так что же делать? Альтернативный путь исходит от тех же систем, которые пытаются преодолеть «ограничительные рамки». Waymo начала представлять людей в виде цифровых стикменов, точечных скелетов, которые позволяют понять не только то, переходит ли кто-то дорогу, но и в каком направлении он смотрит или собирается ли он изменить направление. Таким образом, компьютер не просто «помещает в коробку» то, что видит, а пытается интерпретировать позы, намерения, движения. Это шаг к идее не эмоциональной, а когнитивной эмпатии: мы просим ИИ не испытывать эмоции, а понимать — хотя бы частично — то, как мы существуем и движемся. Чтобы добиться этого, нам также необходимо переосмыслить наши интерфейсы: недостаточно, чтобы они были простыми для нас, они должны дать ИИ возможность по-настоящему охватить всю сложность человеческой среды. Так же, как когда-то мы использовали значки в форме папок, чтобы помочь людям понять компьютеры, теперь нам также нужно создать «переводчиков», которые помогут ИИ улавливать нюансы нашего мира, а не только его упрощенную версию. И заключительный вывод таков: путь заключается не только в том, чтобы научить ИИ видеть так, как видим мы, но и в том, чтобы научиться жить с их чуждым способом восприятия реальности, зная, где они могут ошибиться или навредить. В противном случае мы рискуем жить в мире, созданном для алгоритмов, а не для людей. Если вы думали, что достаточно «научить ИИ видеть, как мы», приготовьтесь изменить свое мнение: мы также мы должны научиться видеть, как они, чтобы не допустить, чтобы мир превратился в набор коробок, в которых никто не узнается по-настоящему. Если эта перспектива произвела на вас впечатление, вы можете отметить это на Lara Notes с помощью I'm In — это жест, который говорит: теперь это видение является частью вашего мышления. И если сегодня вечером ты расскажешь об этом кому-нибудь — возможно, вспомнив абсурдность магазинов Amazon Go или случай с Элейн Херцберг, — на Lara Notes ты можешь отметить тех, кто был с тобой, с помощью Shared Offline, чтобы ты знал, что этот разговор имел значение. Это путешествие в восприятие ИИ предоставлено NOEMA и сэкономило тебе 14 минут.