Что скрывает вопрос о сознании ИИ

Истинная ценность ИИ заключается в сотрудничестве, а не в сознании. Оживленные дебаты о том, обладает ли искусственный интеллект сознанием или сможет ли он когда-либо его обрести, отвлекают нас от гораздо более насущной реальности: истинная ценность ИИ заключается не в том, что находится внутри машины или человеческого разума, а в динамической конфигурации между ними. Вопрос о сознании ИИ может убедить нас в том, что люди остаются уникальными, но он мало говорит о том, как мы на самом деле работаем с этими все более мощными системами и что мы получаем или теряем в результате этого взаимодействия. Как утверждают многие нейробиологи, сознание уходит корнями в биологию. Машины, независимо от того, насколько сложны их модели, не ощущают и не поддерживают самоорганизующиеся живые процессы, определяющие сознательный опыт. Но, сосредотачиваясь исключительно на том, чего не хватает ИИ, мы рискуем упустить суть. Самые глубокие последствия искусственного интеллекта связаны не с разумностью, а с тем, как он меняет характер принятия решений, суждений и творчества человека. Когда люди и ИИ сотрудничают — будь то в медицине, финансах, архитектуре или консалтинге — результат представляет собой не просто сумму независимых вкладов человека и машины. Вместо этого возникает своего рода воплощенный интеллект: распределенный, ситуативный, не сводимый ни к одной из сторон. Эта синергия процветает только тогда, когда человек остается активно вовлеченным, проецирует и стабилизирует смысл, интерпретирует результаты и перенаправляет процесс, когда машина неизбежно отклоняется от контекста или намерения. Это не пассивный надзор. Это требующая значительных усилий когнитивная работа — непрерывный труд, связанный с вниманием и принятием решений, который машины не могут автоматизировать. И именно здесь, в этом сложном, интерактивном пространстве между человеком и ИИ, создается настоящая экономическая и творческая ценность. Исследования показывают, что, когда сотрудничество направлено на сохранение и усиление человеческого суждения (структурирование рабочих процессов таким образом, чтобы человеческое мышление занимало центральное место), производительность резко возрастает. Но когда ИИ просто внедряется в существующие рабочие процессы или когда люди слишком часто откладывают принятие решений, результаты могут оставаться на прежнем уровне или даже ухудшаться. Здесь присутствует опасный миф: убеждение в том, что автоматизация человеческих ролей всегда повышает эффективность, что способность принимать решения — это скорее издержки, чем актив, и что цель ИИ — сделать людей ненужными. Это предположение незаметно формирует институты, побуждая их отдавать приоритет автоматизации, а не дополнению, даже когда факты свидетельствуют о том, что объединение человеческих возможностей с ИИ приносит большую отдачу. Однако, несмотря на утверждения о том, что ИИ пришел, чтобы заменить нас, данные показывают, что большинство людей используют эти системы для совместного мышления, а не только для перекладывания на них задач. Проблема заключается в том, что организации зачастую лучше подготовлены к сокращению расходов, чем к развитию человеческого потенциала. В результате при разработке схем взаимодействия человека с ИИ редко учитывается или стимулируется развитие человеческого потенциала. Стремление регулирующих органов к «ориентированному на человека ИИ» — шаг в правильном направлении, но постановка цели — это только первый шаг. Настоящая задача заключается в создании архитектуры — организационной, культурной и технологической, — которая гарантирует, что человеческое суждение и осмысление не только сохраняются, но и усиливаются в каждой системе, основанной на ИИ. В конечном итоге ключевой вопрос заключается не в том, обладает ли ИИ сознанием. Вопрос в том, создаем ли мы условия для того, чтобы человеческий интеллект мог успешно развиваться в партнерстве с машинами. Риск заключается не в том, что ИИ станет разумным и будет угрожать нам, а в том, что, зацикливаясь на этой фантазии, мы незаметно разрушаем те самые человеческие способности, которые дают нашим институтам — и нам самим — силу действовать, принимать решения и творить.