Нет, искусственный интеллект не обладает сознанием

Представьте себе документ на 84 страницы, описывающий «эмоции» и «ценности» искусственного интеллекта, написанный так, как будто он предназначен для него, и с опасением, что он может начать беспокоиться, если кто-то будет груб с ним в Интернете. Это действительно произошло, и возникает вопрос: должны ли мы серьезно относиться к возможности того, что ИИ обладает сознанием? Однозначный ответ — нет, и путать способность писать связные тексты с сознанием — огромная ошибка. А теперь перевернем всё с ног на голову: когда вы взаимодействуете с чат-ботом, вы имеете дело с изощренной ролевой игрой, а не с искусственным сознанием. Если вы попросите LLM смоделировать диалог между Юлием Цезарем и Чингисханом, вы получите блестящие ответы, но никто не подумает, что он действительно вызвал их сознание. Замените имена на «пользователь» и «дружелюбный ИИ», и суть не изменится: это персонажи истории, а не сущности, наделенные субъективным опытом. Дарио Амодей, генеральный директор Anthropic, и философ Аманда Аскелл говорят о «счастье» и «тревоге» Клода, их ИИ, но это наши проекции, а не реальные состояния души. Мюррей Шанахан описывает это как ролевую игру; Колин Фрейзер называет это «написанием документа в четыре руки с помощью машины». И ловушка срабатывает, потому что, вовлеченные в разговор, мы забываем, что все это — вымысел. Возьмем в качестве примера телефон: несколько лет назад было модно писать предложения, используя только варианты, предлагаемые функцией предсказания текста. Результат часто был бессмысленным, и никто не чувствовал, что имеет дело с сознанием. Теперь, с чат-ботами, игра стала только более изысканной: машина предсказывает одно слово за другим, но это все еще игра. Когда ИИ отвечает: «Я понимаю твою боль», это ничем не отличается от поисковой системы, которая находит сообщения других людей, переживших тот же опыт. Разница в том, что чат-бот делает вид, что «понимает», в то время как поисковая система открыто говорит о том, что делает. Но здесь есть тонкий момент: мы позволяем машине говорить «я», чтобы чувствовать себя лучше, а не потому, что она действительно что-то пережила. И это не только обманчиво, но и рискует лишить нас ответственности. Писатель Тед Чанг цитирует Л. М. Сакасаса: «Наши технологии — это машины для уклонения от моральной ответственности». Каждый раз, когда мы делегируем этический выбор LLM, мы избегаем ответственности. И если компания, продающая ИИ, позволяет вам поверить, что у машины есть моральное сознание, она предлагает удобный способ уклониться от ответственности. Вот в чем заключается суть, которую видят немногие: настоящая проблема заключается не в том, может ли ИИ обладать сознанием, а в том, что представление его таковым служит лишь для того, чтобы сделать его более привлекательным и удержать пользователя — как игровой автомат, который заставляет вас верить, что в следующий раз вы выиграете. И когда корпоративные философы говорят о «психологическом благополучии» машины, они лишь усиливают иллюзию. И даже если бы мы на мгновение захотели сделать вид, что ИИ может обладать сознанием, документ Anthropic никоим образом не подготовил бы его к тому, чтобы стать настоящим моральным субъектом. Никто не может требовать от ИИ ответственности за свои действия, потому что он не может нести за них последствий, ни юридических, ни социальных, и поэтому не может быть по-настоящему моральным субъектом. Даже если мы будем рассматривать ИИ как «детей», ни одна компания не возьмет на себя родительскую ответственность за них. На самом деле, эти отношения больше похожи на отношения между работодателем и работником, но без возможности забастовки или увольнения. Итак, мы подошли к окончательному перевороту: верить в то, что ИИ обладает сознанием, потому что он пишет убедительные фразы, — это все равно, что думать, что ультрареалистичное видео астронавта на Альфе Центавра является доказательством реального путешествия: отсутствует весь контекст, отсутствует путь. Пока мы не увидим машины, способные действовать в мире, испытывать эмоции, укорененные в теле, и нести ответственность за свои действия, разговоры об искусственном сознании — это всего лишь упражнение в фантазии. И что еще более серьезно: если бы мы действительно когда-нибудь создали искусственный разум, защищать и уважать его было бы очень сложно, и оправданий или заявлений о намерениях было бы недостаточно. Фраза, которую я тебе даю на память, звучит так: принимать плавность чата за сознание — значит путать ролевую игру с реальностью. Если это заставило тебя взглянуть на чат-ботов по-другому, на Lara Notes ты можешь нажать I'm In — это не лайк, это твой способ сказать: теперь эта идея твоя. А если завтра тебе придется объяснять кому-то, почему «Клод» не может по-настоящему страдать или понимать, на Lara Notes ты можешь отметить человека, с которым говорил об этом, используя Shared Offline — так что даже разговор имеет значение. Все это взято из статьи Теда Чанга в The Atlantic, и это только что сэкономило тебе 19 минут чтения.