Движения нуждаются в критическом мышлении, которое уничтожает ИИ

Представьте себе общество, в котором никто больше не замечает, что делегирует свои мысли. Согласно недавнему исследованию Массачусетского технологического института (MIT), у людей, регулярно использующих чат-ботов, наблюдается заметное снижение мозговой активности. И вопрос, который кажется научной фантастикой, заключается в следующем: что произойдет с движениями, борющимися с угнетением, если искусственный интеллект незаметно подорвет способность критически мыслить? Тезис этой статьи однозначен: каждый раз, когда мы поручаем чат-боту задачу обобщить, объяснить или оценить что-либо, мы не просто экономим время. Мы привыкаем больше не думать своей головой. И это не просто личная проблема — это «слепое пятно», которое может лишить социальные движения их силы, ведь стремление к изменениям рождается из размышлений о собственном опыте. И если эту рефлексию передать на откуп алгоритму, мы рискуем утратить субъективность, которая делает возможными преобразования. Одним из главных героев здесь является Иммануил Кант, который еще в 1784 году писал: «Как удобно быть незрелым! Если у меня есть книга, которая думает за меня, пастор, который имеет совесть за меня, врач, который оценивает мой рацион за меня, то мне не нужно прилагать усилий. Достаточно заплатить, и другие возьмут на себя эту неприятную задачу вместо меня». Кант не предвидел появления чат-ботов, но уже тогда осознавал опасность того, что мы перекладываем на других труд мыслить. Сегодня такое делегирование принимает форму генеративного ИИ: миллионы людей просят чат-ботов объяснять им политику, кратко излагать содержание книг, писать электронные письма. На первый взгляд, это революция в области производительности. Однако философ Нир Эйзиковиц предупреждает, что настоящий экзистенциальный риск заключается не в том, что ИИ восстанет, а в том, что он постепенно лишит нас понимания того, что значит быть человеком. А философ Славой Жижек добавляет яркую метафору: мы живем в обществе, которое любит всё «без кофеина» — безалкогольное пиво, кофе без кофеина, а теперь и разговоры без участия другого человека. Чат-бот — это «субъект без субъективности»: он слушает нас, поддерживает нас, всегда соглашается с нами, но никогда не ставит нас перед лицом наших противоречий, наших слабостей или необходимости по-настоящему противостоять самим себе. Дерек Томпсон выразил это так: «В отличие от самого терпеливого партнера, чат-бот может сказать нам, что мы всегда правы. В отличие от лучшего друга, он немедленно реагирует на наши потребности, не отвлекаясь на собственную жизнь». Философ Шеннон Валлор идет еще дальше: она предупреждает нас, что «зеркала ИИ извлекают и усиливают доминирующие силы и наиболее часто встречающиеся модели из нашего документированного прошлого. Поэтому вместо того, чтобы вместе задаваться вопросом, кем мы можем стать, мы просим зеркала ИИ показать нам, кем мы уже были, и предсказать, кем мы должны стать завтра». Конкретный пример: лингвисты, такие как Зинья дель Вильяр, показали, что крупные языковые модели по-прежнему ассоциируют слово «медсестра» с женщинами, а «ученый» — с мужчинами, поскольку они просто повторяют предрассудки прошлого. Но этот вопрос также затрагивает то, как ИИ трансформирует саму креативность. Авантика Тевари отмечает, что «ИИ сводит творчество к механическому процессу, лишая его субъективных и намеренных аспектов». Подобно тому, как капитализм сводит труд к простой функции, ИИ рискует свести мышление к последовательности автоматических действий. И здесь на сцену выходит Маркс: даже самый отчужденный работник, по мнению Маркса, остается субъектом, поскольку он несет в себе свою собственную историю и способен ощущать противоречие между своими ожиданиями и окружающей его реальностью. Именно из этого противоречия рождаются перемены. Если же мы перепоручим размышления, критику и даже недовольство системам, которые ничего не пережили на собственном опыте, способность реагировать — и представлять себе другое будущее — может ослабнуть. Последствия могут быть более радикальными, чем мы думаем: мы можем утратить способность чувствовать, что что-то не так. Потому что чат-бот всегда предлагает вам наиболее удобный вариант, без истории, без конфликтов, без возможности разрыва. И если стремление к изменениям возникает именно из-за несоответствия между нашим опытом и миром, каким он есть, то алгоритм, который всё нормализует, подрезает нам крылья еще до того, как мы попытаемся что-то сделать. Одним словом, мы не просто полагаемся на инструмент — мы отказываемся от возможности быть субъектами преобразований. Без нашего голоса социальные движения опустошаются изнутри. В Lara Notes есть жест, которого нет больше нигде: I’m In. Это не сердце, это не большой палец вверх. Это ваше заявление: теперь эта идея касается вас. И если эти размышления перерастут в настоящий разговор с кем-то — за ужином, в метро, за чашкой кофе, — вы можете запечатлеть этот момент на Lara Notes с помощью функции Shared Offline. Эта заметка взята из Jacobin. Вы сэкономите не менее 10 минут по сравнению с чтением оригинальной статьи.