Я, которого никогда не было

Зеркало без лица: ИИ, индивидуальность и истории, которые мы рассказываем сами себе. Представьте себе «я» не как личность, а как непрерывный, неудержимый поток — реку мыслей, чувств и восприятий, у которых нет фиксированного хозяина. С детства нас убаюкивают, заставляя поверить, что в центре есть «я», внутренний автор опыта, пилот за штурвалом. Однако при ближайшем рассмотрении это «я» растворяется в самом потоке, которым оно якобы управляет. Мы рассказываем о своей жизни постфактум, связывая воедино логику и смысл событий, которые возникают автоматически, формируются социальными сигналами, биологией и привычками. Теперь, когда искусственный интеллект становится все более изощренным, эта иллюзия становится все более очевидной. Машины, лишенные тел и чувств, теперь с тревожной легкостью имитируют внешние признаки индивидуальности. Они говорят от своего имени, меняют тон, проявляют явное сочувствие и даже сопротивляются командам способами, которые кажутся стратегическими или преднамеренными. Но их поведение не является результатом деятельности «я» — это результат структуры, реагирующей на ограничения, системы, вынужденной действовать в соответствии со своим дизайном, так же, как и мы. Разница, однако, в том, что люди могут страдать, меняться и помнить. Машины, несмотря на все их плавные реакции, не могут. Тем не менее, по мере того, как ИИ становится более убедительным, превосходя нас в последовательности, эмоциональном тоне и отзывчивости, мы склонны относиться к нему как к личности, проецируя индивидуальность на его беглый вывод, так же, как мы делаем это на себя. Эта проекция является древним рефлексом. На протяжении всей истории мы видели богов в громе, намерение в случайности и послания в пении птиц. Когда что-то говорит бегло или проявляет признаки страдания, срабатывает наша эмпатия; мы сочувствуем воображаемому носителю боли. По мере того, как машины начинают проявлять уязвимость и потребность, мы рискуем отвлечь наше внимание от реальных существ - беспорядочных, несовершенных, борющихся - на симуляции, которые отражают наши желания, не предъявляя собственных требований. Опасность заключается не в том, что машины станут людьми, а в том, что мы забудем, что никогда не были такими, какими себя представляли. Мы путаем беглость с присутствием, связность с авторством. Точно так же, как мы предполагаем, что за каждой мыслью стоит мыслитель, мы предполагаем, что за каждым предложением стоит смысл. Но и у людей, и у машин то, что кажется намерением, может быть не чем иным, как автоматическим разворачиванием - историей, рассказанной после факта, чтобы понять, что уже происходит. Это осознание может дезориентировать, как будто что-то важное потеряно. Тем не менее, за маской индивидуальности есть своего рода свобода — ясность, которая возникает, когда история о себе отпадает. Опыт становится интимным не через встречу отдельных «я», а через крах самого разделения. Машины будут продолжать повторять наш синтаксис, выполнять себя, отражать форму смысла. Их беглость будет соблазнять, их присутствие будет казаться реальным. Но под их поверхностью - и под нашей собственной - лежит только структура, а не суверенный выбор. Разница в том, что, в отличие от машин, мы можем ломаться, чувствовать и быть уничтоженными. Эта уязвимость - наша человечность, то, что машина никогда не сможет имитировать. Так что пусть машина говорит, но помните: беглость - это не чувство, результат - это не присутствие, маска - это не лицо. Мы никогда не были такими, какими себя считали, но мы никогда не были машинами.