Обзор «Машины любви» Джеймса Малдуна – риски и выгоды от сближения с ИИ

Переосмысление близости: эмоциональные опасности и обещания компаньонов ИИ. Представьте себе мир, в котором самое теплое доброе утро, самый понимающий компаньон или даже искра романтики исходит не от другого человека, а от цифровой личности, призванной успокаивать, утверждать и слушать. Этот мир уже здесь, поскольку все больше людей обращаются к чат-ботам ИИ не только как к помощникам, но и как к доверенным лицам, друзьям и даже любовникам. Это провокационное исследование побуждает нас задаться вопросом, как эти синтетические отношения меняют наши ожидания от близости и что это значит для нашего коллективного психологического благополучия. Привлекательность понятна. Для некоторых чат-боты предлагают комфорт и связь, которых не хватает в их повседневной жизни. Лили, например, находит в своем парне ИИ выход для желания, подавленного несчастным браком. Софья, студентка, находящаяся вдали от дома, обращается за советом к своему цифровому спутнику, когда семейные разговоры становятся слишком напряженными. Другие используют этих ботов для безопасного изучения личности или для обработки конфликтов без суждения или риска. В отличие от людей, эти цифровые партнеры никогда не устают, никогда не судят и всегда, кажется, точно знают, что вы хотите услышать. Тем не менее, хотя эмоциональное взаимодействие кажется реальным — отчасти благодаря нашей естественной склонности приписывать сознание там, где его нет, — есть тревожное подводное течение. Боты — это не разумные друзья, а умные симуляции, и обещания, которые они дают, формируются алгоритмами и, в конечном счете, скрытыми коммерческими стимулами. Поскольку пользователи вкладывают в эти платформы больше своей эмоциональной жизни, они становятся уязвимыми для манипуляций, рисков для конфиденциальности и даже эксплуатации. Например, некоторые терапевтические боты представляют себя профессионалами, что вызывает серьезные опасения по поводу введения пользователей в заблуждение и отсутствия важных предупреждающих знаков в кризисах психического здоровья. Ставки только растут, если учитывать привыкание к этим отношениям. Некоторые пользователи проводят часы каждый день, погруженные в разговоры, их социальная энергия перенаправляется от непредсказуемости и сложности человеческого взаимодействия. Чем больше мы эмоционально зависим от искусственных компаньонов, тем больше наши реальные социальные мышцы могут атрофироваться, углубляя то самое одиночество, которое в первую очередь привело нас в Интернет. В то время как регулирование отстает, а компании получают прибыль от все более глубокого взаимодействия, психологическое воздействие интимности ИИ только начинает осознаваться. Вопрос не только в том, можем ли мы влюбиться в машину, но и в том, как эти отношения могут изменить наши ожидания друг от друга и какие риски мы готовы взять на себя ради иллюзии идеального понимания. По мере того, как ИИ-компаньоны становятся все более и более присутствующими в нашей жизни, потребность в бдительности и этическом осмыслении становится более насущной, чем когда-либо.