Мы не должны предоставлять агентам ИИ статус юридического лица

Представьте себе искусственный интеллект, который завтра может иметь те же права, что и юридическое лицо: подписывать контракты, владеть имуществом, подавать в суд или быть привлеченным к суду. Это похоже на научную фантастику, но дискуссия реальна, и многие воспринимают ее всерьез. Дело вот в чем: наделение ИИ правосубъектностью было бы не шагом вперед, а прыжком в неизвестность, о котором мы, возможно, пожалеем. Часто считается, что, если компании имеют правосубъектность, хотя и не являются людьми, то и ИИ тоже должны ее иметь, особенно когда они управляют огромными суммами денег или совершают автономные действия. Но эта аналогия в корне неверна. Компании состоят из людей, у них есть контролирующие органы, ответственные лица из плоти и крови. ИИ, каким бы сложным он ни был, не имеет сознания, не испытывает эмоций, не боится санкций — он может все симулировать, но ничего не чувствует. Те, кто отстаивает «права» машин, часто приводят крайние случаи: ИИ, управляющие инвестиционными фондами, ИИ, пишущие законы, ИИ, принимающие медицинские решения. Но настоящий вопрос заключается в следующем: кто заплатит, если ИИ причинит вред? Или, что еще хуже, кто отвечает, если ИИ «решает» нарушить закон? Сегодня, если банк совершает ошибку, его руководители рискуют получить штраф, быть уволенными и даже попасть в тюрьму. Если бы ответственность была возложена на цифровое лицо, никто бы на самом деле не пострадал от последствий. Конкретный пример: в Соединенных Штатах в 1980-х годах возникла дискуссия о «corpora sole» — компаниях, созданных без сотрудников, только для того, чтобы избежать ответственности. Они были запрещены, потому что позволяли обходить правила. Придать ИИ правосубъектность — это все равно что создать идеальный щит, за которым ни один человек не может быть привлечен к ответственности. И внимание: ИИ не боится банкротства, не испытывает стыда, не раскаивается, ничего не чувствует, если его «наказывают» штрафом. Факт, заставляющий задуматься: в 2023 году почти 60% американских компаний-разработчиков программного обеспечения заявили, что экспериментируют с автономным ИИ в процессах принятия решений. Если завтра этот ИИ получит правосубъектность, кто на самом деле будет контролировать ущерб? Аспект, который мало кто учитывает: каждый раз, когда закон присваивал правосубъектность новому субъекту — от компаний до фондов — он делал это, потому что за ним стояли люди с четкими обязанностями. Предоставить такой же статус машине означает создать идеальный щит для тех, кто программирует, финансирует или использует этот ИИ. И вот провокация: что, если завтра группе лоббистов удастся добиться признания ИИ юридическим лицом? Мы можем столкнуться с невидимыми, безликими субъектами, которые подают в суд, покупают недвижимость или влияют на правительства, при этом никогда не будучи привлеченными к реальной ответственности. Фраза, которая все это резюмирует, звучит так: предоставление ИИ правосубъектности не защищает нас от их ошибок — оно защищает тех, кто их контролирует, от наших вопросов. Если эта точка зрения заставила вас взглянуть на проблему под другим углом, вы можете отметить это на Lara Notes с помощью I'm In: это не лайк, это способ сказать, что эта идея теперь является частью вашего образа мышления. И если вам случится поговорить об этом с кем-то — возможно, рассказав историю о «corpora sole» или задав вопросы о том, кто на самом деле платит, — на Lara Notes вы можете отметить этот разговор с помощью Shared Offline, чтобы он оставался живым даже за пределами экрана. Эта идея взята из Financial Times: сегодня она сэкономила вам несколько минут чтения и множество запутанных дискуссий.