Парадокс силы ИИ

В 2018 году самая продвинутая языковая модель OpenAI имела 117 миллионов параметров. Сегодня, менее чем шесть лет спустя, самые мощные модели превышают триллион. Чтобы вы могли представить: необходимая вычислительная мощность увеличивалась в десять раз каждый год в течение десяти лет подряд. Мы имеем дело с технологией, которая развивается быстрее, чем любая другая в истории, и самое удивительное в том, что сама скорость этого роста меняет то, кто правит миром. Всегда считалось, что только государства имеют право регулировать и управлять ключевыми технологиями. Но с искусственным интеллектом всё наоборот: реальный контроль принадлежит компаниям, а не правительствам. И в этом заключается настоящая геополитическая революция ИИ. Еще несколько лет назад технологические компании считались простыми поставщиками услуг, инструментами в руках правительств. Однако сегодня такие компании, как OpenAI, Google, Meta и некоторые другие, решают, что могут делать их модели, кто может их использовать, как и для каких целей. Они обладают властью, которая раньше принадлежала только государствам. Мустафа Сулейман, один из авторов статьи и соучредитель DeepMind, одним из первых заявил, что разработчики ИИ являются «новыми геополитическими игроками», чей суверенитет основан не на голосовании или общественном договоре, а на технических возможностях. И когда американский сенатор Тед Круз говорит, что Конгресс «не имеет ни малейшего представления о том, что он делает» в отношении ИИ, он признает огромный вакуум власти. Парадокс заключается в том, что чем мощнее и доступнее становится ИИ, тем сложнее его контролировать. ИИ не похож на ядерную энергию: для него не нужны секретные лаборатории или годы исследований, достаточно утечки кода, и любой человек может скачать передовые модели из Интернета. Модель Llama-1 компании Meta появилась в Интернете всего через несколько дней после запуска, и сегодня почти такие же мощные версии работают на компьютере, который можно арендовать за несколько евро в час. Вскоре сложные модели будут работать прямо на смартфонах. Это означает, что малейший сбой в стране, компании или нормативном акте становится открытой дверью для глобальных рисков — от массовой дезинформации до эволюционирующего цифрового оружия и угроз экзистенциального масштаба, таких как вышедший из-под контроля ОИИ. Но настоящий вопрос заключается в следующем: кто действительно может управлять этой гонкой? Классического ответа — государства — сегодня уже недостаточно. На Западе частные компании обладают свободой действий, которую ни одно правительство не может по-настоящему ограничить. В Китае, где государство и компании тесно переплетены, контроль более строг, но технологии развиваются слишком быстро, чтобы и там можно было по-настоящему держать их под контролем. Между тем, Соединенные Штаты и Китай рассматривают ИИ как игру с нулевой суммой: тот, кто выиграет эту гонку, сможет доминировать в этом столетии. Но пока они соревнуются, технология распространяется повсюду, и большинство стран будут вынуждены зависеть от тех, кто контролирует самые передовые модели и чипы. И вот здесь наступает перелом: решение заключается уже не в установлении правил между государствами, а в создании системы, в которой даже технологические компании — нравится нам это или нет — будут сидеть за столом глобальных решений. Впервые управление критически важной технологией должно разрабатываться с участием тех, кто ее создает, тех, кто ею владеет, и тех, кто ее использует, вместе с правительствами, экспертами и гражданским обществом. Модели переговоров между государствами, как в случае с ядерной энергетикой, уже недостаточно, потому что ИИ слишком легко копировать, слишком быстро распространять, и он слишком децентрализован. Нам необходимо «технопрудентное» управление, состоящее из гибких, предупредительных правил, невосприимчивых к ошибкам и способных адаптироваться по мере развития ИИ. Три сильные идеи: глобальная научная рабочая группа, аналогичная группе ООН по климату, для определения и мониторинга рисков ИИ; режим нераспространения — как в случае с оружием — для предотвращения бесконтрольного распространения опасных моделей среди государств, компаний и отдельных лиц; и орган технологической стабильности, по образцу мировых финансовых институтов, который может вмешиваться в кризисы и устанавливать универсальные правила. Но ничего из этого не сработает без прямого и ответственного участия компаний, которые сегодня являются настоящими арбитрами игры, к лучшему или к худшему. Контрарианство? Мы привыкли думать, что настоящая опасность заключается в том, что власть захватят крупные технологические компании. Но есть еще больший риск: что никто на самом деле не возьмет на себя эту роль, и мы окажемся в ситуации, когда технология будет развиваться без тормозов, без правил и без кого-либо, кто мог бы отреагировать, когда что-то пойдет не так. В мире, где достаточно одной «вышедшей из-под контроля» модели, чтобы нанести глобальный ущерб, опасность представляют не только слишком сильные компании, но и слишком слабые или оставленные на произвол судьбы. Если вам нужна фраза, которую стоит запомнить: ИИ меняет не только то, что мы можем делать, — он меняет тех, кто действительно командует. Если эта идея заставила тебя взглянуть на ИИ в новом свете, на Lara Notes ты можешь нажать I'm In: это действие означает, что теперь эта точка зрения является частью твоего образа мышления. А если через несколько дней ты заговоришь об этом с кем-то, обсуждая, кто на самом деле принимает решения о будущем ИИ, на Lara Notes ты можешь отметить этого человека с помощью Shared Offline — так останется след от важного разговора. Эта заметка взята из Foreign Affairs и сэкономит тебе 21 минуту.