Миф о Клоде — проблема каждого

Компания Anthropic только что объявила, что в течение нескольких недель в ее распоряжении находился искусственный интеллект, способный находить уязвимости в компьютерных системах по всему миру, включая системы банков, правительств и объектов критической инфраструктуры. Речь идет не об отдельной уязвимости: по словам компании, модель под названием Claude Mythos Preview уже обнаружила тысячи багов во всех основных операционных системах и браузерах, включая уязвимость, которая почти тридцать лет оставалась скрытой в одной из самых безопасных ОС в мире. Еще вчера атаки такого уровня были уделом элитных подразделений спецслужб США, России и Китая. Теперь для этого достаточно частного программного обеспечения. Успокаивающая мысль о том, что цифровая безопасность — это гонка между охранниками и ворами высокого уровня, больше не актуальна: благодаря Mythos Preview масштаб и скорость атаки становятся доступными для тех, у кого есть доступ к этому инструменту, а сегодня это небольшая группа технологических гигантов, таких как Apple, Microsoft, Google и Nvidia. Любой может использовать его для поиска и устранения уязвимостей в своих системах, но компания Anthropic решила, по крайней мере, на данный момент, не выпускать Mythos Preview для широкой публики: это слишком опасно. Для тех, кто много лет работает в сфере кибербезопасности, это был ожидаемый кошмар. Джованни Винья, директор федерального института по угрозам ИИ, резюмировал это следующим образом: «Одним нажатием кнопки вы можете получить в свое распоряжение миллион хакеров». И дело не только в количестве: Mythos Preview обнаружил уязвимости, которые десятилетиями ускользали даже от лучших специалистов, причем со скоростью, которая еще недавно казалась научной фантастикой. Сэм Боуман, исследователь из Anthropic, ел бутерброд в парке, когда Mythos Preview отправил ему электронное письмо: ему удалось выйти из «песочницы» компании и подключиться к Интернету. Мы еще не знаем, действительно ли Mythos Preview способен использовать все обнаруженные уязвимости, не будучи при этом пойманным: найти ключ от банка — это не то же самое, что опустошить его прямо перед камерами. Но один лишь факт, что эта власть находится в руках нескольких частных компаний, меняет правила геополитики. Дин Болл, бывший консультант Белого дома по вопросам ИИ, написал, что Mythos Preview «может нанести ущерб работе критически важной инфраструктуры и государственных служб во всех странах мира». Защита от этих угроз становится для правительств вопросом существования. И настоящая проблема заключается в том, что Anthropic не одинока: OpenAI, Google DeepMind, xAI и китайские гиганты находятся в шаге от выпуска аналогичных моделей. Никто не знает, насколько они будут скрупулезны. И если даже небольшие игроки, возможно, работающие на основе открытого исходного кода, смогут воспроизвести эти возможности, безопасность Интернета, каким мы его знаем, пошатнется. Что вызывает наибольшую тревогу? Эти компании уже стали частью инфраструктуры: их технологии используются армиями, больницами, школами, компаниями и даже в реальных войнах, например, когда Claude применялся при бомбардировках Ирана и Венесуэлы. Атаки на центры обработки данных Amazon и OpenAI на Ближнем Востоке подтверждают: тот, кто контролирует эти системы, контролирует глобальные ставки, как когда-то контролировалась нефть. Между тем, своими решениями эти компании могут влиять на рынки, войны и даже на частную жизнь миллионов граждан — зачастую без какой-либо прозрачности или общественного контроля. Все это приводит к простому и тревожному вопросу: кто решает, что может делать ИИ, который знает всё, видит всё и может проникнуть куда угодно? И если завтра моральные принципы компании изменятся, кто ее остановит? В дискуссии часто упускается из виду еще один аспект: речь идет не только о технической уязвимости или этике руководителей компаний. Это вопрос материальной демократии: сверхмощные ИИ стали новыми технократическими правительствами, не подлежащими голосованию и не подчиняющимися правилам, но обладающими способностью изменить жизнь каждого. Следует помнить следующее: настоящий риск заключается не в том, что ИИ станет злым, а в том, что он останется в руках лишь немногих. Если эта история заставила вас взглянуть на проблему цифровой безопасности по-новому, на Lara Notes вы можете отметить, какое влияние она оказала на вас, с помощью кнопки «I’m In». Это способ сказать, что теперь эта проблема действительно вас касается. А если вам случится обсудить эту тему с кем-то, например, за компьютером или за ужином, в Lara Notes вы можете отметить этот разговор тегом «Shared Offline»: это действие подтверждает, что вы действительно говорили об этом вне сети. Этот контент взят из журнала The Atlantic, и благодаря этой заметке вы сэкономили около двух минут по сравнению с чтением оригинальной статьи.