Кремниевая долина в восторге от ботов, которые сами себя создают

Недавно группа людей заблокировала улицы Сан-Франциско, выставив плакаты с надписями «Остановите гонку за ИИ» и «Не создавайте Скайнет». Кто был их целью? Компании, занимающиеся искусственным интеллектом, которые работают над ботами, способными совершенствоваться самостоятельно: машинами, которые не просто выполняют команды, а обучаются, оптимизируют себя и — по крайней мере, по замыслу — могут в конечном итоге проектировать будущие поколения ИИ. Тезис, который сводит с ума Кремниевую долину, заключается в следующем: мы больше не имеем дело с компьютерами, которые работают на нас, а с системами, которые работают над собой. Причем скорость, с которой они совершенствуются, уже не линейная: она может стать экспоненциальной. Эта идея не нова. Еще в 1960-х годах статистик И. Дж. Гуд предсказал, что «машина, способная создать лучшую версию себя, станет последним изобретением, которое понадобится человечеству». Однако на протяжении десятилетий это оставалось научной фантастикой. Еще несколько лет назад идея о том, что бот может проводить настоящие исследования, казалась почти нелепой: ChatGPT с трудом справлялся с простым сложением, не говоря уже о разработке новых алгоритмов. Сегодня ситуация изменилась. OpenAI открыто заявляет о том, что в ближайшие шесть месяцев появится «помощник по поиску на основе ИИ». Компания Anthropic заявляет, что 90 % ее кода уже написано Claude, ее моделью ИИ. Дарио Амодей, генеральный директор Anthropic, считает, что инструменты автоматического кодирования ускорили внутренние процессы на 15–20%. В свою очередь, Google DeepMind разработала AlphaEvolve — ИИ-агента, который снизил вычислительную нагрузку на центры обработки данных по всему миру на 0,7% и ускорил обучение модели Gemini на 1%. Но за этими цифрами скрывается вопрос: какая часть этой работы действительно автономна, а какая контролируется людьми? Джек Кларк, директор по вопросам политики компании Anthropic, первым признал, что сегодня настоящим приоритетом является «понимание того, в какой степени мы автоматизируем аспекты разработки ИИ». Потому что на данный момент автоматизация работает фрагментарно: боты оптимизируют небольшие задачи, но еще не полностью управляют исследованиями. Тем не менее, гонка уже началась. Сэм Альтман из OpenAI ставит цель на 2028 год: «полностью автоматизированный ИИ-исследователь», способный делать значимые открытия без участия человека. Другие, например Эли Лифланд из AI Futures Project, прогнозируют полную автоматизацию исследований к 2032 году. Но есть и те, кто притормаживает. Пушмит Коли из DeepMind подчеркивает, что на данный момент «полного цикла самоусовершенствования еще не существует»: машина может оптимизировать, но у нее пока нет того, что стоило бы оптимизировать. Настоящий прорыв заключается не в том, чтобы заставить бота писать код, а в том, чтобы привить ему так называемый «вкус» к исследованиям — способность выбирать интересные вопросы и оценивать, что действительно важно, как это делает великий инженер. А это человеческое качество, которое пока недоступно. Кроме того, существует проблема ресурсов: чипов, энергии, денег. Стоит лишь одному из этих факторов оказаться в дефиците, как прогресс остановится. Тем не менее даже небольшие шаги на пути к автоматизации уже имеют значение. Дин Болл, бывший советник Трампа по ИИ, предупреждает: «Это может изменить глобальную конкуренции в области ИИ, повлиять на технологическую геополитику и многое другое». Государственные учреждения отстают: американская бюрократия до сих пор использует для налоговых целей COBOL — язык 1960-х годов. Если ИИ будет развиваться быстрее, политика рискует отстать еще больше. И для того, чтобы это произошло, не обязательно, чтобы самые смелые мечты о самореплицирующемся ИИ стали реальностью: сама возможность того, что это произойдет, уже приводит к перераспределению ресурсов, внимания и власти. Ник Бостром, шведский философ, изучающий риски ИИ, сегодня называет себя «умеренным фаталистом». А двадцать ведущих исследователей из DeepMind, OpenAI, Meta, Стэнфорда и Беркли назвали автоматизацию исследований в области ИИ одним из самых серьезных рисков для отрасли. Берни Сандерс поднял тревогу в Сенате: «Люди действительно могут потерять контроль над планетой». Но за страхом скрывается также волна ажиотажа, которая выгодна именно тем, кто разрабатывает эти технологии. Если вы думали, что машины просто будут выполнять наши задачи, пришло время пересмотреть свое мнение: теперь они стремятся совершенствоваться самостоятельно, и эта гонка уже началась. Если вы чувствуете, что эта история касается и вас, на Lara Notes можно нажать «I'm In»: это не лайк, а ваш способ сказать, что теперь эта идея принадлежит и вам. А если вы вдруг заговорите об этом с кем-то (например, расскажете, что 90% кода Anthropic уже написано ботом), в Lara Notes есть кнопка «Поделиться офлайн», которая навсегда прекратит этот важный разговор. Эта заметка основана на статье из The Atlantic: вместо 15 минут чтения вы сэкономили почти 45 минут.