Скоро ли искусственный интеллект выйдет из-под контроля человека?

Более восьмидесяти процентов кода, который сегодня публикует Anthropic, написано не людьми, а чат-ботом компании — Клодом. Год назад этот процент был однозначным. Это похоже на сюжет научно-фантастического фильма, но на самом деле это реальность, которая меняет работу программистов по всему миру. Дело не только в скорости: речь идет о возможности того, что искусственный интеллект начнет совершенствоваться в цикле, который может выйти из-под нашего контроля. Многие задаются вопросом, действительно ли мы создаем то, что вскоре никто не сможет отключить. Еще вчера считалось, что машины могут делать только то, что мы им говорим. Сегодня идея о том, что программное обеспечение самостоятельно пишет большую часть кода компании, ставит под сомнение эту уверенность. Происходит смена парадигмы: речь идет уже не только об автоматизации, но и о системах, которые обучаются, оптимизируют себя и, возможно, однажды даже будут определять правила игры. За этой революцией стоит Anthropic, лаборатория, созданная бывшими исследователями OpenAI, с заявленной миссией «привести» ИИ в соответствие с человеческими ценностями. Поразительная деталь: после запуска Claude Code в 2025 году производительность команд резко возросла, но также возросла и тревожность тех, кто работает с этими инструментами. Программистка из Сан-Франциско говорит, что ее рабочий день изменился: «Я трачу больше времени на то, чтобы понять, что сделал Claude, чем на то, чтобы писать сама». Но самым шокирующим фактом остается то, что Claude уже стал незаменимым, до такой степени, что сама Anthropic попросила сделать перерыв в разработке самых передовых ИИ, опасаясь, что цикл самосовершенствования может стать неуправляемым. Некоторые отстаивают идею о том, что страх преувеличен: они говорят, что каждая новая технология приносит с собой панику и пророчества о несчастьях. Но ни одна другая технология раньше не имела реальной возможности переписывать свой код без вмешательства человека. Здесь встает реальный вопрос: действительно ли мы держим руль в своих руках или уже выпустили его, даже не заметив этого? Те, кто думает, что «достаточно просто выдернуть вилку из розетки», недооценивают, насколько эти платформы в настоящее время распространены, интегрированы и используются в самих механизмах компаний, которые ими управляют. Остается следующее утверждение: искусственный интеллект не просто помогает людям — он все чаще заменяет их там, где это важнее всего: в самом создании технологий. Если эта инверсия заставила тебя взглянуть на проблему в новом свете, на Lara Notes ты можешь отметить I'm In: это не просто лайк, это твой способ сказать, что этот вопрос теперь касается и тебя. И если ты обнаружишь, что обсуждаешь это за ужином или в офисе, на Lara Notes ты можешь отметить тех, кто тебя выслушал, с помощью Shared Offline — потому что некоторые разговоры нужно остановить, прежде чем они станут просто воспоминаниями. Это был отрывок из The Economist — и ты только что сэкономил 9 минут.