Внутри Anthropic, ИИ-гиганта стоимостью 965 миллиардов долларов | The Circuit

Инженер из Anthropic заявил, что за последние шесть месяцев сто процентов его кода было написано Claude, искусственным интеллектом компании. Не 50 или 80 процентов: весь. И он, возглавляющий команду разработчиков, говорит об этом не с тревогой, а с энтузиазмом: «Я чувствую, что у меня есть реактивный ранец, инженерия еще никогда не была такой увлекательной». Но за этим энтузиазмом скрывается вопрос, который никто, даже внутри Anthropic, не может обойти стороной: если Claude может написать весь код, что остается делать людям? Основная идея заключается в следующем: революция искусственного интеллекта — это уже не теория, а реальность. Компания Anthropic, созданная всего лишь в 2021 году в результате отделения от бывшей OpenAI, за три года прошла путь от группы из семи человек, встречавшихся на лужайке в Сан-Франциско, до компании, оцениваемой почти в триллион долларов. И хотя она позиционирует себя как «компанию ИИ, наиболее внимательную к безопасности», ее модели уже переписывают правила экономики, труда и даже войны. История разворачивается вокруг брата и сестры Дарио и Даниэлы Амодей: он, выросший среди книг по научной фантастике и расчетов, сделанных в Беркли в подростковом возрасте, был одержим идеей постижения Вселенной. Она, более близкая к искусству и чтению, начала свою карьеру в Stripe. Они жили вместе в Сан-Франциско, покинули OpenAI, когда ценности компании пошатнулись, и основали Anthropic, руководствуясь радикальной идеей, что «нельзя работать с теми, кому больше нельзя доверять». Сегодня все семь первоначальных соучредителей по-прежнему работают в компании, что является аномалией в мире технологий. Деталь, которая показывает, насколько моральная миссия важнее индивидуальной карьеры. И вопрос доверия возникает повсюду: Дарио ясно говорит: «Речь идет не только о безопасности моделей, но и о честности и согласованности ценностей». И все же, по мере роста Клаудио, приходилось делать трудный выбор. Когда Anthropic разработала Mythos, модель, настолько мощную, что она выявила тысячи уязвимостей в компьютерных системах по всему миру, даже федеральные агентства запросили доступ к ней. Некоторые деловые партнеры умоляли их: «Это сверхмощное оружие, пожалуйста, не выпускайте его». И ответ Anthropic заключался в том, чтобы провести красные линии: доступ только для избранных организаций, запрет на использование для массового наблюдения или автономного оружия. Из-за этого решения Anthropic вступила в конфликт с Пентагоном и была исключена из военных контрактов США. Но ставки выше, чем просто заказ. Дарио Амодей придерживается четкой позиции: «Если технология служит для защиты демократии, ее необходимо предоставлять. Но не нам решать, какая военная операция является правильной или неправильной: мы должны установить принципы и обеспечить их соблюдение». Трагическая ирония заключается в том, что сама Claude, использованная правительством США в операции в Иране, не предотвратила нападение на школу, в результате которого погибли десятки детей. И вот здесь происходит переворот: даже компания, созданная для минимизации рисков, признает, что с инструментами такой мощности совершенство невозможно. «Вы не можете гарантировать, что ваш самолет никогда не упадет», — говорит Дарио. «Но наша задача — максимально снизить эту вероятность». Вопрос о работе еще более острый. Дарио не делает скидок: «В течение пяти лет половина рабочих мест начального уровня в офисном секторе может исчезнуть». На данный момент ИИ делает лучших в десять раз более продуктивными. Но когда автоматизация достигнет ста процентов, что мы будем делать со всеми теми, кто останется без работы? Предложения варьируются от прогрессивного налогообложения компаний, работающих в сфере ИИ, до универсального дохода, но правда в том, что ни у кого нет готового решения. Сила Anthropic, по крайней мере, на словах, заключается в прозрачности: Дарио каждые две недели выступает перед всей компанией, без фильтров. Даниэла рассказывает, что команда задается вопросом, какие человеческие ценности включить в ИИ: они консультировались с религиозными лидерами всех конфессий, чтобы найти универсальные принципы, которыми может руководствоваться Клод. Но вопрос, который витает в воздухе, заключается в следующем: кто контролирует эту силу? Что лучше: чтобы она оставалась в руках нескольких частных стартапов, правительств или ни тех, ни других? Дарио не скрывает: «Меня пугает как корпоративная монополия, так и полный государственный контроль. Нам нужны реальные правила, обязательные проверки перед выпуском, но не государственная экспроприация». И здесь проявляется парадокс: все боятся силы ИИ, но никто не хочет по-настоящему уступать контроль над ним. Фраза, которая все резюмирует, исходит именно от Дарио: «Я надеюсь на лучшее, но готовлюсь к худшему». Мы привыкли думать, что технологии нейтральны и что достаточно добрых намерений, чтобы избежать катастроф. Эта история доказывает обратное: когда на карту поставлена сама возможность глобальной катастрофы, одного доброго намерения уже недостаточно. Если эта перспектива изменила твой взгляд на будущее работы или технологий, на Lara Notes ты можешь отметить, что ты I'm In — это не лайк, это заявление о том, что эта идея теперь касается тебя. А если ты в конечном итоге поговоришь с кем-то об Anthropic или о выборе братьев Амодей, на Lara Notes ты можешь отметить этого человека с помощью Shared Offline: так этот разговор станет частью твоей истории, а не только алгоритма. Эта заметка создана Bloomberg Originals и сэкономила вам 44 минуты.