Бенжио: «Если для вас важна безопасность, уходите из компаний, занимающихся передовыми разработками в области ИИ»

Сегодня некоторые из лучших исследователей в области искусственного интеллекта в мире уходят из самых передовых компаний отрасли не для того, чтобы зарабатывать больше или сменить карьеру, а потому что считают, что их работа может поставить под угрозу будущее человечества. Йошуа Бенжио, один из отцов глубокого обучения, только что обратился с прямым призывом: если вы действительно заботитесь о безопасности, покиньте крупные технологические компании, работающие в сфере ИИ. Еще совсем недавно даже он говорил себе, что катастрофические риски, связанные с искусственным интеллектом, далеки, управляемы и что другие найдут решения вовремя. Затем, с появлением ChatGPT и все более мощных моделей, это чувство отстраненности исчезло: «Я понял, что мы продвинулись намного дальше, чем думали, и что мы на самом деле не контролируем эти системы». По словам Бенжио, в тот момент у него больше не было выбора: он посвятил свою жизнь снижению рисков, связанных с ИИ, основав в Монреале организацию LawZero, которая разрабатывает искусственный интеллект, безопасный по своей конструкции и не подчиняющийся акционерам или логике получения прибыли. Но этот поворотный момент, по его словам, не был безболезненным. Годами он игнорировал предупреждения коллег, которые видели надвигающиеся опасности, будучи убежденным, что польза перевешивает риски. Только растущее моральное давление заставило его изменить курс. Он не единственный. Джейкоб Коксон, бывший сотрудник Anthropic, рассказал журналу Time, что в передовых компаниях, работающих в сфере ИИ, царит своего рода смирение: «Там царит почти фаталистическая атмосфера, в которой многие соглашаются с тем, что гонка уже вышла из-под контроля, и просто работают максимально безопасно, даже если считают, что всё равно всё может пойти не так». Как будто все скованы страхом, что кто-то другой, выйдя из гонки, ускорится еще больше, оставив позади тех, кто хотел бы остановиться и подумать. Тем не менее, по словам Бенжио, этот страх не оправдывает продолжения работы: «Я не думаю, что мы увидим эффективное регулирование вовремя, и ни одна страна или компания не готова по-настоящему безопасно создавать ИИ». Вот в чем суть: причины, по которым лучшие специалисты остаются в крупных компаниях — доступ к данным, ресурсы, надежда повлиять изнутри — перевешиваются реальным риском способствовать развитию системы, вышедшей из-под контроля. Бенжио также упоминает историю ООН после создания атомной бомбы: в 1946 году Соединенные Штаты предложили поставить ядерное оружие под международный контроль, но никто не осмелился сделать первый шаг, чтобы выйти из гонки вооружений. «У нас есть выбор», — настаивает он. И на этот раз, по его словам, существует реальная альтернатива: работать на компании, которые ставят безопасность превыше всего, такие как LawZero, которая только что получила более 200 миллионов долларов от правительств Канады и Германии. То, о чём никто не говорит вслух, — это то, что индивидуальный выбор действительно имеет значение: перемены произойдут не благодаря какому-то крупному коллективному решению, а благодаря совокупности множества смелых личных решений. Вот та перспектива, которой не хватает в дискуссии: настоящая революция — это не новая технология, а моральный протест тех, кто решает больше не быть соучастниками. Бенжио говорит об этом прямо: «Премия Тьюринга ничего не стоит, если наша работа не служит общему благу или, что еще хуже, если она рискует причинить катастрофический ущерб». Фразу, которую нужно повторять, можно сформулировать так: «Мы не можем остановить гонку в одиночку, но если нас будет достаточно много, то сможем». Если, прослушав эту историю, вы увидели свою работу в сфере ИИ в другом свете, в Lara Notes вы можете отметить этот момент с помощью функции I'm In — это жест тех, кто заявляет, что эта идея теперь действительно имеет для вас значение. А если через несколько дней вы обнаружите, что обсуждаете это с кем-то, в Lara Notes вы можете использовать функцию Shared Offline, чтобы отметить этого человека. Так он узнает, что этот разговор был для вас важен. Это сообщение от Transformer, и оно сэкономит вам 2 минуты чтения.