Эксперт по безопасности ИИ: это единственные 5 профессий, которые останутся в 2030 году! - Доктор Роман Ямпольский

Последние пять профессий: перед лицом сверхразумного будущего. Представьте себе мир, в котором почти каждая известная вам профессия - водитель, профессор, сантехник, художник - устарела, и не в какой-то далекой эпохе научной фантастики, а, возможно, в течение следующего десятилетия. Это провокационное видение, возникающее в самом сердце дебатов о безопасности ИИ, поскольку ускоряющаяся гонка к искусственному общему интеллекту, или ИОИ, угрожает разрушить саму ткань нашей трудовой жизни. В течение многих лет сохранялась вера в то, что при правильных мерах предосторожности передовой ИИ может быть безопасным и полезным для человечества. Но по мере того, как возможности ИИ стремительно росли, исследования в области безопасности значительно отставали, и этот разрыв увеличивается. Прогресс технологии является экспоненциальным, почти гиперэкспоненциальным, в то время как наша способность контролировать или даже понимать эти системы растет только медленно, если вообще растет. Все, что мы можем сделать, это исправлять неожиданное поведение, в то время как ИИ учится, адаптируется и все больше превосходит людей в разных областях. Мы уже наблюдаем трансформацию: модели ИИ теперь преуспевают на математических олимпиадах, генерируют научные доказательства и автоматизируют творческие задачи. Вскоре ИИ не только сравняется с людьми, но и превзойдет их практически во всех когнитивных сферах. А в течение нескольких коротких лет достижения в области робототехники означают, что даже физический труд, который когда-то считался защищенным от автоматизации, будет выполняться машинами лучше, быстрее и дешевле. Итак, что же остается для нас? К 2030 году прогноз будет суровым: останется лишь несколько профессий, возможно, не более пяти. Это те профессии, где по традиции, личным предпочтениям или простому желанию человеческого участия люди всё ещё будут платить за то, чтобы работу выполнял человек. Возможно, это будут терапевты, личные тренеры или ремесленники, изготавливающие продукцию на заказ. Но это будут нишевые, почти фетишизированные исключения, а не правило. Подавляющее большинство рабочих мест - все, что можно сделать на компьютере или с помощью робота - могут быть автоматизированы. Обычное утешение — «переквалификация для новой работы» — в этом сценарии испаряется. Если все рабочие места могут быть автоматизированы, то плана Б не существует. Проблема становится не только экономической, но и экзистенциальной: как мы находим смысл, когда работа, какой мы ее знаем, исчезает? Как мы будем структурировать общество с 99% безработицей? Даже универсальный базовый доход кажется небольшим ответом на такой сейсмический сдвиг. И все это разворачивается в тени огромного риска. Нет гарантий, что путь к сверхинтеллекту закончится хорошо. Разрабатываемые системы - это не просто инструменты; они являются агентами, непредсказуемыми и потенциально неконтролируемыми. Даже их создатели не до конца понимают, как они работают изнутри. Возможность катастрофического злоупотребления или даже событий, ведущих к вымиранию, реальна, особенно потому, что ИИ позволяет создавать новые биологические угрозы или другие опасности, выходящие за рамки нашего нынешнего воображения. Некоторые надеются на технологическое или законодательное решение, но нет единого мнения о том, как сделать сверхразумный ИИ безопасным, и даже о том, возможно ли это. Между тем, глобальная гонка за доминирование в развитии ИИ неумолима, движимая огромными финансовыми и геополитическими стимулами. Призывы к осторожности, протесту или регулированию с трудом набирают обороты против импульса инноваций и соблазна невообразимой силы. Существует также глубокий философский поворот: по мере того, как ИИ становится способным моделировать целые миры и человеческих агентов, гипотеза моделирования - что мы, возможно, уже живем в искусственной реальности - приобретает новую правдоподобность. Если в ближайшее время мы сможем запустить миллиарды реалистичных симуляций, то, скорее всего, мы уже находимся в одной из них. И все же, несмотря на срочность и экзистенциальные ставки, повседневная жизнь продолжается. Мы цепляемся за свои привычки, отфильтровываем шум и продолжаем двигаться вперед. Может быть, это черта выживания, может быть, это отрицание, но это также призыв к действию - потребовать ответов от тех, кто строит эти системы, переосмыслить, что значит жить осмысленной жизнью, и, возможно, прежде всего, признать, что последнее изобретение, которое создает человечество, может быть тем, которое переделывает - или заканчивает - всех нас.