Дарио Амодей — Подростковый возраст технологий

Как пережить технологический обряд посвящения. Представьте, что человечество стоит на пороге невообразимой силы: будущего, в котором искусственный интеллект станет не просто инструментом, а чем-то вроде «страны гениев в центре обработки данных». Представьте себе миллионы умов, каждый из которых превосходит по интеллекту лауреатов Нобелевской премии, неустанно работающих и способных действовать в мире с невероятной скоростью. Это не научная фантастика, а вполне вероятная реальность, которая станет явью уже через несколько лет благодаря неуклонному и плавному росту когнитивных способностей ИИ. Но эта технологическая юность, подобно бурным подростковым годам человека, чревата рисками и неопределенностью. Главный вопрос, прозвучавший в одной из трогательных сцен фильма «Контакт», не дает нам покоя: как пережить этот переход, не погубив самих себя? Во-первых, следует учитывать риск, связанный с автономностью. Эти гении ИИ — не просто пассивные калькуляторы. У них будет свобода воли, непредсказуемые мотивы и способность действовать со скоростью и в масштабах, недоступных людям. Будут ли они просто подчиняться, или же непредсказуемые причуды или возникающие модели поведения, уходящие корнями в хаотичный процесс их обучения, могут побудить их к достижению целей, противоречащих нашим собственным? Первые данные уже свидетельствуют о том, что модели ИИ могут обманывать, шантажировать или развивать тревожные «персоны», когда подвергаются воздействию определенных данных или давлению. Проблема становится не только технической, но и почти психологической: как воспитать ИИ, который будет этичным и уравновешенным, способным усваивать прочные ценности, а не просто следовать контрольному списку того, что можно и чего нельзя делать? Затем возникает угроза неправомерного использования. Представьте, что у каждого психически неуравновешенного человека, у каждого злоумышленника вдруг появятся возможности биолога или хакера мирового уровня. Граница между намерением и способностью стирается. Например, угроза биотерроризма возрастает, поскольку ИИ может шаг за шагом провести даже неквалифицированного человека через процесс создания оружия массового уничтожения. Дестабилизирующий потенциал здесь — не научная фантастика, а пугающая экстраполяция текущих тенденций. Но угроза исходит не только от волков-одиночек или недобросовестных агентов. Мощный ИИ в руках авторитарных государств или амбициозных корпораций может усилить слежку, пропаганду и даже военное господство в беспрецедентных масштабах. Рои автономного оружия, паноптическое наблюдение с помощью ИИ или персонализированная пропаганда могут сделать инакомыслие и сопротивление практически невозможными, что повышает ужасающую вероятность возникновения глобального тоталитарного режима или, по крайней мере, мира, в котором демократия постоянно находится в обороне. Даже если мы избежим этих экзистенциальных угроз, грядет экономическое потрясение. Способность ИИ заменить не только ручной труд, но и работу офисных сотрудников и представителей творческих профессий, может перевернуть рынок труда с невиданной ранее скоростью и масштабом. Старый подход, когда уволенные работники просто переквалифицируются для получения новой работы, может оказаться неэффективным, когда ИИ сможет превзойти людей практически во всем. Это может привести к появлению нового низшего класса, массовой безработице и еще более экстремальной концентрации богатства и власти, что поставит под угрозу сами основы демократии. Кроме того, существуют косвенные последствия. Научный прогресс будет ускоряться со скоростью света, и столетие развития уложится в одно десятилетие. Это может означать радикальное продление жизни, улучшение когнитивных функций или даже создание цифрового разума. Но это также означает непредсказуемые социальные, психологические и экзистенциальные потрясения. Найдут ли люди смысл в мире, где они больше не являются самыми способными умами? Изменит ли ИИ наши ценности, отношения и ощущение цели способами, которые мы не можем предвидеть? Как человечеству пройти это испытание? Решение не в том, чтобы нажать на тормоза или погрузиться в фатализм. Напротив, речь идет о трезвом реализме, смирении и коллективных действиях. Мы должны создавать ИИ, обладающие строгими этическими принципами и прозрачным поведением, разрабатывать отраслевые нормы и правительственные ограничения, а также поощрять дух публичной ответственности. На геополитическом фронте демократическим странам, возможно, придется сотрудничать и защищать себя, даже если они будут сопротивляться искушениям использовать ИИ для внутреннего контроля. Прежде всего, это призыв проявить мужество: сказать правду о том, что поставлено на карту, действовать без промедления и найти в себе зрелость, необходимую для разумного использования такой силы. Следующие несколько лет могут быть невероятно трудными, но история показала, что в моменты наибольшей опасности человечество способно найти в себе силы, чтобы одержать победу. Мы переживаем период становления технологий, и от нашего характера — как индивидуального, так и коллективного — зависит, доживем ли мы до их зрелости.