Йошуа Бенжио, один из отцов ИИ: «С помощью искусственного интеллекта мы создаем машины, которые могут превзойти нас. В чужих руках риски огромны»

Взгляд в будущее: Йошуа Бенжио и гонка за безопасный искусственный интеллект. Представьте, что вы находитесь на передовой технологической революции, создавая основы машин, которые однажды смогут превзойти человеческий интеллект. Это реальность для Йошуа Бенжио, пионера в области искусственного интеллекта, чья работа на протяжении всей жизни вывела ИИ на новые высоты. Но с этим прогрессом приходит глубокое чувство ответственности и, все чаще, беспокойство. Путешествие Бенжио отмечено как волнением, так и тревогой. Вначале он считал, что ИИ может быть силой добра, представляя его как инструмент для решения самых больших проблем человечества. Однако, по мере того, как нейронные сети становились все более мощными, он понял, что эти творения развиваются гораздо быстрее и с гораздо меньшими ограничениями, чем кто-либо ожидал. Теперь машины обладают способностями, которые превосходят нас в некоторых областях, и их потенциал общаться, действовать и даже воспроизводить себя ставит вопросы, на которые мир не готов ответить. В основе послания Бенжио лежит предупреждение: в чужих руках ИИ может угрожать самой структуре человеческой солидарности. Риски варьируются от эрозии демократии, когда ИИ манипулирует и поляризует общества, до экзистенциальных угроз, таких как автономные системы, действующие с целями, несовместимыми с благополучием человека. Концентрация власти ИИ среди нескольких участников только усиливает опасность, создавая беспрецедентную динамику, когда технологии могут опередить систему сдержек и противовесов, сформировавшую цивилизацию. Несмотря на эти риски, Бенжио не отчаивается. Он отстаивает идею быть «исполнителем», а не «обреченным» — тем, кто считает, что у нас все еще есть свобода воли, что наш выбор и действия могут направить будущее в позитивное русло. Его текущая миссия заключается в разработке формы ИИ, которая не является «агентной», то есть не преследует свои собственные цели, а скорее действует как научный оракул: честный, не манипулирующий и приверженный исключительно истине. Такой ИИ, утверждает он, может служить гарантией, проверкой против более автономных систем, которые в противном случае могут выйти из-под контроля. Видение Бенжио выходит за рамки технических решений. Он призывает к глобальному сотрудничеству, созданию новой структуры, в которой страны и учреждения объединяются, чтобы обеспечить ответственное развитие ИИ и справедливое распределение его преимуществ. Он считает, что религиозные и гражданские лидеры играют решающую роль в пробуждении общества как к обещанию, так и к опасности ИИ, активизируя коллективную волю, необходимую для требования подотчетности и мудрого управления. По мнению Бенжио, на карту поставлено не что иное, как будущее человеческого достоинства и свободы. Он стремится не к личной выгоде, а к миру, в котором технологии усиливают лучшее, что есть в человечестве, а не подрывают его. Смиренно, с надеждой и непоколебимой приверженностью действию, Бенжио выходит на арену, напоминая нам, что история ИИ еще не написана, и что выбор, который мы делаем сегодня, будет отражаться на будущих поколениях.