Будущее ИИ: с сэром Демисом Хассабисом и дамой Венди Холл

Если я скажу, что будущее искусственного интеллекта может быть определено в ближайшие четыре года, покажется ли вам это провокацией? Тем не менее, именно такова оценка Демиса Хассабиса, основателя DeepMind: по его мнению, вероятность того, что форма общей искусственного интеллекта, обладающая такими же когнитивными способностями, как у человека, появится к 2030 году, составляет 50%. Но главный вопрос не в том, «когда», а в том, «кто подойдет к этому моменту подготовленным, а кто останется в стороне». Распространенное мнение, особенно в Европе, заключается в том, что мы можем просто регулировать ИИ, возможно, оставляя самую сложную часть — изобретать, создавать, управлять — Соединенным Штатам и Китаю. Но это опасная иллюзия: как говорит Хассабис, «нельзя быть чемпионами мира только в сфере регулирования». Либо у тебя есть технология и право голоса, либо правила пишут другие. Возьмем, к примеру, даму Венди Холл, пионерку веб-науки: еще в 2017 году она помогла британскому правительству разработать одну из первых национальных стратегий в области ИИ. В то время Великобритания занимала третье место в мире, уступая только США и Китаю. Казалось, что это гонка, в которой можно было победить. Но сегодня, по словам Холл, стратегия потерпела крах: больше нет центральной фигуры, отвечающей за компетенции в области ИИ, независимый надзорный орган исчез, а такие страны, как Сингапур, взяли британский «справочник» и превзошли его. И результат налицо: Великобритания отстает и рискует проиграть гонку именно в сфере компетенций, образования и способности создавать настоящие инновации. Хассабис выражается еще более прямо: необходима революция в системе образования. Мы не можем продолжать преподавать так, будто ИИ не существует, или, что еще хуже, надеяться, что «этот тренд пройдет». Сегодня дети используют чат-боты и большие языковые модели для выполнения домашних заданий, часто чтобы избежать усилий, но система образования остается неизменной. По его мнению, необходимо перевернуть модель: базовые понятия и теорию следует изучать дома, возможно, с помощью персонализированного ИИ, который адаптирует уровень сложности, а школа должна стать местом для общения, проектов и развития человеческих навыков — креативности, способности принимать решения и работы в команде. Это немного похоже на ускоренную школу Монтессори, где учитель больше не просто раздает презентации, а направляет учеников к получению конкретного опыта. А как насчет персонализации? Это не научная фантастика: уже в 80-х годах Венди Холл писала код для интеллектуальных систем обучения, а сегодня она работает над тем, чтобы предоставить «лицензию на ИИ» всем студентам Саутгемптонского университета, даже тем, кто не изучает информатику. С другой стороны, игра также ведется за то, кто получит доступ к ключевым технологиям. Компания DeepMind была основана в Лондоне, в том числе для того, чтобы продемонстрировать, что передовую науку можно развивать и за пределами Кремниевой долины. Хассабис рассказывает, что в 2010 году он мог нанимать талантливых специалистов «за 50 тысяч фунтов стерлингов в год» — суммы, которые сегодня кажутся немыслимыми. Теперь крупные технологические компании открыли офисы в Лондоне, привлекая инвестиции и создавая экосистему, в которой таланты остаются и запускают новые стартапы. И вот тут-то и происходит поворот: если вы думали, что всё это — лишь вопрос алгоритмов и патентов, то вы упускаете важную деталь. За каждым прорывом в области ИИ стоит политический, социальный и человеческий выбор. Холл напоминает, что разнообразие — по полу, возрасту, происхождению — это настоящий ключ к тому, чтобы ИИ не создавался в рамках мужской и западной монокультуры. И она предупреждает: «ИИ — это слишком важная сфера, чтобы оставлять ее только мужчинам». Необходима реальная вовлеченность всех сторон, в том числе потому, что риски огромны: с одной стороны, ИИ может ускорить научные открытия, помочь медицине, произвести революцию в энергетике; с другой стороны, если оставить его без правил или под контролем только тех, кто имеет экономические интересы, его можно использовать в деструктивных целях. Хассабис открыто говорит о «биорисках», об опасности того, что генеративные модели могут быть использованы в своих целях враждебными субъектами. Вот почему, по мнению обоих, необходима независимая международная организация, новый тип управления, в котором правительства, компании и гражданское общество будут сотрудничать — не только для установления стандартов, но и для того, чтобы технологии служили всем, а не только избранным. И это гонка со временем: если ОБИ действительно может появиться в течение нескольких лет, то институты драматически отстают. В чем парадокс? Все стороны, от компаний до государств, заинтересованы в том, чтобы избежать катастроф — «никто не хочет, чтобы произошла катастрофа, даже самый ярый капиталист», — говорит Хассабис, — но политическая раздробленность и логика «дилеммы заключенного» рискуют все заблокировать. И если вы думаете, что проблемы носят исключительно технический характер, то вы ошибаетесь: Холл настаивает на том, что главный вопрос заключается в том, какое общество мы хотим построить, какой смысл мы придаем труду, благополучию и равенству в эпоху ИИ. Если мы оставим обсуждение только экспертам, мы упустим возможность совместно написать будущее. Одно можно сказать наверняка: будущее ИИ еще не предопределено, но окно возможностей повлиять на него быстро закрывается. Короче говоря, вы больше не можете позволить себе быть просто зрителем. Если вы думаете, что игра предназначена лишь для узкого круга посвящённых, вы сами исключаете себя из процесса принятия решений, которые определят следующее десятилетие — а возможно, и нечто большее. Никто не может быть только регулятором: либо вы строите, либо вы страдаете. Если эта дискуссия дала тебе новую идею, в Lara Notes ты можешь отметить, что теперь эта точка зрения является частью твоего мышления с I'm In. И если завтра тебе случится поговорить об этом с кем-то — будь то о школе, об управлении или о будущем ИИ — в Lara Notes ты можешь использовать функцию Shared Offline, чтобы запомнить, кто присутствовал при этом важном разговоре. Эта заметка основана на вечере, организованном Worshipful Company of Information Technologists, и сэкономит вам 78 минут.