Как НАТО может интегрировать ИИ, чтобы одержать победу в будущей алгоритмической войне

Кажется невероятным, но, по мнению экспертов, опрошенных НАТО, самым уязвимым звеном в войнах с использованием искусственного интеллекта является не технология, а человек. Настоящая слабость — не чипы, подводные кабели или алгоритмы, а наша способность справляться с ошибками, когнитивными искажениями и дезинформацией. И самое удивительное заключается в том, что, несмотря на все рассказы об «автономном оружии» и «ИИ, меняющем облик войны», риск ядерной эскалации зависит не от использования самого ИИ, а от последствий на местах и от решений, принимаемых людьми под давлением. Главная идея этого доклада заключается в том, что ИИ не создает принципиально новых уязвимостей по сравнению с рисками, уже существующими в киберпространстве. Меняются ставки: скорость, масштаб, автономность и новая сложность, которая может усилить ошибки и недопонимание. Давайте подумаем о том, как действует НАТО: организация делает ставку не на «супероружие ИИ», а на способность интегрировать искусственный интеллект во все слои своей цифровой инфраструктуры, превращая его в своего рода связующее звено для принятия решений, логистики, командования и управления. Здесь на сцену выходит Доминика Кунертова, исследователь, которая возглавила исследование при поддержке НАТО и Атлантического совета. Во время семинара в Вашингтоне, проходившего строго за закрытыми дверями, были смоделированы кризисные ситуации, в которых автономные беспилотники заполняли воздушное пространство над Балтийским морем. Какие ответные меры эксперты оценили наиболее высоко? Не ракеты или кибератаки, а дипломатия и радиоэлектронная борьба: глушение, ослепление датчиков, война в электромагнитном спектре. Применение ядерного оружия с электромагнитным импульсом, даже в качестве угрозы, было признано слишком рискованным и политически неприемлемым. Важно помнить одну деталь: сегодня настоящая сила ИИ в военной сфере проявляется на трех фронтах, которые называют «триадой ИИ»: данные, алгоритмы, вычислительная мощность. Каждый из этих элементов уязвим для атак — от центров обработки данных до манипулируемых алгоритмов и чипов, подвергшихся саботажу в цепочке поставок. Но какова самая эффективная защита? Резервирование: системы резервного копирования, передача данных по вспомогательным каналам, реалистичные учения в условиях, когда связь отсутствует. И, самое главное, обучение: настоящая «AI literacy» (грамотность в области ИИ) заключается не в умении программировать, а в понимании ограничений, рисков и возможностей ИИ, чтобы не стать жертвой «очарования машины». Поразительная картина: в Украине беспилотники, используемые военными, обмениваются информацией, как если бы они были Uber, в режиме реального времени назначая цели тем, кто находится ближе всего и готов к действию. Все работает, пока держится сеть, но достаточно одного электромагнитного отключения, и это преимущество сводится на нет. И здесь становится очевидной неприятная истина: настоящая граница — это не только киберпространство, но и область электромагнитного спектра. Если вы потеряете контроль над частотами, связью, GPS, вы проиграете войну алгоритмов. Часто упускается из виду один момент: ИИ — это не волшебная палочка, а рычаг, который работает только при наличии надежной структуры: чистых данных, защищенного оборудования, обученных операторов. И будьте осторожны с риском «ажиотажа вокруг ИИ»: страх отстать может подтолкнуть страны и генералов к переоценке реальных возможностей ИИ, что приведет к большей нестабильности, чем сами технологии. Какая фраза может подвести итог всему сказанному? ИИ не меняет природы войны, но ускоряет ее темп и повышает неопределенность. Если эта точка зрения позволила вам взглянуть на цифровую войну в новом свете, вы можете отметить «I’m In» на Lara Notes: это не лайк, а способ сказать, что теперь эта идея принадлежит вам. Если через несколько дней вы расскажете кому-то, что настоящей уязвимостью в войне с ИИ является человек или что глушение сигналов важнее беспилотников-убийц, вы можете отметить этого человека в Lara Notes с помощью функции «Поделиться офлайн». Так он/она поймет, что этот разговор имел значение. Эта заметка взята из доклада Атлантического совета: вы сэкономили более часа чтения.