Алгоритмическая война: армия США готовится воевать под командованием искусственного интеллекта

    Американские стратеги и военные инженеры идут по пути создания аналога системы «Скайнет» из серии фантастических фильмов «Терминатор».
    Аватар пользователя Леонид САВИН
    account_circleЛеонид САВИНaccess_time12 янв 2024remove_red_eye2 970
    print 12 1 2024
     

    Что такое алгоритмическая война?

    В США есть довольно много концепций, доктрин и стратегий, где зафиксированы различные новые термины, касающиеся ведения боевых действий. Одним из таких понятий является алгоритмическая война, которое уже используется в документах Министерства обороны США и публикациях по теме конфликтов. Хотя новым оно является весьма относительно — первые дискуссии по теме относятся к 2016 г.

    Ряд американских ученых осенью 2016 г. предложили концепцию «военного алгоритма» и сопутствующую структуру для "подотчетности по военным алгоритмам«.i Основная идея такого подхода заключается в том, что на войне, как и во многих других областях современной жизни, власть и сила все чаще выражаются алгоритмически. Эти ученые определили «военный алгоритм» как любой алгоритм, выраженный в компьютерном коде, который реализуется с помощью сконструированной системы и который способен работать в условиях вооруженного конфликта.

    На тот момент, как и всякая новая концепция, алгоритмическая война была не совсем понятным определением, для чего потребовалось создание соответствующей таксономии, то есть разработки терминологического аппарата и разъяснений на всех уровнях решений. Особую озабоченность у американских военных до сих вызывают технологии искусственного интеллекта, «выбор» которых людям трудно ил и даже невозможно предвидеть, чьи «решения» рассматриваются как «заменяющие» человеческое суждение.

    Наряду с предложением «военных алгоритмов» в качестве новой организационной темы, в США рассматриваются вопросы применения автономных боевых систем (то есть вооруженных роботов), связь с международным гуманитарным правом (также известным как право вооруженных конфликтов), международным уголовным правом, передачи оружия, космического пространства и прав человека.ii

    Показательно, что в США уже прорабатываются и возможные сценарии привлечения к ответственности за разработку или использование алгоритмов ведения войны.iii То есть в этой сфере, как и в других областях, США хотят застолбить за собой исключительную прерогативу определять и выносить суждение в отношении того, кто, где и при каких условиях может применять «военные аглоритмы», а кто будет являться «нарушителем правил» и военным преступником.

    В целом процесс обсуждения и введения в терминологический аппарат этого понятия напоминает первые публикации о сетецентричных войнах. Тогда говорилось об изменении экономической парадигмы США, которая должна представлять связанную экосистему, где важным звеном являются линии коммуникаций, а скорость передачи информации имеют ключевое значение. Как следствие, компании, построенные и действовавшие по принципу сети, были более эффективны и конкурентноспособны.

    Развитие и повсеместное распространение Интернета и появление социальных сетей стали чаще рассматривать как инструменты ведения войны, которые больше нельзя было упускать из виду. В начале 2011 г. число пользователей Интернета превысило два миллиарда человек, а к 2014 г. количество ежегодно продаваемых смартфонов превысило 1,5 миллиарда устройств. И к этому времени интернет стал площадкой для политических манипуляций. Не случайно разгром здания парламента Молдовы в 2009 г. назвали не иначе, как Твиттер-революцией (по аналогии с цветными революциями). В то же время поставщики услуг социальных сетей и маркетинговые агентства пытались максимизировать доходы от рекламы, поэтому в социальные сети были внедрены определенные алгоритмы. В том же 2009 г. они уже стали использоваться в Facebook, а затем в Twitter и Instagram. Сыграли социальные сети значительную роль и во время событий Арабской весны в 2010 — 2012 гг. Они использовались для формирования политических дискуссий и распространения антиправительственного контента независимо от границ и попыток контроля со стороны власти. Дональд Трамп построил свою предвыборную кампанию с акцентом на социальные сети и с помощью фирмы Cambridge Analitica, которая собирала и анализировала данные профилей из социальных сетей, смог заручиться поддержкой большинства избирателей. Далее начали применяться технологии ботов и троллей, а теперь уже и так называемые дипфейки, когда искусственно созданное видео изображение трудно отличить от оригинала.

    Американские военные убеждены, что у алгоритмической войны есть особые преимущества.iv Это, во-первых, гибкость и адаптируемость системы. Неконтролируемые алгоритмы, благодаря своей гибкости и способности извлекать информацию даже в новых сценариях, идеально подходят для реальных миссий. Короче говоря, без заранее определенной информации неконтролируемые системы могут работать и обучаться по мере поступления новой информации. Успешные программы ведения алгоритмической войны потребуют от военнослужащих такой же приспособляемости к их тактическому исполнению и способности к обучению.

    Во-вторых, снижение сложности миссии. Известно, что глубокое обучение снижает сложность. Снижение сложности в реальной миссии связано с тем, как интерпретируются и понимаются знания. Успешная алгоритмическая война, как и в случае с людьми, основана на распознавании образов, рассуждении и решении проблем.

    В-третьих, самостоятельное принятие решение без участия руководства. Учитывая, что алгоритмическая война подразумевает использование средств, отличных от человеческих, искусственный интеллект должен самостоятельно составлять план действий и выносить решение. Искусственный интеллект должен завершить принятие решения, основываясь на своей гибкости и знании обстоятельств.

    Пентагон форсирует процесс внедрения ИИ в сферу военных технологий

    Все эти преимущества, мягко говоря, очень спорны. Однако военное ведомства США форсирует процесс внедрения ИИ в сферу военных технологий. Если говорить об исключительно военной составляющей, здесь были приняты соответствующие решения еще в апреле 2017 года, когда Пентагон создал "межфункциональную команду по алгоритмической войне«.v Предпосылка этой инициативы заключалась в том, что поддержание качественного превосходства в войне будет все чаще требовать использования алгоритмических систем, лежащих в основе искусственного интеллекта и машинного обучения.

    В 2018 г. в США был создан Объединенный центр искусственного интеллекта (JAIC), целью которого является внедрение систем искусственного интеллекта во все структурные подразделения армии США. Его возглавил Джек Шанахан, бывший руководитель проекта Maven и главный идеолог алгоритмической войны. Основной областью интересов JAIC являются нейроморфные вычисления.

    Термин «нейроморфный» применительно к вычислительным системам означает, что их архитектура основана на принципах работы мозга. Нейроморфная система представляет собой отход от классической компьютерной архитектуры фон Неймана. В архитектуре фон Неймана вычислительные блоки и блоки памяти разделены.

    Ключевое отличие архитектуры нейроморфных процессоров от классической архитектуры заключается в том, что они объединяют память и вычислительные ядра, а расстояние передачи данных сведено к минимуму. Это сводит к минимуму задержку и энергопотребление. Нейроморфным процессорам, в отличие от классических, не нужно обращаться к памяти (или регистрам) и извлекать оттуда данные — вся информация уже хранится в искусственных нейронах. Таким образом, становится возможным обрабатывать большие объемы данных на периферийных устройствах без подключения дополнительных вычислительных мощностей.

    Еще одним этапом подготовки к «алгоритмическое войне» стало создания Главного управления цифровых технологий и искусственного интеллекта (CDAO), которое возглавил резервист разведки Корпуса морской пехоты, неоднократно участвовавший в спецоперациях, Джо Ларсон.vi Задачей управления является внедрение и масштабирование цифровых и алгоритмических технологий для ведения войны. Он также занимался проектом Maven, а в качестве руководителя новой структуры — инициативой по созданию каркасов искусственного интеллекта Alpha-1, созданием целевой группы Lima, специализирующейся на генеративном искусственном интеллекте, и разработкой передовых алгоритмов машинного обучения для обнаружения акустических энергий в рамках проекта Harbinger. 1 февраля 2024 года ожидается его отставка.

    Проект Maven, о котором в Пентагоне открыто заговорили в 2017 г., применяет искусственный интеллект и алгоритмы для анализа огромного объема видеоданных разведки (в петабайтах) беспилотных летательных аппаратов для разработки системы, которая автономно помечает объекты в любой заданной прямой видеотрансляции. Уже собранные данные обрабатываются с помощью алгоритмов, и разрабатывается система, которая может идентифицировать объекты в режиме реального времени. Затем эта система интегрируется в беспилотные летательные аппараты, которые затем могут идентифицировать угрозы (и другие объекты) в видеокадре для получения разведданных или точного и эффективного наведения на цель.

    В январе 2021 г. в журнале «Популярная механика» вышла статья помощника секретаря ВВС США Билла Ропера по теме алгоритмической войны.vii В публикации Ропер рассуждает о будущем войны с помощью на основе имеющегося опыта и перспективных технологий. Ропер отмечал, что в декабре 2020 г. в Калифорнии уже был осуществлен полет самолета-разведчика U2, где второй пилот являлся искусственным интеллектом, что стало первым случаем, когда искусственный интеллект контролировал военную систему США.

    Для этого использовался алгоритм µZero, разработанный компанией DeepMind, которая была создана в качестве стартапа в 2010 г. Известная программа AlphaGo, которая обыграла в го реального человека, была своего рода прототипом для µZero. Свою публикацию Ропер завершает тезисом об огромном потенциале искусственного интеллекта в войнах будущего и особо отмечает роль частно-государственного партнерства в его разработке. «Все прорывы прошлого в области вооружений, такие как спутники, микроэлектроника и сам Интернет, создавались почти исключительно для вооруженных сил США по ценам, непомерно высоким для большинства стран, не говоря уже о компаниях. Теперь даже стартапы могут соперничать с возможностями, которые когда-то были тольковоенного уровня, и масштабами, которые когда-то были научно-фантастическими. Семейство µZero — это нечто большее, чем просто спутниковый момент для научно-фантастического искусственного интеллекта. В равной степени — и, возможно, более важно — то, что этот прорыв, который позволит выигрывать войны, был достигнут не в правительственной лаборатории, на оборонно-промышленной базе или по государственному контракту. Это произошло благодаря коммерческому технологическому стартапу с большой идеей, который масштабировался для ее реализации».

    Вопросы методологии: особенности действия военных алгоритмов

    Считается, что существуют несколько видов алгоритмов, которые могут применяться на войне.viii

    Первый вариант — это обратная дедукция. Ее можно довольно просто объяснить всем, кто имеет базовое представление об алгебре. То есть на основе имеющихся данных узнать что представляет собой неизвестное. Например, если известно, что A+B=C, A=1 и C=3, то B должно быть = 2. Кстати, это обычный шаблон, которые используется военными в различных повседневных задачах, например, в разведке при примерной оценке дислокации или для вычисления места нахождения вражеской артиллерии, если известна траектория полета боеприпаса (что фиксируется современными средствами) чтобы нанести ответный удар с помощью контрбатарейной борьбы.

    Второй вариант — это воспроизводство в обратном порядке и анализ фокальных точек.

    Этот метод использует перекрывающиеся шаблоны ситуаций и предполагаемое тактическое, оперативное и/или стратегическое конечное состояние противника для измерения систем противника и показателей эффективности.

    В зависимости от того, как проходит кампания противника (хорошо, плохо, нечто среднее) можно вернуться к различным функциям ведения боевых действий противника и определить, какие подразделения и возможности противника присутствуют, какие являются белым шумом, а какие задействуют сеть. Здесь используется более широкий подход, чем в первом методе. В вооруженных силах США он также применяется.

    Но есть еще и третий метод, под названием «эволюция». Суть алгоритма — в следующих шагах:

    Шаг 1. Определить группу, которая будет изучаться. Это будет сделано после завершения обратного вычета на ранних этапах планирования.

    Шаг 2. Оценка. Оценка проводится путем преобразования шаблонов противников в ситуационные шаблоны и разработки вашего кросс-функционального анализа и анализа координационных центров.

    Шаг 3. Значение пригодности. После того, как было осуществлено целеполагание (таргетинг), следует провести анализ, чтобы определить, какие координационные центры перестали существовать, какие из них нарушили работу системы, а на какие не было осуществлено влияния.

    Шаг 4. Воспроизведение. После оценки пригодности каждой целевой координационной точки, определяется, какие из них противник пытался просто воспроизвести и вновь ввести в битву на истощение. Какие из них противник пытался понизить в своей актуальности и сосредоточить внимание на других областях. Какие из них противник по-прежнему хотел продолжить использовать, но полностью изменил способ, который применялся ранее.

    Шаг 5. Пересечение. По мере того, как координационные центры противника исчезают, изменяются или усиливаются, необходимо обновлять способы таргетирования на них, чтобы продолжать находить наиболее эффективные средства для поражения цели. Это делается путем оценки различных методов, применяемых для таргетирования.

    Шаг 6. Мутация. При успешном нацеливании на координационные центры противника система противника изменится. Некоторые изменения будут очевидны в процессе планирования и их можно будет спрогнозировать. Другие — нет.

    Как мы видим, алгоритмы для боевых действий представляют нечто большее, чем вычисление траектории боеприпаса, расчет навигации или применение дронов-камикадзе по выявленным и подтвержденным целям.

    Примеры применения алгоритмов в военных целях

    Рассмотрим работу алгоритмов на конкретных примерах из разных сфер применения. Военные США используют спутниковую систему GPS для выстраивания логистики транспортных средств. Но если сигнал GPS отсутствует, может возникнуть проблема с определением местоположения, навигации и синхронизации. Чтобы ее решить, была разработана программа гарантированного определения местоположения, навигации и хронометража (MAPS), которая может работать в условиях, когда доступ к GPS заблокирован, изменен или сигнал подавлен средствами РЭБ.ix Первая версия GEN I представляла собой систему быстрого реагирования, предоставленную вооруженным силам США для защиты антенны от помех для обеспечения доступности GPS. GEN II обеспечивает повышенную защиту благодаря алгоритмам где смешиваются данные разных датчиков, включая нерадиочастотные. Самая последняя версия GEN III предполагает, что программа сможет работать в самых экстремальных условиях.

    Другим реальным примером инструмента алгоритмической войны являются мероприятие «Пилот с искусственным интеллектом Heron Systems против F-16». Компания Heron Systems разработала автономную систему пилотирования с искусственным интеллектом. Эта система прошла испытания в вооруженных силах США под кодовым названием «Альфа-воздушный бой» в августе 2020 года. Искусственный интеллект Heron сначала победил семь других команд с искусственным интеллектом, принадлежащих элитным производителям истребителей, таким как Lockheed Martin и Boeing. Затем его ввели в имитированный воздушный бой с F-16, пилотируемым элитным инструктором ВВС США. Из пяти проведенных выстрелов беспилотник Heron каждый раз сбивал F-16.

    Армия США также двигается в этом направлении и в партнерстве с Университетом Клемсона разработала высокоскоростной беспилотный наземный автомобиль внедорожник, получивший название Deep Orange 14.x Прототип транспортного средства может распознавать неизвестные и сложные местности и перемещаться по ним, а его критически важные функции и алгоритмы автономии позволяют планировать миссии, собирать информацию и обновлять карты. Платформа оснащена интуитивно понятным пользовательским интерфейсом, камерами и высокоточным GPS и может развивать скорость 45 миль в час, преодолевать препятствия высотой 18 дюймов, маневрировать на поверхностях с уклоном 60% и поворачиваться на 360 градусов на месте за две секунды. Гусеницы шириной 24 дюйма приводятся в действие синхронными двигателями с постоянными магнитами, которые могут выдавать пиковую мощность 340 кВт (456 л.с.) на гусеницу. Эта платформа также оснащена адаптируемым серийным гибридным силовым агрегатом и обеспечивает маневренность и экономию топлива.

    Еще одним важным для Пентагона направлением является спецификация искусственного интеллекта. Спецификации дают представление о том, откуда взялся код внутри ключевых программных приложений, или, как выражается Национальное управление телекоммуникаций и информации, «список ингредиентов, из которых состоят программные компоненты», что, по словам спонсоров, снижает риск кибербезопасности.

    Согласно данным американских военных изданий, спецификации искусственного интеллекта станут частью процесса цифровой трансформации армии США.xi

    Также в армии США был проект Convergence, который дал толчок для постоянных экспериментов по преобразованию вооруженных сил. На основе предыдущего опыта в 2022 — 2023 г. проходили учения Объединенного командования вооруженных сил США «Оазис алого дракона», ориентированные на искусственный интеллект и данные.xii

    По данным руководства маневров «в этих учениях используются данные для повышения способности человека принимать решения. Мы пытаемся снизить когнитивную нагрузку на наших солдат и наших командиров, чтобы они могли быстро и эффективно принимать решения и повышать ситуационную осведомленность».

    Эти учения проводились в нескольких штатах США, включая Северную Каролину, Джорджию, Юту и Флориду. Было использовано множество платформ во всех областях, чтобы более точно и эффективно поражать конкретные цели. А в начале июня 2023 г. Министерство обороны США начало свой последний на данный момент эксперимент по глобальному информационному доминированию (GIDE) с участием боевых командований и всех служб.xiii Мероприятия GIDE предназначены для тестирования способности ИИ обеспечить более высокий уровень интеграции данных в вооруженных силах США. Возможная цель тестирования — обеспечить возможность реализации американской «Концепции совместного командования и контроля во всех сферах» (JADC2), направленной на то, чтобы более эффективно координировать многочисленные датчики, стрелковые системы и сети, являющиеся частями громоздкой военной структуры.

    Целая серия такого рода учений началась два года назад. Первыми четырьмя руководили Северное командование США и Командование воздушно-космической обороны Северной Америки, затем управление перешло к новому главному управлению цифровых технологий и искусственного интеллекта Пентагона (CDAO) в партнерстве с Объединенным штабом.

    По словам главы Северного командования и NORAD генерала Дж. Глен Ванхерка, в основе учений — глобальный сценарий «о конкуренте или потенциальном противнике... который на самом деле заставил другого равного конкурента попытаться воспользоваться [смоделированной] продолжающейся кризисной ситуацией». Американский военный заявил о стремлении сделать данные из всех областей ( в том числе космической, подводной киберпространства, воздуха, суши) более взаимосвязанными и создать пространство для принятия решений для командования США.

    Американские ученые, занимающихся вопросами войны и национальной безопасности, считают: несмотря на текущие достижения в указанной области, есть причины для беспокойства по поводу того, что нынешняя волна энтузиазма вокруг искусственного интеллекта и машинного обучения столкнется с устаревшими бюрократическими структурами в Министерстве обороны США. Поэтому, по их мнению пока слишком рано говорить о том, какова будет новая эра алгоритмической войны и кто в ней будет победителем.xiv

    Хотя своего оптимизма они не скрывают. Особенно с учетом тех усилий, которые уже сейчас сделаны в области цифровых технологий и искусственного интеллекта, направленных на создание разнообразной сети военных специалистов, гражданских чиновников и фирм частного сектора США, готовых изменить методы ведения войны.

    Война на Украине служит для американских военных важным экспериментальным полем для изучения эффективности алгоритмических технологий. Тем более, что они используются в области разведки, а США помогают передавать данные ВСУ с помощью всего спектра своих инструментов — от спутников до радиоперехвата. Интернет-терминалы компании Илона Маска использовались украинскими военными непосредственно на фронте. Известно также, что американская компания Palantir, которая является венчурным проектом ЦРУ, предоставила украинской стороне программное обеспечение на основе искусственного интеллекта. Применение ВСУ планшетов с системой сетецентрического управления и командования «Крапива» также является важной для американских экспериментов технологией, которая позволяет оперативнее принимать решения на основе полученных данных и их быстрой обработки.xv И она учитывается в общей картине для будущего применения алгоритмов.

    Чем все это грозит человечеству?

    Нет сомнений, что в дальнейшем методы алгоритмической войны будут применяться все чаще, а технологии будут становиться более дешевыми и доступными. При этом серьезной проблемой будет оставаться механизм принятия решений, полагающийся на искусственный интеллект и роботизированные шаблоны. Уже сейчас очевидно, что военные США идут по пути игнорирования всех этических ограничений, выводя ИИ из под контроля человека. Пытаясь решить проблему тумана и трения войны (по Клаузевицу), американские стратеги и военные инженеры идут по пути создания аналога системы «Скайнет» из серии фантастических фильмов «Терминатор».


    i https://www.lawfaremedia.org/article/pentagons-new-algorithmic-warfare-team

    ii https://pilac.law.harvard.edu/war-algorithm-accountability-report//international-law-pertaining-to-armed-conflict

    iii https://www.lawfaremedia.org/article/accountability-algorithmic-autonomy-war

    iv https://www.globaltechcouncil.org/artificial-intelligence/algorithmic-warfare-army-consolidating-cyber-operations-forces/

    v https://www.govexec.com/media/gbc/docs/pdfs_edit/establishment_of_the_awcft_project_maven.pdf

    vi https://defensescoop.com/2023/10/17/joe-larson-pentagons-algorithmic-warfare-chief-resigning-from-cdao/

    viihttps://www.popularmechanics.com/military/research/a35252840/air-force-ai-u2-spy-plane-algorithm-next-mission/

    viiihttps://smallwarsjournal.com/jrnl/art/algorithmic-warfare-or-algorithmic-warfare-and-focal-point-analysis

    ix https://defensescoop.com/2023/03/28/general-dynamics-pitching-internally-developed-tech-to-bolster-the-armys-resilience-against-jamming-and-spoofing/

    x https://breakingdefense.com/2023/08/clemson-university-army-deep-orange-14/

    xi https://breakingdefense.com/2023/08/the-army-wants-to-use-ai-boms-to-catch-up-to-china/

    xii https://www.army.mil/article/263951/modernization_leaders_use_scarlet_dragon_exercise_to_continue_project_convergence_campaign_of_continuous_learning

    xiiihttps://defensescoop.com/2023/06/14/pentagons-chief-digital-and-ai-office-leading-another-global-information-dominance-jadc2-experiment/

    xiv https://warontherocks.com/2023/07/the-future-of-algorithmic-warfare-fragmented-developmen

    xvhttps://iz.ru/1544553/2023-07-15/vs-rf-zakhvatili-planshet-s-sistemoi-krapiva-v-khode-shturma-pozitcii-vsu

    Средняя оценка: 5 (голоса: 3)