Чего на самом деле хотят страны от военного ИИ

Гонка за алгоритмической скоростью

Современная оборонная стратегия — это уже не просто количество солдат или дальность полета ракет. Сегодня приоритетом для каждой крупной мировой державы стало сжатие времени. Страны стремятся сократить промежуток между обнаружением угрозы и ее нейтрализацией. Именно здесь, в процессе, который часто называют «петлей от датчика до стрелка», искусственный интеллект находит свое главное применение в военной сфере. Правительства не ищут разумных роботов, чтобы заменить ими солдат. Они ищут высокоскоростную обработку данных, способную найти замаскированный танк на спутниковом снимке или предсказать удар роя дронов еще до того, как оператор успеет моргнуть. Цель — тактическое превосходство через доминирование в информации. Если одна сторона может обрабатывать данные и принимать решения в десять раз быстрее противника, физический размер его сил отходит на второй план. Это и есть суть нынешнего сдвига в глобальных оборонных закупках.

Основное внимание уделяется трем конкретным областям: наблюдению, предиктивной логистике и автономной навигации. Хотя общественность часто беспокоится о «роботах-убийцах», военная реальность гораздо прозаичнее, но не менее значима. Она включает в себя софт, способный просканировать тысячи часов видео, чтобы найти один номерной знак. Она включает алгоритмы, которые подсказывают командиру, когда реактивный двигатель может выйти из строя, чтобы его починили до начала миссии. Эти приложения уже используются и меняют способы распределения военных бюджетов. Акцент смещается с традиционного «железа» на программно-определяемые оборонные системы, которые можно обновлять в реальном времени. Это изменение касается не только технологий. Это фундаментальный способ защиты национальных интересов в эпоху, когда данные — самый ценный ресурс на поле боя.

Военный искусственный интеллект — это широкая категория, охватывающая все: от простой автоматизации до сложных систем поддержки принятия решений. На базовом уровне речь идет о распознавании образов. Компьютеры невероятно хороши в поиске иголок в стогах сена. В военном контексте такой «иголкой» может быть замаскированная пусковая установка или специфическая частота радиопомех. Автоматизация берет на себя рутинные задачи, изматывающие людей, например, круглосуточное наблюдение за ограждением границы. Автономия — это другое. Она подразумевает систему, способную самостоятельно делать выбор в рамках заданных параметров. Большинство стран сейчас сосредоточены на полуавтономных системах, где человек остается «в контуре» для принятия окончательного решения. Это различие критически важно, так как оно определяет юридические и этические границы современной войны. Логика закупок таких систем продиктована потребностью в эффективности и желанием уберечь солдат от ситуаций с высоким риском. Вы можете узнать больше об этих трендах в нашем последнем обзоре ИИ, где мы разбираем пересечение технологий и политики.

Разрыв между риторикой и реальным внедрением огромен. Пока политики говорят о продвинутом machine learning, на практике часто приходится бороться с тем, чтобы разные программные системы «понимали» друг друга. Закупки — это медленный процесс, который часто конфликтует с быстрым темпом разработки софта. Разработка традиционного истребителя может занять двадцать лет, а модель ИИ устаревает за полгода. Это создает точку трения в том, как военные приобретают технологии. Они пытаются перейти к модульным системам, где «железо» остается прежним, а «мозг» машины можно часто менять или обновлять. Это требует полного пересмотра того, как составляются оборонные контракты и как управляется интеллектуальная собственность между государством и частными тех-компаниями. Движение к таким системам также подстегивается доступностью дешевых коммерческих технологий, которые можно адаптировать для военных нужд. Эта демократизация технологий означает, что даже небольшие страны теперь могут получить возможности, которые раньше были доступны только сверхдержавам.

Глобальное влияние этих технологий глубоко, так как они меняют расчеты сдерживания. Если страна знает, что у противника есть система ИИ, способная перехватить любую ракету с почти идеальной точностью, угроза ракетного удара теряет свою силу. Это ведет к гонке вооружений не только в самих ракетах, но и в алгоритмах, которые ими управляют. Это создает новый вид нестабильности. Когда взаимодействуют две автономные системы, результат может быть непредсказуемым. Существует риск случайной эскалации, когда машина воспринимает угрозу и реагирует до того, как человек успеет вмешаться. Это вызывает серьезную озабоченность у международных экспертов по безопасности, которые опасаются, что скорость ИИ может привести к конфликтам, выходящим из-под контроля за считанные минуты. Мировое сообщество сейчас обсуждает, нужны ли международные запреты на определенные типы автономного оружия, но крупные державы не спешат подписывать что-либо, что может поставить их в невыгодное положение. Фокус направлен на сохранение конкурентного преимущества при попытке установить базовые «правила дорожного движения», чтобы предотвратить катастрофическую ошибку.

Региональные державы также используют эти инструменты для проецирования влияния. В таких районах, как Южно-Китайское море или Восточная Европа, ИИ для наблюдения позволяет постоянно следить за перемещениями без необходимости физического присутствия огромных сил. Это создает состояние перманентного наблюдения, где каждое движение записывается и анализируется. Для небольших стран ИИ — способ прыгнуть выше головы. Небольшой флот автономных подводных аппаратов может эффективно контролировать побережье за долю стоимости традиционного флота. Этот сдвиг децентрализует военную мощь и делает глобальную среду безопасности сложнее. Теперь дело не только в том, у кого больше танков. Дело в том, у кого лучшие данные и самые эффективные алгоритмы для их обработки. Это изменение заставляет каждую страну переосмыслить свою оборонную стратегию с нуля. Фокус смещается с физической силы на когнитивную гибкость.

Чтобы понять влияние на реальный мир, представьте день из жизни современного аналитика разведки. Десять лет назад этот человек тратил восемь часов в день, вручную просматривая спутниковые снимки и отмечая потенциальные цели. Это было медленно, утомительно и чревато человеческими ошибками. Сегодня аналитик приходит на рабочее место, и его встречает список приоритетных оповещений, сгенерированных ИИ. Софт уже просканировал тысячи изображений и пометил все подозрительное. Затем аналитик тратит время на проверку этих оповещений и принятие решений. Это переход от сбора данных к их валидации. В боевой ситуации пилот дрона может управлять дюжиной автономных аппаратов одновременно. Пилот не управляет ими в традиционном смысле. Вместо этого он отдает высокоуровневые команды вроде «прочесать этот район» или «сопровождать этот конвой». ИИ берет на себя траекторию полета, управление батареей и обход препятствий. Это позволяет одному человеку оказывать гораздо большее влияние на поле боя, чем когда-либо прежде.

В морской среде автономный корабль может месяцами находиться в море, тихо прислушиваясь к акустической сигнатуре подводной лодки. Ему не нужны еда, сон или зарплата. Он просто следует своей программе и докладывает, когда находит что-то интересное. Такой тип постоянного наблюдения — это game changer для пограничной безопасности и морского патрулирования. Это позволяет стране присутствовать в удаленных районах, не рискуя человеческими жизнями. Однако это также означает, что порог конфликта снижается. Если страна теряет автономный дрон, это финансовая потеря, а не человеческая. Это может сделать лидеров более склонными к рискам, которых они бы избегали, если бы были задействованы живые пилоты. Отсутствие риска для людей может привести к более частым стычкам и более высокому общему уровню напряженности в спорных регионах. Это скрытая цена того, что война становится эффективнее и менее опасной для стороны с лучшими технологиями.

Логика закупок этих систем также меняет отношения между военными и частным сектором. Такие компании, как Palantir и Anduril, теперь являются крупными игроками в оборонной сфере. Они привносят подход Кремниевой долины к «железу» и софту, который сильно отличается от традиционных оборонных подрядчиков. Они фокусируются на быстрой итерации и user experience. Это привлекает новое поколение инженеров в оборонную индустрию, но также поднимает вопросы о влиянии частных компаний на политику национальной безопасности. Когда частная фирма владеет алгоритмами, на которых работают оборонные системы страны, грань между правительством и индустрией размывается. Это особенно верно, когда речь идет о данных. Системы ИИ нуждаются в огромных объемах данных для обучения. Часто эти данные поступают из частного сектора или собираются частными компаниями по заказу правительства. Это создает зависимость, которую трудно распутать, и имеет долгосрочные последствия для того, как ведутся войны и поддерживается мир.

Сократический скептицизм заставляет нас задавать сложные вопросы об этих разработках. Если автономная система совершает ошибку и поражает гражданскую цель, кто несет ответственность? Программист, написавший код, командир, развернувший систему, или производитель, создавший «железо»? Текущие правовые рамки не готовы к такому уровню сложности. Есть также проблема предвзятости. Если ИИ обучается на данных прошлых конфликтов, он может унаследовать предрассудки тех, кто в них участвовал. Это может привести к несправедливому выбору целей среди определенных групп или регионов на основе ошибочных исторических данных. Более того, каковы скрытые издержки этой технологии? Хотя она может сэкономить деньги на персонале, стоимость обслуживания цифровой инфраструктуры и защиты ее от кибератак огромна. Один взлом может вывести из строя целый флот автономных транспортных средств, оставив нацию беззащитной.

Мы также должны учитывать последствия для приватности. Тот же ИИ для наблюдения, который используется для отслеживания вражеских солдат, может быть легко повернут внутрь страны для слежки за собственными гражданами. Грань между военной обороной и внутренней слежкой становится все тоньше. Жертвуем ли мы долгосрочной приватностью ради краткосрочной безопасности? Это вопросы, которых правительства сейчас избегают в своей спешке выиграть гонку вооружений ИИ. Фокус настолько сильно смещен на технические возможности, что социальные и этические последствия часто рассматриваются как нечто второстепенное. Нам нужно серьезно поговорить о пределах автономии, прежде чем эти системы станут настолько интегрированными в наши оборонные структуры, что их невозможно будет удалить.

У вас есть история об ИИ, инструмент, тренд или вопрос, который, по вашему мнению, мы должны осветить? Пришлите нам свою идею статьи — мы будем рады ее услышать.

Гик-секция: Для тех, кто интересуется технической архитектурой, военный ИИ сильно полагается на edge computing. В зоне боевых действий нельзя полагаться на стабильное соединение с облачным сервером в Вирджинии. Обработка должна происходить на самом устройстве. Это означает, что дроны и наземные датчики должны иметь мощные, энергоэффективные чипы, способные локально запускать сложные нейронные сети. Задача состоит в том, чтобы сбалансировать потребность в вычислительной мощности с ограничениями времени работы батареи и отводом тепла. Еще одно серьезное препятствие — проблема разрозненности данных (data silo). Разные виды войск часто используют разные форматы данных и протоколы связи. Чтобы ИИ был эффективным, он должен уметь принимать и синтезировать данные из всех доступных источников: от нательной камеры солдата до высотного самолета-шпиона. Это требует создания унифицированных слоев данных и стандартизированных API, которые могут работать на разных платформах. Большинство текущих военных ИИ-проектов сосредоточены на этой скучной, но важной задаче интеграции данных.

Лимиты API и пропускная способность также являются значительными ограничениями. В условиях противостояния враг будет пытаться глушить связь. ИИ, зависящий от постоянных обновлений, выйдет из строя. Поэтому цель — создание систем, способных работать независимо в течение длительного времени и синхронизироваться только при наличии безопасного соединения. Это ведет к развитию моделей federated learning, где ИИ может учиться и совершенствоваться «на лету», не отправляя все данные обратно на центральный сервер. Локальное хранение — еще одна проблема. Один сенсор высокого разрешения может генерировать терабайты данных за несколько часов. Решение о том, какие данные сохранить, а какие отбросить, все чаще передается ИИ. Это создает петлю обратной связи, где ИИ решает, какую информацию увидят люди. Если логика фильтрации ИИ ошибочна, командиры будут принимать решения на основе неполной или предвзятой картины ситуации. Эта техническая реальность гораздо сложнее простых нарративов, часто представляемых в СМИ. Она включает в себя постоянную борьбу с законами физики, ограничениями «железа» и хаосом реальных данных.

Суть в том, что военный ИИ — это не концепция будущего. Это реальность настоящего, которая интегрируется на всех уровнях обороны. Речь не идет о создании машины, способной мыслить как человек. Речь о создании машины, способной обрабатывать данные так, как люди никогда не смогли бы. Этот сдвиг делает войну быстрее, точнее и более зависимой от софта. Хотя преимущества в плане эффективности и безопасности для солдат очевидны, риски эскалации и потери контроля со стороны человека значительны. Страны хотят ИИ, потому что не могут позволить себе остаться без него. В мире, где у вашего противника есть алгоритмическое преимущество, вы находитесь в его власти. Задача следующего десятилетия — найти способ управления этой технологией так, чтобы она повышала безопасность, не приводя к случайному и неконтролируемому конфликту. Машина здесь, чтобы остаться. Теперь нам нужно понять, как с ней жить.

Примечание редактора: Мы создали этот сайт как многоязычный центр новостей и руководств по ИИ для людей, которые не являются компьютерными гиками, но все же хотят понять искусственный интеллект, использовать его с большей уверенностью и следить за будущим, которое уже наступает.

Нашли ошибку или что-то, что нужно исправить? Сообщите нам.