Какво всъщност искат държавите от военния AI

Надпреварата за алгоритмична скорост

Съвременната отбранителна стратегия вече не се измерва само с числеността на армията или обсега на ракетите. Днес приоритетът за всяка голяма световна сила е компресирането на времето. Държавите искат да съкратят прозореца между засичането на заплаха и нейното неутрализиране. Този процес, често наричан „sensor to shooter loop“, е мястото, където изкуственият интелект намира своето основно приложение във военен контекст. Правителствата не търсят разумни роботи, които да заменят войниците. Те търсят високоскоростна обработка на данни, която може да идентифицира скрит танк на сателитна снимка или да предвиди къде би ударил рояк дронове, преди операторът дори да мигне. Целта е тактическо превъзходство чрез информационно господство. Ако едната страна може да обработва данни и да взема решения десет пъти по-бързо от противника, физическият размер на неговите сили става второстепенен. Това е ядрото на настоящата промяна в глобалните обществени поръчки за отбрана.

Фокусът остава върху три специфични области: наблюдение, предсказателна логистика и автономна навигация. Докато обществеността често се притеснява от „убийствени роботи“, военната реалност е много по-делнична, но също толкова значима. Тя включва софтуер, който може да сканира хиляди часове видео, за да открие един-единствен регистрационен номер. Включва алгоритми, които казват на командира кога е вероятно да се повреди реактивен двигател, за да бъде поправен преди мисия. Тези приложения вече са в употреба и променят начина, по който се разпределят военните бюджети. Промяната се измества от традиционния хардуер към софтуерно дефинирани системи за отбрана, които могат да се актуализират в реално време. Тази промяна не е само за технологиите. Тя е за фундаменталния начин, по който една нация защитава интересите си в ера, в която данните са най-ценният ресурс на бойното поле.

Военният изкуствен интелект е широка категория, която обхваща всичко – от проста автоматизация до сложни системи за подпомагане на вземането на решения. В най-основното си ниво става въпрос за разпознаване на модели. Компютрите са изключително добри в намирането на игли в купа сено. Във военен контекст тази „игла“ може да бъде камуфлирана ракетна установка или специфична честота на радиосмущения. Автоматизацията се справя с повтарящи се задачи, които изтощават хората, като например наблюдение на гранична ограда двадесет и четири часа без прекъсване. Автономията е нещо различно. Тя включва система, която може да прави собствен избор в рамките на набор от предварително зададени параметри. Повечето държави в момента са фокусирани върху полуавтономни системи, при които човекът остава в цикъла, за да вземе окончателното решение. Това разграничение е критично, защото определя правните и етични граници на съвременната война. Логиката за придобиване на тези системи се движи от нуждата от ефективност и желанието да се държат човешките войници далеч от ситуации с висок риск. Можете да прочетете повече за тези тенденции в нашия последен AI доклад, който обхваща пресечната точка на технологиите и политиката.

Пропастта между реториката и внедряването е голяма. Докато политиците говорят за усъвършенствано машинно обучение, реалността на терен често включва борба за това различните софтуерни системи да „разговарят“ помежду си. Процесът на обществени поръчки е бавен и често се сблъсква с бързия темп на софтуерната разработка. Един традиционен изтребител може да отнеме двадесет години за разработка, но един AI модел може да остарее за шест месеца. Това създава точка на триене в начина, по който военните купуват технологии. Те се опитват да преминат към модулни системи, при които хардуерът остава същият, но „мозъкът“ на машината може да бъде сменян или надграждан често. Това изисква цялостен ремонт на начина, по който се пишат договорите за отбрана и как се управлява интелектуалната собственост между правителството и частните технологични фирми. Движението към тези системи се движи и от нарастващата наличност на евтини, търговски технологии, които могат да бъдат адаптирани за военна употреба. Тази демократизация на технологиите означава, че дори по-малките нации вече могат да получат достъп до способности, които някога бяха запазени само за суперсилите.

Глобалното въздействие на тези технологии е дълбоко, защото те променят изчисленията за възпиране. Ако една държава знае, че нейният противник има AI система, която може да прихване всяка входяща ракета с почти перфектна точност, заплахата от ракетен удар губи своята сила. Това води до надпревара във въоръжаването не само при оръжията, но и при алгоритмите, които ги контролират. Това създава нов вид нестабилност. Когато две автономни системи взаимодействат, резултатът може да бъде непредсказуем. Съществува риск от случайна ескалация, при която машината възприема заплаха и реагира, преди човек да може да се намеси. Това е основна грижа за експертите по международна сигурност, които се опасяват, че скоростта на AI може да доведе до конфликти, които излизат извън контрол за минути. Глобалната общност в момента дебатира дали трябва да има международни забрани за определени видове автономни оръжия, но големите сили се колебаят да подпишат каквото и да е, което би могло да ги постави в неизгодно положение. Фокусът е върху поддържането на конкурентно предимство, докато се опитват да установят някои основни правила, за да се предотвратят катастрофални грешки.

Регионалните сили също използват тези инструменти, за да проектират влияние. В райони като Южнокитайско море или Източна Европа, AI за наблюдение позволява постоянно следене на движенията без нужда от масивно физическо присъствие. Това създава състояние на постоянно наблюдение, където всяко движение се записва и анализира. За по-малките нации AI предлага начин да се справят с предизвикателства, надхвърлящи техните възможности. Малък флот от автономни подводни апарати може ефективно да наблюдава бреговата линия срещу малка част от цената на традиционния флот. Тази промяна децентрализира военната мощ и прави глобалната среда за сигурност по-сложна. Вече не става въпрос само за това кой има най-много танкове. Става въпрос за това кой има най-добрите данни и най-ефективните алгоритми за тяхната обработка. Тази промяна принуждава всяка нация да преосмисли своята отбранителна стратегия от нулата. Фокусът се измества от физическата сила към когнитивната гъвкавост.

За да разберете въздействието в реалния свят, помислете за един ден от живота на съвременен разузнавателен анализатор. Преди десет години този човек би прекарвал осем часа на ден в ръчно разглеждане на сателитни снимки и маркиране на потенциални цели. Беше бавно, досадно и предразположено към човешки грешки. Днес анализаторът сяда на бюрото си и е посрещнат от списък с приоритетни сигнали, генерирани от AI. Софтуерът вече е сканирал хиляди изображения и е маркирал всичко, което изглежда подозрително. След това анализаторът прекарва времето си в проверка на тези сигнали и решаване какви действия да предприеме. Това е преход от събиране на данни към валидиране на данни. В боен сценарий пилот на дрон може да управлява дузина автономни летателни апарати едновременно. Пилотът не управлява самолетите в традиционния смисъл. Вместо това той дава команди от високо ниво като „претърси тази зона“ или „наблюдавай този конвой“. AI се справя с траекторията на полета, управлението на батерията и избягването на препятствия. Това позволява на един човек да има много по-голямо влияние на бойното поле от всякога.

В морска среда автономен кораб може да прекара месеци в морето, тихо слушайки акустичния подпис на подводница. Той не се нуждае от храна, сън или заплата. Просто следва програмирането си и докладва, когато открие нещо интересно. Този вид постоянно наблюдение променя правилата на играта за граничната сигурност и морския патрул. Това позволява на една държава да поддържа присъствие в отдалечени райони, без да рискува човешки животи. Това обаче означава и че прагът за конфликт се понижава. Ако една държава загуби автономен дрон, това е финансова загуба, а не човешка. Това може да направи лидерите по-склонни да поемат рискове, които биха избягвали, ако бяха замесени човешки пилоти. Липсата на човешки риск може да доведе до по-чести сблъсъци и по-високо общо ниво на напрежение в спорните региони. Това е скритата цена на това да направим войната по-ефективна и по-малко опасна за страната с по-добра технология.

Логиката на обществените поръчки зад тези системи също променя връзката между военните и частния сектор. Компании като Palantir и Anduril сега са основни играчи в отбранителното пространство. Те внасят подход от Силициевата долина към хардуера и софтуера, който е много различен от традиционните изпълнители в отбраната. Те се фокусират върху бързата итерация и потребителското изживяване. Това привлича ново поколение инженери в отбранителната индустрия, но също така повдига въпроси относно влиянието на частните компании върху политиката за национална сигурност. Когато частна фирма притежава алгоритмите, които управляват отбранителните системи на една държава, границата между правителство и индустрия се размива. Това е особено вярно, когато става въпрос за данни. AI системите се нуждаят от огромни количества данни, за да се учат. Често тези данни идват от частния сектор или се събират от частни компании от името на правителството. Това създава зависимост, която е трудна за разплитане и има дългосрочни последици за това как се водят войните и как се поддържа мирът.

Сократическият скептицизъм ни принуждава да задаваме трудни въпроси относно тези развития. Ако една автономна система направи грешка и удари цивилна цел, кой носи отговорност? Програмистът, който е написал кода, командирът, който е разположил системата, или производителят, който е изградил хардуера? Сегашните правни рамки не са подготвени да се справят с това ниво на сложност. Съществува и проблемът с пристрастията. Ако един AI е обучен с данни от минали конфликти, той може да наследи пристрастията на тези, които са ги водили. Това може да доведе до несправедливо насочване срещу определени групи или региони въз основа на погрешни исторически данни. Освен това, какви са скритите разходи на тази технология? Въпреки че може да спести пари от персонал, разходите за поддържане на цифровата инфраструктура и защитата ѝ от кибератаки са огромни. Една-единствена хакерска атака може да извади от строя цял флот от автономни превозни средства, оставяйки нацията беззащитна.

Трябва също да вземем предвид последиците за поверителността. Същият AI за наблюдение, използван за проследяване на вражески войници, лесно може да бъде обърнат навътре, за да следи собствените граждани на страната. Границата между военната отбрана и вътрешното наблюдение става все по-тънка. Жертваме ли дългосрочната си поверителност в името на краткосрочната сигурност? Това са въпросите, които правителствата в момента избягват в бързането си да спечелят AI надпреварата. Фокусът е толкова силно върху техническите възможности, че социалните и етичните последици често се третират като второстепенни. Трябва да проведем сериозен разговор за границите на автономията, преди тези системи да станат толкова интегрирани в нашите отбранителни структури, че да не могат да бъдат премахнати.

Имате история, инструмент, тенденция или въпрос, свързани с ИИ, които смятате, че трябва да обхванем? Изпратете ни вашата идея за статия — ще се радваме да я чуем.

Секцията за гийкове: За тези, които се интересуват от техническата архитектура, военният AI разчита до голяма степен на edge computing. В зона на бойни действия не можете да разчитате на стабилна връзка със сървър в облака във Вирджиния. Обработката трябва да се случва на самото устройство. Това означава, че дроновете и наземните сензори трябва да имат мощни, енергийно ефективни чипове, способни да изпълняват сложни невронни мрежи локално. Предизвикателството е балансирането на нуждата от изчислителна мощ с ограниченията на живота на батерията и разсейването на топлината. Друга голяма пречка е проблемът със силозите от данни. Различните клонове на армията често използват различни формати на данни и комуникационни протоколи. За да бъде един AI ефективен, той трябва да може да приема и синтезира данни от всеки наличен източник – от камерата на тялото на войника до шпионски самолет на голяма височина. Това изисква създаването на унифицирани слоеве от данни и стандартизирани API, които могат да работят в различни платформи. Повечето текущи военни AI проекти са фокусирани върху тази скучна, но съществена задача за интеграция на данни.

API лимитите и честотната лента също са значителни ограничения. В оспорвана среда врагът ще се опита да заглуши комуникациите. AI, който зависи от постоянни актуализации, ще се провали. Следователно целта е да се създадат системи, които могат да работят независимо за дълги периоди и да се синхронизират само когато е налична сигурна връзка. Това води до разработването на модели за федеративно обучение (federated learning), където AI може да се учи и подобрява в движение, без да е необходимо да изпраща всичките си данни обратно към централен сървър. Локалното съхранение е друг проблем. Един сензор с висока разделителна способност може да генерира терабайти данни за няколко часа. Решаването кои данни да се запазят и кои да се изхвърлят е задача, която все повече се прехвърля на AI. Това създава цикъл на обратна връзка, при който AI решава каква информация да виждат хората. Ако логиката на филтриране на AI е погрешна, човешките командири ще вземат решения въз основа на непълна или пристрастна картина на ситуацията. Тази техническа реалност е далеч по-сложна от простите разкази, често представяни в медиите. Тя включва постоянна борба със законите на физиката, ограниченията на хардуера и хаоса на данните от реалния свят.

Изводът е, че военният AI не е концепция за бъдещето. Той е настояща реалност, която се интегрира на всяко ниво на отбраната. Не става въпрос за създаване на машина, която може да мисли като човек. Става въпрос за създаване на машина, която може да обработва данни по начини, по които хората никога не биха могли. Тази промяна прави войната по-бърза, по-прецизна и по-зависима от софтуера. Въпреки че ползите по отношение на ефективността и безопасността за войниците са ясни, рисковете от ескалация и загубата на човешки контрол са значителни. Държавите искат AI, защото не могат да си позволят да бъдат без него. В свят, в който вашият противник има алгоритмично предимство, вие сте на негова милост. Предизвикателството за следващото десетилетие ще бъде намирането на начин за управление на тази технология, така че тя да повишава сигурността, без да води до случаен и неконтролируем конфликт. Машината е тук, за да остане. Сега трябва да разберем как да живеем с нея.

Бележка на редактора: Създадохме този сайт като многоезичен център за новини и ръководства за изкуствен интелект за хора, които не са компютърни маниаци, но все пак искат да разберат изкуствения интелект, да го използват с повече увереност и да следят бъдещето, което вече настъпва.

Открихте грешка или нещо, което трябва да бъде коригирано? Уведомете ни.