Поле бою та великі дані. Штучний інтелект у майбутніх війнах
Як впливають дані на полі бою та яке майбутнє за ШІ на війні, намагається розібрати Поль Шарре у своїй новій книзі. Широко поширена думка, що світ стоїть на порозі чергової військової революції.
ШІ ось-ось змінить природу війни, як порох, танки, літаки й атомна бомба в попередні епохи. Сучасні держави активно намагаються використовувати міць ШІ у військових цілях. Китай, наприклад, оголосив про свій намір стати світовим лідером у галузі ШІ до 2030 року.
У його "Новому генеральному плані ШІ" проголошується, що "ШІ — це стратегічна технологія, яка лідируватиме в майбутньому". Зі свого боку, президент Росії Володимир Путін заявив: "Той, хто стане лідером у цій царині, стане правителем світу".
У відповідь на виклик, кинутий Китаєм і Росією, Сполучені Штати взяли на себе зобов'язання щодо стратегії "третього переходу". Вони вкладатимуть значні кошти в ШІ, автономність і робототехніку, аби зберегти свою перевагу в обороні.
Фокус переклав текст Ентоні Кінга, присвячений огляду книги Пола Шарре та проблематиці ШІ на війні. З огляду на ці драматичні події військові коментатори всерйоз зацікавилися питанням військового застосування ШІ.
Наприклад, у недавній монографії Бен Б'юкенен і Ендрю Імрі стверджують, що ШІ — це "нова вогнева міць". Автономна зброя, керована ШІ, а не людиною, ставатиме дедалі точнішою, швидшою та смертоноснішою. Вона втілює майбутнє війни.
Із ними згодні багато інших учених та експертів. Наприклад, Стюарт Рассел, видатний учений-комп'ютерник і першовідкривач ШІ, присвятив одну зі своїх лекцій на "Бі-бі-сі" 2020 року військовому потенціалу ШІ.
Він заявив про появу роботів-бійців і роботів-убивць та описав сценарій, у якому смертоносний квадрокоптер розміром із банку озброєний вибуховим пристроєм: "Протипіхотні міни можуть знищити всіх чоловіків у місті віком від 16 до 60 років або всіх єврейських громадян в Ізраїлі, і, на відміну від ядерної зброї, вони залишать недоторканою міську інфраструктуру".
Рассел підсумував: "8 мільйонів людей дивуватимуться, чому неможливо захистити їх від того, щоб їх вистежували та вбивали роботи".
Багато інших учених, зокрема Крістіан Брозе, Кен Пейн, Джон Аркілла, Девід Гемблінг і Джон Антал, поділяють думку Рассела про те, що з розвитком ШІ другого покоління поява летальної автономної зброї — наприклад, роїв дронів-убивць — практично неминуча.
Військові революції часто виявляються менш радикальними, ніж спочатку припускали їхні прихильники. Революція у військовій справі 1990-х років, безумовно, зіграла важливу роль у відкритті нових оперативних можливостей, але вона не усунула невизначеність.
Так само деякі дискусії про летальну автономність ШІ явно гіперболізовані, спотворюючи уявлення про те, як працює ШІ нині та який його потенційний вплив на військові операції в можливому майбутньому.
Хоча дистанційні й автономні системи стають дедалі важливішими, ймовірність того, що рої автономних безпілотників замінять війська на полі бою або що суперкомп'ютери замінять командирів-людей, невелика. ШІ став великою дослідницькою програмою в 1950-х роках.
Тоді він працював на основі символьної логіки: програмісти кодували вхідні дані для обробки ШІ. Ця система і стала відома відома як старий добрий штучний інтелект.
ШІ досяг певного прогресу, але оскільки він ґрунтувався на маніпулюванні заданими символами, його застосовність була вельми обмеженою, особливо в реальному світі. Тому з кінця 1970-х і протягом 1980-х років настав "застій ШІ".
Із кінця 1990-х років ШІ другого покоління здійснив кілька проривів завдяки великим даним, величезним обчислювальним потужностям і алгоритмам. Сталися три епохальні події. 11 травня 1997 року комп'ютер Deep Blue компанії IBM переміг Гаррі Каспарова, чемпіона світу з шахів.
У 2011 році комп'ютер Watson компанії IBM виграв у "Jeopardy!". Ще примітніше, що в березні 2016 року AlphaGo обіграв чемпіона світу з гри в го Лі Сідола з рахунком 4:1. Deep Blue, Watson і AlphaGo були важливими віхами на незвичайній траєкторії.
За два десятиліття ШІ пройшов шлях від розчарувань і невдач до неймовірних тріумфів. Однак важливо розуміти, що може та чого не може ШІ другого покоління. Його розробили на основі нейронних мереж.
Програми машинного навчання обробляють величезні обсяги даних через свої мережі, підлаштовуючи вагу, яку програма привласнює певним фрагментам даних, доки врешті-решт не згенерує зв'язні відповіді. Система є ймовірнісною та індуктивною.
Програми й алгоритми нічого не знають. Вони не знають реального світу і в людському сенсі не розуміють значення оброблюваних даних. Використовуючи алгоритми, ШІ машинного навчання просто будує моделі статистичної ймовірності на основі масового повторення дослідів.
Отже, ШІ другого покоління виявляє численні кореляції в даних. Поки в нього достатньо даних, імовірнісна індукція залишається потужним інструментом прогнозування. Проте ШІ не розпізнає причинно-наслідкові зв'язки або наміри.
Пітер Тіль, один із провідних технологічних підприємців Кремнієвої долини, красномовно сформулював обмеження ШІ: "Забудьте про науково-фантастичні фантазії.
Справжня сила реально наявного ШІ полягає в його застосуванні у відносно повсякденних завданнях, таких як комп'ютерний зір і аналіз даних". Отже, хоча машинне навчання набагато перевершує людину в обмежених завданнях, що піддаються математичній обробці, воно дуже крихке.
Через повну залежність від даних, на яких воно було навчене, навіть найменша зміна фактичного середовища або даних робить його марним. Крихкість індуктивного машинного навчання на основі даних дуже важлива для перспективи військової революції ШІ.
Прихильники та противники ШІ мають на увазі, що в найближчому майбутньому автономним безпілотникам буде відносно легко пролітати, ідентифікувати й уражати цілі, наприклад, у міських районах.
Зрештою, автономні рої безпілотників уже було продемонстровано — щоправда, у штучних і контрольованих умовах. Однак у реальності навчити безпілотник автономного керування для ведення бойових дій на суходолі буде дуже складно.
Навколишнє середовище динамічне та складне, особливо в містах, де перемішані цивільні та солдати. Не існує очевидних даних, на яких можна було б надійно навчити рій безпілотників — ситуація занадто мінлива.
Так само нелегко зрозуміти, як алгоритм може ухвалювати командні рішення. Такі рішення вимагають інтерпретації різнорідної інформації, балансування політичних і військових чинників, і для всього цього необхідне судження. У своїй недавній статті Аві Голдфарб і Джон Р.
Ліндсей стверджують, що ШІ найкраще підходить для простих рішень із ідеальними даними. Рішення ж військового командування пов'язані зі складністю й невизначеністю.
Примітно, що, хоча Google і Amazon є провідними компаніями з обробки даних, їхні керівники не вважають, що настане день, коли алгоритм ухвалюватиме за них стратегічні й оперативні рішення.
Дані, які швидко обробляються алгоритмами, допомагають їхнім керівникам розуміти ринок із такою глибиною і точністю, з якою не можуть зрівнятися їхні конкуренти. Інформаційна перевага привела їх до домінування. Однак машинне навчання не витіснило виконавчу функцію.
Тому малоймовірно, що смертоносні автономні безпілотники або роботи-вбивці, керовані штучним інтелектом, у найближчому майбутньому займуть місце на полі бою. Також малоймовірно, що командирів замінять комп'ютери або суперкомп'ютери.
Однак це не означає, що ШІ, дані та машинне навчання не мають вирішального значення для сучасних і майбутніх військових операцій. Важливо розуміти, що функції ШІ й даних насамперед не пов'язані з летальністю — вони не є новою вогневою міццю, як стверджують деякі.
Дані — оцифрована інформація, що зберігається в кіберпросторі, — мають вирішальне значення, оскільки вони дають державам ширше, глибше та правильніше уявлення про себе та своїх супротивників.
Коли величезні масиви даних будуть ефективно оброблятися штучним інтелектом, це дасть змогу військовим командирам сприймати бойовий простір із досі недосяжною глибиною, швидкістю й роздільною здатністю.
Дані та ШІ також мають вирішальне значення для кібероперацій та інформаційних кампаній. Вони стали незамінними для оборони та нападу.
ШІ і дані — це не стільки нова вогнева міць, скільки нова форма оцифрованої військової розвідки, яка використовує кіберпростір як новий величезний ресурс інформації. ШІ — революційний спосіб зазирнути на "інший бік пагорба".
Дані та ШІ є критично важливою функцією розвідки для сучасної війни. Поль Шарре, відомий військовий коментатор, стверджував, що ШІ неминуче призведе до летальної автономії.
У 2019 році він опублікував свою книжку-бестселер "Армія нікого", в якій простежує розвиток дистанційно керованих і автономних систем озброєння.
У ній Шарре припустив, що ШІ ось-ось спричинить революцію у військовій справі: "У майбутніх війнах машини можуть ухвалювати рішення про життя і смерть". Попри те, що потенціал ШІ, як і раніше, викликає в нього захоплення, зараз він істотно змінив свою думку.
Нова книга Шарре "Чотири поля бою", опублікована в лютому 2023 року, докорінно переглядає його початкові аргументи. У ній автор відступає від катастрофічної картини, яку він змалював у книзі "Армія нікого".
Якщо "Армія нікого" була есе в жанрі наукової фантастики, то "Чотири поля бою" — робота з політичної економії. У ній розглядаються конкретні питання суперництва між великими державами та промислові стратегії і системи регулювання, що лежать у його основі.
У книзі описуються наслідки цифрової розвідки для військового протистояння. Шарре аналізує нормативно-правову базу, необхідну для використання можливостей даних.
Він обґрунтовано стверджує, що перевага в даних і ШІ для їхнього опрацювання стане вирішальною у військовому плані в суперництві між США та Китаєм. Дані забезпечать серйозну перевагу в розвідці.
На думку Шарре, є чотири критичні ресурси, які визначать, хто переможе в цих перегонах інтелекту: "Країни, які лідирують у чотирьох сферах — дані, обчислення, таланти й інституції [технологічні компанії] — здобудуть серйозну перевагу в потужності ШІ".
Він стверджує, що США та Китай вступили в боротьбу не на життя, а на смерть за ці чотири ресурси. І Китай, і США зараз повністю усвідомлюють, що той, хто отримає перевагу в ШІ, матиме значні політичні, економічні та, що особливо важливо, військові переваги.
Він знатиме більше за супротивника, зможе ефективніше застосовувати військову силу, домінуватиме в інформаційному та кіберпросторі і стане смертоноснішим. У книзі "Чотири поля бою" описується конкуренція за дані та ШІ між Китаєм і США.
У книзі викладені останні події та оцінені відносні переваги обох країн. Китай, як і раніше, відстає від США в кількох сферах. Сполучені Штати залучають провідні таланти й лідирують у галузі досліджень і технологій: "Китай — це глухомань стосовно виробництва мікросхем".
Однак Шарре застерігає США від спочивання на лаврах. Книга пронизана страхом, що Сполучені Штати відстануть у перегонах даних. Тому Шарре наголошує на перевагах Китаю та його швидкому прогресі.
З 900 мільйонами інтернет-користувачів Китай генерує набагато більше даних, ніж Сполучені Штати. Деякі сфери економіки, як-от перевезення пасажирів, набагато оцифрованіші, ніж у США. WeChat, наприклад, не має американського аналога.
Багато китайських додатків перевершують американські. Крім того, китайська держава не обмежена правовими межами або побоюваннями громадянського суспільства щодо недоторканності приватного життя.
Комуністична партія Китаю активно стежить за цифровими профілями своїх громадян — вона збирає їхні дані та реєструє їхні дії, а в містах використовує технологію розпізнавання облич для ідентифікації особистості.
Державний контроль приносить користь китайським технологічним компаніям: "Масштабні інвестиції КПК у розвідувальне спостереження та соціальний контроль сприяли зростанню китайських АІ-компаній і зв'язали їх тісними узами з урядом".
Синергія між урядом і технологіями в Китаї дуже тісна. Китай також має значні переваги в галузі регулювання порівняно зі США. Комуністична партія Китаю підтримує таких технологічних гігантів як Baidu і Alibaba: "Китайські інвестиції в технології приносять дивіденди".
Шарре підсумовує: "Китай не просто формує нову модель цифрового авторитаризму, а й активно експортує її".
Як уряд США протистоятиме прагненню Китаю до домінування в галузі даних і ШІ? Тут "Чотири поля бою" дуже цікаві — і вони помітно контрастують із міркуваннями Шарра в "Армії нікого".
Щоб уряд США зміг використовувати військовий потенціал даних, необхідні серйозні зміни в нормативно-правовій базі. Збройним силам необхідно сформувати глибокі партнерські відносини з технологічним сектором.
Їм "доведеться вийти за межі традиційних оборонних підрядників і залучити стартапи". Це нелегко.
Шарре відзначає складне нормативно-правове середовище в США порівняно з Китаєм: "У США великі технологічні корпорації Amazon, Apple, Meta (колишній Facebook) і Google є незалежними центрами влади, які часто ворогують із урядом щодо конкретних питань".
Шарре розповідає про гучну акцію протесту в Google у 2017 році, коли співробітники відмовилися працювати над контрактом Міністерства оборони за проєктом Maven.
Скептичне ставлення до військового застосування ШІ зберігається в деяких частинах американського технологічного сектору.
Можливо, американські технологічні компанії і не хочуть працювати зі збройними силами, але Міністерство оборони теж мимоволі перешкоджає партнерству військових із технологічним сектором. Міністерство оборони завжди мало тісні стосунки з оборонною промисловістю.
Наприклад, 1961 року президент Дуайт Д. Ейзенхауер попереджав про загрозу, яку "військово-промисловий комплекс" становить для демократії.
Міністерство оборони розробило процес придбання й укладання контрактів, який був призначений в основному для закупівлі високотехнологічних платформ: танків, кораблів і літаків.
Компанії Lockheed Martin і Northrop Grumman стали постачальниками систем озброєння, що відповідають конкретним специфікаціям Міністерства оборони. Технологічні компанії працюють інакше. Як зазначив один із інтерв'юерів Шарре: "Не можна купити ШІ так само, як ви купуєте боєприпаси".
Технологічні компанії не продають конкретні можливості, як зброю. Вони продають дані, програмне забезпечення, обчислювальні потужності — зрештою, вони продають досвід. Алгоритми та програми найкраще розробляти ітеративно у зв'язку з дуже конкретними завданнями.
Повний потенціал деяких програм або алгоритмів для розв'язання військового завдання може бути не одразу очевидним навіть для самої технологічної компанії.
Тому технологічні компанії, що працюють на конкурентних ринках, надають перевагу гнучкішій, безстроковій системі контрактів із Міністерством оборони — їм потрібна безпека та швидка фінансова віддача.
Технологічні компанії прагнуть до співпраці, а не просто до укладення контракту на створення платформи. Американські військові, і особливо Міністерство оборони, не завжди легко знаходили новий підхід до укладення контрактів.
У минулому бюрократія була занадто повільною, щоб реагувати на їхні потреби, — процес придбання займав від 7 до 10 років. Однак, попри те, що існує безліч протиріч і система далека від досконалості, Шарре відзначає трансформацію нормативно-правового середовища.
Він описує становлення нового військово-технічного комплексу в США. Проєкт Maven є прикладом цього процесу. У 2017 році Боб Ворк видав службову записку, що стала знаменитою, в якій оголосив про створення "Міжфункціональної групи з алгоритмічної війни" — проєкту Maven.
Із моменту появи безпілотників і військових супутників під час глобальної війни з тероризмом американські військові стали отримувати повнороздільні відеоматеріали. Ці кадри були безцінними.
Наприклад, використовуючи Gorgon Stare, цілодобову систему повітряного спостереження, ВПС США змогли простежити за вибухом замінованого автомобіля в Кабулі 2019 року, унаслідок якого загинули 126 мирних жителів, і знайти місцезнаходження конспіративних квартир, використаних для здійснення атаки.
Однак цей процес був надто повільним. Тому ВПС почали експериментувати з алгоритмами комп'ютерного зору для просіювання повнокадрового відео. Проєкт Maven був покликаний розширити масштаби успіху ВПС, але для цього було потрібне нове контрактне середовище.
Замість тривалого процесу закупівель компанія Work ввела 90-денні спринти. У компаній було три місяці, щоб показати свою корисність. Якщо вони досягали прогресу, їхні контракти продовжували, якщо ні — вони вибували.
Водночас Work зняла гриф секретності з безпілотних літальних апаратів, аби проєкт Maven міг навчати свої алгоритми. До липня 2017 року в проєкту Maven була початкова операційна система, здатна виявляти 38 різних класів об'єктів.
До кінця року її було розгорнуто в операціях проти ІДІЛ: "Інструмент був відносно простим, він ідентифікував і відстежував людей, транспортні засоби й інші об'єкти на відео з безпілотників ScanEagle, які використовували спецпризначенці".
Після появи проєкту Maven Міністерство оборони висунуло низку інших ініціатив, спрямованих на стимулювання партнерства між військовими й технологіями.
Відділ оборонних інновацій прискорив розвиток відносин між міністерством і компаніями в Силіконовій долині, укладаючи контракти за 26 днів, а не за місяці або роки. За перші п'ять років своєї роботи Відділ оборонних інновацій видав контракти 120 "нетрадиційним" компаніям.
Під керівництвом генерал-лейтенанта Джека Шанахана Об'єднаний центр штучного інтелекту зіграв важливу роль у розвитку партнерства між збройними силами й технологічними компаніями для надання допомоги людям і операцій із ліквідації наслідків стихійних лих, а також розробляючи програмне забезпечення для картографування лісових пожеж і оцінки наслідків стихії — чи передбачають ці приклади в тексті Шарре ширше військове застосування, неясно.
Після перших труднощів Об'єднана інфраструктура оборони, створена генералом Джеймсом Меттісом під час його перебування міністром оборони, реформувала систему закупівель технологій.
Наприклад, 2021 року Міністерство оборони допомогло компанії Anduril розробити систему протидії безпілотникам на основі штучного інтелекту, виділивши на це майже 100 мільйонів доларів.
"Чотири поля бою" — це чудове й інформативне доповнення до сучасної літератури з ШІ та воєнних дій. Книга доповнює нещодавно опубліковані роботи Ліндсі, Голдфарба, Бенджаміна Дженсена, Крістофера Вайта і Скотта Куомо. Головна думка цієї роботи зрозуміла.
Дані та ШІ мають і матимуть велике значення для збройних сил.
Однак дані та ШІ не призведуть до радикальної трансформації бойових дій як таких — люди, як і раніше, у переважній більшості випадків керуватимуть летальними системами зброї, зокрема дистанційними, як показує жорстока війна в Україні Ситуація в бою складна та заплутана.
Людські судження, навички та хитрість необхідні для того, щоб використовувати зброю з максимальною ефективністю.
Однак будь-яка військова сила, яка хоче здобути перемогу на полях битв майбутнього, муситиме використати потенціал великих даних — їй доведеться оволодіти оцифрованою інформацією, яка заполоняє бойовий простір. Люди просто не здатні зробити це самотужки.
Тому штабам знадобляться алгоритми та програмне забезпечення для обробки цих даних.
Їм потрібне тісне партнерство з технологічними компаніями для створення таких систем, а також фахівці з вивчення даних, інженери та програмісти на самих оперативних командних пунктах, щоб змусити їх працювати.
Якщо збройні сили зможуть це зробити, дані дадуть їм змогу бачити всю глибину та широту бойового простору. Це не вирішить проблем військових операцій — туман і тертя війни залишаться.
Але, спираючись на дані, командири зможуть ефективніше та раціональніше використовувати свої сили. Дані підвищать летальну міць збройних сил і їхніх бойових груп.
Російсько-українська війна вже дає початкове уявлення про переваги військових операцій, орієнтованих на дані, перед противником, який досі діє в аналоговому режимі. Книга Шарре — це заклик до того, щоб США не спіткала доля російської армії в Україні.
Ентоні Кінг — завідувач кафедри військових досліджень у Ворикському університеті. Його остання книга "Urban Warfare in the Twenty-First Century" була опублікована видавництвом Polity Press у липні 2021 року.