Чи може ШІ знищити цивілізацію ядерною зброєю? Експерт розкрив, що йому заважає

Кетрін Оуенс, науковий співробітник Центру військової модернізації, у своїй статті на сайті Warrior Maven розбирається, чи може машина запустити ядерні ракети і знищити людську цивілізацію.

За останній рік розробки в галузі штучного інтелекту призвели до того, що його все частіше порівнюють з ядерною зброєю. Однак експерти в цьому питанні упускають суть — реальну небезпеку становить саме зближення ШІ з ядерними технологіями.

Як зазначила Кетрін Оуенс: роботів зі штучним інтелектом не збираються допускати до кнопок запуску ядерної зброї — це було прописано в рекомендаціях Комісії національної безпеки зі ШІ, сформованої 2019 року, і в Огляді ядерної політики Міністерства оборони за 2022 рік, а також підтверджено в Законі про повноваження національної оборони на 2024 фінансовий рік, Законі про автономний штучний інтелект, покликаний гарантувати, що цю політику буде закріплено в законі.

Це не означає, що військові технології та технології штучного інтелекту тримають окремо одна від одної. Навпаки, військові чиновники, дослідники та керівники оборонної промисловості планують збільшити роль ШІ у збройних силах і системах озброєнь, включно з ядерними.

Наразі складно знайти єдине визначення технології штучного інтелекту.

Одна група вчених пише для Міжнародного журналу наукової техніки та досліджень, що машини ШІ "реагують на стимуляцію відповідно до традиційних реакцій людей, з огляду на людську здатність до споглядання, судження та наміру". Даррел М. Вест і Джон Р.

Аллен із Брукінгського інституту стверджують, що ШІ визначається трьома характеристиками: "навмисністю, інтелектом і адаптивністю". Ці визначення точні, але більше стосуються комп'ютерів, готових конкурувати з людьми.

Для розуміння, як ШІ може вплинути Кетрін Оуенс пропонує уявити його як величезну систему для обробки даних.

Обсяг інформації, яку вона пропускає через себе, надає їй певного рівня "інтелектуальності" і дозволяє відображати людську логіку краще, ніж будь-яка інша технологія обчислень.

Згідно з наявною на цей момент інформацією, існує два рівні технологій штучного інтелекту, які використовують у військовому контексті. Перший — це обчислення на основі правил.

Людина-військовий задає правила "якщо-то" для програми ШІ, щоб вона могла генерувати відповіді при отриманні певних вхідних даних.

Другий передбачає програми штучного інтелекту, які використовують можливості машинного навчання для обробки мільйонів точок даних для виявлення і подальшого "вивчення" закономірностей.

Що більше даних має доступ до програми, то краще вона може порівнювати й оцінювати сценарії.

За своєю суттю машинне навчання за допомогою ШІ засноване на ймовірності: воно може оцінити ймовірність повторення вже виявленого шаблону або події, а потім "зберегти" певні шаблони, коли це необхідно.

Так може працювати, наприклад, програмне забезпечення для розпізнавання облич і голосу. Двома основними галузями, в яких ШІ вписується у військові системи, є: системи командування, контролю і зв'язку, а також стратегічна безпека і моделювання військових ігор (wargame ).

За словами аналітика, ці дві категорії вже зазнали удосконалень у сфері ШІ і є основним напрямком для його подальшого впровадження. Штучний інтелект відіграє допоміжну роль у командуванні, управлінні та зв'язку систем ядерної зброї (NC3).

Він робить це, перш за все, шляхом участі в оцінці ситуації, розробці та прогнозуванні заходів реагування, а також перерозподілу сил.

Більшість систем озброєння, здатних нести ядерну зброю, крім інших функцій, покладаються на сенсорні дані для вимірювання умов, складання карти місцевості, допомоги в наведенні та навігаційної обізнаності, а також ідентифікації цілей.

Системи штучного інтелекту підвищують точність і обсяг цієї інформації.

Технологія штучного інтелекту може отримувати те, що Массачусетський технологічний інститут називає "структурованими даними" із супутників, розвідувальних БПЛА, буїв та інших джерел, а також "неструктуровані дані" з інтернет-джерел і виконувати "кондиціонування даних".

Подальше впровадження ШІ стикається з трьома основними перешкодами: Зрештою, зв'язок між технологією штучного інтелекту та ядерною зброєю визначається парадоксами, — пише Кетрін Оуенс.

Попри ці суперечливі теми, штучний інтелект у військових технологіях нікуди не дінеться.

"Ми не можемо до кінця знати, що принесе "ера ШІ" оборонному і ядерному співтовариству, але немає сумнівів у тому, що вона вплине на кожну ядерну боєголовку і кожен винищувач", — підсумувала вона.

Раніше писали, що Держдепартамент США розробив декларацію про відповідальне військове використання ШІ.