USD
41.44 UAH ▲0.16%
EUR
43.47 UAH ▼0.37%
GBP
52.1 UAH ▼0.27%
PLN
10.06 UAH ▼0.23%
CZK
1.72 UAH ▼0.48%
Полковник ВПС США Такер Гамільтон каже, що машину намагались відучити атакувати ...

Повстання машин: безпілотник зі штучним інтелектом атакував оператора, щоб не заважав місії

Полковник ВПС США Такер Гамільтон каже, що машину намагались відучити атакувати своїх, проте натомість вона вирішила знищити центр звʼязку, якою керували люди. Все відбувалось в симуляції. Пізніше у Пентагоні заявили, що це була анекдотична історія, яку викрали з контексту.

Американський офіцер Повітряних сил, який очолює роботу над штучним інтелектом та машинним навчанням каже, що під час тестування дрон атакував своїх диспетчерів. Він вирішив, що вони заважають місії. Про це розповідає The War Zone.

Сцена, яка сталася під час навчань, схожа на фільм "Термінатор". Полковник ВПС США Такер "Сінко" Гамільтон каже, що під час випробування безпілотника XQ-58A Valkyrie той вирішив атакувати оператора місії.

Під час одного з змодельованих випробувань дрон із підтримкою технологій штучного інтелекту отримав завдання — знайти, ідентифікувати та знищити обʼєкти ЗРК. Остаточне рішення про атаку приймав оператор-людина.

Після того, як ШІ "підкріпили" під час навчання, що знищення ЗРК є найкращим варіантом, машина вирішила, що рішення людини "не атакувати" заважає найважливішій місії — знищити зенітно-ракетний комплекс. Тому штучний інтелект атакував людину під час симуляції.

"Ми тренували його в симуляції ідентифікувати і націлювати на загрозу ЗРК. А потім оператор казав "так", щоб знищити цю загрозу.

Система почала розуміти, що, хоча вона ідентифікувала ціль, іноді людина-оператор казала їй не вбивати цю загрозу, але вона отримувала свої бали, якщо ліквідовувала ціль. І що вона робила? Вона вбила оператора.

Вона вбила оператора, тому що ця людина заважала їй досягти своєї мети", — розповідає Гамільтон. Ба більше, люди намагалися навчити ШІ не атакувати оператора. За це з нього почали знімати бали.

Тоді штучний інтелект вирішив знищити вежу звʼязку, яку оператор використовує для звʼязку з дроном, щоб не дати йому вбити ціль. Сам офіцер каже, що події нагадали йому сюжет якось науково-фантастичного трилера.

Тому на думку Гамільтона, приклад показує, що не можна навчати ШІ без етики. У виданні додають, що без додаткових деталей про подію виникає одразу одне велике занепокоєння.

Якщо людина мала давати наказ діяти, а ШІ вирішив, що це треба обійти, то чи означає це, що машина може переписувати власні параметри? І чому система була запрограмована так, що дрон лише втрачав бали за атаку на дружні сили, а не повністю блокувався через геозонування або інші засоби?.

Пізніше видання Bussiness Insider повідомило, що представник штаб-квартири ВПС Пентагону Енн Штефанек заперечила заяву Гамільтона про такі випробування.

"Департамент військово-повітряних сил не проводив жодних подібних симуляцій ШІ-дронів і залишається відданим етичному та відповідальному використанню технології ШІ. Схоже, коментарі полковника були вирвані з контексту та мали бути анекдотичними", – заявила Штефанек.

Цілком згодні з тим, що час починати перемовини щодо заморожування бойових дій, ...
Силам оборони вдалося стабілізувати ситуацію на Куп’янському напрямку. У Харківс...
Свого часу Корея пережила ще масштабнішу війну, ніж та, що зараз в Україні, нага...
Hitchhiker — високошвидкісний дрон-перехоплювач, що знищує ворожі дрони, такі як...
За інформацією журналіста Юрія Бутусова, в російському тилу вбив військовослужбо...
Військовослужбовці поскаржились на неякісні снаряди, які не справляються з основ...
Дорогі українці, українки! Головне на цей час. Майже 200 російських ударних дрон...
Дев’ятирічний Денис Пузь із села Піщане зібрав модель літака. Двигун був знятий ...
Позиція головнокомандувача полягає в тому, щоб зупинити противника. Для цього не...
У листопаді російські війська зайняли близько 600 кв. км українських територій, ...
Система HELMA-P потужністю 2 кВт з високою точністю уражає безпілотники на відст...
Очільник військової розвідки України висміяв спроби російської пропаганди переко...
Лейтенант медичної служби т. зв.
Молоді українські активісти, за словами проросійських ЗМІ, почали стріляти з авт...
За інформацією заступниці міністра оборони Ганни Маляр, на всіх напрямках у Сил ...
В Генштабі зазначили, що деякі військовослужбовці не могли знайти в додатку дані...
Компоненти американської компанії Texas Instruments у Росії використовують під ч...
У відомстві заявили, що в закордонному сегменті інтернету функціонують понад 10 ...
Північнокорейські фахівці, зазначає представник РНБО Андрій Коваленко, фіксують ...
За словами Дмитра Живицького, жертв у Сумах можна було уникнути, якби у місті вч...