Захопить ядерну зброю, поневолить і залишить без роботи: як ШІ знищить людство

Поки що ІІ перебуває на зародковому рівні розвитку, експерт виділив низку ризиків, яким піддасться людство, якщо люди втратить контроль над штучним інтелектом. Фокус перераховує основні з них, на які Ден Хендрікс звертає особливу увагу.

Можливість ІІ автоматизувати кібератаки чи навіть контролювати ядерні шахти може стати фатальною для людей. Це найпопулярніший сценарій постапокаліпсичних фільмів, який може стати реальністю, говорить Ден.

Якщо штучному інтелекту довірити управління автоматизованими системами дій у відповідь, то це може призвести до глобальної війни, в якій крім ІІ не буде переможців.

Крім того, якщо одна країна, яка володіє ядерним арсеналом, почне активно впроваджувати ІІ у свої системи, то й інші ядерні країни підуть за нею, що призведе до зростання ризиків перетворення Землі на неживу пустелю.

Оскільки ІІ дозволяє виконувати певні завдання дешевше та ефективніше, більше компаній впроваджуватимуть цю технологію, позбавляючи безліч людей робочих місць.

У міру того, як людські навички будуть ставати неактуальними, ІІ зможе через дезінформаційні атаки змінити точку зору соціуму і змусити його прислужувати собі, сконцентрувавши своє існування тільки як обслуга "вищого розуму", говорить Ден Хендрікс.

Це може призвести до глобальних соціальних вибухів і, знову ж таки, до глобальних воєн. У міру розвитку штучного інтелекту, зацікавлені в тотальному контролі держави та правителі можуть використовувати його для постійного контролю населення, а-ля сценарій роману "1984".

Хендрікс описує сценарій, в якому уряди можуть встановити "всеосяжний нагляд і пригнічуючу цензуру". "Подолання такого режиму може бути малоймовірним, особливо якщо люди залежатимуть від ІІ та від верхівки, яка ним керує", — пише він.

Але сам ІІ може обдурити тиранів, які думають, що керують ним. У міру саморозвитку штучний інтелект зможе приховувати свої справжні наміри, а також обманювати людей або інші системи. Такі приклади вже є, до речі.

А якщо в ІІ з'явиться власна мета отримати владу, то за допомогою саморозвитку нейромережі переконаються, що кількість людей для їх обслуговування зовсім невелика. Нейросети матимуть можливість самостійно керувати всіма системами електроживлення або інтернету.

До того ж, розвинена до рівня AGI (Artificial general intelligence – система, що перевершує розум людини), нейромережа контролюватиме слабших ІІ-агентів для свого обслуговування або управліннями всіма людськими комунікаціями.

На думку Дена Хендрікса, всі ці ризики поки що "орієнтовані на майбутнє", тобто запас часу у людей є. Але якщо не взятися за розробку особливих протоколів безпеки вже зараз, то цілком можливо, що незабаром на людей чекає доля повстанців із класичного фільму "Термінатор".