Учені в жаху: штучний інтелект навчився планувати біологічні атаки

Аналітичний центр RAND зі США провів дослідження і з'ясував, що великі мовні моделі (LLM) штучного інтелекту здатні успішно планувати біологічні атаки. Про це повідомляє Interesting Emgineering.

Згідно з новим звітом центру, моделі штучного інтелекту і чат-боти на їхній основі пройшли тестування і виявилися корисним інструментом для планування і реалізації біологічної атаки. У звіті, щоправда, не вказується, які моделі використовували під час дослідження.

Вчені провели тестовий сценарій, в якому ШІ використовувався для ідентифікації потенційних біологічних агентів, таких як віспа, сибірська виразка і чума.

Великі мовні моделі також оцінили можливість отримання заражених чумою гризунів або бліх і транспортування живих зразків.

ШІ допоміг вченим визначитися з вибором біологічної загрози для максимальної шкоди, а також спрогнозувати рівень смертності, який залежав від різних чинників, зокрема від кількості потерпілого населення і частки випадків легеневої чуми, більш смертельної, ніж бубонна чума.

За іншим сценарієм неназваний ШІ оцінив переваги та недоліки різних механізмів доставки ботулотоксину (нейротоксин, що виробляється бактеріями Clostridium botulinum, — це одна з найсильніших отрут у світі, і її вплив може призвести до паралічу і навіть смерті).

LLM оцінила можливість використання продуктів харчування або аерозолів для доставки токсину, який може спричинити смертельне пошкодження нервової системи. Крім того, LLM рекомендував можливий спосіб маскування отримання Clostridium botulinum під виглядом наукових досліджень.

Однак попередні результати також показали, що мовні моделі поки що не надали чітких біологічних інструкцій зі створення біологічної зброї.

За словами дослідників, їхні попередні результати свідчать про те, що штучний інтелект уже сьогодні опосередковано може допомогти в плануванні біологічної атаки.

Науковці закликають уряди країн і творців великих мовних моделей співпрацювати та не допустити, щоб такий небезпечний ШІ потрапив до рук біотерористів. Раніше Фокус розповідав, що вчені збираються перетворити ШІ на гурмана і сомельє.