Ілон Маск оголосив війну ШІ: заздрить чи грає на руку конкурентам?

"Ця людина продавала вогнемети, а тепер говорить про безпеку", — сміються над Маском критики. Скандальний ІТ-магнат навіть вимагає урядової заборони на розробку нейромереж.

Ілон Маск і група експертів, що його підтримують, підписали та опублікували сьогодні відкритий лист до всього ІТ-спільноти із закликом тимчасово припинити розвиток ШІ.

У своєму посланні вони просять розробників штучного інтелекту хоча б на пів року припинити розвиток та навчання нейромереж, які можуть перевершити за своїми можливостями сьогоднішній ChatGPT-4, оскільки загрожують людству мало не апокаліпсисом.

Фокус спробував розібратися з тим, що сталося. Підписанти, що вже наробив шуму, послання впевнені, що наразі необхідно взяти паузу в розробці ШІ, щоб виробити концептуальні правила та обмеження в його роботі.

Ініціативна група побоюється того, що сучасні системи ШІ стають все більш конкурентними, коли йдеться про нескладні завдання. Але, оскільки цей аргумент не надто дієвий, експерти особливо акцентують свою увагу на болісному для суспільства питанні фейків та пропаганди.

"Ми повинні себе запитати: чи можемо ми дозволити машинам засмічувати наші інформаційні канали пропагандою та неправдою?" — Зазначають автори листа.

Крім того, підписанти вважають, що з розвитком нейромереж ШІ стане розумнішою за людину, що спричинить ризик втрати контролю над цивілізацією та переходу влади над людьми до ШІ. Експерти готові до крайніх заходів, якщо лист не подіє на адресатів.

"Якщо компанії, які розробляють ШІ, не погодяться призупинити свої розробки щонайменше на пів року, тоді має втрутитися уряд і заборонити всі подібні дослідження", — йдеться в документі, підписаному Ілоном Маском.

Експертна група хоче протягом пів року "спільними зусиллями вчених" створити особливі протоколи безпеки для ШІ, а також за цей час уряди країн мають мати спеціальні регуляційні органи та закони.

Маск і його команда відразу відкидають усі звинувачення в тому, що вони стопорять прогрес, а акцентують увагу на тому, що просто хочуть поставити розвиток ШІ "на паузу".

До речі, серед підписантів є людина, яка незважаючи на всі сумніви та застереження, колись рухала ІТ-індустрію вперед — Стів Возняк, один із засновників Apple.

Цікаво, що лист був створений за підтримки некомерційної організації Future of Life Institute, яка займається просуванням відповідального та етичного розвитку ШІ.

Інститут раніше домігся того, що такі постаті, як Маск та лабораторія ШІ Google DeepMind, пообіцяли ніколи не розробляти смертоносні автономні системи зброї.

До речі, сам Ілон став почесним "позаштатним консультантом" цього Інституту, поряд із такими зірками науки, як Сол Перлмуттер, лауреат Нобелівської премії з фізики у 2011 році, та Морган Фріман, актор та режисер.

Звичайно, цей відкритий лист викликав справжню бурю емоцій у Twitter і коментатори не соромляться у висловлюваннях. Деякі з них вважають, що людині, яка торгувала вогнеметами, не слід говорити про безпеку.

Інші коментатори запідозрили, що Ілон Маск просто хоче вписатися в перегони ШІ, а оскільки не встигає за лідерами, то цим листом та закликом до уряду втрутитися просто саботує розробки конкурентів. Хтось навіть запідозрив Маска, що він грає на руку Китаю або Google.

Адже серед підписантів є співробітники DeepMind, що належить пошуковому гіганту, а він, як відомо, стрімко втрачає позиції на тлі того, як Microsoft успішно інтегрувала ChatGPT-4 у всі свої продукти та наростила базу користувачів.

Хтось пригадав Маску та його непрості стосунки з Open AI (розробниками ChatGPT), з якими Ілон співпрацював, але розлучився, прихопивши обіцяний мільярд, який збирався інвестувати у компанію.

Тепер критики дорікають Маскові за банальну заздрість до колишніх колег, які незважаючи ні на що привели свій проєкт до успіху і стали законодавцями в сегменті штучного інтелекту.

Пригадували Маску і його не вміння поводитися з ШІ, адже нейромережа використовувалася при розробці автопілотів у Tesla, а автомобілі все одно потрапляли в аварії.

Багато хто зазначив, що серед підписантів є компанії-розробники ШІ, наприклад Stability AI (генерація малюнків), що серйозно конкурує з DALL-E — генеративної нейромережі від OpenAI.

До речі, завдяки величезним інвестиціям в Open AI тепер DALL-E доступний безкоштовно всім користувачам продуктів компанії. Найстриманіші не можуть повірити в логіку такої пропозиції.

Вони справді не розуміють, як за пів року можна встигнути виконати такий величезний обсяг роботи: розробити регуляційні правила, урядові закони про контроль над ШІ, зібрати групу "незалежних експертів з контролю" ("незалежність" яких не підлягатиме сумніву, а самі кандидати всім будуть подобатися).

І ще є важливе питання: хто проконтролює виконання мораторію на тимчасову заборону розробки ШІ Китаєм та Росією? І якщо на РФ можна накласти ще більше санкцій, Китай дуже активно включився в перегони нейромереж, і його не так просто вибити з сідла.

А головне, де гарантія того, що за всіх зусиль інші країни дотримуватимуться цієї "паузи"? І хто завадить під приводом паузи продовжувати все тим же ІТ-гігантам, як кажуть, нишком, продовжувати роботу над ШІ, щоб потім не відстати від конкурентів? Головний аргумент на користь "небезпеки ШІ для людей" коментатори теж розносять у пух і порох, наводячи конкретні дані опитувань дослідників машинного навчання, проведеного AI Impacts.

Згідно з цими даними, лише 24% фахівців оцінюють як "дуже хороші" можливості сучасних нейромереж, а решта оцінок коливається на рівні "добре" (26% опитаних), "нейтрально" (18% фахівців) і "дуже погано" (14% експертів).

Деякі люди в коментарях зазначають, що сучасні чат-боти на основі ШІ далеко не з першого разу можуть надати їм відповідь на, здавалося б, просте питання.

Загалом, пропозицію Маска та групи його прихильників, до якої також входить Стів Возняк, коментатори оцінюють як істеричну та стопорну еволюцію.

Один із критиків провів яскраву аналогію між поставленими "панікерами" термінів і думкою одного чиновника, яку він висловив під час пандемії COVID-19: "Цей карантин всього на 2 тижні. Нам треба просто збити хвилю".