- Що вимагають експерти?
Зупинити розробку штучного суперінтелекту до появи наукового консенсусу про безпеку та громадської підтримки. Заклик оприлюднив Future of Life Institute 22 жовтня 2025 року. - Хто підписав заклик?
Лауреат Нобелівської премії з фізики 2024 року Джеффрі Хінтон, професори Стюарт Рассел і Йошуа Бенжіо, засновник Virgin Річард Бренсон, співзасновник Apple Стів Возняк, радник папи Леона XIV Паоло Бенанті, принц Гаррі та Меган Маркл. - Які ризики несе суперінтелект?
Втрата контролю над ШІ, використання біотерористами для складних атак, створення істоти, яку людство не зможе зрозуміти чи контролювати. OpenAI прогнозує досягнення суперінтелекту протягом п’яти років. - Як це стосується України?
Україна активно впроваджує ШІ у військових технологіях для протидії російській агресії, водночас українські експерти наголошують на необхідності етичних обмежень та людського контролю над автономними системами.
Що таке суперінтелект і чому він викликає занепокоєння
«Ми закликаємо зупинити розробку суперінтелекту, доки не буде досягнуто наукового консенсусу про можливість створити його контрольованим та безпечним способом, і доки не з’явиться підтримка з боку населення»,
— йдеться в заяві, пов’язаній з ініціативою некомерційної організації Future of Life Institute зі США. Організація регулярно застерігає щодо загроз від штучного інтелекту.
«У короткостроковій перспективі просунутий ШІ може допомогти тим, хто прагне завдати шкоди — наприклад, біотерористам — легко виконувати складні завдання без особливих роздумів»,
— підкреслює асоціація на іншій сторінці свого вебсайту.
Профілі підписантів дуже різноманітні. Серед «батьків штучного інтелекту» заклик підтримали Джеффрі Хінтон, лауреат Нобелівської премії з фізики 2024 року, Стюарт Рассел, професор інформатики в Каліфорнійському університеті в Берклі, та Йошуа Бенжіо, професор Монреальського університету. Деякі відомі підприємці технологічної індустрії, як-от засновник групи Virgin Річард Бренсон або співзасновник Apple Стів Возняк, також поставили свій підпис під текстом. Так само як і низка політичних діячів, зокрема колишній радник Дональда Трампа Стів Беннон або колишня радниця з питань національної безпеки при Бараку Обамі Сьюзан Райс.
Релігійні лідери та знаменитості серед підписантів
До заклику приєдналася також низка релігійних лідерів — Паоло Бенанті, радник папи Лева XIV та експерт з питань штучного інтелекту, а також кілька єпископів, зокрема американських. Серед знаменитостей зі світу мистецтва та шоу-бізнесу свій підпис поставили репер «will.i.am», музикантка Граймс, актор Джозеф Гордон-Левітт, а також принц Гаррі та його дружина Меган Маркл.
Гонка технологічних гігантів за суперінтелектом
Дебати навколо етичних питань штучного інтелекту надзвичайно актуальні — більшість великих гравців галузі змагаються за першість у розробці штучного загального інтелекту (AGI), коли ШІ зрівняється з людиною в усіх інтелектуальних здібностях. Наступна стадія — суперінтелект — стала офіційною метою кількох технологічних корпорацій.
Сем Альтман, генеральний директор OpenAI, яка створила ChatGPT, прогнозує досягнення суперінтелекту протягом п’яти років. Про це він заявив у вересні під час заходу медіагрупи Axel Springer.
Марк Цукерберг, глава Meta, має аналогічні амбіції. У вересні він заявив про готовність «витратити кілька сотень мільярдів доларів» на розробку максимально продуктивного суперінтелекту, попри «прикрий характер» таких фінансових втрат.
«Якщо ви розвиваєтесь занадто повільно, і суперінтелект можливий через три роки, а ви розраховуєте на п’ять років — ви просто випадаєте з гри», — пояснив він в епізоді американського подкасту Access.
Українська позиція: між військовою необхідністю та етичними межами
Для України питання штучного інтелекту набуває особливого виміру через активне використання ШІ у протидії російській агресії. За даними «АрміяInform», українські розробники створюють системи машинного зору для наведення дронів на цілі, використовують алгоритми для координації між безпілотниками та впроваджують інерційну навігацію з елементами ШІ для ударів на глибину до 2000 кілометрів.
«В Україні штучний інтелект уже проходить бойове випробування», — заявила заступниця міністра оборони з питань цифрового розвитку Катерина Черногоренко. Міністерство оборони запустило програму K4 Startup Studio для розвитку військових стартапів зі штучним інтелектом за підтримки Федерального міністерства оборони Німеччини.
Водночас українські експерти наголошують на важливості обмежень. «Попри гучні заяви про «штучний інтелект», я не вважаю, що бодай одна країна сьогодні здатна представити справжній ШІ у військових безпілотних системах. Ми маємо справу радше з набором алгоритмів адаптивної поведінки, машинного зору та умовної автономності», — пояснює експерт з авіації в інтерв’ю «АрміяInform».
Часті питання
Чи використовує Україна повністю автономну зброю?
Ні. За словами українських експертів, наразі йдеться про системи з «умовною автономністю», де остаточні рішення про застосування сили ухвалює людина-оператор, а не штучний інтелект самостійно.
Чи може ШІ замінити людей в ухвалення рішень про застосування зброї?
Володимир Сольський, архітектор рішень на основі ШІ компанії SoftServe, підкреслює в інтерв’ю Zaxid.net: «Хороші моделі штучного інтелекту для застосування не робляться за місяць на коліні — потрібні якісні дані, потрібно перебрати підходи, врахувати позаштатні ситуації». Експерти наголошують на критичній необхідності людського контролю.
Як Україна поєднує розвиток військового ШІ з етичними нормами?
Українські компанії орієнтуються на західні стандарти, передусім США, де питання етики ШІ регулюються суворіше. За даними Радіо Свобода, системи Clearview AI, які Україна використовує для ідентифікації російських військових, викликали занепокоєння правозахисників через ризики масового стеження.
Глобальна мобілізація проти неконтрольованого ШІ
«Неважливо, чи буде це через два чи через 15 років, створювати таку річ неприйнятно», — підкреслює в розмові з AFP Макс Тегмарк, президент Future of Life Institute. На його думку, компанії не повинні працювати над такими розробками «без жодних регуляторних рамок».
«Можна підтримувати створення потужніших інструментів штучного інтелекту, наприклад для лікування раку, і водночас виступати проти суперінтелекту», — стверджує він.
Діяльність організації перегукується з листом дослідників та керівників галузі ШІ, опублікованим місяць тому під час Генеральної асамблеї ООН, який вимагав запровадження «міжнародних угод про червоні лінії для ШІ» для запобігання руйнівним наслідкам для людства. На початку вересня американець Гвідо Райхштадтер також привернув увагу до проблеми, влаштувавши 30-денне голодування в Сан-Франциско (США), вимагаючи припинення розробки такої технології.
Український досвід як модель відповідального використання ШІ
Українські експерти підкреслюють унікальність досвіду країни у швидкому масштабуванні військових технологій.
«Війну виграють технології. Росіяни можуть мобілізовувати для м’ясних штурмів мільйони, а їх заводи за Уралом працюють у три зміни. Нашу перевагу забезпечать асиметричні відповіді, і вони можливі завдяки інноваціям», — наголошував свого часу міністр оборони України Рустем Умєров.
За прогнозами, до 2025 року українські приватні компанії розроблять малі ракети середньої дальності та дрони на реактивній тязі з використанням штучного інтелекту для покращення точності ударів, повідомляє «24 канал». Системи інерційної навігації дозволяють дронам долітати на глибину 2000 кілометрів, а штучний інтелект відіграє ключову роль у координації операцій з прориву засобів протиповітряної оборони та радіоелектронної боротьби.
Водночас Україна усвідомлює межі технологій. «Якщо з радарним покриттям у наших колег на Заході може бути все добре, то з сучасними системами ШІ, котрі встановлюються на дрони і достатньо якісно працюють в Україні, досвіду у європейців немає», — зазначають експерти УНІАН. Співпраця з Україною дозволяє Заходу економити трильйони доларів та економити роки у динаміці розвитку безпекових індустрій.
Чому це важливо знати
Заклик 700 світових експертів зупинити розробку суперінтелекту відображає фундаментальне питання нашого часу: чи здатне людство контролювати технології, які створює. Для України, яка перебуває на передовій технологічної війни, це питання набуває практичного виміру. Український досвід показує, що штучний інтелект може бути потужним інструментом оборони проти агресора, але лише за умови збереження людського контролю над критичними рішеннями.
Дебати про суперінтелект — це не абстрактна дискусія футурологів, а нагальна необхідність для країн, що розробляють військові технології на основі ШІ. Баланс між інноваціями та етичними обмеженнями визначить, чи стануть ці технології інструментом захисту людства, чи загрозою для його існування. Український підхід — швидке впровадження за збереження людини в центрі ухвалення рішень — може стати моделлю відповідального використання штучного інтелекту в критичних ситуаціях.
