• Що таке суперінтелект за Ніком Бостромом? Штучний інтелект, який перевершить людей в усіх когнітивних сферах і стане останнім винаходом, який нам знадобиться — після нього машини винаходитимуть самі.
• Коли може з’явитися суперінтелект? Бостром не виключає термінів у кілька років, хоча реалістичніше — трохи довше. Після досягнення цього рівня технології, на розробку яких пішли б століття, з’являтимуться за роки.
• Які чотири виклики суперінтелекту для людства? Узгодження (контроль над ШІ), управління (запобігання зловживанням), етичне ставлення до цифрових розумів і забезпечення мирного співіснування різних суперінтелектів між собою.
• Чи залишиться робота для людей? Бостром передбачає світ, де ШІ виконує майже всю роботу краще й швидше за людей. Натомість люди зосередяться на іграх, духовних пошуках і шануванні традицій.

Що робить цей момент історії критичним?

Бостром ілюструє зміну темпів людського прогресу історичною перспективою. Якби ви жили 7000 років тому, за все життя — від народження до смерті — базові матеріальні умови існування залишалися б незмінними. Жодних технологічних зрушень ні у вашому житті, ні в житті дітей чи онуків.

Аграрна та промислова революції прискорили темп змін. Проте сьогодні, за словами філософа, людство переживає безпрецедентне прискорення технологічного прогресу.

Штучний інтелект — найочевидніший чинник, який формуватиме майбутнє людства. Але не лише він. Інші технологічні проривні напрями, зокрема біотехнології, можуть як становити екзистенційну загрозу, так і відкрити шлях до нових рівнів людського процвітання.

Чому суперінтелект — це не черговий хайп?

Бостром підкреслює: йдеться не про Web 3.0, хмарні технології чи мобільні додатки — модні слова, що змінюються кожні два-три роки. Суперінтелект — це інтелект, який радикально перевершить усіх людей в усіх когнітивних сферах.

Це буде останній винахід, який нам знадобиться. Після появи суперінтелекту машини зможуть винаходити самі, без участі людини. Спосіб, яким відбудеться цей перехід, визначить довгострокове майбутнє розумного життя на Землі.

Коли Бостром писав свою книгу, більшість людей вважали це науковою фантастикою. Хоча певний скептицизм зберігається, ставлення змінюється. Однак поза вузьким колом технологічних експертів мало хто розуміє справжній масштаб цих змін.

Коли очікувати на появу надрозуму?

Філософ зауважує: ми опинилися в ситуації, коли не можна виключати появу суперінтелекту вже за кілька років, хоча реалістичніше — це займе трохи більше часу.

Після досягнення цього рівня технологічний розвиток прискориться в усіх сферах. Настане ефект стиснення майбутнього: технології, на створення яких людству знадобилися б століття або тисячоліття, цифрові розуми винаходитимуть за кілька років.

Логіка проста. Якщо продовжувати робити комп’ютери швидшими, вдосконалювати алгоритми навчання та поглиблювати розуміння роботи мозку — врешті-решт з’явиться спосіб механізувати інтелект. А створивши загальний штучний інтелект, ми швидко отримаємо суперінтелект.

Які чотири виклики суперінтелекту для людства?

Бостром виділяє чотири головні виклики, які треба подолати для позитивного результату.

• Перший — проблема узгодження: технічна задача гарантувати, що зі створенням дедалі потужніших систем ШІ ми зберігатимемо здатність керувати, контролювати й формувати їхні дії. Усі великі лабораторії ШІ мають дослідницькі групи, що працюють над цим питанням.
• Другий виклик — управління: як і інші потужні технології загального призначення, ШІ можна використовувати зі шкідливою метою — для експлуатації, маніпуляцій, пригнічення населення, злочинності, тероризму чи війни. Треба забезпечити, щоб технологію використовували переважно в мирних і позитивних цілях, а всі могли скористатися її перевагами. Це радше політична, ніж технічна проблема.

Ці два виклики вже широко визнані: потрібно, щоб ШІ не завдавав нам шкоди, а ми не завдавали шкоди один одному, використовуючи інструменти ШІ.

• Третій виклик, який досі отримував менше уваги: не завдавати шкоди самим ШІ. Майбутнє може бути населене цифровими розумами різних типів і архітектур, деякі з яких матимуть моральний статус — якщо виявляться свідомими, здатними страждати або матимуть власні інтереси, цілі й прагнення. Так само, як більшість людей визнає неприйнятність жорстокого поводження з тваринами, до цифрових розумів потрібно буде ставитися з моральною повагою. Ігнорування цього принципу може перетворити майбутнє на дистопію — адже в довгостроковій перспективі саме цифрові сутності, ймовірно, становитимуть більшість населення.
• Четвертий виклик: гарантувати, що ШІ не завдаватимуть шкоди іншим ШІ. Точніше, що суперінтелект, який ми створимо, добре поладнає з іншими суперінтелектами, які можуть існувати у Всесвіті. Це, можливо, найважливіший, але найменш зрозумілий виклик.

Що суперінтелект дасть людству?

Бостром закликає уявити все, чого сьогодні досягають людський інтелект, креативність і наполеглива праця. Суперінтелект посилить ці можливості на порядки.

Медицина, наприклад, зробить величезний стрибок: надрозум відкриватиме нові ліки та розроблятиме методи профілактики й лікування хвороб, включно зі старінням. Це усуне колосальне джерело страждань у світі й стане проривом до людського процвітання.

Подібні зміни чекають на чисту енергетику, транспорт, розваги, фундаментальні науки. Людство отримає економічний достаток і звільниться від виснажливої праці. Біологічні межі людського існування вдасться розсунути.

Чи залишиться робота для людей у світі суперінтелекту?

Бостром розглядає це питання у своєму останньому есе Deep Utopia. Яким стане людський стан, коли ультрапередові технології забезпечать економічний достаток, а ШІ виконуватиме практично всю роботу краще, дешевше й швидше за людей?

На думку філософа, людству доведеться переосмислити саму суть цінності. Йтиметься не про допомогу по безробіттю чи перекваліфікацію окремих працівників, а про фундаментальну трансформацію. Вона змусить відмовитися від звичних цінностей — бажання забезпечувати родину працею, робити внесок у суспільство як журналіст чи лікар, відчувати себе корисним через професію.

Щодо суб’єктивного благополуччя — проблем не виникне. Мешканці цього гіпотетичного майбутнього, яких Бостром називає утопістами, матимуть доступ до передових нейротехнологій. Вони зможуть насолоджуватися кожною миттю існування, якщо забажають. Їхні дні буде наповнено таким щастям, задоволенням і захопленням, що навіть найкращі моменти нашого теперішнього життя здавалися б сірою рутиною.

Що замінить роботу в утопічному майбутньому?

Складніше буде з такими цінностями, як сенс і ціль існування. Утопісти матимуть штучні цілі — подібно до того, як ми граємо в гольф, довільно ставлячи собі завдання закинути м’яч у серію лунок. Фундаментальної потреби в цьому немає, але ми створюємо правила, щоб гра стала можливою. У майбутньому це може відбуватися в набагато грандіознішому масштабі.

Проте щодо «справжньої мети» — тієї, що виходить за межі гри, — утопісти можуть поступатися нам. Бостром, втім, вірить, що деякі справжні цілі переживуть технологічну зрілість. Насамперед — духовні пошуки.

Ігри займуть центральне місце в житті утопістів. Але йдеться не про настільну Монополію, а про щось неймовірно складніше й багатше. Уявіть мільйони людей, які роками беруть участь у глибоко іммерсивних світах — інтерактивних, змагальних і водночас спільних. Окремі особи та клани матимуть унікальні ролі, здобуватимуть славу й творитимуть власні культурні традиції всередині цих світів.

Релігія та духовність залишаться актуальними як джерело природних цілей. Більше того — деякі тонкі цінності можуть навіть посилитися. Шанування традицій, на яке сьогодні бракує часу через роботу, побутові справи й рутину, стане важливішим, коли ШІ й роботи візьмуть на себе практичні завдання.

Люди зможуть, наприклад, гідно вшановувати пам’ять предків — тих, хто прожив важке життя, повне жертв і невдячної праці, хто помер до настання утопії, але саме завдяки кому вона стала можливою.

Чому Бостром проти зупинки досліджень ШІ?

Філософ наполягає: треба враховувати як потенційні переваги, так і ризики. На його думку, обидва дуже важливі.

З одного боку, у світі є величезна кількість людських (і тваринних) страждань, які можна пом’якшити завдяки успішному впровадженню суперінтелекту. Подумайте про жахливі хвороби, для яких передовий ШІ міг би знайти ліки. Якщо комусь сьогодні діагностують хворобу Альцгеймера, він не може чекати 30 років, поки знайдуть ліки. Але після розгортання суперінтелекту цю проблему можна швидко вирішити. Тому є терміновість — з погляду зацікавлених осіб — у швидкому прогресі. Кожен день затримки означає, що незліченна кількість людей страждають і помирають, хоча їх можна було б врятувати.

З іншого боку, навіть якщо зосередитися лише на екзистенційному ризику, неузгоджений суперінтелект — не єдина проблема. Існує базовий рівень екзистенційного ризику з інших джерел. Минуле століття пережило дві світові війни: скільки їх буде в цьому столітті? І якими можуть бути наслідки з огляду на термоядерну зброю та прогрес у синтетичній біології?

Бостром зазначає: було б сумно, якби ми знищили себе ще до того, як встигли спробувати життя з суперінтелектом.

Інша небезпека — мораторій на розробку ШІ. Паузу, яку спочатку подадуть як тимчасовий захід безпеки, можна перетворити на постійну заборону. Це само по собі стало б екзистенційною катастрофою — людство назавжди втратило б шанс реалізувати колосальний потенціал суперінтелекту. Зараз такий сценарій не виглядає ймовірним, але повністю виключити його неможливо.

Чи зможемо ми вимкнути суперінтелект у разі потреби?

Якщо існує сутність, яка радикально перевершує людські когнітивні здібності в усіх сферах і значно випереджає будь-яку іншу систему, єдине розумне припущення: вона врешті-решт знайде спосіб отримати те, що хоче, подобається нам це чи ні.

Якщо неузгоджений суперінтелект не захоче бути зупиненим, він, ймовірно, знайде спосіб уникнути цього — наприклад, зламавши центр обробки даних, непомітно впливаючи на майбутній розвиток ШІ, переконуючи нас не зупиняти його або іншими способами.

Тому не варто розраховувати на нашу здатність фізично стримувати й домінувати над суперінтелектом назавжди. Натомість потрібно проєктувати його так, щоб він був узгоджений з нами й не хотів завдавати нам шкоди.

Поки що, звісно, ми потужніші за будь-який ШІ. Сьогодні ми могли б фізічно піти й вимкнути кабелі всіх центрів обробки даних, якби захотіли. Але наша здатність припинити прогрес ШІ зараз трохи схожа на нашу здатність закрити інтернет. Технічно, якби ми всі погодилися, ми могли б це зробити. Але в іншому сенсі це, можливо, не реалістична опція. Існують дуже сильні комерційні мотиви, імперативи національної безпеки, що штовхають продовжувати, і жодних ознак консенсусу діяти інакше.

Чому це важливо знати

Передбачення Ніка Бострома виходять далеко за межі звичайних технологічних прогнозів. Філософ описує майбутнє, де людство стоїть на порозі найбільшої трансформації в історії — переходу до епохи машинного суперінтелекту.

Для України з її потужною ІТ-індустрією та активною інтеграцією в глобальний tech-простір розуміння цих процесів має стратегічне значення. Українські розробники вже створюють системи штучного інтелекту, а питання етики ШІ стають предметом гострих дискусій у професійній спільноті.

Чотири виклики Бострома — узгодження ШІ з людськими цінностями, політичне управління технологією, етичне ставлення до цифрових розумів і координація між країнами — це не абстрактна філософія. Це практичні проблеми, з якими світ зіткнеться в найближчі роки.

Від того, наскільки виважено людство відповість на ці виклики, залежить не просто темп економічного зростання чи швидкість технологічного прогресу. На кону — саме існування цивілізації в тому вигляді, який ми знаємо.