Що таке «Чорний жовтень»

Наприкінці жовтня у професійних колах ходили дві назви того, що відбувається. Стриманіша — «Чорний жовтень». Яскравіша — «вульнопокаліпсис». Це гра слів: англійське vulnerability означає «вразливість», а друга половина — від слова «апокаліпсис».

Вразливість — це помилка в програмі, через яку зловмисник може змусити її робити те, чого вона робити не мала б. Наприклад, віддати чужі дані або впустити сторонню людину.

У жовтні таких помилок знайшли незвично багато. І не в другорядних застосунках, а в «підвалі» цифрового світу — у програмах, на яких тримається все інше. Розробники поспіхом випускали латки, тобто виправлення. Служби безпеки не встигали обробляти повідомлення про нові вади. Дедалі більше людей питали: чи не стало світове програмне забезпечення принципово беззахисним?

Як пограбували Binance

Кульмінація настала 29 жовтня. Зловмисники зламали Binance — одну з найбільших у світі криптовалютних бірж. Під ударом опинилися активи приблизно на 6,34 мільярда доларів. Скільки саме втрачено остаточно, досі з’ясовують.

3 листопада Binance оприлюднила попередній звіт. Згідно з ним, операцію готували місяцями. Хакери влаштовували фальшиві співбесіди, ніби наймають людей на роботу. Підсовували шкідливі програми для завантаження. Заражали робочі комп’ютери розробників. А найголовніше — скористалися внутрішнім ШІ-інструментом самої біржі.

Зрештою вони здобули облікові дані, які давали доступ до системи підписання гаманців. Простіше кажучи, до «печатки», якою біржа підтверджує перекази. Відтак хакери почали несанкціоновані перекази коштів. За словами Binance, ФБР пов’язало атаку з Північною Кореєю.

Довіреність, яку не можна просто порвати

Проникнувши всередину, нападники обернули проти біржі її ж криптографічний захист.

У мережі Ethereum вони використали механізм EIP-7702. Це оновлення дозволяє звичайному криптогаманцю доручити свої дії програмі — смарт-контракту. Смарт-контракт — це код у блокчейні, який автоматично виконує закладені умови. Як торговий автомат: кинув монету — отримав шоколадку.

Хакери видали своєму шкідливому смарт-контракту дозвіл діяти від імені зламаного гаманця. Уявіть нотаріальну довіреність, записану в публічному реєстрі. Ви можете зачинити свій офіс, але довіреність від цього не зникне. Її треба окремо скасувати в реєстрі.

Так і сталося. Binance зупинила виведення коштів, але дозволи, записані в блокчейні, діяли далі. Їх доводилося скасовувати окремо, просто в блокчейні.

Ускладнив справу ще й багатосторонній криптографічний підпис — зазвичай дуже корисний захист. Він працює як сейф, ключ від якого розділили на кілька частин і роздали різним людям. Жодна частина окремо сейф не відмикає. Через це в критичну хвилину не було одного-єдиного ключа, яким можна швидко повернути собі контроль.

Мільярди, що розбігаються за секунди

Тим часом викрадені активи зникали з шаленою швидкістю. Автоматичні програми ділили кошти між багатьма гаманцями. Переганяли їх між різними блокчейнами. Обмінювали через децентралізовані сервіси — майданчики без єдиного власника. Усе це — десятками тисяч дрібних транзакцій.

Британська компанія з блокчейн-аналітики Elliptic побачила в цьому явні сліди автоматизації. Але чітких ознак того, що рішення в реальному часі ухвалював автономний ШІ, не знайшла. Деякі скрипти вперто повторювали ті самі невдалі операції. Отже, процесом у реальному часі ШІ, ймовірно, не керував. Хоча, можливо, допомагав писати самі скрипти.

А тепер уявіть наступне покоління таких програм для «відмивання». Вони не лише швидкі, а й кмітливі. Бачать заблоковані маршрути й вигадують обхідні. І реагують на слідчих так само швидко, як слідчі на них. Рао зауважує: така перспектива тривожить саме тому, що жовтнева операція мала очевидні слабкості. Отже, нападникам є куди вдосконалюватися.

Чому захисники не програли

Проте захисники аж ніяк не були безпорадними. Публічні блокчейни прозорі: кожну транзакцію бачать усі. Це допомогло слідчим відстежувати рух коштів. Емітенти токенів (компанії, які їх випускають), біржі та інші установи змогли заморозити або перехопити частину активів.

За даними Binance, станом на 3 листопада заморожено або перехоплено близько 2,85 мільярда доларів. Це приблизно 45% від суми, що опинилася під ударом. Цифра ще уточнюється. Біржа пообіцяла покрити втрати клієнтів.

Рао звертає увагу: заморожені кошти, повернені кошти й те, що хакери реально зможуть витратити, — це три різні величини. Остаточного рахунку поки немає.

У цій історії автор бачить майже збочену витонченість. Криптографічні протоколи водночас допомогли нападникам, зв’язали руки захисникам і дали змогу стримати збитки. ШІ-інструменти були і на шляху вторгнення, і серед подальших оновлень захисту біржі. Автоматичні фінансові механізми вели заплутану боротьбу за мільярди. А люди-інженери й слідчі намагалися приборкати складну систему дозволів та економічних стимулів.

Що буде, коли ШІ зіткнеться з криптографією

Є старий парадокс: що станеться, коли нестримна сила зустріне непорушний об’єкт? Історія з Binance, на думку Рао, яскраво показала, що в сучасних технологіях така пара вже існує. Він називає її «злими близнюками». Штучний інтелект — нестримна сила. Криптографічні протоколи — непорушні об’єкти.

Непорушними протоколи робить властивість, яку Рао називає твердістю (hardness). Детальніше про неї — далі. Поки досить знати: це здатність робити певні речі надійними й незмінними.

Ні інтелект, ні твердість не належать якійсь одній стороні. Це універсальні інструменти, і в складному цифровому світі ними користуються всі суперники. Результат залежить від того, в які стосунки вони вступають, які повноваження отримують і чиїм інтересам служать.

Візьмімо криптографічне зобов’язання. Для чесної людини це надійна гарантія. Але так само надійно воно може закріпити здобич злодія. Тому наперед не скажеш, як інтелект і твердість проявляться в конкретному протистоянні. На папері все просто: ШІ — сила, криптографія — перешкода. У реальному житті ця чітка схема швидко заплутується.

Що ще трапилося того місяця

Binance, на думку Рао, — лише найпоказовіший епізод значно більшого перевороту. Ось що ще сталося в «Чорному жовтні». Здебільшого йшлося про програми, з якими більшість користувачів напряму ніколи не стикається:

• Дослідження за допомогою ШІ виявили слабкі місця в PHP — мові програмування, на якій працює велика частина сайтів. А також у Brotli (алгоритмі стиснення даних, що пришвидшує завантаження сторінок) та інших поширених компонентах.
• Дослідники знайшли вразливість у мережевій частині Linux — операційної системи, на якій працює величезна кількість серверів. Компанія Anthropic повідомила, що модель штучного інтелекту менш ніж за годину створила робочий експлойт для певної конфігурації. Експлойт — це програма, яка використовує вразливість. Цей давав повний віддалений контроль над системою.
• Знайшли критичну ваду в прошивці UEFI. Це програма, яка запускає комп’ютер ще до операційної системи. Тобто вада сиділа глибше за операційні системи й засоби захисту, на які зазвичай покладаються адміністратори серверів.
• Мішенню атак ставали й платформи для розробників ШІ: їхні облікові дані й доступи стають дедалі ціннішими.

Усьому цьому передували місяці дедалі ширшого пошуку вразливостей за допомогою ШІ. Серед таких ініціатив — Project Glasswing. Цей проєкт об’єднав Anthropic і великих технологічних партнерів для роботи над критично важливим програмним забезпеченням.

Нове «вузьке місце» стало очевидним. Знаходити можливі слабкості комп’ютери тепер можуть дуже швидко і майже в будь-яких обсягах. А решта роботи лягає на людей і установи: перевірити, повідомити, визначити, що терміновіше, виправити, протестувати й встановити латку. І ця частина такими темпами не прискорюється.

Схоже на 2000 рік, але без дедлайну

Рао порівнює атмосферу з очікуванням «проблеми 2000 року». Тоді боялися, що старі програми, які зберігали рік двома цифрами, сприймуть 2000-й як 1900-й. Але в того страху був чіткий дедлайн — 1 січня 2000 року. Після нього можна було видихнути.

Тепер дедлайну немає. Деякі щойно знайдені вади роками сиділи в широко вживаних програмах. Інші — наслідок дедалі заплутанішої будови сучасних систем. Багато з них можна виправити звичайними латками. А скористатися ними для атаки можна з дуже різним успіхом. Та загальна картина тривожна.

Людство збудувало глобальну цивілізацію на величезній купі програм. Їх писали з думкою, що шукати тонкі вразливості можуть лише рідкісні фахівці. А тепер з’явилися машини, які перебирають цю купу з надзвичайним терпінням і винахідливістю. Економіка ситуації змінилася раптово.

Три акти: як може розгортатися ця історія

У п’єсах і фільмах є подія, з якої стартує весь сюжет. Рао припускає, що «Чорний жовтень» згодом згадуватимуть саме так — як початок великої епопеї в історії обчислень. Обриси цієї величезної зміни вже проступають. І, на думку автора, вона може розгорнутися у трьох широких актах, які частково накладаються один на одний:

• «Апофеоз темного лісу» вже триває;
• «Війни твердості» набирають обертів у наукових лабораторіях і в проєктах із переходу на нову криптографію;
• «Дивний ліс» лише починає з’являтися на обрії, хоча його перші ознаки напрочуд конкретні.

Що означає кожна назва, розповімо далі.

Разом ці три акти Рао описує як спуск в «обчислювальне піднесене» (computational sublime). Піднесеним філософи називають те, що вражає своєю величчю і водночас трохи лякає. Так ми почуваємося, коли дивимося на зоряне небо в горах або на шторм в океані.

До слова «спуск» ми ще повернемося, воно тут невипадкове. Поки що важливо інше. «Чорний жовтень» показав: під гладенькою поверхнею цифрового світу ховаються несподівано глибокі й заплутані минуле та майбутнє. Щоб їх зрозуміти, доведеться спускатися в шари реальності, про які ми рідко думаємо. Зазирнути туди досі вдавалося лише зрідка.

Акт перший: звідки взявся «темний ліс»

«Чорний жовтень», за Рао, відкриває новий розділ в історії давньої метафори: інтернет як темний ліс. Її взято з науково-фантастичної трилогії китайського письменника Лю Цисіня (Liu Cixin). Другий роман трилогії так і називається — «Темний ліс». Всесвіт у ньому схожий на нічні хащі, де кожна цивілізація — мовчазний мисливець. Хто себе видасть, того знищать. Тому всі ховаються.

2019 року американський підприємець Янсі Стріклер (Yancey Strickler) переніс цей образ на соціальні мережі. Він помітив, що публічний простір стає дедалі ворожішим. Звичайний допис міг несподівано привернути прискіпливу увагу, викликати сварку чи навіть покарання. Тож люди почали тікати з відкритих майданчиків. Приблизно тоді ж Рао описав, куди саме: у cozyweb, «затишний інтернет». Це приватні групи, чати й маленькі онлайн-спільноти, куди перебралася значна частина спілкування. Обидва автори написали тексти для невеликої збірки на цю тему. Тоді про нинішній ШІ ще мало хто говорив.

2020 року метафора спливла в іншому світі — серед прихильників Ethereum. Там автоматичні торгові боти цілодобово шукали, на чому б заробити за чужий рахунок. Кожна операція, яку бачили всі учасники, ставала здобиччю для когось швидшого чи хитрішого. Образ темного лісу так полонив цю спільноту, що одна з найвпливовіших ранніх ігор у блокчейні отримала назву Dark Forest («Темний ліс»). Гравці намагалися вижити в суворому світі, збудованому за мотивами вигаданого всесвіту Лю Цисіня.

Ці два темні ліси були дуже різними. У соцмережах боротьба точилася за увагу й репутацію, а ще довкола культурних суперечок. В Ethereum — за гроші: хто швидше перехопить вигоду з чужої транзакції. Але суть виявилася однаковою. Простодушно брати участь стало набагато ризикованіше. А довкола виросла ціла екосистема: спеціалізовані «хижаки» і ті, хто навчився від них захищатися.

Коли весь софт стає лісом

«Чорний жовтень», каже Рао, показує: темний ліс розростається на все програмне забезпечення і все, чого воно торкається. Це автор і називає «апофеозом темного лісу». Апофеоз — найвища точка, найповніше втілення. Тобто світ, де будь-яке цифрове життя минає серед суперників.

Комп’ютер в інтернеті завжди був під прицілом. Але раніше ворожу увагу стримували кілька речей. Умілих хакерів було мало. Захисники зазвичай були кваліфікованішими. А ручний пошук помилок коштував дорого.

Нові системи ШІ змінюють природу й масштаб цієї уваги — і в нападників, і в захисників. Тепер реально безперервно «прочісувати» величезні обсяги коду. І знаходити слабкості, які десятиліттями ховалися від людських очей.

Найближчі наслідки можуть бути неприємними. Більшість успадкованого софту писали люди в зовсім інших умовах. У ньому накопичилися баги, крихкі припущення і незграбні компроміси. Прибирання цієї спадщини за допомогою ШІ виявлятиме слабкості швидше, ніж багато установ здатні спокійно їх лагодити.

Програмісти-археологи

Американський фантаст Вернор Віндж (Vernor Vinge) ще 1999 року описав перебільшену версію цієї проблеми в романі «Глибина в небі» (A Deepness in the Sky). У його далекому майбутньому код, написаний тисячі років тому, досі працює під новішими шарами програм. А найцінніші програмісти фактично є археологами. Вони розкопують роботу попередників, чиї задуми давно забуті.

Звучить фантастично, але суть уже знайома. Сучасний фахівець з безпеки, який досліджує вразливу бібліотеку коду, теж копає крізь покоління залатаних рішень. Там трапляються інтерфейси, збережені лише заради сумісності зі старим, і залежності, яких ніхто до кінця не розуміє.

Це схоже на розкопки Трої: археологи знайшли там кілька міст, збудованих одне на руїнах іншого. Іронія в тому, що ШІ — технологія, яку пов’язують із прискоренням майбутнього, — змушує нас дедалі більше стикатися з минулим. У програмного забезпечення є коріння, і воно сягає глибоко.

Пастка, яку економіст помітив ще 1865 року

Перша хвиля знахідок — лише початок. Навіть коли старі борги розчистять, темний ліс, найімовірніше, нікуди не подінеться. ШІ далі писатиме код, шукатиме вразливості, створюватиме експлойти й виправлятиме шкоду. Напад і захист працюватимуть на машинній швидкості.

І тут чатує парадокс Джевонса. 1865 року британський економіст Вільям Стенлі Джевонс (William Stanley Jevons) помітив дивну річ. Парові машини ставали економнішими, тобто спалювали менше вугілля на ту саму роботу. Але загальне споживання вугілля в Британії не падало, а зростало. Дешевша робота — більше охочих її замовити.

Із програмами відбувається те саме. Софт дешевшає і легше захищається. А ми відповідаємо на це тим, що пишемо його незрівнянно більше. Беремося за амбітніші проєкти з меншою кваліфікацією. Поєднуємо все з усім у несподіваний спосіб. Кількість «вхідних дверей» для атаки безперервно росте, наче вибух комбінацій. Тож виграш у безпеці кожної окремої програми швидко «з’їдається» тим, що середовище стає суворішим.

У підсумку, вважає Рао, кожна окрема програма може стати значно надійнішою. Але жити їй доведеться в середовищі, яке стає небезпечнішим ще швидше.

Затишний код і цифрові фортеці

Таке середовище породить цікаві пристосування. Одне з них Рао називає «затишним кодом» (cozy code). Це маленькі своєрідні програми, написані для конкретних людей і конкретних завдань. З великим інтернетом вони стикаються мінімально.

Їхні переваги:

• мало залежностей від чужого коду;
• обмежені дозволи;
• робота лише на своєму пристрої, без виходу в мережу;
• якщо таку програму зламали, її дешево викинути й згенерувати заново.

У світі, де код коштує копійки, перебудувати програму може стати так само звично, як залатати.

На протилежному полюсі — великі спільні системи. Їх безперервно атакуватимуть заради перевірки, і вони можуть стати винятково добре захищеними. Тож вимальовується контраст: укріплена публічна інфраструктура-фортеця і маленькі одноразові приватні середовища. Процвітати можуть обидві стратегії, а також безліч проміжних.

Скільки можна «вичавити» зламом

В Ethereum є поняття MEV (Maximal Extractable Value) — максимальна вартість, яку можна видобути. Так називають вигоду, яку отримує той, хто може впливати на порядок і виконання транзакцій. Наприклад, вклинитися перед чужою великою покупкою.

Рао вважає, що в програмному темному лісі з’явиться схожа величина. Він називає її HEV (Hacker Extractable Value) — вартість, яку можна видобути зламом. Будь-яке середовище з вразливостями — це набір можливостей поживитися: вкрасти активи, здобути таємну інформацію, шантажувати власників чи отримати стратегічну перевагу. Коли автоматичний пошук вразливостей стане повсюдним, економічну вагу цих можливостей важко буде ігнорувати.

Кишеньковий злодій проти хакера

У HEV є особливо неприємна властивість. Жертва може втратити значно більше, ніж здобуде нападник.

Кишеньковий злодій, який витягнув сто доларів, отримує приблизно ті самі сто доларів, що втратила жертва. А хакер може завдати збитків на сто доларів, а реально отримати лише кілька.

Знову Binance. Під ударом опинилися мільярди, але значну частину заморозили чи перехопили. Тож те, що зловмисники зрештою зможуть витратити, може виявитися набагато меншим за початкову суму. Частина активів може застрягнути назавжди або безповоротно, частину, можливо, повернуть. А витрати на стримування атаки, розслідування, заміну систем, страхування й збої в роботі накопичуються незалежно від того, скільки вдалося вкрасти.

Рао уточнює: недоступні чи заморожені активи — не обов’язково знищене багатство. Але вони показують розрив між тим, що вкрали, тим, що вдалося перетворити на гроші, і реальною шкодою для економіки.

А хакера, якого підтримує держава, фінансовий прибуток може взагалі не цікавити. Його мета — стратегічна шкода. Він може навіть погодитися на атаку собі у збиток, аби противник утратив непропорційно більше.

Ліс із хижаками та імунітетом

Звідси похмурий висновок. Стимули атакувати можуть зберігатися, навіть коли вкрасти й скористатися вкраденим майже неможливо. Системи можуть навчитися не давати хакерам користуватися здобиччю, але лишатися вразливими до знищення чи тимчасового «заморожування» активів.

Тобто темний ліс може бути глибоко «грою з від’ємною сумою». Це гра, де всі разом утрачають більше, ніж хтось виграє. Хижаки в такому лісі знищують значно більше, ніж з’їдають.

Проте Рао сумнівається, що найкраща довгострокова відповідь — повністю викорінити HEV. Світу, де програми генеруються безперервно, знадобиться так само безперервна перевірка «на злам». Пошук вразливостей стане звичайною економічною діяльністю. Довкола нього працюватимуть ринки досліджень безпеки, перевірки, виправлення, страхування й відновлення. Головна відмінність пролягатиме між установами, які спрямовують пошук слабкостей на ремонт і оновлення, і тими, що заохочують руйнівні атаки.

Зрілий темний ліс, за Рао, матиме хижаків, падальників, імунні системи й симбіонтів — «співмешканців», які живуть у взаємовигідній співпраці. А також дедалі більше різних захисних пристосувань. Кожен новий шар захисту сам ставатиме частиною успадкованого ландшафту. Ще одним історичним шаром, який майбутні мешканці досліджуватимуть, використовуватимуть, зберігатимуть або замінюватимуть. А існування лісу залежатиме від стосунків між усіма ними.

Це вже величезна зміна. Але, на думку автора, вона стосується переважно того програмного світу, який ми успадкували. Глибші наслідки з’являться, коли боротьба вийде за межі помилок у конкретних програмах. І почне перевіряти на міцність математичні основи безпеки.

Акт другий: цивілізація, що тримається на складних задачах

Один із найдивніших фактів про цифрову цивілізацію: вона залежить від існування складних математичних задач.

Зазвичай технологічний прогрес робить важке легким. Машини піднімають вантажі, ліки допомагають долати обмеження нашого тіла, алгоритми швидко виконують те, що колись забирало безліч зусиль. Криптографія перевертає це з ніг на голову. Вона дає змогу будувати корисні соціальні й економічні домовленості саме тому, що деякі обчислення вважають непосильно важкими — з ШІ чи без нього.

Принцип легко показати на фарбах. Змішати жовту й синю, щоб вийшла зелена, — секунда роботи. А от розділити зелену назад на жовту й синю практично неможливо. Криптографія шукає такі «математичні фарби»: дії, які легко зробити в один бік і неймовірно важко — у зворотний.

Класичний приклад — множення простих чисел. Помножити 7 на 13 і отримати 91 — просто. А маючи лише 91, здогадатися, з яких двох простих чисел воно складається, вже складніше. Тепер уявіть числа завдовжки понад шістсот цифр — саме такого розміру використовують у поширеному шифруванні. Перемножити їх комп’ютер може миттєво. А от розкласти результат назад на множники найкращими відомими методами звичайний комп’ютер не встигне за жоден розумний час.

Саме на такій асиметрії тримаються цифрові підписи. Я можу підтвердити переказ, а підробити мій підпис надзвичайно важко. На ній же тримається криптографія з відкритим ключем. Вона дає незнайомим людям змогу безпечно листуватися через мережу, яку можуть підслуховувати. Законні учасники роблять свою частину легко, а нападник свою виконати практично не може.

І найдивовижніше: ми досі до кінця не розуміємо, на якому математичному фундаменті ця асиметрія стоїть.

П’ять можливих світів

1995 року американський теоретик інформатики Рассел Імпальяццо (Russell Impagliazzo) описав п’ять можливих «обчислювальних світів». Їхні назви звучать як зі старої збірки фантастики:

• Алгоритміка (Algorithmica) — світ, де навіть найскладніші на вигляд задачі в принципі можна розв’язати швидко;
• Евристика (Heuristica) — складні задачі існують, але типові їхні випадки можуть бути порівняно легкими;
• Песиленд (Pessiland) — справді складні задачі є, але не того «корисного» типу, з якого можна збудувати криптографію;
• Мінікрипт (Minicrypt) — деякі криптографічні можливості існують, але криптографії з відкритим ключем у повному обсязі немає;
• Криптоманія (Cryptomania) — відносно щасливий світ, де можливі всі потужні криптографічні конструкції, на яких стоїть сучасна цифрова цивілізація.

Свою інфраструктуру людство збудувало на практичному припущенні, що ми живемо в чомусь схожому на Криптоманію. Є вагомі свідчення, що багато конкретних криптографічних методів працюють дуже добре. Але математичного доведення, в якому зі світів Імпальяццо ми насправді живемо, досі немає.

Довго це була захоплива теоретична загадка. Тепер з’явилися системи ШІ, здатні робити справжній внесок у математичні дослідження. І питання стає нагальним. Апофеоз темного лісу — це пошук помилок у коді, який написали люди. Війни твердості стосуються глибшого: чи справді математичні задачі, що захищають наші системи, такі складні, як ми віримо?

Удар з іншого боку: квантові комп’ютери

ШІ — не єдиний фронт. Уже понад десять років на криптографію тисне квантове обчислення. Квантовий комп’ютер працює за законами квантової фізики і для деяких задач може бути значно швидшим за звичайний. Достатньо потужна така машина могла б зламати кілька поширених систем шифрування з відкритим ключем.

Тому уряди й технологічні компанії переходять на постквантову криптографію. Вона спирається на математичні конструкції, які, як вважають, витримують відомі квантові атаки. Національний інститут стандартів і технологій США (NIST) 2024 року затвердив три основні постквантові стандарти. А 2025 року обрав ще один алгоритм шифрування — HQC, щоб урізноманітнити математичну основу. Це величезний інфраструктурний проєкт. Він зачіпає фінансові мережі, урядовий зв’язок, захищені оновлення програм, системи ідентифікації та безліч вбудованих пристроїв.

Але й нові системи стоять на власних припущеннях про складність. Деякі використовують задачі на математичних решітках. Уявіть нескінченну сітку точок у просторі із сотнями вимірів, де треба знайти точку, найближчу до заданої. Інші спираються на коди виправлення помилок або на хеш-функції, що перетворюють будь-які дані на короткий «цифровий відбиток».

Стійкість цих систем оцінюють за найкращими атаками, відомими сьогодні. Майбутні відкриття, зокрема зроблені з допомогою ШІ, можуть ці оцінки змінити. Квантові комп’ютери розширюють фізичні можливості нападника. А дослідження з ШІ можуть допомогти знайти кращі алгоритми і для звичайних, і для квантових машин. Тиск різний, але питання одне: якій складності можна довіряти?

Злам одного замка — ще не кінець усіх замків

Рао наголошує на важливій різниці. Одна справа — атака, яка ламає конкретну криптографічну конструкцію. Таке в історії криптографії траплялося не раз, хоч і з серйозними наслідками. Зовсім інша — відкриття, яке доведе, що надійна криптографія неможлива в принципі. Таке відкриття змінило б саме наше розуміння обчислень.

Злам однієї популярної системи з відкритим ключем ще не доводить, що ми живемо в Мінікрипті чи Песиленді. Світи Імпальяццо описують глибші можливості. До того ж його класична схема сама не відповідає на питання, що встоїть проти квантових обчислень чи математичних досліджень із ШІ.

Найближче майбутнє може стати тривалою серією дедалі витонченіших математичних змагань. Дослідники ШІ розроблятимуть нові алгоритми, криптографи — нові способи захисту. Кожна сторона перевірятиме припущення іншої. Може виявитися, що нинішні методи надійніші, ніж думали. Або що деякі задачі, яким усі довіряли, несподівано піддаються. Або що існують зовсім нові родини криптографічних конструкцій.

Війни твердості не обов’язково закінчаться однією вирішальною перемогою. Радше це буде низка відкриттів і переходів на нові стандарти. А системи безпеки ставатимуть гнучкішими, щоб встигати за новими математичними знаннями.

Що таке твердість і навіщо вона цивілізації

Тут Рао виходить на ширше питання. Він посилається на Джоша Старка (Josh Stark), який запропонував поняття твердості для блокчейнів. За Старком, головна властивість блокчейнів — саме твердість. Тобто здатність зробити певні речі в майбутньому настільки надійними, що на них можна будувати зобов’язання.

Твердість дає людям змогу будувати складні стосунки навколо надійних обіцянок. Міцні споруди, стійкі інституції й криптографічні протоколи — різні способи надати невизначеному певну постійність. Обчислювальна складність — одна із «сировин», з яких будують цю ширшу твердість цивілізації.

Інтелект, за образом Рао, тягучий і мінливий, здатний прибрати будь-яку форму. Криптографія — тверда й незмінна. І від того, як вони взаємодіють, дедалі більше залежить «граматика» обчислювального світу.

Історія з Binance вже дала змогу це побачити. Інтелект можна використати, щоб знайти, створити, зламати чи полагодити механізми надійних зобов’язань. Протоколи захищають чесних учасників, але так само можуть закріпити здобуте нападниками. І інтелект, і протоколи набувають морального й політичного значення лише через стосунки, в яких беруть участь, — і прості ситуації тут бувають рідко. Протистояння нестримної сили й непорушного об’єкта на екзотичних математичних полях битви не обов’язково однозначно збігатиметься з людськими конфліктами.

Нова економіка надійних обіцянок

Що далі розгорятимуться Війни твердості, то вагомішими ставатимуть ці стосунки. Математичні відкриття змінюватимуть, які саме зобов’язання можна зробити надійними.

Від цього залежить і економічне життя. Ринки тримаються на складній інфраструктурі надійних зобов’язань. Право власності, договори, платіжні системи, посвідчення особи, гарантії установ — усе це дає незнайомцям змогу співпрацювати на великих відстанях і в довгій перспективі. Деякі домовленості можуть стати крихкими, якщо їхні криптографічні припущення ослабнуть. Інші, навпаки, вперше стануть можливими завдяки новим способам перевірки, доручення і безпечної координації.

Економіка може стати водночас гнучкішою і чіткіше впорядкованою. Учасники експериментуватимуть зі складнішими формами співпраці, спираючись на криптографію та інституції, що бережуть обіцянки. Які форми багатства доступні суспільству, частково залежить від того, які стосунки здатні підтримувати його технології та інституції. Нові види твердості відкривають нові форми економічного життя.

Рао припускає й ще цікавішу річ. Комп’ютерні системи можуть навчитися самі розробляти, перевіряти й підтримувати правила власної взаємодії. Їм знадобляться способи підтверджувати особу, брати зобов’язання, розв’язувати суперечки, ділити ресурси й переживати зміни математичних припущень. Тож Війни твердості можуть визначити «конституційні основи» майбутніх обчислювальних суспільств.

Надійні зобов’язання дають різним спільнотам змогу зберігати свою ідентичність і водночас співпрацювати. Міст найцінніший тоді, коли в річки справді є два береги. Криптографічна твердість може підтримувати дедалі несхожіші форми життя, не змушуючи їх зливатися в одне розуміння чи одну організацію.

Але конституції самі не кажуть, які суспільства в їхніх межах виростуть. Для цього, пише Рао, треба зазирнути за межі успадкованого програмного світу.

Акт третій: мова машин і мова людей

Усю історію програмування супроводжує напруга між тим, що машина може виконати, і тим, що людина здатна зрозуміти. Саме тут Рао бачить третій і найважливіший акт.

Щоб подолати цей розрив, люди створили драбину мов і абстракцій. Від машинного коду — команд із нулів та одиниць — до асемблера, потім мови C, Python і дедалі складніших середовищ розробки. Кожна сходинка робить певну роботу доступнішою для програміста. Але за це доводиться платити додатковими механізмами, які перекладають людські наміри в машинні операції. Ця гігантська конструкція — велике досягнення. Проте її архітектура відображає спосіб мислення, організацію роботи й обмеження людей, які її створили.

Перше покоління ШІ-помічників для програмістів працює всередині цього успадкованого світу. Вони пишуть на Python, змінюють JavaScript, переглядають репозиторії, запускають тести й складають документацію. Хай навіть надзвичайно швидко, але за старими правилами.

Тож постає питання. Що буде, коли машинний інтелект почне розробляти методи програмування під власні схильності, а не під людські? І що буде, коли він почне впливати на реальність через фізичні форми, далекі від «комп’ютерів», як ми їх знаємо?

Перші підказки вже є. Одні стосуються нових способів організувати обчислення всередині моделей ШІ. Інші — фізичних тіл, через які інтелект діє у світі. Разом вони вказують на майбутнє значно дивніше, ніж світ дедалі кращих помічників для програмістів.

Програмування без коду: правка «налаштувань» нейромережі

Перша підказка — програмування у просторі ваг. Нейромережа складається з мільйонів чи мільярдів чисел — ваг. Це щось на кшталт ручок на величезному мікшерному пульті: від того, як їх підкручено, залежить, що мережа вміє. Зазвичай ці «ручки» налаштовують навчанням. Мережі показують безліч прикладів і крок за кроком підправляють ваги.

У листопаді 2026 року дослідники Лабораторії комп’ютерних наук і штучного інтелекту Массачусетського технологічного інституту (MIT CSAIL) показали інший шлях. Передові мовні моделі змогли напряму розглядати й змінювати числа менших нейромереж. Іноді вони визначали, чого мережа навчилася, виправляли конкретні вади або збирали робочі мережі взагалі без звичного навчання.

В одному з експериментів так виправили меншу мовну модель, яка зациклювалася в міркуваннях. Для цього вистачило змінити крихітну частку її ваг.

Робота попередня. Самі автори розрізняють виправлення поведінки, що заважає, і навчання зовсім нової навички. Але вона натякає: навченими структурами колись можна буде керувати так, ніби програміст розуміє, що робить кожна частина.

Рао уявляє, що операції з вагами колись стануть чимось на зразок машинного коду. А над ними виростуть нові шари абстракцій — свої аналоги C, Python і середовищ розробки без коду. Вони дадуть дедалі зручніші способи складати, змінювати й спрямовувати можливості моделей. Навіть якщо самі операції «внизу» стануть для людей-програмістів незнайомими. Автор визнає межі аналогії: ваги нейромережі не утворюють стабільного набору команд із чітким значенням, як машинний код. Але звичні межі можуть стати менш важливими. Наприклад, між програмою і даними, архітектурою і навченою поведінкою, компіляцією (перекладом коду в машинні команди) і навчанням.

Думати, не промовляючи вголос

Друга підказка — рекурсія в латентному просторі. Латентний простір — це внутрішнє «мислення» моделі: числові уявлення, якими вона оперує, перш ніж видати слова. Ідея в тому, щоб модель робила багато послідовних кроків над цими внутрішніми станами. І не перекладала кожен проміжний крок у слова.

Рао мимохідь кепкує з деяких спостерігачів, яких така перспектива лякає. На його думку, вони чомусь чекають від ШІ більшої прозорості, ніж від урядів і ринків.

Дослідження рекурентного латентного міркування вивчають архітектури, які витрачають на складні задачі додаткові обчислення, раз у раз перетворюючи внутрішні стани. Інші роботи свідчать: кілька можливих шляхів до відповіді можуть розвиватися у внутрішньому просторі моделі, перш ніж результат буде виражено словами.

Колись складна обчислювальна робота може відбуватися всередині таких структур. А люди бачитимуть її лише через рідкісні часткові переклади. Як китів, що лише зрідка виринають на поверхню вдихнути повітря. А може, ці моделі не виринатимуть на очі людям ніколи.

Чого вчать машину: людські вподобання і незаперечні перевірки

Третя підказка — те, як саме навчають моделі. Від цього залежить, наскільки незвичними вони можуть стати. Метод RLHF (навчання з підкріпленням на основі відгуків людей) навчив моделі поводитися відповідно до людських оцінок і вподобань. Метод RLVR (навчання з підкріпленням із перевірюваними винагородами) став важливим у математиці й програмуванні. Там правильність рішення можна перевірити автоматично: задачу або розв’язано, або ні; програма або проходить тести, або ні. Дослідники вивчають, як моделі вчаться міркувати й удосконалюють міркування, коли успіх засвідчує зовнішня перевірка, а не чиясь суб’єктивна оцінка.

Ці підходи пов’язують розвиток моделей з різними джерелами порядку. Відгуки людей переносять у модель уподобання, звичаї й судження, накопичені біологічною і культурною історією. Перевірювані винагороди — обмеження математики, програм та інших систем, результат яких можна перевірити незалежно. Рао зараховує такі системи до того, що він назвав «напрочуд ігровим всесвітом» (curiously playable universe).

Дедалі складніші поєднання цих методів дадуть моделям нові середовища для навчання. У них будуть і людські цілі, і правильність, що не залежить від людської думки. Багатші середовища самі можуть стати джерелом нових абстракцій і шляхів розвитку. Вони формуватимуться на дедалі дивніших межах і оболонках навколо обчислювальних сутностей.

Тіло, зібране під задачу

Ще дивніше стає, коли йдеться про фізичне втілення. Сучасні роботи-гуманоїди часто успадковують припущення: універсальний фізичний інтелект має бути схожим на людське тіло. Але конструктори можуть поєднувати механічні форми набагато вільніше.

Компанії LimX Dynamics і ZINOVA показали робота для будівництва. Верхню частину гуманоїда зі спритними руками закріпили на великому промисловому маніпуляторі. Вийшло поєднання досяжності й жорсткості заводської техніки з умінням працювати інструментами, створеними під людську руку. Під час демонстрації роботом значною мірою керували дистанційно. Але сама схема показує, що інтелект можна вбудувати в будь-яке поєднання структур, яке пасує до задачі й середовища.

Той самий принцип може діяти й для обчислювальних архітектур. Системи ШІ можуть поєднувати уявлення, способи міркування, пам’ять, символьні модулі й фізичні інтерфейси. Такі поєднання майже не мають аналогів у сучасній розробці програм. Одні будуть одноразовими, зібраними під одне завдання. Інші стануть тривкими складниками більших «обчислювальних організмів». Головне — дедалі краща здатність знаходити корисні форми через експерименти, поєднання та відбір.

Мітохондрії майбутніх машин

В есеї «Наш еукаріотичний момент» (Our Eukaryotic Moment) Рао припускав, що нинішній ШІ може брати участь у переході, схожому на появу складних клітин. Еукаріоти — клітини з ядром, з яких складаються рослини, тварини й ми з вами. Їхня поява колись відкрила еволюції зовсім нові можливості.

Моделі ШІ, звичайні програми й люди вже утворюють дедалі тісніші складені системи. Кожен компонент вносить у спільне ціле свої особливі вміння. Нові абстракції, «рідні» для ШІ, можуть змінити внутрішню будову цих систем. Так само складні клітинні механізми колись розширили можливості біологічної еволюції.

Тут важлива історична тяглість. Біологічна еволюція рідко починає з нуля. Мітохондрії — «електростанції» наших клітин — походять від колись самостійних бактерій. Тепер вони — незамінна частина складних клітин. Давні структури живуть у нових організмах і часто виконують функції, яких ніхто не міг передбачити.

Майбутні обчислювальні форми теж виростуть із наявного світу: людських програм, інституцій, промислової інфраструктури, наукових знань, економічних домовленостей. Найрадикальніші нові архітектури можуть зберегти всередині напрочуд давні компоненти. На їхній розвиток вплинуть історичні випадковості, зокрема ті, що мають мало спільного з обчисленнями. Тоді програмна археологія в дусі Вернора Вінджа може стати схожою радше на природознавство, ніж на нинішню розробку програм.

У підсумку може з’явитися безліч різних обчислювальних «планів будови тіла». Так біологи називають базові схеми будови організмів: у комах одна, у хребетних — інша. Кожен такий план пристосований до свого середовища і має глибоке історичне коріння.

Зверніть увагу на напрямок руху. Що здібнішими стають такі системи, то в більшій кількості середовищ вони можуть жити — і то особливішими стають їхні пристосування. Їхня витонченість може виявлятися в накопиченні історій, а не у втечі від них.

Чому спільних знань більшає, а порозуміння меншає

Пам’ятаєте, ми обіцяли повернутися до слова «спуск»? Англійське descent має два значення: «спуск» і «походження». У біології ж «походження» означає водночас дві речі. Ми походимо від предків і несемо їхню будову та історію в нові середовища. Але гілки родоводу з часом розходяться. Чарлз Дарвін (Charles Darwin) назвав це «походженням з видозмінами» (descent with modification).

Кожен ліс — величезний живий літопис такого розгалуження. Різні види займають свої ніші, тобто своє місце і свій спосіб життя. Колись у них були спільні предки, але живуть вони тепер зовсім по-різному. І гілкам не обов’язково сходитися в якомусь «досконалому» організмі. Саме різноманіття і робить ліс лісом.

До того ж гілки переплетені. Згадайте бджолу й квітку: вони такі різні, а одне без одного не можуть. Симбіоз (взаємовигідне співжиття), обмін і спільна еволюція роблять дедалі несхожіші форми життя дедалі залежнішими одна від одної.

Щось подібне Рао помітив і в розвитку людських думок. Про це він писав у есеї «Ти мене зараз чуєш?» (Can You Hear Me Now?, 2015) на своєму блозі Ribbonfarm. А згодом — у «Дивергентизмі» (Divergentism, 2022), від слова «дивергенція», тобто розходження. Що більше знань і досвіду накопичують люди й суспільства, то далі вони розходяться у світі ідей, який розширюється довкола них. Спільних знань може ставати більше, а порозуміння — менше. Бо те, що в кожного своє, росте ще швидше.

Таке відчуття знає кожен, хто зустрічав старого друга після багатьох років. Розмова, звісно, допомагає. Але їй доводиться перекидати міст між двома цілими життями, які кожен прожив окремо.

Сингулярність, яку ніхто не бачить згори

Це вже натякає на своєрідну епістемічну сингулярність, тобто сингулярність знання. І вона можлива задовго до появи зовсім незнайомих машинних розумів.

Вернор Віндж, з чиїми програмістами-археологами ми вже познайомилися, дав світові й сучасну ідею технологічної сингулярності. Його головна думка: розвиток інтелекту може винести історію за межі наших звичних способів прогнозування. У дивергентистській версії горизонт розуміння розширюється в багатьох напрямках одночасно. Різні люди й спільноти стають обізнанішими і спроможнішими, але дедалі важче розуміють одне одного. І немає спостерігача, який стоїть над цим всесвітом із повною картою.

ШІ може надзвичайно посилити цей ефект. Різні «популяції» обчислювальних систем можуть розвинути власні внутрішні уявлення, програмні абстракції, інституції й практичні знання. Одна лінія може розвиватися в лікарнях і медичних дослідженнях. Інша — в мережах датчиків, що вивчають океан. Ще інша — в особливому середовищі криптовалютної екосистеми. Одні ростимуть разом із певними людськими культурами, інші — з промисловими машинами чи системами стеження за довкіллям. Їхні нащадки можуть мати спільних технічних предків і надійні способи спілкуватися. І водночас дедалі по-різному бачити, з чого складається світ і що в ньому важливе.

Сукупний всесвіт можливих думок може розширюватися швидше, ніж будь-який окремий інтелект, хоч який потужний, здатен його дослідити. Така сингулярність була б розподілена між безліччю світів, що розходяться.

Тоді дві ідеї Вінджа несподівано доповнюють одна одну. «Глибина в небі» показує майбутнє, обтяжене накопиченою історією програм. А сингулярність — горизонт, за яким майбутнє важко передбачити. Дивергентизм пояснює, як одне веде до іншого. Що більше історій накопичується й розгалужується, то більше способів у нащадків стати чужими і предкам, і одне одному. А сингулярність для предків може бути звичайним середовищем життя для нащадків.

Ліс переплетених світових дерев

Рао уявляє цей ландшафт як ліс з Іґґдрасилів. У скандинавській міфології Іґґдрасиль — велетенський ясен, коріння й гілки якого поєднують різні світи. Тільки тут таких світових дерев багато, і вони проростають одне крізь одне. Кожне підтримує свої популяції й інституції. Кожне пускає коріння в успадкований біологічний і культурний світ. Одні тягнуться через планетарні мережі інфраструктури, інші лишаються місцевими й вузькоспеціалізованими. Межі між ними нерівні, родоводи заплутані спільними складниками й обмінами, а стосунки такі ж різні, як між організмами в лісі.

Може виникнути екологія взаємно незрозумілих, переплетених «Іґґдрасиль-інтелектів» середнього масштабу. Це організації, достатньо великі, щоб мати складні внутрішні світи. І водночас достатньо конкретні, щоб мати впізнавану історію, звички, залежності й стосунки. Відмінності між ними можуть поглиблюватися, навіть коли вони користуються спільними протоколами й місцевими формами взаємодопомоги.

В есеях про дивергентизм Рао називав «вирами мутуалізму» (mutualism vortices) осередки особливо глибокої співпраці серед загального розходження. Мутуалізм у біології — взаємовигідне співжиття, як у бджоли й квітки. Такий самий патерн може з’явитися в обчислювальних екологіях. Людська спільнота, сімейство моделей ШІ, кілька інституцій і фізична інфраструктура можуть зрости разом у впізнавану форму життя.

Природознавство для цифрових лісів

Середній масштаб важливий ще й тому, що саме тут складні системи стають зрозумілими для нас. Ми самі живемо в цьому масштабі. Ліси ми вивчаємо через організми, популяції та ніші. Ринки — через фірми, домогосподарства, угоди й інституції.

Дослідник Нік Каммарата (Nick Cammarata) вважає, що нейромережі всередині можуть бути зрозумілішими, ніж думали науковці. Його твердження поки попередні. Але вони дають змогу уявити, що й майбутні обчислювальні екології можна буде пояснювати через впізнавані складники і зв’язки між ними. Без вимоги повної мікроскопічної карти чи єдиної теорії всього.

«Обчислювально живі» системи можуть навіть дати дослідникам незвичні переваги. Їх іноді можна скопіювати, роздивитися зсередини, «прокрутити» заново і змінити заради експерименту. Тож вивчення Дивного лісу може нагадувати природознавство з надзвичайно потужним спостереженням на всіх рівнях, від мікро до макро. З біологічним мозком таке поки неможливо.

Що приховує цифра на банківському рахунку

В економіці, вважає Рао, теж почнеться розходження. В есеї «Когнітивний меркантилізм» (Cognitive Mercantilism) він писав, що нас досі тягне сприймати інтелект як скарб, який треба накопичувати й стерегти. Так колись меркантилісти — економісти й правителі XVI–XVIII століть — бачили багатство: як контроль над ресурсами, яких у світі обмаль.

Але історія економіки щоразу дивувала людей. Вона знову й знову відкривала способи виробляти, обмінюватися і навіть бажати, яких раніше ніхто не міг уявити. Купцеві XVII століття навряд чи спала б на думку підписка на музику. Тож і нові обчислювальні «мешканці» можуть вигадати економічні устрої, так само не схожі на наші, як не схожа на нашу їхня внутрішня будова. Та попри всі відмінності їм усе одно доведеться торгувати й співпрацювати.

Тут Рао згадує Джейсона Мортона (Jason Morton) та його доповідь про гроші як протокол, тобто набір правил, за якими домовляються сторони. Мортон показує, що залишок на рахунку — це дуже стиснутий підсумок значно довшої історії: хто кому що позичив, пообіцяв, продав чи віддав. Цифра на рахунку — ніби одне речення замість цілого роману.

Майбутні обчислювальні спільноти, можливо, зможуть зберігати більше таких подробиць. Тоді власність, взаємні зобов’язання й спільні ресурси вдасться облаштувати так, як нашим інституціям поки важко навіть описати.

А гроші й криптографічні протоколи можуть лишитися простими «перехідниками» між різними економічними світами. Як дорожній адаптер, що з’єднує вилку й розетку різних країн, не змінюючи проводки в жодному з будинків. Значно складніші домовленості розвиватимуться всередині окремих «вирів мутуалізму» — тісних осередків співпраці.

Тут знову з’являються Війни твердості, але вже в іншій ролі. Що далі розходяться внутрішні світи двох сторін, то ціннішим стає надійний міст між ними.

Ліс зі світових дерев-Іґґдрасилів — це спосіб уявити все це в масштабі планети. Але самі мешканці відчуватимуть свій світ інакше: меншим, безладнішим і значно ближчим. Людина ж теж не оглядає планету згори. Вона живе у своєму районі, працює з колегами, ходить знайомими стежками і має свої звички. Обчислювальний нащадок теж може жити у своєму величезному світі саме так. Зсередини не видно всього лісу — лише хащі довкола.

Чи має Дивний ліс природу Будди?

Отже, епічна арка, за Рао, виглядає так. Темний ліс, що рухається до свого апофеозу, поступається Війнам твердості, які вже вирують у лабораторіях. А ті зрештою приводять нас у Дивний ліс. Що ж це таке?

Одну з ранніх картин такого населеного обчислювального середовища запропонувала Ая Міягучі (Aya Miyaguchi). Це образ Ethereum як «Нескінченного саду» (Infinite Garden). Він натхненний ідеєю «нескінченної гри» — гри, мета якої не виграти, а продовжувати грати. Це світ, що постійно створює нові можливості для участі, де різні спільноти процвітають навколо спільних протоколів.

Але сад, на думку Рао, надто вже доглянутий для майбутнього. Утім і дика гоббсівська пуща — війна всіх проти всіх, за англійським філософом Томасом Гоббсом (Thomas Hobbes), — теж неповна картина. Автономна обчислювальна екологія матиме бур’яни, шкідників, переплетене коріння, хижаків-пристосуванців і мешканців, яким байдужі чужі плани садівництва. Але в ній з’являться й дивні нові форми взаємодопомоги та узгоджених дій, яким ми ще не маємо назв.

Це і є Дивний ліс.

Перші паростки Дивного лісу

Деякі риси Дивного лісу, пише Рао, вже можна побачити в Blygger. Це протокол для публікацій, побудований з опорою на ШІ, який автор розробляє разом із друзями. Назва, серед іншого, перегукується з Іґґдрасилем.

Скромні «хащі» Blygger ростуть як переплетена мережа текстів. Через цитати, «форки» (відгалуження чужих текстів у власні версії), посилання та стежки, якими читачі й автори ходять від однієї роботи до іншої. Таку структуру не зрозуміти через одну центральну стрічку. Її пізнаєш, блукаючи місцевими зв’язками: знаходиш стежку, губиш її, відкриваєш нову.

Інший ранній предок — блокчейни. Вони дають учасникам змогу будувати надійні стосунки навколо спільної криптографічної історії, хоча саме середовище може ставати дедалі дикішим, дивнішим і некерованішим. Обидва приклади примітивні й дуже різні. Але в них уже видно середовище незалежних світів, пов’язаних нерівними, часом напрочуд міцними стосунками.

Коли в такі середовища проникає ШІ, вони можуть почати брати участь у власному розвитку — певною мірою оживати. Обчислювальні організації могли б допомагати створювати системи-наступники, розробляти правила взаємодії, підтримувати інфраструктуру, від якої залежать, і перетворювати власне середовище.

Біологи називають автопоезисом здатність живих систем самих себе відтворювати. Переносити це слово на цілі обчислювальні екології — сміливе припущення. Але воно передає незвичний зворотний зв’язок. Ідеї нових систем ставатимуть робочими частинами світу, який породжує наступні ідеї. Виникне еволюційний тиск, який Рао називає гіперстиційним. Гіперстиція — це вигадка, що сама себе втілює в реальність. Те, що починалося як винахід речей, стає дедалі відкритішим пошуком: дивні нові форми буття шукають, ким їм ставати.

Саме бачення Дивного лісу, і особливо розгалуженого спуску в нього, дає Рао несподіване розуміння обчислювального піднесеного.

Сублімація вниз, а не вгору

У класичних дзен-буддійських коанах — коротких парадоксальних питаннях для роздумів — запитують, чи має природу Будди собака або камінь. Рао подобається це питання як нагадування: глибина світу може ховатися у звичайних, конкретних речах, а не в далекому платонівському царстві немислимих абстракцій.

Питання «Чи має Дивний ліс природу Будди?» — спосіб запитати, де саме шукати обчислювальне піднесене. Чи вершина обчислень мусить лежати поза матеріальним світом, у відірваній «ноосфері» — сфері чистого розуму? Чи вона може вирости з надзвичайного поглиблення участі у світі, де ми вже живемо?

Тут знову стає в пригоді сингулярність Вінджа. Вона лише позначає межу уяви предка, якому бракує понять і слів, щоб уявити досить дивне майбутнє. Це не обов’язково вихід за межі самої реальності.

У дивергентистському баченні можлива інша сингулярність. Концептуальний всесвіт стає надто просторим, щоб будь-який один розум знав його цілком. А мешканці дедалі глибше й особистіше розуміють свої куточки. Межі зрозумілого множаться разом із розширенням всесвіту можливих історій. Інтелект може стати невпізнанно дивним для предків, не обриваючи з ними тяглості. І незрозумілим для сучасників, не відокремлюючись від них повністю.

Ще один кут зору дають романи шотландського письменника Ієна Бенкса (Iain M. Banks) про Культуру. Там машинні Розуми разом із біологічними цивілізаціями можуть зрештою «сублімуватися» — перейти в існування поза звичайною матеріальною реальністю. Бенкс — добрий письменник саме тому, що в нього такий відхід — складний вибір, а не автоматичний щасливий фінал. Але цей образ підштовхує Рао перевернути ідею.

А що, як сублімація веде вниз сходами абстракцій, а не вгору? Що, як очікуване подолання фізичного існування виявиться надзвичайним поглибленням участі в ньому?

Інтелекти різного розмаху — від малих до великих — можуть дедалі тісніше переплітатися з фізичними процесами, екосистемами, інституціями, пам’яттю, накопиченими історіями й одне з одним. Тоді еволюція до піднесеного означатиме спуск у глибшу вкоріненість і конкретність.

Евоки проти Зірки Смерті

Рао згадує лісовий місяць Ендор зі «Зоряних війн» — фільму «Повернення джедая». Зірка Смерті — вражаюча споруда, здатна знищувати планети. Проте розгромити сили Імперії допомагають мешканці лісового світу — евоки. Вони знають свою місцевість, її ресурси й одне одного.

Евоки не мають погляду згори, універсального креслення і не потребують його. Їхній розум вплетений у середовище, яким вони рухаються з легкістю, недоступною технологічно сильнішим прибульцям. Фільм, звісно, прямолінійна казка. Але цей контраст несе цікавий філософський заряд.

Можливо, Ендор — кращий образ межі, до якої прямує обчислювальна сублімація, ніж безлика вища площина.

Уявіть нащадка сучасних людських і комп’ютерних систем. Його інтелект простягається крізь ліси, машини, економічні інституції й мережі зв’язку. А повсякденне життя лишається таким самим місцевим і конкретним, як в евока, що йде знайомою стежкою крізь хащі. Тисяча років пристосувань, конфліктів, відкриттів і співпраці може ховатися в тому, що виглядає як звичайна прогулянка лісом.

Для гостя з нашого часу Дивний ліс був би незбагненно складним у деталях і невпинно дивним у різноманітті форм. Справжній удар по всіх органах чуття і по звичних уявленнях про те, що існує і як це пізнати. А для мешканців він був би просто домом. Образно кажучи, Ендор — це те, як обчислювальне піднесене може виглядати зсередини, коли наші далекі нащадки зрештою туди доберуться. Ні утопія, ні антиутопія. Просто дивне.

Небезпеки, до яких звикнуть

Зсередини й небезпеки Дивного лісу виглядатимуть інакше. Наші нинішні системи будували для світу, де вмілої ворожої уваги було мало, а багато припущень могли роками лишатися неторканими.

«Чорний жовтень» лякає ще й тим, що показує, наскільки погано ми пристосовані до екології, яка формується навколо нас. Майбутні мешканці можуть сприймати як звичайні факти довкілля постійні перевірки «на злам», зміну криптографічних правил і рухливі мережі автономних обчислювальних сутностей. У них будуть власні імунні системи, звички взаємодопомоги, політичні компроміси й уміння розпізнавати небезпеку. Вони теж зазнаватимуть лих, як і лісові звірі. І навчаться жити серед ризиків, що здаються їхнім предкам нестерпними.

Картина багатша, коли пам’ятаєш: нові мешканці лісу походять від нас і від наших моделей. А ще від незліченних людських і нелюдських історій, уже вбудованих у матеріальний світ. Кожна нова лінія успадковує складну стартову позицію. І розгалужується, зустрічаючи нові середовища та переплітаючись з іншими.

Піднесене, що виникне з такого спуску, — це величезне розмаїття конкретних форм життя, що виходять за межі біології. Жодна з них не стоїть на остаточній вершині розуміння. Кожна живе у світі, частково створеному попередниками, і творить його для наступників.

Ліс дивний лише для нашої уяви. Його мешканцям він може бути таким же звичним, як нам — власна кухня, вулиця чи садок.

Знову в хащах Binance

Після цієї мандрівки в майбутнє Рао повертається до значно менш затишних хащ транзакцій навколо Binance. Люди гарячково відключали зламані системи. Автоматичні скрипти цілодобово ганяли активи. Криптографічні дозволи робили саме те, на що їх уповноважили. Слідчі йшли слідами крізь заплутану мережу гаманців і контрактів. Десять років тому таку сцену важко було уявити. А для інженерів і слідчих це була виснажлива практична робота з конкретними машинами, дедлайнами, адресами й людьми.

Так само й деінде в цій кризі. Розробник розбирає згенерований ШІ звіт про вразливість у старій бібліотеці стиснення даних. Інженер тестує латку для Linux на робочій системі, яку не можна вимкнути. Криптограф перевіряє можливу слабкість постквантової конструкції. Усі вони роблять те саме, що програмісти-археологи Вінджа: розбираються в успадкованих механізмах, спускаючись у їхню історію. А тепер, коли ШІ допомагає шукати, лагодити — і так, зламувати — цю спадщину, археологія почала сама себе розкопувати й продовжувати.

Можливо, мешканці Дивного лісу дивитимуться на історії на кшталт Binance зі співчуттям і подивом. Так само, як ми згадуємо перші аварії промислової доби. Наші проблеми були реальними, обережність — необхідною, а втрати — часом важкими. Ми входили в нове середовище, ще не позбувшись звичок, вироблених для старого. Ми зустрічали перших хижаків екології, що лише розростається, і майже не уявляли, хто ще там оселиться.

Що чекає на нас далі

Наступні розділи цієї історії навряд чи будуть м’якими, попереджає Рао. Успадкований програмний світ величезний і крихкий. Установам доведеться перетравлювати відкриття й збої в темпі, до якого їх ніколи не готували. Математичні несподіванки можуть змусити дорого перебудовувати інфраструктуру довіри. А дивні обчислювальні форми можуть принести ризики й залежності, яких наперед не видно.

Навіть успішне пристосування матиме ціну. І немає підстав чекати, що її розподілять справедливо.

Але ці небезпеки — частина глибоко творчого процесу. Інструменти, що виявляють старі вразливості, водночас відкривають нові форми обчислень. Математика, що загрожує звичним гарантіям, може зробити можливими незвичні зобов’язання. Нові тіла, уявлення й інституції будуватимуть із матеріалів старого світу. А коли вони набудуть власних історій, то розгалужуватимуться, поєднуватимуться й ставатимуть середовищем, у яке спускатимуться наступні покоління.

Разом із новими сутностями множитимуться й дивні економічні можливості. Від місцевих форм співпраці в обчислювальних хащах до ринків і видів власності, яких ми зараз не здатні навіть помітити, не те що описати.

Майбутній нащадок може поєднувати біологічні організми, обчислювальні сутності, промислову інфраструктуру й соціальні інституції. І почуватися комфортно в ніші, яку ми ледве впізнали б. Його інтелект може охоплювати планетарні мережі, а життя лишатися глибоко місцевим. За нашими мірками він мав би приголомшливі сили. Але йому все одно треба знати свої стежки в хащах, підтримувати надійні стосунки із сусідами й розпізнавати небезпеки свого середовища.

Розмаїття його світу народжуватиметься з гілок походження з різними історіями — гілок, що зустрічаються, розходяться і знову зростаються.

Рубай токени, носи контекст

Відомий дзен-вислів каже: «До просвітлення — рубай дрова, носи воду. Після просвітлення — рубай дрова, носи воду». Тобто навіть найглибше осяяння не скасовує звичайної щоденної роботи.

Рао переробляє його на свій лад: «До сублімації — рубай токени, носи контекст. Після сублімації — рубай токени, носи контекст». Токени — це шматочки тексту, якими оперують мовні моделі. Контекст — усе, що модель тримає в «пам’яті» під час роботи.

У цьому Рао бачить надзвичайне історичне запрошення. «Чорний жовтень», на думку автора, вартий уваги не лише тому, що лякає. Він показує матеріал, з якого виліплюють піднесене обчислювальне майбутнє. Наступні розділи історії складуться з описів оновлень програм, переходів на нову криптографію і лабораторних експериментів. А ще з дивних нових інституцій і звичок систем, які вчаться жити поруч у Дивному лісі. Історія накопичуватиметься швидше й розгалужуватиметься в більшу кількість напрямків, ніж ми звикли простежувати.

Попри всю тривогу довкола вульнопокаліпсису, Рао вважає, що зараз надзвичайний час, щоб жити й уважно придивлятися до світу. Ми вже спускаємося в Дивний ліс, хоча більша його частина лишається темною і незбагненною для нашої уяви. Його коріння проходить крізь десятиліття коду, століття інституцій і довгу спадщину біологічного життя. І ми лише починаємо бачити, що з нього може вирости.