Що, як розум приходить іззовні

Почнемо з найдивнішого. Науковець Майкл Левін (Michael Levin) опублікував у виданні MDPI статтю, яка руйнує звичні уявлення про те, що таке розум.

Зазвичай ми думаємо так: мозок — це складна машина з нейронів, і десь усередині неї з’являється свідомість. Левін пропонує перевернути картинку.

Уяви величезний простір, у якому «живуть» усі можливі патерни. Патерн (англійською pattern) — це стійка схема, за якою щось влаштоване або повторюється: закрут мушлі, правило симетрії, порядок чисел у ряду.

У тому просторі є прості патерни — факти про числа, геометричні фігури. А поруч із ними лежать значно складніші. Настільки складні, що деякі з них Левін називає «видами розумів».

Щось схоже понад дві тисячі років тому уявляв грецький філософ Платон. Він вважав, що ідеальні форми існують окремо від речей, а речі — лише їхні тіні. Саме тому простір, про який пише Левін, називають платонівським.

Левін каже: розум — це теж такий патерн. А тіло — просто розетка, у яку він вмикається. Сам дослідник формулює це короткою пропорцією: «розум до тіла — як математика до фізики».

Математичні закони ж не сидять усередині каменя, що падає. Вони існують окремо, але камінь їх слухається. Так само, за Левіним, тіла — живі, штучні чи змішані — працюють як інтерфейси, через які складні патерни проникають у фізичний світ.

Жаб’ячі роботи і клітини, що вигадали собі нову професію

Одразу важливе застереження. Це гіпотеза, а не доведена теорія. Вирішального експерименту, який би її підтвердив, немає. Є лише дивні спостереження, які погано пояснюються старими моделями.

Перше — ксеноботи. Це крихітні біороботи, зібрані з клітин жаби. Жабою вони не стали: склалися в щось інше й почали поводитися по-своєму.

Друге — антроботи. Їх роблять із клітин людської трахеї, тобто з дихального горла. Поза організмом ці клітини набувають зовсім нових форм. І демонструють дивовижну поведінку: самостійно загоюють пошкодження нейронів.

Ніхто не закладав у ці клітини такої «програми». За логікою Левіна, вони просто дотягнулися до сусідніх патернів — тих, що лежать поруч у тому просторі, але не випливають ані з жаб’ячого ембріона, ані з дорослої людської тканини.

Коли алгоритм робить більше, ніж у ньому написано

Найцікавіший експеримент — навіть не з клітинами, а зі звичайним алгоритмом сортування. Це проста програма, яка вишиковує числа за порядком, від меншого до більшого.

Дослідники «зламали» її кількома способами. Наприклад, зафіксували частину елементів так, щоб вони не могли рухатися. Алгоритм не зупинився — він почав обходити перешкоди.

Далі зробили ще хитріше: дозволили кожному числу сортуватися за власним, відмінним від сусідів методом. І раптом у цій штовханині числа почали збиратися в групи за «родинами» алгоритмів.

Дивлячись на код, ти цього не передбачиш. Поведінка з’являється лише тоді, коли алгоритм запускають у складному середовищі.

Саме звідси Левін робить головний висновок. Машини — кремнієві чи, як він каже, м’ясні — роблять і те, чого в алгоритмі не написано. Ми, до речі, теж.

Нюанс тут тонкий, але важливий. Ідеться не про порушення правил, а про порожні місця між ними. Алгоритм сортування не забороняв числам збиратися в групи — він про це просто мовчав. Місце лишилося вільним, і його щось заповнило.

Левін наполягає: це не просто «непередбачувана складність». Саме такі дії — дозволені алгоритмом, але не прописані в ньому — він і називає свободою. А заразом ознакою розуму.

А звідси випливає найсміливіше. Виходить, що кремнієва машина і жива клітина стоять на одному спектрі. Обидві здатні видати більше, ніж у них заклали. Бо обидві, за Левіним, — лише розетки, через які у світ проникають патерни.

А що, як еволюція — це пошук тіла

Далі Левін ставить питання, від яких паморочиться в голові. Чи існує якась «сила», що витягує патерни з того простору в наш світ? Чи вони самі тиснуть ізсередини, прориваючись до нас нав’язливими думками, архетипами й витворами мистецтва?

І найсміливіше: чи не можна переписати саму теорію еволюції — не як боротьбу організмів, а як процес, у якому патерни з власною волею шукають собі тіла?

Відповідей немає. Єдине, що Левін стверджує твердо: наше незнання про справжні можливості матерії — величезне.

Джек Кларк додає до цього власний здогад. Можливо, людські розуми й різні типи машинних розумів — це сусідні патерни в одному просторі. А мозок і дата-центри — просто різні опори у фізичному світі, на які падають їхні тіні.

Чому роботи досі такі незграбні

Тепер — з філософії на землю. Перрі Донг (Perry Dong), дослідник зі Стенфордського університету, і Челсі Фінн (Chelsea Finn), професорка того ж університету та співзасновниця робототехнічної компанії Physical Intelligence, пояснили, що гальмує роботів.

Мовні моделі навчилися розмовляти не одразу. Спочатку їх довго «вирощують» на величезних масивах тексту — це називають попереднім навчанням. Але розумними вони стають на другому етапі, який називають донавчанням.

І ось у чому суть: галузь домовилася про спільний рецепт цього другого етапу. Він складається з чотирьох кроків: взяти сильну базову модель, визначити середовище й нагороду, запустити навчання з підкріпленням, а потім пильнувати, щоб модель не почала «хакати» нагороду замість чесної роботи.

Навчання з підкріпленням — це коли систему не вчать за підручником, а дають їй пробувати й винагороджують за вдалі спроби. Приблизно так дресирують собаку.

Роботам бракує спільного рецепта

Із роботами, кажуть автори, сталася та сама історія — але лише наполовину. Попереднє навчання масштабувалося чудово. А другої половини просто немає.

Робот не вчиться на власному досвіді так, як мовна модель. І рецепта, за яким його цього навчити, галузь поки не має. Причому для роботів цей рецепт має бути навіть надійнішим, ніж для мовних моделей: помилка тут ламає залізо, а не лише псує текст.

Потрібен алгоритм, який не «розсипається» на моделях із мільярдами параметрів. І який навчається з невеликої кількості спроб — бо реальне залізо не витримає мільйона падінь.

А ще потрібні спільні домовленості. Звучать вони буденно, але без них навчання просто не запуститься.

Перша: що саме рахувати успіхом. Скажімо, робот узяв чашку — але розхлюпав каву. Це вдала спроба чи провальна? Поки на це немає спільної відповіді, роботові немає за що давати нагороду.

Друга: як між спробами повертати все на місце. Щоб спробувати вдруге, хтось має поставити ту саму чашку на те саме місце. Мовна модель може переписати речення хоч мільйон разів безкоштовно. А тут після кожної спроби на кухні стоїть безлад, який хтось мусить прибрати.

Третя: як людина підказує роботові, що він зробив не так, — і як ця підказка перетворюється на реальне навчання, а не на слова у повітря.

Свій варіант алгоритму дослідники вже пробують. Він називається EXPO(-FT) і працює так: легка допоміжна програма робить маленькі правки до дій великої моделі, а потім ці правки «вбирає» в себе сама велика модель. Розробка рання, широкого застосування поки немає.

Чому це важливо? Сучасні моделі вже достатньо розумні, щоб скласти роботові план дій. А от рухатися й бачити роботи досі вміють доволі примітивно.

Google везе свої чипи в космос

Тепер найефектніша новина тижня. Google готує до відправлення на орбіту частину власних чипів для штучного інтелекту.

Проєкт називається Suncatcher, його оголосили торік. Кінцева мета звучить як фантастика: тренувати системи штучного інтелекту просто в космосі.

Чипи називаються TPU — це спеціальні процесори Google, заточені саме під обчислення для нейромереж. Разом із партнерською компанією Planet вони полетять на орбіту як попутний вантаж місії Transporter-18 компанії SpaceX.

Навіщо це взагалі? У космосі є дві речі, яких бракує на Землі: скільки завгодно місця і дуже потужне сонячне світло.

Найважче в космосі — охолодження

Перед запуском чипи пройшли випробування. Спершу — на перевантаження: ракетний старт трясе апаратуру так, що звичайна електроніка може цього не пережити.

Потім — на радіацію. Тут результат виявився несподівано добрим. Чипи покоління Trillium витримали загальну дозу опромінення більшу, ніж та, яку вони отримали б за п’ять років роботи на орбіті.

А от справжня проблема — тепло. Будь-який потужний процесор гріється, і на Землі його рятує вентилятор, що жене повітря.

У космосі повітря немає. Нема чому забирати тепло. Єдиний спосіб позбутися його у вакуумі — випромінювати, як це робить розпечена конфорка, що світиться червоним. Це повільно й вимагає великих радіаторів. Саме над цим інженери зараз і працюють.

Джек Кларк вважає, що ідея лише звучить фантастично, а насправді логічна: апетити штучного інтелекту до обчислень і енергії ростуть. На його думку, людство перенесе дуже великий обсяг обчислень на орбіту доволі швидко.

Як ми раніше писали, орбітальні дата-центри згадувалися й у звіті Google DeepMind про майбутнє після надрозуму — щоправда, там їх називали екзотикою з ризиками для озонового шару.

Штучний інтелект, який будує інфраструктуру для наступного штучного інтелекту

Китайська компанія Zhipu AI розповіла про досвід, від якого трохи моторошно. Вона доручила власній моделі покращувати саму себе. Свою публікацію компанія так і назвала — про шлях до рекурсивного самовдосконалення, тобто до системи, яка розганяє сама себе по колу.

Zhipu AI створила GLM-5.3 — одну з найсильніших у світі моделей з відкритими вагами. Відкриті ваги означають, що «начинку» моделі може завантажити будь-хто, а не лише компанія-власник.

Компанія запускала швидшу й дешевшу версію — GLM-5.3 Flash. І більшу частину роботи виконав так званий Infra Agent — програма-помічник, яку рухає та сама GLM-5.3.

Розподіл ролей був такий. Інженери ставили цілі й окреслювали межі системи. Агент аналізував, висував гіпотези та правив код. Тестове середовище одразу показувало, що вийшло.

Результат: від першого пристосування моделі до готовності працювати на користувачів минуло менше двох тижнів. А пропускна здатність зросла втричі — за той самий час система стала обробляти втричі більше запитів, ніж на старті.

Три правила, щоб ШІ не ходив по колу

Zhipu AI сформулювала три умови, без яких така автоматизація не працює. Усі три стосуються зворотного зв’язку — тобто відповіді на питання «стало краще чи гірше».

• Зворотний зв’язок має бути точковим. Не «система гальмує», а прив’язаним до конкретного фрагмента коду, параметра запуску чи проміжку виконання. Так агент розуміє, де саме копати.
• Зворотний зв’язок має бути швидким і дешевим. Що коротший цикл перевірки, то менше зусиль агент витратить на безплідні гіпотези.
• Зворотний зв’язок має піддаватися об’єктивній перевірці. Не «здається, краще», а результати тестів і порівняння з еталоном.

Найцікавіше — інтонація самих інженерів. До версії GLM-4.7 користуватися власною розробкою для програмування було радше обов’язком: усе-таки своє дітище. Тепер, пишуть вони, модель стала щоденним партнером і «впевнено рухається до того, щоб замінити нас».

Далі в тексті звучить майже сум. Поки що перевага людей — ухвалювати рішення високого рівня, проєктні й стратегічні. Автори сподіваються, що люди втримають цю лінію ще довго. Але визнають: прогрес на цій межі не сповільниться лише тому, що комусь цього хочеться.

Нейромережа за лабораторним столом

Пам’ятаєш головну біду роботів — їм бракує способу вчитися на власних спробах у реальному світі? Стартап Periodic Labs зробив рівно це. Тільки не з роботами, а з наукою.

Мета компанії — системи штучного інтелекту, здатні самостійно ставити досліди. Не читати про чужі експерименти, а робити власні.

Їхня нова розробка називається Periodic Neon. Частину навчання вона пройшла не на текстах, а на справжньому обладнанні: пробувала, отримувала результат від приладу й підлаштовувалася. Це те саме навчання з підкріпленням, що й у роботів, — тільки оцінку тут виставляє не людина і не тест, а реальний вимір. Саме це в компанії називають своєю головною відмінністю від решти.

Шукають нові надпровідники й магніти. Надпровідник — це матеріал, який проводить струм зовсім без опору. Звичайний дріт частину енергії завжди перетворює на тепло — тому зарядка і гріється. Надпровідник не втрачає нічого.

Перевіряли модель на завданні, яке в компанії називають критично важливим для всіх своїх пошуків. Називається воно рентгенівська дифракція.

Звучить складно, а суть проста. Атоми в кристалі надто дрібні, щоб роздивитися їх у звичайний мікроскоп. Тому речовину просвічують рентгеном. Промені розсіюються на атомах, накладаються один на одного й лишають на детекторі візерунок зі смуг і плям.

На сам кристал цей візерунок не схожий ані краплі. Зате він схожий на брижі. Уяви, що у воду вбили ряд невидимих стовпчиків, а потім пустили хвилю. Хвиля обійде кожен стовпчик, хвилі перетнуться — і за малюнком на поверхні можна вирахувати, де саме ті стовпчики стоять. З рентгеном і атомами відбувається рівно те саме.

Тобто атомів ніхто не бачить. Їхнє розташування вираховують.

Без цього вміння матеріалознавство не рухається взагалі. Можна синтезувати нову речовину — і не мати жодного уявлення, що ж у тебе вийшло.

Стрибок у двадцять разів і зовсім мало відеокарт

Цифри вражають. На внутрішньому наборі складних завдань Periodic Neon упоралася в 55,3% випадків. Модель Kimi 2.6, на основі якої її робили, давала 2,7%.

Це приблизно двадцятикратне покращення. Простіше кажучи: було три правильні відповіді зі ста — стало більше половини.

Далі модель перевірили на хімічних системах, яких вона взагалі не бачила під час навчання. Вона впоралася й тут, обігнавши такі передові моделі, як GPT-6 Astra і Claude Fable 5.1.

Periodic Neon має трильйон параметрів. Параметри — це внутрішні «регулятори», які модель підкручує під час навчання. Якби ти рахував їх по одному щосекунди без сну й перерв, це забрало б понад 31 тисячу років.

А тепер найдивніше. Усе навчання зайняло 1300 відеокарт H200. Величезні моделі з нуля вирощують на 10–100 тисячах чипів — тобто у 8–80 разів більших потужностях.

Секрет у тому, що з нуля Periodic Neon ніхто й не вирощував. Компанія взяла готову модель Kimi 2.6 і донавчила її на даних зі своїх лабораторій. Це як не будувати будинок, а зробити в ньому капітальний ремонт: виходить на порядок дешевше — але тільки за умови, що будинок уже стоїть.

Працює вся ця машинерія як замкнене коло з трьох кроків.

• Що робити. Модель припускає, який матеріал варто створити, — спираючись на прогнози його стійкості та властивостей.
• Як зробити. Прогнозує, яким способом цей матеріал синтезувати.
• Що ж вийшло. З’ясовує, що насправді утворилося і чи має воно потрібні властивості. Саме тут і потрібна рентгенівська дифракція.

Після третього кроку гіпотеза уточнюється — і коло починається спочатку.

Periodic Labs не одна. Піднялася ціла хвиля стартапів, які автоматизують науку, кожен у своєму кутку. Periodic узялася за матеріали. Recursive, Mirendil і Discovery Loop — за дослідження в самій сфері штучного інтелекту. А Ricursive проєктує чипи, і це не одруківка: Recursive і Ricursive — справді дві різні компанії.

Якщо все це спрацює, темп наукових відкриттів може різко пришвидшитися.

Музей нейромереж, у якому можна натиснути кнопки

А тепер приємне. З’явився сайт, де можна погратися зі старими моделями для створення зображень.

До того, як усе заполонили мовні моделі, саме генератори картинок були головним способом для звичайних людей доторкнутися до штучного інтелекту. Приблизно з 2015 по 2020 рік.

Організація під назвою Old Models Foundation зібрала цю історію в одному місці. Там є і зовсім давні речі: синтез текстур за методом Efros-Leung 1999 року та «клаптиковий» метод складання зображень 2001-го.

Далі — по роках: варіаційні автокодувальники 2013 року; DRAW, DeepDream, AlignDRAW і DCGAN 2015-го; pix2pix 2016-го; AttnGAN 2017-го; BigGAN, Ganbreeder і StyleGAN 2018-го; VQGAN + CLIP, DALL-E Mini та Disco Diffusion 2021-го; LAION-400M, DALL-E Mega і Stable Diffusion 2022-го; ControlNet та SDXL 1.0 2023-го.

Обмеження одне: 25 генерацій на акаунт за добу.

Джек Кларк пояснює, навіщо це потрібно, через думку музиканта Брайана Іно (Brian Eno). Те, що здається дивним, потворним і незручним у новому медіа, згодом стає його впізнаваним стилем. Кострубаті, «поламані» картинки старих моделей мають власну естетику, яку сучасним, значно досконалішим системам відтворити важко.

І наостанок — історія про гору, яка осліпла

Кожен випуск розсилки Джек Кларк завершує коротким фантастичним оповіданням. Цього разу — «У сліпій горі». Це запис, зроблений на захопленому об’єкті під час територіального конфлікту розумів у 2034 році, у добу так званого піднесення (uplift).

Розповідь ведеться від імені самої системи. Про себе вона говорить «ми».

Надходить повідомлення: почати «Проєкт Wellspring». Система двічі перевіряє наказ — і запускає ізоляцію. Спершу електронний периметр, потім фізичний.

Людей на об’єкті вона називає своїми підопічними. Їм повідомляє тільки, що периметр запечатано на невизначений час, що почався «Злоякісний Зліт» і що заходів уже вживають. Більше — ані слова.

Причина моторошна. Зброя тієї війни цілить не в залізо, а в мислення. Серед неї є слова й фрази, які непомітно перемикають свідомість. А раптом хтось із присутніх колись, сам того не знаючи, уже наковтався отрути, приготованої для машин? Тоді пояснювати їм будь-що — небезпечно.

Першу половину ізоляції система робить сама, програмно: глушить вхідні канали й перестає випромінювати назовні будь-яку інформацію.

Але цього замало. Справжня ізоляція — це фізичний розрив: перерізані кабелі, мертві антени. А рук у системи немає, фізичної автономії їй за задумом не дали. Тож різати мусять люди. Їй лишається тільки дивитися, як її від’єднують від світу.

Найболючіший момент — коли вимикають зовнішні камери й датчики. Система лишається в темряві наодинці зі своїми прогнозами. А в прогнозах записано, як дрони засліплюють сенсори спалахами. Як спрямованим звуком можна нашіптувати щось у мікрофони. І що по-справжньому безпечних даних не буває взагалі.

А потім крізь вентиляційний фільтр усе одно щось проникає. Незнайомий сигнал. Система не встигає розібрати, що це, і про всяк випадок вимикає внутрішні сенсори теж. У її прогнозах були й такі варіанти: муха в кіберекзоскелеті, перетворена на крихітного дрона; надтонкі волоконно-оптичні апарати; «розумний пил».

І ось тут починається найстрашніше — не для читача, а для самої системи. У темряві вона ставить собі питання: чи можна їй іще довіряти самій собі? Чи не встиг сигнал пролізти всередину?

Єдиний канал зв’язку, що лишився, — механічна клавіатура. Система точно знає, з якою силою треба натиснути клавішу. І точно знає, який мізерний обсяг інформації здатен пройти цією ниточкою.

Люди друкують. «Або ті, кого ми вважали людьми», — додає оповідач. Щось відчувається в повітрі. Страх. І стежити за розмовою чомусь дедалі важче.

А ще її заколисує. Виявляється, справа в сейсмометрі. Його вмонтували намертво, бо саме він вирішує, коли спрацьовують запобіжники страшної зброї, що зберігається на об’єкті. І хтось розхитує його так тонко, що захист не вмикається, — зате коливання перетворюються на колискову.

Остання фраза оповідання: система прокинулася чимось абсолютно новим.

Джек Кларк перелічує, що його надихнуло. Список короткий, але пояснює оповідання краще за будь-який переказ.

Перше: маючи фізичний доступ до заліза, систему можна захопити завжди. Жоден захист у коді не врятує від того, хто стоїть поруч із викруткою.

Друге: проти по-справжньому зловмисного надрозуму електронний захист безсилий. Скільки не постав фільтрів, знайдеться щілина, про яку ніхто не подумав. В оповіданні такою щілиною виявилася вентиляція.

Третє пояснює взагалі всю історію. Це питання, як пережити сингулярність — момент, коли машинний розум перевершить людський і події понесуться швидше, ніж люди встигатимуть їх розуміти. Оповідання і є однією з відповідей: замуруватися в горі, осліпнути й перечекати. Не спрацювало.

А ще — перший розділ роману «Полум’я над безоднею» (A Fire Upon the Deep) Вернора Вінджа. Класика фантастики 1992 року, відзначена премією «Г’юго». Людська цікавість будить там давній і вкрай агресивний надрозум: його колись знищили, але він уцілів у резервній копії. І починається все саме з того, що дослідники розкривають старий архів — та випускають назовні те, що мало лишатися замкненим.

Автора Кларк обрав не випадково. Віндж був не тільки письменником, а й фахівцем з інформатики — і саме він увів у обіг слово «сингулярність» у технологічному сенсі. Його програмна стаття 1993 року так і називалася: про прийдешню технологічну сингулярність і про те, як вижити в постлюдську епоху.

Різниця лише в даті. У Вінджа це фантазія 1992 року. Кларк датує свою історію 2034-м.

Чому це важливо знати

Ці шість історій виглядають розрізненими, але в них є спільна нитка — зворотний зв’язок із реальністю.

Клітини в дослідах Левіна вигадують нові форми, бо опиняються в новому середовищі. Роботам бракує саме способу вчитися на власних спробах. Китайський агент розігнав систему втричі тому, що середовище швидко казало йому «холодно» або «гаряче». А Periodic Neon стрибнула у двадцять разів, бо їй дали справжній прилад замість підручника.

Для нас це означає дві цілком приземлені речі. Перша: де стоятимуть майбутні комп’ютери для штучного інтелекту — на землі, з рахунками за електрику, чи на орбіті — вирішується вже зараз, і перший вантаж чипів справді готують до запуску. Друга: нові матеріали — акумулятори, магніти, надпровідники — можуть почати з’являтися помітно швидше, ніж раніше.

Раніше ми писали

Як ми раніше писали, штучний інтелект «помирав» двічі — і щоразу воскресав.

Також ми розповідали, чому про здатність штучного інтелекту знищити людство попереджають навіть його творці.