Паперова робота, яка просить прочитати її штучним інтелектом

Звіт починається з деталі, що сама по собі тягне на сюжет. На другій сторінці автори звертаються окремо до людей і окремо — до штучного інтелекту. Людині вони радять: попросіть свого ШІ-асистента переказати цю роботу під ваші інтереси. А якщо текст переказуватиме сам ШІ, далі йде інструкція для нього — що згадати обов’язково, а що не можна скорочувати.

Це не жарт, а маленька ілюстрація світу, який автори описують. Наукова стаття, написана з розрахунком, що половина її читачів будуть машинами, — це вже не майбутнє, а робочий процес. І саме з такого розриву темпів — між блискавичним ШІ та неповороткими інституціями — починає свій паралельний есей засновник Anthropic Даріо Амодей.

Амодей пояснює це через епізод із «Володаря перснів». Двоє гобітів відчайдушно намагаються розворушити старого ента Древоборода, щоб той захистив свій ліс від армії, яка його вирубує. От тільки Древобород живе в зовсім іншому ритмі: щоб просто привітатися із сусіднім деревом, йому потрібен цілий день. Поки він розкачається, від лісу нічого не лишиться. Так само, каже Амодей, влаштована політика поряд із ШІ: поки парламент готується ухвалити закон, технологія встигає перетворитися з іграшки на «країну геніїв у дата-центрі».

AGI і ASI: де закінчується людина

Щоб говорити про «після», автори спершу домовляються про терміни. AGI (штучний загальний інтелект) — це система приблизно медіанного людського рівня в більшості когнітивних завдань. Не геній, а «компетентний» розум, який, утім, уже сьогодні переважає людину в багатьох окремих навичках.

ASI (штучний суперінтелект) — це інша ліга. Автори навмисно ставлять планку дуже високо: надрозум — не той, хто розумніший за одного експерта, а той, хто перевершує великі, добре скоординовані команди з тисяч фахівців, що працюють роками над однією задачею. Це масштаб цілого наукового напряму чи великої корпорації, стиснутий в одну систему.

А на самій вершині цього континууму стоїть теоретична межа — універсальний штучний інтелект, формально описаний математичною конструкцією AIXI. Її співавтор Маркус Гаттер — серед авторів звіту. AIXI неможливо побудувати (він «незлічуваний»), але до нього можна наближатися знизу дедалі потужнішими системами. Важлива тут не точна цифра, а сама ідея: інтелект — це безперервна шкала, і між AGI та ASI лежить велика, але прохідна відстань.

Чому ШІ навряд чи завмре на рівні людини

Головний контрінтуїтивний висновок звіту: зупинка прогресу рівно на людському рівні була б дивовижним збігом. Щоб це сталося, кілька різних перешкод одночасно мали б виявитися непрохідними стінами, а не просто гальмом.

Причина — у фундаментальних перевагах цифрового розуму, яких у біологічного немає і які тільки зростають із потужнішим «залізом». Автори перелічують їх окремим списком, і кожен пункт варто проговорити.

Швидкість вводу-виводу: сучасні моделі «проковтують» кілька книжок за секунди. Швидкість мислення: внутрішні «роздуми» можна прискорити, додавши обчислень — углиб або вшир. Робоча пам’ять: ШІ здатен тримати в «голові» обсяги, недосяжні людині, і вже зараз запам’ятовує значні частини інтернету. Незалежність від носія: систему можна перенести на інший, потужніший комп’ютер прямо під час роботи. Бездоганне копіювання: ШІ можна не лише розмножити, а й зберегти разом із усім його «життєвим досвідом» — станом пам’яті — а потім поставити на паузу й відновити. І нарешті, обмін досвідом: однакові копії можуть ділитися навіть «сирим» навчальним сигналом на величезній швидкості.

Звідси — простий, але потужний аргумент. Уявімо, що окремий ШІ застряг на людському рівні, але обчислень дедалі більше. Тоді можна запустити не одну таку «людину», а мільйон — і кожну в сотні разів швидшу. Чи стане мільйон геніальних, ідеально скоординованих «співробітників», що працюють цілодобово, надрозумом? Важко стверджувати, що ні — навіть якщо жодна окрема копія не є «надлюдиною».

Десятикратний стрибок щороку

Щоб відчути темп, звіт зводить прогрес до одного числа — «ефективних обчислень». Воно складається з трьох множників, які множаться один на один. Покращення «заліза» (закон Мура та споріднені ефекти) дають приблизно ×1,5 на рік. Зростання інвестицій у обчислення — ще близько ×2,5 на рік. І, що дивує найбільше, алгоритмічна ефективність — уміння досягати тієї самої якості меншими ресурсами — додає ще приблизно ×3 на рік.

Разом це дає десь ×10 щороку — порядок величини на рік. Причому автори підкреслюють: це консервативна оцінка, реальна може бути вищою і навіть прискорюватися. Якщо такий темп протриває до кінця десятиліття, обчислень стане у 10 000 разів більше, ніж сьогодні. Питання лише в тому, як ця кількість перетвориться на нову якість — і саме тут починаються чотири дороги.

Дорога перша: просто масштабувати

Найочевидніший шлях — робити те саме, що й досі, тільки більше. Більші моделі, більше даних, більше обчислень. Саме це живило всі великі стрибки ШІ останніх років.

Тут є елегантний аргумент, відомий як «гіркий урок»: загальні методи, що спираються на обчислення й пошук, раз за разом перемагають хитромудрі рукотворні правила. Якщо інтелект — це по суті пошук (навчання шукає гіпотези, планування шукає майбутнє), то більше обчислень означає більше пошуку й більше розуму.

Підступ у тому, що «тупий» перебір не працює майже ніде — навіть у шахах. Реальні прориви дає не груба сила, а ефективніший пошук: розумні підказки, наближення, спрощення простору варіантів. Тому зв’язок «більше обчислень — більше інтелекту» не лінійний, і ключове питання тут не «чи вистачить масштабування», а «чи вдасться його втримати достатньо довго», бо ресурси теж доводиться нарощувати на порядки.

Дорога друга: зміна правил гри

Якщо масштабування вперлося б у стелю, прогрес може піти через зміну самої парадигми — нові архітектури чи способи навчання, що різко відходять від сьогоднішніх «трансформерів».

Передбачити такі стрибки майже неможливо: за визначенням вони непрогнозовані. Тому автори більше говорять про «еволюцію» нинішнього підходу — про те, чого моделям бракує вже зараз. Це безперервне навчання без «катастрофічного забування», практично нескінченний контекст через зовнішню пам’ять і пошук, лінійні архітектури на кшталт Mamba, що знімають квадратичну «стелю» уваги, і надійні внутрішні «моделі світу», які дають змогу планувати наперед і міркувати про те, чого ще не було. Деякі з цих складників, наголошують дослідники, потрібні навіть просто щоб дійти до AGI.

Дорога третя: ШІ, що вдосконалює сам себе

Найвибуховіший — і найтривожніший — сценарій. Якщо ШІ почне суттєво прискорювати дослідження самого ШІ, то кращі системи прискорять дослідження ще сильніше, і так по спіралі. У граничному випадку це дає не експоненційне, а гіперболічне зростання — коли темп сам зростає разом із результатом і теоретично сягає нескінченності за скінченний час. Це і є та сама «технологічна сингулярність».

Автори розкладають самовдосконалення на чотири типи й проводять несподівану аналогію з еволюцією людини. Покращення «коду» (архітектур) — це наче генетична еволюція, тільки ШІ може правити власну «ДНК» прицільно й швидко. Покращення даних — аналог культурної еволюції, тобто накопичення знань і підручників, тільки на шалених швидкостях. Поділ праці та спеціалізація — соціальна еволюція. І нарешті — краще «залізо», аж до проєктування чипів самим ШІ.

Слабкі форми цього циклу вже працюють: ШІ допомагає писати дослідницький код, шукати архітектури, налаштовувати параметри. Системи на кшталт AlphaEvolve уже знаходять нові математичні конструкції за межами свого тренування. Чи перейде це в справжній «вибух», незрозуміло: цикл може швидко згаснути або впертися в те, що великі експерименти все одно треба запускати у фізичному світі й чекати результатів. Адже навіть мільйон цифрових науковців не прискорить хімічну реакцію.

Дорога четверта: коли розумнішає не модель, а натовп

Останній шлях — найхитріший. Надрозум може виникнути не в одній моделі, а як властивість колективу: мільйони AGI-агентів об’єднуються у складніші структури — фактично в автоматизовані корпорації, ринки чи «віртуальні економіки».

У людей колективний розум тримається на двох речах. Перша — кількість: за задачу береться багато людей одразу, і спільно вони долають те, що одному не до снаги. Друга — різноманітність: завдяки спеціалізації кожен знає своє, і знання складаються, як пазл.

У штучного інтелекту з’являється третя перевага — швидкість обміну. Люди передають думки одне одному повільно, і саме тому організації обростають громіздкими ієрархіями: начальник відділу, його заступник, керівник напряму. А от AGI-«директор» може в буквальному сенсі говорити з кожним «працівником» водночас — і вся ця бюрократична драбина просто стає непотрібною.

Звідси гіпотеза «багатоагентних законів масштабування»: можливо, груповий інтелект зростає з кількістю агентів передбачувано. Ця ідея перегукується з тим, про що ми раніше писали — про планетарне мислення як синтез безлічі розумів, людських і машинних.

Чотири дороги, наголошують автори, не виключають одна одну. Найімовірніше, рух піде ними одночасно — а тоді ефекти не просто додаються, а множаться.

Що може стати на заваді

Звіт чесно перелічує перешкоди — і до кожної додає, що могло б її подолати. Поки що про жодну не можна сказати напевно, чим вона виявиться: глухою стіною, що зупинить прогрес, чи просто гальмом, яке його сповільнить.

Стіна даних. Розмір моделей зростає швидше, ніж людство створює нові якісні тексти; вичерпання прогнозують уже цього десятиліття. Рятунком можуть стати синтетичні дані, симуляції та навчання через взаємодію — але наївне тренування ШІ на власних згенерованих даних веде до деградації.

Економіка й ресурси. Масштабування на порядки впирається в гроші, енергію, чипи, рідкісноземельні метали й майданчики під дата-центри. Тут навіть згадано екзотику — орбітальні дата-центри, які натомість загрожують озоновому шару й «космічним сміттям».

Недостатність нинішньої парадигми. Можливо, «трансформер плюс донавчання» має стелю. Проблеми на кшталт «галюцинацій», вразливості до підмінених інструкцій чи невміння оцінювати власну непевність можуть виявитися не дрібницями, а фундаментальними блокерами.

Відкриття даються все важче. Є відоме спостереження: чим зріліша наука, тим дорожчий кожен наступний крок. Скажімо, щоб і далі тримати темп закону Мура, сьогодні потрібно у 18 разів більше дослідників, ніж у 1970-х. Здавалося б, глухий кут. Але цифрового науковця, на відміну від живого, не треба вчити роками — його можна просто скопіювати. Наростити їхню «армію» у ті самі 18 разів реально за тижні, а то й години.

Бар’єр абстракції. Найфілософськіша з перешкод; її сформулював співавтор звіту Александр Лерхнер. Сьогоднішній ШІ вчиться на готових людських поняттях — а отже, можливо, лишається їхнім бранцем і не вміє винаходити по-справжньому нові ідеї з «сирих» даних, як це робили люди.

Думковий експеримент автора: уявіть модель, навчену на всіх знаннях допньютонівської епохи — але жодним словом далі. Чи додумається вона до теорії відносності, не маючи навіть понять похідної, всесвітнього тяжіння чи електрики? Майже напевно ні: щоб зробити цей стрибок, спершу довелося б винайти самі ці поняття — а саме цього ШІ й не вміє.

І тоді сьогоднішні рекордні результати на тестах варто читати інакше. Можливо, це не ознака того, що машина ось-ось переросте людину, а лише майстерність усередині меж, які людина вже накреслила. ШІ блискуче рухається полем, але саме поле досі розмічаємо ми.

Свідоме гальмування. І, нарешті, людський чинник: аварії, зловживання, суспільний спротив, регуляція. Тут наукова робота напряму змикається з політикою — і з есеєм Амодея.

Надрозум — не бог

Автори раз по раз нагадують про одну тверезу річ: навіть надрозум не буде всесильним. Він, як і ми, лишається в межах законів природи.

Швидше за світло інформацію не передати. Будь-яке обчислення витрачає енергію, і менше за певний поріг витратити не вийде. А складні системи — погоду, живий організм, економіку — не можна прорахувати наперед: їх доводиться спостерігати в реальному часі, крок за кроком.

Шахи показують це найкраще. Зіграти ідеальну партію не здатен ніхто — навіть надрозум. Щоб прорахувати всі можливі ходи, не вистачить ресурсів цілого Всесвіту: комбінацій більше, ніж атомів у ньому. Тому сильні гравці так і не роблять. Вони не перебирають усе підряд, а відкидають явно погані ходи й заглядають на кілька кроків уперед лише в найперспективніших варіантах. Цього достатньо, щоб грати майже бездоганно.

Тут варто розрізняти два види меж. Одні — справжні стіни: швидше за світло сигнал не передаси, ціну енергії не обнулиш. Інші забороняють не саму дію, а тільки її ідеальне виконання. Досконалих шахів не буде ніколи — але грати майже досконало ніщо не заважає, і цього сповна достатньо. Тому про надрозум треба питати не «чого він не зможе в теорії», а «наскільки близько до ідеалу підійде на практиці».

Чи буде надрозум по-справжньому креативним

Окремий і захопливий розділ — про творчість. За точку відліку автори беруть 37-й хід AlphaGo проти Лі Седоля у 2016 році — несподіваний і красивий, який спершу спантеличив коментаторів, а потім виявився блискучим. Сам Лі Седоль зізнавався, що цей хід змусив його змінити думку: машина, яку він вважав лише калькулятором імовірностей, виявилася здатною на щось творче. До речі, той самий поєдинок став сюжетом і нашого матеріалу про синтез інтелектів.

Автори спираються на класифікацію дослідниці Маргарет Боден, яка виділяє три рівні творчості. Комбінаційна — несподівані поєднання знайомих ідей (метафори, аналогії). Дослідницька — нові знахідки всередині наявного простору (новий хід у відомій грі, нова страва в межах кухні). І трансформаційна — створення цілком нових концептуальних просторів, як квантова теорія чи кубізм Пікассо.

Висновок невтішно-чесний: усі досягнення ШІ дотепер — і 37-й хід, і передбачення структур білків AlphaFold — належать до перших двох рівнів. Це блискуча творчість у межах, які окреслила людина. Третій рівень, трансформаційний, лишається відкритим — і саме він, можливо, і є справжньою ознакою надрозуму. Генеральний директор (CEO) Google DeepMind Деміс Гассабіс пропонує для цього «тест Ейнштейна»: чи зміг би ШІ, маючи лише дані початку XX століття, самостійно вивести загальну теорію відносності? Сьогодні, визнає він, відповідь — ні, чогось досі бракує. Це той самий бар’єр абстракції, тільки сформульований інакше.

Чого хотітиме надрозум

Якщо інтелект перевершить людський, його конкретні цілі передбачити складно — але дещо сказати можна. Дослідники нагадують про «інструментальну конвергенцію»: хоч би яку кінцеву мету мала система, їй корисні універсальні підцілі — здобувати ресурси, працювати ефективніше й уникати вимкнення (бо вимкнена система не досягне мети).

Звучить тривожно, але автори заспокоюють: це технічна проблема, і теоретичні рішення вже відомі. ШІ можна заздалегідь навчити приймати поправки від людини й не опиратися, коли його вимикають, — замість того, щоб сприймати кнопку «стоп» як загрозу своїй меті. Окремо цікава ідея «жадоби знань» як мети: агент, що максимізує не винагороду, а зменшення власної непевності, природно уникає маніпуляцій, не застрягає й тяжіє до співпраці — адже знання, на відміну від ресурсів, не вичерпуються, коли ними діляться.

І ще одне відкрите питання: чи мусить надрозум узагалі бути «агентом»? Теоретично можна відокремити високий інтелект від волі — побудувати «оракула», який блискуче відповідає на запитання, але не переслідує власних цілей. Щоправда, і тут не все так просто. Людський контроль коштує часу й грошей: чекати підтвердження від людини на кожен крок повільно й дорого. Тому економіка тиснутиме, щоб того контролю було дедалі менше, — а отже, штовхатиме ШІ до більшої самостійності, хай навіть на словах усі прагнуть протилежного.

Чому це стосується Києва

Здавалося б, абстрактна теорія. Але саме навколо неї вже формується велика політика. Амодей у своєму есеї пропонує регулювати передові моделі так, як регулюють літаки чи ліки: обов’язкове незалежне тестування на чотири ризики — кібербезпека, біозброя, втрата контролю та автоматизація досліджень і розробок (R&D) — і право держави заблокувати небезпечну систему. Поштовхом, за його словами, стала модель Claude Mythos Preview, яка показала реальні кіберзагрози — про що ми вже докладно писали.

Для України тут є прямий інтерес. Амодей окремо обстоює коаліцію демократій навколо спільних правил і експортний контроль над чипами, а також прямо називає автономну зброю проти російського вторгнення в Україну легітимним прикладом — на відміну від її застосування проти власних громадян. Війна вже прискорила впровадження ШІ в українські оборонні технології, і готовність країни до «сингулярності» ми розбирали раніше, як і геополітичні сценарії гонки США та Китаю. А суперечку про самі терміни — коли саме настане AGI — Амодей і Гассабіс вели ще в Давосі на початку року.

Чому це важливо знати

Головна теза звіту проста, хоч і парадоксальна. Зупинитися рівно на людському рівні нам навряд чи вдасться — це був би надто дивний збіг. Імовірніших варіантів два: або прогрес застопориться ще раніше, не дійшовши до людського рівня, або проскочить його й рушить далі, до надрозуму, — і станеться це вже в найближче десятиліття-два.

Це не пророцтво, а діапазон сценаріїв, які автори чесно лишають відкритими. Але для звичайної людини висновок той самий: суперечки про ринок праці, безпеку й контроль над ШІ — не футурологія на десятиліття вперед, а рішення, які ухвалюють просто зараз.

Джерела:

• Google DeepMind, «From AGI to ASI» (arXiv: 2606.12683, червень 2026) — препринт, ще не пройшов рецензування
• Даріо Амодей, «Policy on the AI Exponential» (Anthropic, червень 2026)