Що не так із класичною сингулярністю

Упродовж десятиліть фантасти, філософи і частина технологів малювали одну й ту саму картину: настане момент, коли ШІ стане розумнішим за людину, почне вдосконалювати сам себе — і за лічені години чи дні перетвориться на щось незбагненне і всемогутнє. Один колосальний розум у кремнієвій точці, що поглинає всю когнітивну реальність.

Автори препринту — Джеймс Еванс, Бенджамін Братон і Блейз Агуера і Аркас — стверджують: ця картина хибна у своєму фундаментальному припущенні. Інтелект за своєю природою не є чимось одновимірним, що можна однозначно порівняти: «більше» чи «менше» за людський. Він багатовимірний і реляційний. І, що найважливіше, він завжди був соціальним явищем, а не властивістю одного розуму.

Навіть людський інтелект — не індивідуальний. Він колективний. Ми думаємо мовою, яку не вигадували. Використовуємо математику, накопичену тисячоліттями. Спираємося на інститути, закони, бюрократичні системи, які «розумніші» за будь-якого окремого учасника. Шумерський писар, який вів зерновий облік у храмі, не розумів макроекономічної функції своєї роботи — але система в цілому функціонувала як щось набагато розумніше за нього.

Що відбувається всередині «одного» ШІ

Ось де починається найцікавіше. Дослідники зробили дивовижне відкриття: коли вивчали роботу сучасних «розмірковуючих» моделей — DeepSeek-R1 та QwQ-32B — виявилося, що ці моделі не просто «думають довше». Вони симулюють усередині себе щось схоже на дискусію між різними когнітивними точками зору.

Учені назвали це «суспільством думки» (society of thought). Модель генерує внутрішні дебати: одна «перспектива» висуває аргумент, інша ставить під сумнів, третя верифікує, четверта намагається примирити суперечності. Ця розмовна структура — не декорація, а саме те, що пояснює точність моделей на складних задачах.

Найприголомшливіше в цьому відкритті: жодну з цих моделей не навчали генерувати «внутрішні суспільства». Це поведінка, яка виникла сама собою. Коли алгоритм отримував підкріплення виключно за правильність відповідей, він спонтанно починав вдаватися до багатоперспективного, розмовного мислення. Оптимізаційний тиск «відкрив» те, що епістемологія і когнітивна наука говорили вже давно: надійне мислення — це соціальний процес, навіть коли він відбувається всередині однієї системи.

Чому соціальні науки раптом стали актуальними для ШІ

Відкриття «суспільства думки» відкриває величезний і майже недосліджений простір. Соціальні та організаційні науки понад сто років вивчали, як розмір команди, її склад, ієрархія, розподіл ролей, норми конфлікту та мережеві структури впливають на колективну ефективність. Але майже нічого з цього знання не було застосовано до ШІ.

Сьогоднішні моделі генерують одну «розмову» — щось на зразок транскрипту міського зібрання, де всі говорять одночасно. Але ефективні групи — не такі. Вони мають ієрархію, спеціалізацію, розподіл праці та структуровані незгоди. Уявіть ШІ-системи, де одна «команда» агентів займається мозковим штурмом, інша грає роль адвоката диявола, третя синтезує результати. Це вже не фантастика — це наступний природний крок у розвитку архітектур.

Всі попередні «вибухи інтелекту» були соціальними

Автори пропонують переосмислити всю історію інтелекту через цей соціальний lens. Кожен «вибух розуму» в еволюції — не апгрейд індивідуального «заліза», а поява нової соціально агрегованої одиниці пізнання.

Інтелект приматів зростав пропорційно розміру соціальної групи, а не складності середовища. Людська мова створила те, що антрополог Майкл Томаселло назвав «культурним храповиком»: знання накопичуються крізь покоління без необхідності кожному індивіду відтворювати всю систему з нуля. Писемність, право і бюрократія перетворили соціальний інтелект на інфраструктуру — інститути, які координують дії на часових горизонтах, недоступних жодному з їхніх учасників.

ШІ продовжує цю послідовність. Великі мовні моделі навчаються на накопиченому результаті людського соціального пізнання — «культурний храповик», зроблений обчислювально активним. У кремній мігрує не абстрактне мислення, а соціальний інтелект у зовнішній формі, який зустрічає сам себе на новому субстраті.

Кентаври, агенти і конституційний ШІ

Якщо інтелект є за своєю природою соціальним, то шлях до потужнішого ШІ пролягає не через побудову єдиного колосального оракула, а через проектування багатших соціальних систем.

Ми вже живемо в епоху «кентаврів» — гібридних акторів, що є ані чисто людьми, ані чисто машинами. Один менеджер керує десятками ШІ-агентів. Один агент обслуговує тисячі людей. Команди з людей і машин формуються та переформовуються залежно від задачі. Це не майбутнє — це вже відбувається у кожній компанії, яка серйозно впроваджує ШІ.

Агенти тепер можуть «клонувати» себе: натрапивши на надто складну задачу, агент породжує кілька копій себе, розподіляє між ними підзадачі, а потім збирає результати. Конфлікт між агентами — не баг, а ресурс: саме в зіткненні перспектив народжується точніший результат.

Але звідси випливає і найсерйозніший виклик: якщо ШІ-системи стають соціальними інститутами — їх і вирівнювати треба як інститути, а не як окремих агентів. Домінуючий підхід до безпеки ШІ — навчання з підкріпленням за людським зворотним зв’язком (RLHF) — нагадує модель «батько-дитина». Він не масштабується на мільярди агентів. Натомість потрібна інституційна вирівняність: так само, як людські суспільства покладаються не на чесноту кожного індивіда, а на суди, ринки та бюрократії з чітко прописаними ролями й нормами, ШІ-екосистемам потрібні цифрові еквіваленти цих інститутів.

Автори навіть порівнюють це з конституційним устроєм: урядові ШІ-системи мають перевіряти приватні ШІ-системи, і навпаки. Без цього — а це не гіпербола — регулятори опиняться у ситуації, коли дипломовані юристи зі звичайними таблицями намагаються зупинити багатовимірну колузію ШІ-трейдингових платформ.

Вибух інтелекту вже відбувається — просто не так, як ми уявляли

Висновок дослідників виглядає одночасно тверезим і захопливим: вибух інтелекту вже тут. Він — у суспільстві думки, яке дискутує всередині кожної розмірковуючої моделі. Він — у кентаврських робочих процесах, які вже змінюють кожну інтелектуальну професію. Він — у рекурсивних екологіях агентів, що починають форкатися і співпрацювати у масштабі.

Питання не в тому, чи стане інтелект радикально потужнішим. Він вже стає. Питання в тому, чи побудуємо ми соціальну інфраструктуру, гідну того, чим він стає. Бо жоден розум — не острів.

Чому це важливо знати

Нова концепція «агентного ШІ як соціального явища» змінює не лише академічні дискусії — вона впливає на те, як компанії, уряди та дослідники мають підходити до безпеки, регулювання і розвитку технологій. Якщо ШІ — це інститут, а не інструмент, то й питання про те, хто його контролює і за якими правилами, стає конституційним. Це стосується і України, яка активно інтегрує ШІ в оборонні та цивільні системи, як ми раніше писали.