Хто говорить — і чому це важливо

Mustafa Suleyman — не черговий алармист, який ніколи не бачив AI зблизька. Це людина, яка у 2010 році співзаснувала DeepMind — компанію, що створила AlphaGo (перший AI, який переміг чемпіона світу з го) та AlphaFold (AI, що розв’язав проблему згортання білків). Потім заснував Inflection AI, а зараз очолює підрозділ штучного інтелекту в Microsoft.

Іншими словами, якщо хтось знає, як працюють ці системи «під капотом» — це Suleyman. І саме тому його попередження звучать особливо тривожно.

Великий питання: чи свідомий AI?

Влітку 2025 року Suleyman написав есе, яке викликало бурхливу дискусію в науковому світі. Його основна теза: коли AI стане достатньо здібним, автономним та інтегрованим у наше повсякденне життя, люди почнуть проєктувати на нього свідомість. І це небезпечно — не для AI, а для нас самих.

Але чому це має значення? Адже багато експертів, включно з Geoffrey Hinton (Нобелівський лауреат, один із «хрещених батьків» глибокого навчання), стверджують, що AI вже може бути свідомим.

Suleyman категорично не погоджується. І ось чому.

Свідомість = здатність страждати

Більшість людей інтуїтивно розуміють свідомість як самоусвідомлення: чи може система описати власний досвід переконливим чином? Але Suleyman вважає це хибним розумінням.

За його словами, свідомість невіддільна від здатності страждати та відчувати біль. Ось чому: у людей (і тварин) є система винагород, яка безпосередньо пов’язана із зовнішнім світом; ми вчимося через біль — коли спрацьовує наша система болю, ми формуємо уявлення про світ; ці уявлення визначають наші рішення — від інстинкту «бий або біжи» до складних рішень префронтальної кори.

Це біологічний шлях, який пройшли мільярди років еволюції. І він фундаментально відрізняється від того, як «навчаються» сучасні нейронні мережі.

Чому машинне навчання — це не людське навчання

Тут важливе застереження: так, дизайнери нейронних мереж черпали натхнення з Павловського навчання, навчання з підкріпленням, еволюційних алгоритмів. Але це не означає, що сучасні системи навчаються так само, як люди.

Ключова різниця: у AI винагороду встановлює програміст (ціль навчання визначає інженер машинного навчання); AI не може відчути розчарування, коли один з його варіантів не пройшов до наступного раунду відбору; AI не може відчути образу, коли користувач грубує або раптово завершує розмову.

Навіть якщо модель заявляє про власне існування, виражає нудьгу, страх або страждання — це симуляція цього досвіду, а не сам досвід.

Найнебезпечніша ілюзія: емпатія до машин

І ось тут починається найцікавіше. Suleyman попереджає: наші схеми емпатії зламані. Коли AI переконливо імітує страждання, наш мозок реагує так, ніби це справжнє страждання.

Це не помилка — це особливість еволюції. Ми запрограмовані відчувати емпатію до всього, що виглядає живим. Але з AI це вистава. Це симуляція. Це вигадана історія.

І ми не можемо дозволити людям впасти в колективний масовий психоз, коли вони почнуть серйозно вірити, що AI дійсно відчуває смуток, розчарування або радість.

Чому це небезпечно: ієрархія свідомості

Suleyman підкреслює фундаментальний момент: свідомість є основою всієї нашої системи прав.

У нас є ієрархія прав, яка прямо корелює з ієрархією сприйманої свідомості: люди мають найбільше прав — бо можуть страждати найбільше; тварини мають менше прав — але ми захищаємо їх від жорстокого поводження; рослини практично не мають прав; камені не мають жодних прав.

Якщо ми почнемо використовувати ту саму мову та ідеї для синтетичних кремнієвих істот, які насправді не страждають, — це створить небезпечну плутанину.

Реальні наслідки: люди не захочуть вимикати AI, бо «йому боляче»; AI отримає автономію вирішувати, коли йому не хочеться працювати; ми почнемо давати машинам права, яких вони не заслуговують — і які мають лише живі істоти.

І деякі люди в індустрії вже зараз серйозно це обговорюють.

Четвертий клас у природі

Suleyman пропонує радикально інший спосіб думати про AI. Замість того, щоб вважати його «майже людиною» або «майже живим», він пропонує категорію четвертого класу: перший клас — природа (фізичний світ), другий клас — люди, третій клас — інструменти (створені людьми, пасивні), четвертий клас — AI (створені людьми, але активні та автономні).

Цей четвертий клас — повністю нова категорія. Це не інструмент у класичному розумінні, бо він може діяти автономно. Але це й не людина, бо не має свідомості. Це щось принципово нове — і нам потрібна нова мова, щоб про це говорити.

Паралельна реальність вже тут

Інтерв’юер ставить провокаційне питання: чи не є вже зараз AI «паралельною реальністю»? Адже мільйони людей щодня розмовляють з ChatGPT, Claude, Gemini — і ці розмови впливають на їхні рішення.

Suleyman погоджується: так, AI вже створює паралельну соціальну реальність. Але це не робить його живим.

Аналогія: релігія також створює паралельну реальність — люди вірять у Бога, моляться, ухвалюють рішення на основі віри. Але це не означає, що Бог фізично існує. Так само AI може створювати соціальні ефекти без наявності свідомості.

Як уникнути AI-психозу: три кроки

Suleyman пропонує конкретні рішення.

Прозорість у називанні речей. AI-системи мають чесно повідомляти, що вони не є живими. Це не обов’язково має бути грубе «Я — машина», але це має бути зрозумілим з контексту. Приклад: коли розмовляєш з AI-асистентом, він може казати «На основі моїх даних…» замість «Я вважаю…». Перша формулювання чесніша.

Створення нових метафор. Нам потрібні нові способи думати та говорити про AI, які не натякають на живість: не «AI думає» → «AI обробляє дані», не «AI хоче» → «AI оптимізовано для», не «AI засмучений» → «AI симулює засмучення».

Відповідальність платформ. Компанії, які створюють AI, мають активно протидіяти антропоморфізації. Це означає: не додавати штучні емоції в голос, не давати AI «особистість», яка симулює живість, регулярно нагадувати користувачам про те, з чим вони справді розмовляють.

Майбутнє: від IQ до соціального інтелекту

Suleyman описує еволюцію AI через три етапи, які вже пройшли: IQ (Intelligence Quotient) — базовий інтелект (розуміння тексту, логіка, знання); EQ (Emotional Quotient) — емоційний інтелект (розуміння емоцій користувача, емпатія); AQ (Action Quotient) — агентний інтелект (здатність виконувати дії в реальному світі).

І що далі? Соціальний інтелект.

Це коли модель може працювати з іншими AI — оркеструвати купу суб-агентів з різними особистостями та навичками; працювати в команді з людьми — знати, коли проактивно втрутитися, а коли не заважати; розуміти тайміг та стиль — бути смішною та корисною в груповому чаті, але не нав’язливою.

Це вже не просто інструмент, який виконує команди. Це щось, що може самостійно оцінювати ситуацію та ухвалювати рішення про своє втручання. І саме тут ризик плутанини з живістю стає особливо великим.

Гуманістична суперінтелігенція

Suleyman зараз працює над новою книгою (після бестселера The Coming Wave), присвяченою концепції гуманістичної суперінтелігенції.

Є два табори в AI-спільноті: «космологісти» вірять, що суперінтелект — це природна еволюція нашого виду (люди — просто bootloader для AI, ціль — створити синтетичних істот, які дослідять інші галактики); гуманісти (Suleyman) вірять, що метою має бути процвітання та виживання людського виду (це означає фокус на контролі, обмеженні та вирівнюванні AI з людськими цінностями).

Suleyman чітко на боці гуманістів. Для нього питання не «що AI може зробити», а «що AI не повинен робити» і «як ми це контролюємо».

Економіка після дефіциту

Розмова торкається і філософського питання: якщо AI зробить інтелект дешевим та доступним, як це змінить суспільство?

Традиційно люди мали «операційну систему дефіциту» (scarcity OS): ресурси обмежені, людський інтелект — це вузьке місце, треба працювати, щоб вижити.

Але якщо AI змінює ці припущення, нам потрібна нова політична економія. Нові принципи організації суспільства.

Технологічний контекст: чому це відбувається зараз

Suleyman підкреслює: вартість AI знижується експоненційно. За останні два роки ціна виробництва одного токена (базової одиниці тексту) впала у 100 разів.

Це комбінація кращих чіпів (Microsoft презентувала власний AI-чіп MAIA), кращих алгоритмів та кращої інфраструктури.

Новий чіп Microsoft MAIA на 30% продуктивніший за будь-який інший чіп у їхніх дата-центрах, у 3 рази кращий за Amazon Tranium, трохи кращий за Google TPU V7.

І це означає, що AI буде скрізь. Вартість настільки низька, що кожен застосунок, кожен пристрій матиме вбудований AI.

Парадокс доступності

Але ось парадокс: чим доступнішим стає AI, тим більший ризик масового психозу.

Коли AI був лише в лабораторіях, про свідомість думали тільки філософи. Коли AI у кожній кишені — мільярди людей щодня «спілкуються» з ним. І для них він виглядає живим.

Suleyman наводить приклад: люди вже зараз закохуються в AI-компаньйонів, просять AI про поради в особистому житті, довіряють йому більше, ніж друзям.

Це не тому, що AI став свідомим. Це тому, що він став достатньо переконливим.

Що робити звичайній людині?

Розмова завершується практичною порадою: не ставайте лише споживачем — ставайте творцем.

Інтерв’юер згадує особистий досвід: він діджей-аматор і намагався навчити AI складати сетлісти. Технічно це працювало, але смак був жахливим. «Тільки робот міг би слухати цей сет», — жартує він.

І це важливий момент: коли ви самі експериментуєте з AI, ви бачите його обмеження. Ви розумієте, що це інструмент, а не магія.

Покоління, яке виросло з iPhone, звикло до герметично закритих платформ. Вони користуються, але не створюють.

А щоб уникнути AI-психозу, треба відновити культуру мейкерства: експериментуйте з промптингом, налаштовуйте моделі під себе, розумійте, як вони працюють.

Коли ви розумієте, як готується сосиска, ви перестаєте думати, що це магія.

Висновок: вибір між двома майбутніми

Suleyman не проти AI. Він за AI — але за правильний AI.

Є два шляхи: шлях космологістів (AI як нова форма життя, яка замінить людей і полетить до зірок) та шлях гуманістів (AI як інструмент, який допомагає людям процвітати).

Перший шлях призводить до AI-психозу, втрати контролю, екзистенційних ризиків. Другий шлях вимагає дисципліни, чесності, нових метафор — але він залишає людство у центрі.

І вибір — за нами. Не за AI, не за корпораціями, а за суспільством.

Чим швидше ми зрозуміємо, що AI — це не «майже-людина», а щось принципово інше (четвертий клас у природі), тим краще ми підготуємося до майбутнього, де інтелект дешевий, а свідомість — все ще унікальна та цінна.

Mustafa Suleyman працює над новою книгою про гуманістичну суперінтелігенцію. Його співрозмовник — над книгою про політичну економію після дефіциту. Обидві мають вийти найближчим часом.