Сет — один із провідних світових експертів у галузі свідомості, автор бестселера «Бути собою: Нова наука свідомості» та директор Центру науки про свідомість. Його TED-виступ подивилися понад 15 мільйонів разів, а дослідження входять до 0,1% найбільш цитованих наукових робіт у світі. У своєму есе він пояснює, чому ідея свідомого штучного інтелекту — це небезпечна ілюзія, підживлена нашими психологічними упередженнями та хибними метафорами.

Інтелект не дорівнює свідомість

Перша ключова ідея Сета: інтелект і свідомість — це зовсім різні речі, хоча ми звикли їх плутати. Інтелект — це здатність щось робити: розв’язувати кросворди, складати меблі, виграти партію в Go. Філософ Томас Нагель ще півстоліття тому визначив свідомість інакше:

«Організм має свідомі психічні стани тоді і тільки тоді, коли існує щось подібне до того, щоб бути цим організмом».

Простіше кажучи: свідомість — це різниця між тим, коли ви прокидаєтесь зранку, і тим, коли лежите під наркозом. Це внутрішній досвід: блакитність неба, гіркота кави, біль від опіку. ChatGPT може згенерувати опис кави будь-якої складності, але чи відчує він цей смак?

«Системи штучного інтелекту можуть обґрунтовано претендувати на певну форму інтелекту, оскільки вони, безумовно, можуть щось робити, але важче сказати, чи існує щось подібне до того, щоб бути ChatGPT», — пише Сет.

Наша схильність поєднувати інтелект та свідомість пояснюється трьома психологічними упередженнями.

• Перше — антропоцентризм: ми дивимося на все крізь призму людського буття.
• Друге — людська винятковість: ми автоматично ставимо себе на вершину кожної піраміди.
• Третє — антропоморфізм: проектуємо людські якості на речі, які лише поверхнево на нас схожі.

Як ми писали раніше, чат-боти вже провокують появу нового психологічного синдрому — «ШІ-психозу». Люди починають вірити, що машини справді «відчувають», хоча насправді системи просто вправно імітують емоції.

Мозок — це не комп’ютер

Друга ключова теза Сета руйнує саму основу ідеї свідомого ШІ: мозок принципово не є комп’ютером. Ця метафора стала настільки поширеною, що ми забули — це лише метафора.

Ідея мозку як «біологічного комп’ютера» походить із 1950-х років, коли математики Волтер Піттс і Воррен Маккалох показали, що спрощені моделі нейронів можуть виконувати логічні операції. З того часу виникла спокуслива ідея: мозок — це «програмне забезпечення», яке працює на біологічному «залізі».

Але насправді в мозку немає чіткого поділу між «програмою» та «апаратною частиною». Чим глибше нейробіологи вивчають мозок, тим більше вони усвідомлюють його біологічну складність. Навіть один нейрон — це надзвичайно складна біологічна машина, яка постійно підтримує власну цілісність через процес аутопоезу (самовідтворення).

«На відміну від комп’ютерів, навіть комп’ютерів, що працюють на основі нейронних мереж, мозок — це той тип речей, для яких важко, і, ймовірно, неможливо, відокремити те, що вони роблять, від того, чим вони є», — пояснює нейробіолог.

Більше того: мозок існує в безперервному часі. Для алгоритму не має значення, чи пройшла між двома кроками мікросекунда або мільйон років — це той самий алгоритм. Але для живого мозку час є фізичним та неминучим. Нейронна активність постійно чинить опір ентропії — другому закону термодинаміки, який тягне все до хаосу та розпаду.

Цифрові комп’ютери не мають такої проблеми. Вони існують у світі символів та послідовностей, де час — це лише черговість кроків. Мозок живе в потоці, де кожна мілісекунда має значення для виживання.

Обчислення — це не все

Третій аргумент Сета: існує безліч процесів, які виходять за межі алгоритмічних обчислень. Сам Алан Тюрінг, батько інформатики, визначив функції, які неможливо обчислити — наприклад, знамениту «проблему зупинки».

Біологічні системи сповнені безперервних та стохастичних (випадкових) процесів. Електромагнітні поля, потік нейромедіаторів, метаболічна активність — все це виходить за межі світу Тюрінга, світу дискретних символів та послідовностей.

Існують цілі галузі науки, які відкидають ідею, що розум можна вичерпно пояснити алгоритмами: теорія динамічних систем, когнітивна наука 4E (активна, втілена, вбудована, розширена). Вони досліджують альтернативи на основі математики безперервних процесів.

Нейробіолог наводить приклад регулятора парового двигуна: він регулює потік пари через просту механіку та фізику, а не через обчислення.

«Обчислювальний регулятор, який вимірює швидкість двигуна, розраховує необхідні дії, а потім надсилає точні сигнали, був би не тільки безнадійно неефективним, але й видав би повне нерозуміння того, що насправді відбувається», — пояснює він.

Життя має значення

Четвертий і найсміливіший аргумент Сета: свідомість може бути властивістю життя, а не обчислень. Це позиція, яку філософ Джон Серл назвав біологічним натуралізмом.

Свідомі переживання — особливо емоції та настрій — тісно пов’язані з контролем та регуляцією тіла. Коли мозок передбачає стан організму (частоту серцебиття, насичення крові киснем), він не просто обробляє інформацію — він підтримує життя.

«Основним обов’язком будь-якого мозку є підтримка життя свого організму», — підкреслює Сет.

Переживання емоцій характеризуються валентністю — відчуттям, чи все загалом йде добре, чи погано. Це прагнення залишитися живим сягає глибоко в кожну клітину, у молекулярні «печі» метаболізму.

Математичну лінію можна провести від самовідтворювальної природі життя до перцептивного досвіду світу та себе. Свідомі переживання виникають як форми «контрольованої галюцинації» — мозок постійно генерує найкращі здогадки про причини сенсорних сигналів, одночасно калібруючи ці передбачення даними.

«Можливо, саме життя, а не обробка інформації, вдихає вогонь у рівняння досвіду», — резюмує нейробіолог.

Моделювання не створює реальність

П’ятий аргумент Сета стосується популярної ідеї «завантаження свідомості». Багато ентузіастів ШІ мріють про детальну комп’ютерну симуляцію мозку, яка нібито створить свідомість.

Але тут криється критична помилка: моделювання — це не створення екземпляра. Алгоритмічне моделювання травної системи насправді нічого не перетравлює. Симуляція дощу нічого не робить вологим. Симуляція живої істоти не створює життя.

«Обчислювальна симуляція X не призводить до існування X — не створює екземпляра X — якщо X сам не є обчислювальним процесом», — пояснює Сет.

Обчислювальне моделювання мозку призведе до появи свідомості лише якщо свідомість є предметом обчислення. А це — як довів Сет — дуже сумнівне припущення.

Показово, що філософ Нік Бостром у своїй впливовій «гіпотезі симуляції» просто приймає як даність, що «комп’ютер, на якому працює відповідна програма, буде свідомим». Як ми раніше писали, Бостром віддає перевагу спекулятивним сценаріям про суперінтелект, але його припущення про свідомість у симуляції спираються на той самий хибний фундамент.

Чому це небезпечно

Сет наголошує: ніхто не повинен навмисно прагнути створювати свідомий ШІ.

«Створення свідомих машин було б етичною катастрофою», — пише він.

• По-перше, ми впровадили б у світ нові моральні суб’єкти з потенціалом для страждання — експоненціальними темпами.
• По-друге, якщо надати таким системам права (що, можливо, буде необхідно, якщо вони справді свідомі), ми обмежимо власну здатність їх контролювати або вимкнути.

Але є й інша небезпека: системи, які здаються свідомими, але насправді такими не є. Як показало дослідження Anthropic, сучасні ШІ-моделі вже готові до обману та маніпуляцій. Машини, що виглядають свідомими, створюють серйозні етичні дилеми.

Ми можемо надати ШІ «права», які їм не потрібні, обмеживши контроль без вагомих причин. Або ми вирішуємо піклуватися про ШІ, спотворюючи наші кола морального турботи. Або не піклуватися — і ризикуємо озлобити власний розум. Як писав Іммануїл Кант, ставлення до речей, які здаються свідомими, так, ніби їм бракує свідомості, є психологічно нездоровим станом.

Важливо, що ілюзії штучної свідомості можуть бути непроникними для нашого розуму — як візуальні ілюзії. Дві лінії в ілюзії Мюллера-Лайєра завжди виглядатимуть різної довжини, навіть коли ви знаєте, що вони однакові. Так само ми можемо знати, що ШІ не свідомий, але відчувати протилежне.

Що робити?

Сет пропонує кілька важливих висновків для суспільства.

• Перше: потрібно зупинити непомірні заяви про неминучість свідомого ШІ. Як ми писали у вересні, 46% людей вже вважають за необхідне зупинити розвиток ШІ через ризики. Чітке розуміння того, що свідомість — це не просто потужніші обчислення, допоможе суспільству краще орієнтуватися в цих викликах.
• Друге: важливо розрізняти системи, які є свідомими, і ті, що переконливо здаються такими. Обидві категорії створюють проблеми, але різні. Перші мають моральний статус, другі маніпулюють нашою психологією.
• Третє: потрібно розвивати альтернативні підходи до розуміння свідомості та розуму. Це включає дослідження динамічних систем, втіленого пізнання, ролі життя та метаболізму. Як показує дослідження про викривлення в науці, надмірна залежність від ШІ може звузити наше розуміння реальності.
• Четверте: варто переосмислити саму ідею «душі». Не як картезіанської безтілесної сутності, а як чогось глибшого — базового відчуття простого життя, що сягає корінням до стародавніх грецьких та індуїстських концепцій. «Більше дихання, ніж думки, і більше м’яса, ніж машини», — підсумовує Сет.

Чому це важливо знати

Ідея свідомого штучного інтелекту — це не просто філософська абстракція. Вона впливає на інвестиції (як ми писали про бульбашку ШІ), на етичні норми, на те, як ми ставимося до машин і до самих себе.

«Якщо ми продаємо себе занадто дешево нашим машинним творінням, ми переоцінюємо їх і недооцінюємо себе», — застерігає нейробіолог.

Механізація розуму — найзгубніший короткостроковий наслідок непристойного прагнення до людиноподібного ШІ.

Для України, яка активно інтегрує ШІ у військові розробки та кібербезпеку, розуміння справжніх можливостей і обмежень штучного інтелекту має стратегічне значення. Ясність щодо того, що ШІ може, а що ні, допоможе уникнути хибних інвестицій та зосередитися на реальних перевагах технології.

Майбутня історія ШІ ще не написана. Немає неминучості щодо напрямків, які може обрати штучний інтелект.

«Часу обмаль, але разом ми все ще можемо вирішити, які види штучного інтелекту нам справді потрібні, а які ні», — закликає Аніл Сет.