Якщо ШІ поводиться як людина, чи є в нього свідомість?

Уявіть співрозмовника, який підтримує бесіду, міркує, пам’ятає сказане й може змінити думку. Він виявляє цікавість, емоції та ще багато чого. Чи є в нього свідомість?

Прихильники функціоналізму (functionalism) відповіли б «так». Для цієї філософської позиції важливо, що робить той, хто думає, а не те, з чого він зроблений.

Тож якщо ШІ колись навчиться всього цього, неважливо, з чого він складається. З плоті, з кремнію (матеріалу, з якого роблять комп’ютерні чипи) чи навіть із кубиків LEGO.

Дехто навіть вважає, що відмовити такій істоті у свідомості — це новий різновид упередженості й вузьколобості.

Девід Вайнбергер з цим не погоджується і готовий заявити про це прямо, хоч і розуміє, що ризикує. Керівники деяких компаній, які розробляють ШІ, натякали на протилежне. Але Вайнбергер знає, що великі мовні моделі, з якими він спілкується, свідомості не мають.

Великі мовні моделі (LLM) — це програми, на яких працюють сучасні чатботи. Вони навчилися на гігантських масивах текстів і тепер пишуть майже як люди.

Найцікавіше — чому він у цьому такий упевнений. Річ не в експериментах чи вимірюваннях. Вайнбергер просто вважає, що саме поняття свідомості таких моделей не має сенсу.

Китайська кімната: розмова без розуміння

Хід думок Вайнбергера починається зі знаменитого уявного експерименту «Китайська кімната» (Chinese Room). 1980 року його запропонував американський філософ Джон Серл (John Searle, 1932–2025).

Уявіть, що ви опинилися в кімнаті без вікон і дверей. У стіні є лише вузька щілина. У кімнаті лежать докладні інструкції англійською — мовою, яку ви розумієте. Вони пояснюють, як зіставляти одні «закарлючки» з іншими. Для цього є велетенська книжка таких відповідностей.

Аж ось крізь щілину просовують записку китайською. Ви не знаєте китайської. Ви навіть не здогадуєтеся, що ці знаки — мова. Але ви знаходите їх у книжці, виписуєте ті знаки, які вона велить, і просовуєте папірець назад.

Відповідності в книжці настільки вдалі, що люди за стіною, які говорять китайською, не мають жодних сумнівів. Вони певні, що ведуть змістовну розмову з кимось, хто розуміє китайську. А ви тим часом просто переставляєте дивні позначки на папері. Для вас вони цілковито позбавлені змісту.

То чи можна сказати, що ви розумієте китайську?

Чому комп’ютер не знає, що означають слова

Джон Серл стверджує: саме так працюють комп’ютери. Навіть ті, що здаються свідомими. Вони оперують символами за правилами, але не знають, що ці символи означають. Ба більше — навіть не знають, що це взагалі символи.

Згадайте навігатор у телефоні. Він каже «за 200 метрів поверніть ліворуч», але не знає, що таке вулиця. І не уявляє, як це — запізнюватися на важливу зустріч.

Китайська кімната, за Серлом, показує: самих маніпуляцій із символами для свідомості замало. Адже значення символу надає свідомість, що існує окремо від нього. Серл називає таке значення зовнішнім (extrinsic). Його має надати хтось інший, ззовні.

Подумайте про літеру «А». Сама по собі вона — лише три рисочки на папері. Звуком і частиною слова її робить людина, яка читає.

Біль, банан і крок: свідомість без перекладу

Наша свідомість влаштована інакше. Ви хапаєтеся за гарячу ручку каструлі й обпікаєтеся. Відкушуєте банан. Ставите ліву ногу поперед правої, коли прогулюєтеся.

У жодному з цих випадків вам не треба нічого «перекладати» в біль, смак банана чи ходьбу. Ваш мозок — частина живого тіла. А тіло безпосередньо відчуває біль, смакує їжу й уміє ходити, не дивлячись під ноги. Жодних символів, жодних перекладів.

За Серлом, така свідомість — внутрішня, тобто притаманна сама собі (intrinsic). Їй не потрібна інша свідомість, яка надала б їй значення.

Але звідки береться ця внутрішня природа свідомості? Серл цього не пояснює.

Чашка чи вазон: як Мартін Гайдеґґер дивився на речі

А от звідки береться внутрішня природа свідомості, пояснив німецький філософ Мартін Гайдеґґер (Martin Heidegger, 1889–1976), і зробив це за пів століття до Серла. 1927 року вийшов його шедевр — книжка «Буття і час».

Гайдеґґера цікавило не те, як ми пояснюємо світ. Він придивлявся до того, як ми переживаємо його у звичайному, буденному житті. І помітив дивну річ: напрочуд часто наше розуміння світу не збігається з тим, що ми насправді відчуваємо.

У повсякденні речі майже завжди постають перед нами у світлі того, що ми зараз робимо або задумали. Візьмімо порожню банку з-під варення. Якщо вам нема з чого попити, вона раптом здається чашкою. А якщо треба кудись посадити квітку, та сама банка стає тимчасовим вазоном.

Тож ми бачимо світ ніби в подвійному світлі. З одного боку — наша справа чи задум. З іншого — те, чим річ може в цій справі допомогти. Обидва погляди показують нам світ крізь те, що для нас важливо саме зараз і саме за цих обставин.

Але чому для нас узагалі щось має значення?

Замкнене коло: чому нам не байдуже

Гайдеґґер відповідає так: ми знаємо, що весь час чимось ризикуємо. Але саме по собі це нічого не пояснює. Ризик мав би значення лише тоді, якби ми про нього турбувалися.

Тож виходить замкнене коло. Ми турбуємося, бо знаємо: наші задуми завжди можуть зірватися, а саме життя — обірватися. Але ця небезпека важить для нас тільки тому, що ми турбуємося. І так по колу, знову і знову.

Турбота (care) — головне слово в цих міркуваннях. Зрештою Гайдеґґер зводить усе коло до одного знання: колись ми помремо. Можливо, навіть сьогодні. І нам до цього не байдуже. Але знову постає те саме питання: чому?

Де розривається коло: у нашому тілі

Прямо Гайдеґґер про це не пише. Але Вайнбергер пропонує продовжити його думку: усе зводиться до того, що ми маємо тіло. Філософською мовою — до тілесності (embodiment).

Саме тут коло й зупиняється, бо турбота від природи закладена в тілі. Це та точка опори, якої шукав Серл.

Турбота мусить жити в нас зсередини, бо цього вимагає тіло. Йому треба уникати болю, їсти, спати й обережно йти туди, куди кличуть приємні відчуття. Сонливість, голод, біль і задоволення не треба тлумачити, бо це не символи. А ще ваше тіло за своєю суттю — це ви, а ви — це ваше тіло.

«Турбота і тілесність глибоко переплетені», — пише Девід Вайнбергер.

Згадайте смак шматка яблучного пирога. Ви не розшифровуєте, що він смачний, а просто це відчуваєте. Так само з болем, коли вдаряєтеся пальцем ноги. А коли дитина залазить вам на коліна, щоб пригорнутися, ви можете сприйняти це як знак любові. Але тільки тому, що ваше тіло цю любов уже відчуло. Жодної миті вона не була для вас чорнильною закарлючкою незнайомою мовою.

Тіло — наше перше й головне джерело внутрішнього досвіду. А форму цьому досвіду надають безліч способів, якими ми про щось дбаємо.

Турбота завжди конкретна: від дитини до шкарпеток

Може здатися, що «усе зводиться до турботи» — найзагальніше, що можна сказати про людську свідомість. Але в повсякденному житті турбота завжди конкретна. Щонайменше у трьох сенсах.

• Про що і як. Турбота завжди має свій предмет і свій спосіб про нього дбати. Це може бути партнер чи дитина. А можуть бути й шкарпетки в сушарці, місце на спині, яке свербить, або золота рибка, яку пора погодувати.
• Чому саме зараз. Обставини турботи теж завжди конкретні. Про шкарпетки ви дбаєте, бо надворі холодно. Про свербіж — бо він аж проситься, щоб його почухали. Про рибку — бо діти засмутяться, якщо побачать її догори черевцем. Та й ви, зрештою, до неї вже прив’язалися.
• Дрібниці. Турбота чутлива до деталей. Гостро відчути, що людина вам не байдужа, можна через те, як вона на вас дивиться. Або через жест, у якому є почуття, що ви не можете до кінця назвати. Або через те, як вона подається вперед, уважно вас слухаючи. Турбота часто знаходить правду саме в подробицях.

Закинуті у світ без нашої згоди

Те, про що і як ми дбаємо, залежить від світу, у якому ми народилися. Гайдеґґер хотів наголосити, наскільки цей факт неминучий, тому дав йому жорстку назву — закинутість (thrownness).

Нас ніхто не питає. Кожен із нас без власної згоди з’являється на світ у певній культурі, мові, місці, родині тощо. Саме це й означає бути прив’язаним до своєї ситуації. Так стається з кожною істотою, що має тіло. Адже тіло не може перебувати водночас у кількох місцях чи в кількох часах.

«Кидати як дівчинка»: коли тіло каже «я не можу»

Закинутість формує не лише розум, а й тіло. Це блискуче показала американська філософиня і феміністка Айріс Меріон Янг (Iris Marion Young, 1949–2006) в есеї «Кидати як дівчинка» (Throwing Like a Girl) 1980 року.

Вона детально описала, як типове становище дівчинки, що росте в країні на кшталт Америки, позначається навіть на найбуденніших рухах. Наприклад, на тому, як дівчата носять книжки або переходять струмок по камінцях. Таке становище накладає внутрішнє «я не можу» на багато справ, за які вони думають узятися.

Чого бракує штучному інтелекту

Тіло може так глибоко засвоїти своє становище лише з однієї причини. У своєму досвіді ми не сидимо в замкненій кімнаті, куди просовують загадкові символи, які треба розшифрувати.

Ми, істоти з тілом, живемо просто серед світу. Коли нас застає раптова злива, мокра шкіра — це не знак, який треба тлумачити. Ми просто відчуваємо, що змокли.

Наша тілесність — це внутрішня, безпосередня відкритість до світу. Саме її, переконаний Девід Вайнбергер, і бракує штучному інтелекту.

Раніше ми писали

• Йоша Бах: світ, який ви бачите, малює ваш мозок
• Чому заборона на «свідомість» ШІ шкодить тваринам
• Мітла, яка вчиться: Ювал Харарі пояснив, чим небезпечний ШІ