Три помилки, через які ми вірим у свідомий ШІ

Сет виділяє три психологічні упередження, які змушують людей плутати інтелект і свідомість.

• Перше — антропоцентризм: ми бачимо все через призму людського досвіду і приймаємо його за стандарт замість одного з варіантів.
• Друге — людська винятковість: звичка ставити нашу расу на вершину будь-якої піраміди, іноді ближче до ангелів, ніж до інших тварин.
• Третє — антропоморфізм: схильність приписувати людські якості нелюдським об’єктам на основі поверхневої схожості.

«Якщо ми змішуємо багатство біологічних мозків і людського досвіду з обробкою інформації чатботами з дипфейками, ми несправедливо ставимося до наших розумів, мозків і тіл», — пише Сет у своєму есе.

За його словами, якщо продавати себе занадто дешево машинам власного створення, ми переоцінюємо їх і недооцінюємо себе.

Мозок — це не комп’ютер із програмою

Ключова відмінність між біологічним мозком і штучним інтелектом — неможливість відокремити «програмне забезпечення» від «апаратного». Як ми раніше писали, Сет досліджує свідомість понад 20 років і класифікував 22 наукові теорії на цю тему. Усередині мозку немає чіткого поділу між «mindware» і «wetware», як це є між софтом і залізом у комп’ютері. Чим глибше заглиблюєшся в тонкощі біологічного мозку, тим більше розумієш, наскільки він багатий і динамічний порівняно з мертвим кремнієм.

Активність мозку розвивається в численних масштабах простору й часу — від великих кіркових територій до деталей нейротрансмітерів і нейронних ланцюгів, усе глибоко переплетене з молекулярним штормом метаболічної активності. Навіть один нейрон — це вражаюче складна біологічна машина, зайнята підтримкою власної цілісності та регенерацією умов для свого існування. Цей процес називається аутопоез — від грецького «самовиробництво».

Час мозку проти часу комп’ютера

Сет пропонує захопливий погляд на різницю між біологічним і обчислювальним часом. В обчислювальній обробці має значення лише послідовність: A до B, 0 до 1. Між будь-яким переходом станів може бути мікросекунда або мільйон років — це все одно буде той самий алгоритм, те саме обчислення. Натомість для мозку й біологічних систем загалом час фізичний, безперервний і невідворотний.

Живі системи повинні постійно протистояти розпаду й безладу, які чекають на траєкторії до ентропійної однаковості, що диктується другим законом термодинаміки. Це означає, що нейробіологічна активність закріплена в безперервному часі так, як алгоритми за задумом не є. Більше того, багато дослідників — особливо в феноменологічній традиції — давно підкреслювали, що свідомий досвід сам по собі надзвичайно динамічний і за своєю суттю темпоральний. Він не переривається від одного стану до іншого; він тече.

Свідомість народжується з потреби вижити

Усе це вказує на розуміння, що свідомість вкорінена в імперативі живих організмів вдосконалювати сприйняття того, де і як вони розташовані у світі, а потім обирати поведінку, що сприяє їхньому біологічному виживанню. Як зазначає нейронауковець Антоніо Дамасіо, позитивні й негативні сигнали зворотного зв’язку про успіх або невдачу в цьому прагненні вижити й процвітати — «почуття» — є джерелом емоцій, які у вищих істот еволюціонують у культуру.

«Ми відчуваємо навколишній світ і себе в ньому — через, разом і завдяки нашим живим тілам», — підсумовує Сет.

Можливо, свідомість народжується не з обчислень, а з самого факту, що ми живі. Сет вважає, що наша найглибша суть — це не розум чи логіка, а базове відчуття «я існую, я дихаю, я відчуваю». Це ідея, яку обговорювали ще стародавні грецькі філософи й індійські мислителі тисячі років тому. Свідомість — це не програма, яка працює в тілі. Це властивість самого живого тіла.

Нобелівський лауреат передбачив цю дискусію 20 років тому

Цікаво, що ідеї Сета не нові — їх передбачив нобелівський лауреат Джеральд Едельман ще в 2004 році, задовго до ChatGPT і нейромереж.

Едельман пояснював просто: мозок не існує сам по собі. Він працює разом із тілом, а тіло — у постійному контакті з навколишнім світом. Ці три елементи — мозок, тіло, середовище — не можна відокремити один від одного. Свідомість виникає саме з їхньої взаємодії, а не з якогось одного «центру управління».

Едельман називав це «селективним репертуаром» — уяви собі, що твій мозок постійно перебирає мільйони варіантів реакцій на світ, а потім обирає найкращий. Це не програма з чіткими правилами. Це жива система, яка постійно експериментує.

І ось що важливо: те, що для комп’ютера є помилкою або «шумом», для людини — це джерело творчості. Комп’ютер працює за алгоритмом: якщо дані не ідеальні, результат — помилка. Але людина саме через цю «неточність» може писати вірші, малювати картини, відчувати настрій від ранкової кави. Це не баг — це фіча нашої свідомості.

Чому це важливо знати

Дебати про свідомість ШІ — це не просто філософська вправа. Від відповіді на це питання залежить, як ми розроблятимемо штучний інтелект, які права і обов’язки надамо автономним системам, і чи не втратимо щось важливе про саму природу людської свідомості в гонці за технологічним прогресом. Есе Сета нагадує: перш ніж навчати машини «думати», варто зрозуміти, що насправді означає бути свідомим — і чому це неможливо без життя.