Хто такий Террі Сейновскі і чому його варто слухати

Сейновскі — не сторонній спостерігач хайпу навколо штучного інтелекту (ШІ), а один із його архітекторів. За освітою він фізик-теоретик, доктор філософії з Принстона. Свого часу зрозумів, що фізика дійшла до межі, де для нового відкриття потрібен прискорювач завдовжки в милі або супутник на орбіті. А мозок виявився не менш загадковим за Всесвіт — але його хоча б можна вивчати в лабораторії.

У 1979 році на невеликій конференції в Сан-Дієго він познайомився з Джеффрі Гінтоном — майбутнім нобелівським лауреатом і «хрещеним батьком» глибокого навчання. Вони одразу порозумілися: обох цікавило, як мозок узагалі здатен розв’язувати складні задачі. Науковим керівником Сейновскі був Джон Гопфілд, чию модель вони згодом узагальнили дивовижним способом — додавши до неї «шум», тобто фактично «нагрівши» фізичну модель спінового скла.

Саме це нагрівання дало змогу знаходити не лише локальні, а й глобальні розв’язки — а заразом народило один із найкрасивіших результатів у кар’єрі Сейновскі: алгоритм навчання, що працює, коли система приходить у рівновагу. Це була машина Больцмана. Вона зрушила застряглий механізм і проклала шлях до методу зворотного поширення помилки, який Гінтон і Девід Румельгарт представили невдовзі. Решта — історія: ImageNet у 2012 році запустив революцію глибокого навчання, потім з’явилися трансформери, а з ними — генеративний ШІ, чиїм найпублічнішим обличчям став ChatGPT.

ChatGPT — це дзеркало

Нова книга Сейновскі народилася з простого спостереження. Він помітив, що академіки — лінгвісти, когнітивісти, фахівці з ШІ — роками сперечаються, чи «розуміє» ChatGPT мову, і ніяк не можуть дійти згоди. І зрозумів, звідки розбіжності.

Чат-бот навчений на тисячах книжок і безлічі статей — від романів до підручників. Тому він зберігає в собі сотні «персон» і змушений щоразу обирати одну з них. Яку саме — вирішуєте ви своїм запитом. Скажете «будь поетом» — отримаєте поета. Скажете «будь програмістом» — отримаєте програміста. Від того, як ви формулюєте, прямо залежить якість відповіді.

І тут Сейновскі побачив головне: це дзеркало. Модель дивиться на вас і намагається відбити те, що ви в неї вкладаєте. Те, що багато хто приймає за «інтелект машини», насправді часто є відображенням інтелекту самого співрозмовника.

Не людина і не машина — радше інопланетянин

Помилка, на думку вченого, у тому, що ми весь час намагаємося судити чат-бот за людськими мірками: людина воно чи ні. Очевидно, що ні. Але це й не «просто програма».

Сейновскі пропонує іншу рамку: уявіть, що на Землю прибув інопланетянин, який вільно говорить нашою мовою, але прийшов зовсім з іншого світу. Він мислить не так, як ми, і порівнювати його з людиною — глухий кут. Натомість він відкриває нам дещо глибше — про бідність наших власних слів.

Чому ми досі в «докоперниканській» добі

Слова на кшталт «інтелект», «розуміння», «свідомість» дісталися нам від психології XIX століття, а то й давнішої. Вони розмиті й багатозначні — на відміну від фізичних понять «маса», «енергія», «матерія», які чітко прив’язані до вимірів.

Сейновскі каже, що в науці про ШІ ми перебуваємо в «докоперниканській» добі: користуємося термінами, по-справжньому не розуміючи, що за ними стоїть. Але є й хороша новина. Уперше ми створили штучні об’єкти, які мають частину властивостей мови й розуміння. Якщо ми навчимося розуміти їх математично, можливо, нарешті зрозуміємо й власний мозок — і мозок інших тварин.

Чи «розуміє» ChatGPT? Залежить від того, що таке розуміння

Тут Сейновскі робить тонкий хід. Він нагадує, що навіть серед людей немає одного-єдиного способу «розуміти». Фізик розуміє будову речовини краще за пересічну людину. Але столяр розуміє дерево краще за фізика — він знає волокно, знає, як його різати, чим відрізняються породи. Рівнів розуміння багато.

Аргумент Гінтона, який Сейновскі схильний підтримати, такий: щоб добре передбачити наступне слово, модель мусить мати непогану внутрішню картину того, про що це речення. А це вже семантика — значення, а не лише граматика. Що довше тренуєш модель, то точнішою стає ця внутрішня картина. У певний момент вона стає достатньо доброю, щоб видавати осмислені слова. Можна назвати це поверхневим розумінням — але це вже розуміння.

Скептики заперечують відомим аргументом про «стохастичного папугу»: мовляв, модель лише передбачає наступний токен за ймовірностями з навчальних даних. Коли вона влучає в те, що ми вважаємо правильним, — ми називаємо це розумінням. Але, зауважує Сейновскі, тут постає незручне дзеркальне питання: а що, як і ми самі — лише мережа ваг, накопичених за життя?

Хід №37, який не зрозумів ніхто

Найяскравіший доказ, що тут діється щось більше за пошук відповідей у таблиці, — славнозвісна партія го 2016 року в Сеулі. Програма AlphaGo проти чемпіона Лі Седоля зробила цілком неортодоксальний хід №37: поставила камінь у порожній частині дошки. Лі Седоль підвівся з-за столу й відійшов подумати. Не зрозумів ніхто. А наприкінці партії саме цей хід переламав гру.

Це був знак: моделі здатні на творчість — те, що ми завжди вважали найвищим рівнем людського мислення. Причому подібне спостерігали ще наприкінці 1980-х. Колега Сейновскі Джеральд Тесауро навчив мережу грати в нарди, давши їй грати самій із собою. Звільнена від людських шаблонів, вона дійшла до чемпіонського рівня й робила ходи, яких до неї не робив жоден гравець. Той самий принцип гри проти себе згодом став секретом AlphaGo.

Галюцинації — це зворотний бік творчості

Окрема цікава думка стосується «галюцинацій», за які ШІ часто лають. Сейновскі дивиться на них інакше: це і є творчість, тільки з вивороту. Модель не вигадує абищо — вона породжує цілком правдоподібні речі, які могли б існувати, але не існують.

І це, виявляється, дуже по-людськи. Люди теж конфабулюють — у медицині це називається інакше, але суть та сама. При синдромі Корсакова мозок щиро видає за правду те, чого не було, бо не здатен сам себе перевірити. Сейновскі додає просту ілюстрацію: запитайте людину, якого кольору була її сорочка на п’ятий день народження. Вона впевнено скаже «синя» й навіть «побачить» цю картинку — а на старому фото сорочка виявиться помаранчевою. Яскравий, переконливий, але хибний спогад — теж форма галюцинації.

Мережі обожнюють мову: урок 1980-х

Що нейромережі мають особливий хист саме до мови, стало зрозуміло давно. Ще в 1980-х Сейновскі з колегою зробили крихітну за нинішніми мірками систему NetTalk — близько 200 вузлів і 20 тисяч зв’язків. Завдання було пекельне: англійська вимова, де одна літера може читатися кільканадцятьма способами, а правила мають винятки, винятки з винятків і 300-сторінкові довідники.

Мережу «озвучили» через синтезатор DECtalk — і її можна було слухати. Спершу вона лепетала, як немовля. Потім почала вимовляти короткі слова. А наприкінці вже впевнено читала зовсім новий текст, який ніколи не бачила. Вона ввібрала не лише закономірності, а й винятки. Якщо така дрібничка вже тоді вміла таке — не дивно, на що здатні сучасні моделі. І все ж навіть із трильйоном ваг ШІ досі крихітний поряд із мозком, де синапсів — близько тисячі трильйонів.

Чому ж тоді ChatGPT не свідомий

А тепер найголовніше. Модель, що лежить в основі ChatGPT, імітує переважно кору головного мозку — велику базу знань. Але кора — лише одна зі ста структур мозку, без яких він не працює. Тобто більшості мозку в чат-боті просто немає. Сейновскі наводить «топ» того, чого бракує.

Перше — у ChatGPT немає цілей. Природа вбудувала в нас виживання, розмноження, потребу їсти, спати, бути в соціальній групі. Модель навчали без жодної справжньої мети — і без уявлень про те, що добре, що погано, що небезпечно. Дитину постійно поправляють батьки, ровесники, вчителі. Чат-бот такого зворотного зв’язку не отримує ніколи.

Друге — немає системи оцінки винагороди, яку в мозку забезпечують базальні ганглії. Саме такий «ціннісний» механізм був, до речі, у AlphaGo: він прогнозує майбутню винагороду й підказує, що робити далі. У людей це працює через помилку передбачення винагороди — різницю між очікуваним і отриманим. У ChatGPT ціль була зовсім поверхова: вгадати наступне слово.

Третє — і це справжній «стоп-кадр» для розмов про свідомість. Поки ви говорите з чат-ботом, він відповідає слово за словом, ввічливо дякує — і зупиняється. І що відбувається в мережі після зупинки? Нічого. Абсолютно нічого. Вона порожня, доки ви не дасте новий запит, у ній немає жодної самопороджуваної активності. А тепер посадіть людину в кімнату без жодних подразників. Що відбувається? Вона думає, планує, згадує вчорашнє, прокручує образи, іноді мучиться через них — потік думок не зупиняється навіть без вхідних сигналів. Саме тому, каже Сейновскі, питання про свідомість ШІ — буквально «без мозку».

Четверте — немає автономності. Польова миша сама шукає їжу, риє нори, орієнтується в реальному фізичному світі. Будь-яка комаха, будь-яка рослина — самодостатня й саморегульована. А ChatGPT абсолютно безпорадний: він повністю залежить від нас — від живлення, від наших запитів, від оновлень. Він закутаний у складний кокон технологій. У цьому сенсі звичайна миша набагато «просунутіша» за найкращий сучасний ШІ, бо вона вміє те, чого моделі не вміють зовсім, — жити у світі, який складається не зі слів, а з фізики.

Муха проти суперкомп’ютера за $100 мільйонів

Цю різницю Сейновскі любить ілюструвати історією, яка сталася з ним самим. У 1980-х його, прихильника «несерйозного» тоді підходу нейромереж, запросили з лекцією до Массачусетського технологічного інституту (MIT) — у саме лігво класичного ШІ. Уже біля ліфта господар попередив: «Террі, тут ненавидять те, чим ти займаєшся». На обговорення дали п’ять хвилин.

Він глянув на стіл із сендвічами, побачив муху — і спитав залу: ось ця муха літає, знаходить їжу, розмножується, і робить це сотнею тисяч нейронів. А у вас у підвалі суперкомп’ютер Cray за сто мільйонів доларів, який не вміє ні літати, ні бачити, ні розмножуватися. Що тут не так? У відповідь — мертва тиша.

Хтось сказав: «Ми просто ще не написали програму для зору». Сейновскі нагадав, що DARPA — оборонне дослідницьке агентство США — вклала в комп’ютерний зір мільярди, а програми досі немає. Інший заперечив: Тюрінг же довів, що цифровий комп’ютер здатен на будь-яке обчислення, тож програму колись знайдуть. На що вчений відповів: питання не лише в тому, чи знайдеться програма, а в тому, як швидко вона дасть відповідь, — бо в природі від швидкості рішення залежить, з’їдять тебе чи ні.

Правильну відповідь дав студент у задньому ряду. Універсальний комп’ютер може виконати будь-яку програму, але неефективно. А мозок мухи вміє лише одне — і робить це блискуче, бо в нього алгоритм і є «залізо»: він закодований у самій структурі зв’язків між нейронами. Звідси висновок Сейновскі: реверс-інжиніринг мозку мухи навчить нас бачити й ухвалювати рішення краще за будь-яку універсальну машину. Природа спеціалізована — і саме тому ефективна.

Агенти, несподіванки і справжня загроза

Наступний рубіж — агенти: системи, яким даєш ціль, і вони виконують її самостійно, передаючи результат одна одній ланцюжком. Чи може це призвести до чогось непередбачуваного? Сейновскі чесно каже: ніхто не знає. Сам ChatGPT був величезною несподіванкою, машинний переклад — теж.

Але він додає тверезу математичну ремарку: два ChatGPT, що говорять між собою, — це по суті один великий ChatGPT. Так, частина внутрішніх процесів виноситься назовні, можуть з’явитися додаткові здатності, але принципово нічого нового. Це не людські агенти — справжня суб’єктність потребує тих самих відсутніх частин мозку. А головна небезпека, на його думку, — не голлівудський «суперінтелект, що захоплює світ», а якийсь непередбачений побічний наслідок десь попереду, якого зараз ніхто не вгадає.

Чи забере ШІ вашу роботу

І нарешті — питання, яке хвилює найбільше. Відповідь Сейновскі заспокійлива, але з умовою: роботу ви не втратите, але вона зміниться, бо у вас з’явиться новий інструмент.

Його аналогія — лопата. Уявіть, що ваша робота — копати канави руками. Важко, брудно, але можна. І тут хтось винаходить лопату. Спершу ви не знаєте, яким боком її тримати, граєтеся з нею — а потім розумієте, що копаєте глибше, швидше й легше. Інструмент кращий, але ним спершу треба навчитися користуватися. Те саме станеться з ChatGPT: рутину він спростить, але працювати далі будете ви. Це ви користуєтеся інструментом, а не він вами.

Більше того — ШІ зробить вас розумнішими буквально. Це як пошук Google на стероїдах: ви отримуєте відповіді на питання звичайною мовою, а не на ключові слова, і ваш мозок убирає знання швидше, ніж будь-коли. Але є нюанс, якому Сейновскі присвятив у книзі цілий розділ, — «сила запиту». З моделлю треба навчитися взаємодіяти інакше: це не друкарська машинка, у яку просто стукаєш по клавішах.

Залишається й фундаментальне обмеження, яке відрізняє ШІ від нас. Людина вчиться все життя. А ChatGPT після тренування — застиглий: вимкніть і ввімкніть його — це той самий чат-бот, який нічого від вас не запам’ятав. Щоб він став справжнім помічником-агентом, його ще треба навчити вбирати й використовувати те, що ми йому даємо. Поки що цього немає.

Чому це важливо знати

Поки заголовки лякають «суперінтелектом» і втратою роботи, людина, яка стояла біля витоків самих нейромереж, радить видихнути. ChatGPT — потужне дзеркало й чудовий інструмент, але не свідома істота: у нього немає цілей, відчуттів і внутрішнього життя між вашими запитами. Практичний висновок для кожного простий: не сперечайтеся, чи «розуміє» вас машина, а навчіться грамотно ставити їй запити — саме це, а не філософські страхи, визначить, наскільки ШІ зробить ваше життя й роботу кращими.

Джерела

• «ChatGPT and the Future of AI: The Deep Language Revolution» — MIT Press
• Авторський Substack Террі Сейновскі «Brains and AI»