Загадка запитань, що зникли

Листопад 2022 року. Компанія OpenAI випускає ChatGPT — і вже за пів року найбільший у світі сайт для програмістів Stack Overflow фіксує дивну картину. Кількість нових запитань там падає на 25% — це приблизно одне з кожних чотирьох питань, які раніше публікували розробники. Про це у 2024 році написали дослідники Марія дель Ріо-Чанона (R. Maria del Rio-Chanona), Надзея Лаврентьєва (Nadzeya Laurentsyeva) та Йоганнес Вакс (Johannes Wachs) у виданні PNAS Nexus.

Сам факт наче не дивує: навіщо публічно питати незнайомців, якщо чат-бот відповість миттєво? Але саме тут ховається пастка. Коли розробник ставив питання на форумі, він лишав по собі слід — відповідь, яку могли прочитати тисячі інших людей роками потому. Розмова з чат-ботом лишається лише в особистому вікні користувача. Публічний слід зникає.

Два види знань, які тримаються одне за одного

Щоб зрозуміти, чому це важливо, варто розрізнити два типи знань.

• Загальні знання — принципи, які людство накопичує роками і передає з покоління в покоління: закони фізики, основи медичної діагностики, правила юридичної практики.
• Контекстні знання — інформація про конкретну ситуацію тут і зараз: симптоми конкретного пацієнта, деталі конкретної судової справи, параметри конкретного інвестиційного портфеля.

Ці два типи знань працюють лише в парі. Уяви GPS-навігатор, який точно каже: «Поверни праворуч через 200 метрів». Ця підказка — контекстне знання. Та вона корисна лише тоді, коли ти взагалі розумієш, що таке «праворуч» і навіщо повертати. Без базового розуміння простору навіть найточніша вказівка не допоможе дістатися мети.

Дослідники Магер Каллель (Maher Kallel), старший стратегічний консультант, і Мохамед Ель Луаді (Mohamed El Louadi) з туніського Institut Supérieur de Gestion, Université de Tunis пояснюють: розв’язок конкретної задачі, яким би точним він не був, втрачає сенс, якщо в людини немає загальної рамки, щоб цей розв’язок зрозуміти.

Як народжується спільна скарбничка знань

Тепер головне питання: звідки взагалі беруться загальні знання? Відповідь — з людських зусиль.

Коли лікар довго розбирається зі складним випадком, він отримує дві речі одразу. По-перше — приватний сигнал: розуміння, як лікувати саме цього пацієнта. По-друге — публічний сигнал: досвід, яким лікар зрештою ділиться з колегами через статтю чи розмову в ординаторській. Перше лишається собі. Друге йде у спільну скарбничку знань усієї професії.

Це схоже на спільне пасовище, яким користується ціле село: кожен пастух хоче випасти якомога більше своїх овець, бо вигода від додаткової вівці — особиста, а трава витоптується для всіх. Цю модель ще 1968 року описав еколог Гаррет Гардін (Garrett Hardin) у журналі Science і назвав «трагедією спільних благ».

З людськими зусиллями відбувається те саме, що з вівцями на пасовищі. Ти вкладаєш власний час і мізки, щоб розібратися в складній задачі. А користь від сліду, який лишається по тобі — стаття, відповідь на форумі, пояснення колезі, — дістається всім навколо, а не тільки тобі. Тому суспільство завжди трохи недоінвестує у спільні знання: кожному окремо вигідніше притримати зусилля для себе.

Замкнене коло, яке підриває саме себе

А тепер уяви, що з’являється агентний штучний інтелект — так називають ШІ-системи, які не просто підказують, а самостійно виконують задачі за людину. Він підмінює собою приватний сигнал: дає готову відповідь на конкретне питання. Але публічного сигналу він не створює. ШІ відповість тобі особисто й одразу «забуде» про це.

Тут і замикається коло. Точні відповіді ШІ знижують стимул докладати власні зусилля. Менше зусиль — менше публічних слідів. Менше слідів — тонший запас спільних знань. А тонший запас загальних знань з часом б’є по самому ШІ: адже мовні моделі теж навчаються на тому самому масиві людських текстів і форумів. Система буквально поїдає той самий ресурс, який робить її цінною.

Дослідники одразу застерігають: це не залізний закон, а умовна модель. Колапс настане, лише якщо люди легко розслабляються — тобто швидко кидають старатися, щойно ШІ дає прийнятну відповідь. Дослідники називають це «еластичністю зусиль». Але якщо люди не розслабляються, навіть коли ШІ впорався б і сам, — жодного колапсу не буде: тонкий публічний сигнал просто не зникає.

Чому лікарі, юристи чи науковці нерідко не розслабляються? У кожного своя причина.

• Лікаря тримає ліцензування — помилку легко перевірити.
• Юриста — професійна відповідальність перед клієнтом.
• Науковця — щира цікавість до самої задачі.

Парадокс: чому надточний ШІ може бути гіршим за менш точний

Найнесподіваніший висновок стосується не кінця шляху, а його середини. Економіст Дарон Аджемоглу (Daron Acemoglu) з Массачусетського технологічного інституту (Massachusetts Institute of Technology, MIT) разом з колегами Дінгвеном Конгом (Dingwen Kong) та Асуман Оздаглар (Asuman Ozdaglar) побудував економічну модель у робочій доповіді Національного бюро економічних досліджень США (National Bureau of Economic Research, NBER). Висновок команди: суспільна користь від ШІ зростає не завжди прямолінійно разом з його точністю.

На старті, коли ШІ ще недосконалий, кожне покращення точності — це чистий виграш: менше помилок, кращі рішення. Але після певного порогу починає домінувати інший ефект: втрати від того, що спільні знання висихають, переважають виграш від точніших особистих порад. У теорії навіть може існувати оптимальний рівень точності ШІ — і він не обов’язково максимальний.

Це не означає, що «точніший ШІ завжди гірший» — саме так спрощену версію моделі розтиражували в соцмережах. Автори наукової роботи прямо спростовують таке прочитання. Реальний висновок обережніший: користь може почати спадати лише за певних умов, і чи справджуються ці умови в реальному світі — поки невідомо.

До речі, як ми раніше писали, штучний інтелект може знищити людство — про це попереджають навіть його творці. Модель Аджемоглу пропонує спокійнішу, математично прораховану альтернативу таким тривожним заявам.

П’ять причин не панікувати завчасно

Автори наукової роботи ставлять під сумнів власну ж модель — і знаходять щонайменше п’ять слабких місць.

• Модель ділить знання лише на два жорсткі типи й не залишає місця для нових видів компетентності, які виникають саме завдяки співпраці людини й машини.
• Модель припускає, що ШІ ніколи не створює нових загальних знань — лише переробляє старі. Але це вже не так: система штучного інтелекту AlphaFold, як ми раніше писали, розшифрувала просторову структуру сотень тисяч невідомих раніше білків — це справжнє поповнення наукового знання людства, а не переробка старого.
• Усе впирається в ключовий параметр — «еластичність зусиль», тобто наскільки різко люди кидають старатися, коли ШІ дає готову відповідь. Цей параметр ще ніхто не виміряв. Це найслабше місце всієї моделі.
• Історія вже бачила подібні тривоги — і жодна з них поки що не справдилася катастрофічно. Ще давньогрецький філософ Сократ (Socrates) у діалозі «Федр» («Phaedrus») попереджав, що письмо занапастить людську пам’ять. Друкарський верстат і калькулятор викликали ті самі побоювання. Жодна з цих технологій не знищила людське мислення — вони його переформатували.
• Запропонований авторами первісної моделі «рецепт» — навмисно робити ШІ менш точним — практично нездійсненний. Жодна компанія-розробник не погодиться свідомо псувати власний продукт, а домовитися про це між країнами й компаніями світу — задача майже неможлива.

Друга модель: звичка до ШІ як вірус, що поширюється

Другий колектив дослідників — фізик Рікард Соле (Ricard Solé) з Університету Помпеу Фабра (Universitat Pompeu Fabra) в Барселоні разом із командою фізиків та біологів з Іспанії, Італії та США підійшов до тієї самої проблеми зовсім з іншого боку: не як економісти, а як фахівці зі складних систем, які застосували математичний апарат епідеміології до зовсім іншого процесу.

Вони запропонували розглядати звичку користуватися ШІ як щось на кшталт вірусу, що поширюється популяцією. Не буквально — автори прямо застерігають, що це не означає, ніби взаємодія людини й ШІ шкідлива за визначенням, — а математично, за тими самими рівняннями, якими описують спалахи інфекцій.

У моделі все населення поділене на три групи.

• «Нез’єднані» — люди, які майже не користуються ШІ, а спираються на власне мислення, книжки та інші джерела.
• «З’єднані, але автономні» — регулярні користувачі ШІ, які водночас зберігають звичку читати, перевіряти й мислити самостійно.
• «Залежні» — ті, для кого ШІ став основним і майже єдиним способом виконувати розумові задачі.

Точка неповернення

Головний результат моделі — не плавна крива, а різкий стрибок.

Уяви дверну клямку: поки тиснеш на неї недостатньо сильно, вона взагалі не рухається. Та щойно тиск перевищує певний поріг, клямка різко клацає і йде до кінця. Так само працює й поширення звички до ШІ в моделі дослідників.

У прикладі, який автори наводять для ілюстрації, доки умовний «тиск» поширення ШІ-практик у суспільстві нижчий за половину шкали, населення лишається переважно автономним — навіть якщо цей тиск повільно зростає. Але щойно він перетинає поріг, суспільство різко «перемикається» у режим масової залежності від ШІ — не поступово, а стрибком.

І ось найважливіша деталь: повернути все назад складніше, ніж запобігти. За тими самими ілюстративними розрахунками авторів, щоб «заразити» популяцію звичкою покладатися на ШІ, достатньо підняти тиск поширення до половини шкали. Але щоб розвернути процес назад, тиск потрібно знизити не до тієї самої половини, а приблизно на 20% нижче — до 40% від умовного максимуму. Це і є «застрягла клямка», яку науковці називають гістерезисом: шлях назад довший за шлях уперед.

Наслідок відчутний. У розрахованому авторами прикладі середня «когнітивна компетентність» популяції — здатність населення мислити самостійно, без сторонньої підтримки, — падає зі 100% до приблизно 42%, щойно система перетинає поріг. А щоб відновити її, недостатньо просто трохи «відкотити» умови назад — доведеться знизити тиск набагато сильніше, ніж той рівень, який спричинив падіння.

Колективний імунітет для мислення

Чому взагалі виникає цей стрибкоподібний ефект, а не плавне сповзання? У рівняннях моделі є особливий доданок, який відповідає за «колективне підкріплення» самостійного мислення.

Ідея проста: людині легше залишатися автономною, коли навколо багато інших автономних людей — школа, робочий колектив чи друзі підтримують звичку читати, перевіряти факти й думати самому. Це схоже на колективний імунітет у медицині: захист кожної окремої людини зростає, коли захищена більшість навколо.

Саме цей ефект дослідники називають «когнітивною імунізацією» — не відмову від ШІ, а збереження стійкості до шкідливої, залежної форми взаємодії з ним, поки корисні форми лишаються доступними.

Модель показує: якщо зробити повернення до самостійної роботи легшим і соціально підтримуваним — захищений час без гаджетів, вправи без підказок, цінування самостійної думки, — поріг стрибка піднімається, а розрив між «заразитися» і «одужати» звужується. За певних умов ефект різкого стрибка може взагалі зникнути, і зміни стануть плавними й керованими.

Що показують реальні експерименти

Ідея не лишається суто теоретичною — дослідники наводять кілька реальних спостережень.

Дослідниця Наталія Космина (Nataliya Kosmyna) з Медіалабораторії Массачусетського технологічного інституту (MIT Media Lab) разом з колегами у 2025 році провела експеримент: учасники писали есе за допомогою ChatGPT, поки їхній мозок сканував електроенцефалограф — прилад, що фіксує електричну активність мозку через датчики на голові. У користувачів чат-бота науковці зафіксували слабший зв’язок між різними ділянками мозку, ніж у тих, хто писав без допомоги. Більшість учасників, які писали з ШІ, згодом не змогли навіть процитувати власний текст. Це невелике й короткочасне дослідження, тож поспішних висновків з нього робити не варто — але сам факт вартий уваги.

В іншому експерименті групу людей попросили спершу подумати самим, а тільки потім скористатися ChatGPT — і їхня подальша самостійна творчість виявилася сильнішою, ніж у тих, хто одразу отримав необмежений доступ до чат-бота.

А команда дослідників, до якої увійшли фахівці компанії Microsoft, опитавши працівників розумової праці, з’ясувала: що більше людина довіряє відповіді ШІ, то менше зусиль вона докладає до критичного осмислення цієї відповіді.

Автори моделі проводять чітку межу між двома типами підтримки. «Риштування» — це коли інструмент полегшує задачу зараз, але зберігає чи навіть підвищує здатність людини впоратися з нею наступного разу самостійно, як репетитор, що підказує напрямок, а не дає готову відповідь. «Заміщення» — це коли інструмент повністю знімає потребу думати самому. Перше корисне. Друге ризиковане.

Чому це важливо знати. Ця різниця стосується і школярів, які щодня користуються ChatGPT для домашніх завдань. Якщо ШІ одразу дає готову відповідь на задачу — це заміщення: навичка розв’язувати такі задачі самостійно не тренується і поступово слабшає. Якщо ж ШІ пояснює хід думки й підштовхує розв’язати самому — це риштування, і воно, навпаки, зміцнює розуміння. Різниця не в тому, користуватися ШІ чи ні, а в тому, як саме ним користуватися.

Що з цим можна зробити

Головний висновок обох досліджень — не паніка, а вибір.

Автори економічної моделі наголошують: найреалістичніший спосіб захисту — не змушувати компанії робити ШІ гіршим, адже це політично нездійсненно, а зміцнювати інститути, які збирають і перевіряють людські знання: відкриті бази даних, професійні спільноти, університети як охоронці перевіреного знання.

Дослідники моделі «когнітивного вірусу» додають практичний список:

• захищений час для самостійної роботи без підказок;
• вимога перевіряти відповіді ШІ;
• періодична практика без інструментів;
• освітні завдання, де ШІ підтримує хід думки, а не замінює його.

У найважчих випадках стійкої залежності, за словами авторів, може знадобитися і психологічна підтримка — за аналогією з іншими поведінковими залежностями.

Жоден з висновків не каже, що катастрофа неминуча. Обидві команди підкреслюють: це умовні сценарії, які залежать від параметрів, які ще належить виміряти. Але саме тому, кажуть науковці, варто вимірювати їх уже зараз — поки суспільство ще по цей бік порогу.

Раніше ми писали:

• Штучний інтелект може знищити людство — кажуть навіть його творці
• Штучний інтелект розшифровує невідомі білки — прорив для медицини та біології
• Чат-бот замість друга: що ШІ робить із самотності людей