Електроди на голові і есе про щастя

Дослідники MIT Media Lab вирішили перевірити, що відбувається в людському мозку, коли людина пише текст з допомогою ChatGPT. Не «що вона пише», а буквально — що в цей момент відбувається в нейронах.

54 учасники надягли ЕЕГ-шоломи — пристрої, що фіксують електричну активність мозку через електроди на шкірі голови — і написали есе на теми зі стандартного американського тесту SAT: про щастя, благодійність, передбачливість тощо. Кожен учасник брав участь у трьох сесіях, і залежно від групи міг користуватися ChatGPT, пошуковиком Google або взагалі нічим.

Результат виявився разючим. Мозок учасників з групи ChatGPT показав найслабшу нейронну зв’язність з усіх трьох груп — у всіх діапазонах мозкових хвиль: альфа, бета, тета і дельта. Ті, хто писав з ШІ, думали значно менше, ніж ті, хто писав сам або з пошуковиком. Виходить парадокс: текст хороший, але мозок майже не працював.

«Моє есе? Ну, насправді не зовсім моє»

Одна з найдивніших знахідок MIT стосується не мозку, а відчуття авторства. Після кожної сесії учасників запитували:

«Ви вважаєте це есе своїм?»

Відповіді групи ChatGPT були розмитими — люди відчували знижене відчуття власності над текстом, хоча саме вони ініціювали, редагували, публікували.

Ще красномовнішим виявився тест на цитування. Відразу після написання учасників просили процитувати щось зі свого есе. Група Brain-only справлялася добре — вони пам’ятали, що писали. Група ChatGPT зазнавала значних труднощів: вони не могли згадати зміст тексту, який щойно «написали».

Дослідники пояснюють це просто: якщо ти не думаєш над текстом — ти його не запам’ятовуєш. Мозок кодує в довготривалу пам’ять те, над чим працює. Якщо ChatGPT зробив роботу замість тебе, мозку не було що кодувати.

Четверта сесія: що трапляється, якщо забрати ШІ

Найдраматичніші дані MIT отримали в четвертій сесії, де вчені поміняли групи місцями. Ті, хто завжди писав з ChatGPT, мали написати есе самостійно — «LLM-to-Brain». А ті, хто завжди писав сам, отримали доступ до ChatGPT — «Brain-to-LLM».

Група Brain-to-LLM показала несподіване: їхня нейронна активність при роботі з ШІ виявилася вищою, ніж у звичайних користувачів ChatGPT. Їх мозок не «вимкнувся» тільки тому, що з’явився зручний інструмент.

Натомість група LLM-to-Brain показала значно слабшу нейронну зв’язність. Їхні есе буквально містили «лексику ChatGPT»: стандартні обороти, які вони підхопили від ШІ і тепер відтворювали навіть без його допомоги. Вчені назвали це явище «когнітивним боргом» — накопиченим дефіцитом самостійного мислення.

1372 учасники і завдання, де ШІ навмисно помилявся

Поки MIT вимірювала мозок, дослідники Wharton хотіли побачити, як люди приймають рішення, коли поруч є ШІ. В серії з трьох попередньо зареєстрованих експериментів взяли участь 1372 особи, які виконали загалом 9593 завдання. Для тестування використовували CRT-7 — набір задач, що перевіряють здатність мислити критично, а не покладатися на інтуїтивний здогад.

Учасники мали доступ до GPT-4o. Але дослідники налаштовували ШІ по-різному: в одній умові він давав правильні відповіді (AI-Accurate), в іншій — свідомо помилкові (AI-Faulty).

Цифри, які мають вас насторожити

Коли ШІ відповідав правильно, точність учасників зросла з 45,8% до 71%. Але коли ШІ свідомо помилявся, точність впала до 31,5% — на 14 пунктів нижче, ніж якби люди думали самостійно без жодного ШІ взагалі.

79,8% учасників погоджувалися з неправильними відповідями ШІ — навіть коли ті були очевидно безглуздими. Ще моторошніша деталь: коли ШІ помилявся, впевненість учасників у своїх відповідях зростала на 11,7 відсоткових пунктів. Вони помилялися — і при цьому почувалися більш впевненими, ніж коли думали самостійно.

Дослідники назвали це «когнітивною капітуляцією» — некритичним прийняттям виводів машини без власної перевірки.

Хто чинить опір — і як

Не всі однаково піддавалися капітуляції. «AI-Users» — учасники, які зверталися до ШІ в більшості завдань — демонстрували гіршу точність і нижчу схильність перевіряти відповіді. «Independents» — ті, хто рідко використовував ШІ — мали вищий показник «потреби в пізнанні» (Need for Cognition) і вищу рухливу інтелектуальну здатність.

Коли учасникам давали фінансовий стимул і негайний зворотний зв’язок, рівень відхилення помилкових підказок ШІ зріс з 20% до 42,3%. Мотивація і відповідальність зменшують капітуляцію — але не усувають її повністю.

Два дослідження — один висновок

Дослідники Массачусетського технологічного інституту (MIT) виміряли мозок: коли людина регулярно пише з ChatGPT, він буквально менше працює. Різні ділянки перестають «переговорюватися» між собою — і текст, який щойно написав, вже не відкладається в пам’яті. Запитайте такого автора процитувати власне есе — і він розведе руками.

Економісти зі Школи бізнесу Wharton при Університеті Пенсильванії виміряли рішення: коли ChatGPT помиляється, людина погоджується з помилкою у 8 випадках з 10. І при цьому почувається впевненіше, ніж якби думала сама.

Разом це означає одне: ШІ не просто робить роботу за нас — він поступово робить нас менш здатними робити цю роботу без нього.

Від експерименту до реальних наслідків

Уявіть лікаря, який роками звіряється з ШІ-діагностикою. Одного дня система помиляється. Але лікар вже не пам’ятає, як думати без підказки — і погоджується. Саме таку траєкторію описують дослідники: не разову помилку, а поступову втрату навички.

В освіті це відбувається тихіше. Студент здає гарне есе, отримує хорошу оцінку — і не може переказати жодного абзацу. Мозок не запам’ятав, бо не працював.

У фінансах і праві ставки вищі — і цифри це підтверджують. Навіть коли ШІ давав очевидно безглузді відповіді, учасники погоджувалися з ними майже в 8 випадках з 10.

Окремо дослідники описали стан, який назвали «AI psychosis»: людина так звикає сприймати світ через відповіді ШІ, що власний досвід і судження поступово відходять на другий план. Не фантастика — логічне продовження того, що вони побачили в експерименті.

Що пропонують вчені

Жодна з команд не закликає відмовитися від ШІ. Питання в іншому — як він спроектований і як ним користуються.

Дослідники з Wharton кажуть: ШІ має визнавати свою невпевненість. Коли система каже «я не впевнений» або «є інші точки зору» — люди значно рідше приймають відповідь беззаперечно. Ще важливіше — відповідальність. Якщо людина знає, що рішення її, а не машини, вона починає перевіряти.

MIT наполягає на простому правилі: спочатку думай сам, потім питай у ШІ. Їхні дані показали — якщо людина звикла до самостійної роботи, ШІ стає для неї інструментом, а не милицею. Зворотна послідовність дає протилежний результат.

Усі дані експерименту MIT відкриті — дослідники опублікували їх на brainonllm.com та papers.ssrn.com.

Чому це важливо знати

Обидва дослідження — це сигнал про те, що ШІ-інструменти потребують свідомого підходу, а не пасивного використання. Якщо людина делегує мислення машині, вона може отримати гарний результат сьогодні — але заплатити за це здатністю думати самостійно завтра. Питання не «чи використовувати ChatGPT», а «коли і як».

Джерела: Shaw S.D., Nave G. «Thinking — Fast, Slow, and Artificial» — Wharton/SSRN; Kosmyna N. et al. «Your Brain on ChatGPT» — MIT Media Lab; як ми вже повідомляли про виклики штучного інтелекту.

⚠️ ВИДАЛИТИ ПЕРЕД ПУБЛІКАЦІЄЮ
Вихідний текст:
Стаття про два дослідження впливу ChatGPT на мозок: MIT Media Lab (ЕЕГ, 54 учасники) і Wharton School (1372 учасники, 9593 завдань). Висновки: регулярне використання ChatGPT знижує нейронну активність, спричиняє «когнітивний борг» і «когнітивну капітуляцію» — некритичне прийняття відповідей ШІ навіть коли вони очевидно хибні (79,8% погоджуються з помилками).