Як ілюзії — і нейронні мережі — змушують нас вірити у власну непогрішність

Мозок як система передбачення

Філіпп Штерцер (Philipp Sterzer) у книзі “Ілюзія розуму” (Die Illusion der Vernunft) нагадує: “об’єктивна реальність” — це компроміс між сенсорними даними та очікуваннями мозку. Наші попередні припущення (prior’и) допомагають заощаджувати ресурси, проте водночас викривляють сприйняття і стають основою упереджень — від футбольних симпатій до ідеологічної зашореності.

Сенсорна симфонія

Мозок інтегрує не лише зорову інформацію, а й сигнали від шкіри, суглобів, слуху й запахів, створюючи єдину “картину світу”.
Кожна людина обробляє реальність крізь фільтри особистого досвіду, культури та поточних цілей.
Різні культури — це різні набори таких фільтрів.
Ілюзія “чистого сприйняття” — не філософський парадокс, а встановлений факт нейронауки.

Впевненість як універсальна “валюта”

Дослідження берлінських нейропсихологів показало:
Внутрішня впевненість активує у мозку ті ж самі механізми винагороди, що й зовнішні нагороди (гроші, соціальне схвалення).
Коли немає зворотного зв’язку, мозок використовує приріст упевненості як сигнал правильності дії, через механізм prediction error (помилки передбачення).

Машини, що навчаються сумніву

Дослідження великих мовних моделей (LLM) показало, що вони, як і люди, мають внутрішні індикатори впевненості/невпевненості.
Чим більша модель — тим краще вона співвідносить рівень своєї впевненості з точністю відповідей.
Але, як і люди, LLM схильні переоцінювати себе.
Висновок учених: треба навчати моделі комунікувати рівень своєї невпевненості, щоб уникнути штучної ілюзії непогрішності.

Загальний висновок: Чотирьохходова логіка

1. Суб’єктивність неминуча: мозок завжди створює гіпотези швидше, ніж фіксує об’єктивні дані.
2. Впевненість — ключовий регулятор: ми відчуваємо “правоту” тоді, коли наші очікування підтверджуються, і мозок підсилює таку модель світу.
3. Культура — це узгодження суб’єктивних моделей: мови, науки, релігії та політики — це форми колективних “карт реальності”.
4. Правильний сумнів — важливіший за обсяг даних: розвиток критичності мислення потрібен і людям, і ШІ більше, ніж просте накопичення знань.

Приклад: Ілюзія обертання танцюристок

У тесті з трьома танцюристками (ефект Spinning Dancer):

• Якщо дивитись ліворуч — середня танцює за годинниковою стрілкою.
• Якщо дивитись праворуч — середня танцює проти годинникової стрілки.

Запитання: яка версія істинна?
Відповідь: жодна абсолютно.
Перцепція суб’єктивна і формується контекстом.

Головні небезпеки «ілюзії об’єктивності»

• Неможливо чітко розрізнити “раціональний” і “ірраціональний” розум за допомогою тестів або аналітики.
• Впевненість ≠ істина: еволюція навчила нас оцінювати реальність не за об’єктивністю, а за впевненістю у своїх припущеннях.
• Перенос ілюзії впевненості в ШІ небезпечний: користувачі ризикують стати жертвами некаліброваної впевненості великих мовних моделей.

Чому це критично важливо знати

• Для людей: усвідомлення, що впевненість часто хибна, формує інтелектуальне смирення і захист від маніпуляцій.
• Для ШІ: потреба розробляти моделі, які чітко сигналізують рівень своєї невпевненості.
• Для суспільства: усвідомлення суб’єктивності культурних картин реальності допомагає уникати радикалізації й конфронтації.

Не обсяг знань і не кількість параметрів рятують суспільства — рятує здатність ставити під сумнів власні переконання.