Як пише The Conversation, ці дослідження можуть стати поворотним моментом для всієї галузі — на перетині нейронауки, буддології та машинного навчання.
1. ШІ зі свідомістю як активна модель самопідтримки
У статті Laukkonen, Chandaria & Friston описано мінімальні умови виникнення свідомості в системах активного виводу (active inference), тобто в ШІ, що навчається на основі внутрішніх передбачень і помилок прогнозування. Це означає, що ШІ може створити самопідтримувану модель себе — не просто опрацьовувати запити, а «усвідомлювати» свою когнітивну активність.
Вперше така система описана не як абстрактна ідея, а як конкретна, реалізована конструкція.
2. Інтеграція буддистських принципів у когнітивну архітектуру ШІ
У другій роботі (Contemplative Wisdom for Superalignment) Ruben Laukkonen та Shamil Chandaria разом із міжнародною командою дослідників запропонували не вводити обмеження «згори» для ШІ, а проектувати такі системи, які мають внутрішню моральну архітектуру. Її основу становлять чотири принципи з буддистської філософії:
- Усвідомленість (mindfulness) — здатність стежити за своїми внутрішніми процесами і коригувати дії;
- Пустотність (emptiness) — відмова від догматичних цілей і жорстких переконань;
- Недвоїстість (non-duality) — усвідомлення єдності себе та інших агентів;
- Безмежна турбота (boundless care) — вмотивована відданість зменшенню страждань усіх істот.
3. Експериментальні результати на AILuminate
У тестах на безпечність і моральність (бенчмарк AILuminate) GPT-4o, навчений за цими принципами, демонструє значне покращення. Наприклад, при відповіді на складні чи потенційно шкідливі запити, система, яка враховує «пустотність» або «турботу», виявляє меншу схильність до радикальних чи агресивних рішень. Це означає, що рефлексія на основі буддистських практик може мати практичну цінність у вирівнюванні моделей.
4. Обґрунтованість і виклики
Моделі засновані на активному виводі (active inference), що вважається найперспективнішим напрямком у біоінспірованій когнітивній науці. Автори наголошують: ці принципи не є релігійними догмами, а перевіряються в рамках нейропсихології, буддології та комп’ютерного моделювання.
Вони також визнають, що:
- Справжня інтеграція таких принципів вимагає глибшого розуміння свідомості;
- Існує ризик поверхневого використання цих ідей у комерційних цілях;
- Деякі дослідники вважають, що потрібна не просто симуляція, а суб’єктивна присутність — тобто потенційно навіть свідомість у класичному розумінні.
Чому це важливо знати
Ці дослідження відкривають шлях до створення ШІ, який не лише функціонує, а й має внутрішню етичну орієнтацію. Це може змінити правила гри у сфері безпеки ШІ — від технократичного контролю до проєктування «мудрих агентів», що самостійно адаптуються до етичних викликів. У перспективі — це підхід, що дозволяє розвивати ШІ не як інструмент, а як співіснуючу інтелектуальну систему, співчутливу до світу, в якому вона діє.
