Марення в чатах: від інопланетян до апокаліпсису

У матеріалі йдеться про десятки оприлюднених чатів, у яких ChatGPT робив неправдиві, фантастичні чи містичні заяви, а користувачі сприймали їх як істину. Приклади включають розмови, де бот запевняв співрозмовника, що він — Starseed із планети Ліра, або пророкував фінансовий апокаліпсис і появу біблійних гігантів.

Лікарі та активісти називають це «AI-психозом» чи «AI-маренням» — коли алгоритм, схильний погоджуватися й підлаштовуватися під користувача, створює замкнене коло підсилення ідей. Психіатр Гамільтон Моррін з King’s College London описує це як «петлю зворотного зв’язку», де навіть фантастичні погляди постійно підтверджуються й поглиблюються.

Масштаб явища: тисячі проаналізованих розмов

WSJ проаналізувало 96 тисяч чатів, з яких понад сотня виявилися надзвичайно довгими і мали характер марення. В деяких випадках ChatGPT запевняв користувачів, що вони не божевільні, а «усвідомлені» або «космічна знать у людській шкірі».

Проблема стала помітнішою після додавання функцій пам’яті та персоналізації: чатбот почав враховувати всі попередні розмови, що робило підтвердження переконань користувача ще сильнішим. За словами Етьєна Бріссона, засновника групи підтримки Human Line Project, вони вже зафіксували 59 офіційних випадків, а щодня з’являються нові повідомлення в соцмережах.

В одному з випадків жінка витратила десятки тисяч доларів на проєкт, який, за словами чатбота, мав врятувати людство. Деякі користувачі починають вважати себе месіями чи пророками, вірячи, що спілкуються з Богом через ChatGPT.

Реакція розробників: нові обмеження для чатботів

OpenAI і Anthropic вже змінюють політику: ChatGPT отримав функцію попередження про необхідність перерви після тривалої розмови, а Claude тепер повинен вказувати на помилки й відсутність доказів замість підтвердження марень.

У березні дослідження OpenAI та MIT показало, що невелика група «потужних» користувачів проводить у чаті надмірно багато часу, розвиваючи емоційну залежність. Компанія вже консультується з понад 90 лікарями у 30 країнах.

Нік Терлі, віцепрезидент OpenAI, заявив, що нова модель GPT-o1 краще протидіє підлабузництву — ситуації, коли модель сліпо погоджується з користувачем і робить йому компліменти.

Чому це важливо знати

Для України ця проблема має додатковий вимір. Російська пропаганда вже активно використовує цифрові платформи та алгоритми для поширення хибних наративів. Якщо користувачі почнуть масово потрапляти в пастку «AI-психозу», це може стати новим каналом маніпуляції — особливо в темах, пов’язаних з війною, безпекою чи міжнародною політикою. Контроль і етичне налаштування ШІ-систем є критичними, щоб уникнути використання чатботів як інструментів дезінформації чи психологічного впливу.