Це може бути зручно, але також викликає запитання про межі приватності та особистої безпеки. Про це йдеться в колонці Меган Морроне для Axios.

Пам’ять ChatGPT покликана забезпечити персоналізованіші відповіді, базовані на контексті попередніх розмов. Наприклад, якщо ти одного разу сказав боту, що не любиш сочевицю, він може більше не пропонувати її в рецептах. Це звучить зручно — але має й темні сторони.

Не кожен готовий до чат-бота, який ніколи не забуває.

Як це працює?

Керівниця команди персоналізації OpenAI Крістіна Вадсворт Каплан пояснює: перша версія пам’яті ChatGPT працювала як персоналізований блокнот, де можна було занотовувати речі для подальшого використання. Цього року OpenAI розширила функцію, зробивши її автоматичнішою та «природнішою».

«Якщо ви нещодавно говорили з ChatGPT про підготовку до марафону, наприклад, ChatGPT має це запам’ятати й допомагати вам із цим в інших розмовах», — каже вона.

Вадсворт Каплан наводить особистий приклад: ChatGPT порекомендував їй щеплення для майбутньої подорожі на основі пам’яті про її медичну історію. Медсестра запропонувала чотири щеплення, але ChatGPT порекомендував п’яте — на основі попередніх лабораторних результатів, які вона завантажувала. Медсестра погодилася, що це гарна ідея.

Якщо хочеш, щоб ChatGPT щось запам’ятав, скажи: «Запам’ятай це». Або навпаки: «Не запам’ятовуй це».

Але в чому проблема?

Контекстний колапс

Твої розмови про собаку, хобі та роботу змішуються в одну купу. Розробник Саймон Віллісон поскаржився, що в травні завантажив фото своєї собаки Клео й попросив ChatGPT одягнути її в костюм пелікана. Бот виконав прохання, але додав табличку «Half Moon Bay».

Коли Віллісон запитав чому, чат-бот відповів:

«Тому що ви раніше згадували, що перебуваєте в Half Moon Bay».

«Я пробую багато дурних речей із цими моделями. Я справді не хочу, щоб моя прихильність до собак у костюмах пеліканів впливала на мої майбутні промпти, коли я намагаюся виконати реальну роботу», — написав він у блозі.

Проблема Віллісона — це ШІ-версія явища, яке завжди переслідувало алгоритмічні системи та відоме як «контекстний колапс». Це коли дані з різних сфер діяльності користувачів (робота, сім’я, хобі) змішуються, розмиваючи межі в їхньому житті.

Алгоритмічна жорстокість

Онлайн-інструменти персоналізації вже давно страждають від схильності до «ненавмисної алгоритмічної жорстокості». Цей термін придумав блогер Ерік Меєр десять років тому, коли Facebook показав йому непрошений автоматично згенерований відеоогляд року з усміхненими фотографіями його доньки — яка нещодавно померла від раку.

Авторка статті ділиться власним досвідом:

«Я попросила ChatGPT згенерувати моє зображення на основі того, що він про мене пам’ятає, і він намалював мені обручку, хоча я вже не заміжня».

Приватність і контроль

Може бути тривожно, коли чат-бот згадує попередні розмови. Але це також слугує нагадуванням: кожен твій запит може зберігатися ШІ-сервісами.

Коли функцію пам’яті вперше анонсували в лютому 2024 року, OpenAI повідомила Axios, що компанія

«вжила заходів для оцінки та зменшення упереджень і спрямовує ChatGPT подалі від проактивного запам’ятовування конфіденційної інформації, як-от дані про ваше здоров’я — якщо ви явно не попросите про це».

Чи можна контролювати пам’ять?

Так, OpenAI наголошує: користувачі мають повний контроль.

«Ваші спогади видно лише вам», — каже керівник команди персоналізації OpenAI Семір Ахмед. «Ми справді хочемо переконатися, що користувачі загалом відчувають контроль».

Ахмед пояснює, що є кілька способів керування пам’яттю:

• Видалити будь-який спогад на сторінці налаштувань
• Видалити пов’язаний чат
• Просто сказати ChatGPT, що ви хочете або не хочете, щоб він запам’ятав

Версії ChatGPT і пам’ять

Різні версії ChatGPT (безкоштовна, Plus, Pro, Enterprise) мають різні рівні можливостей пам’яті. Платні версії пропонують розширену короткочасну та довготривалу пам’ять.

OpenAI все ще працює над додаванням більше пам’яті до корпоративної версії ChatGPT.

«Корпоративні та споживчі випадки використання просто різні», — каже Вадсворт Каплан. «Ми створили це для споживачів, щоб дати ChatGPT відчуття того, хто ви є, і допомогти вам протягом багатьох розмов».

«Коли ми дивимося в майбутнє, у нас є захоплюючі речі в планах, деякі з яких можуть бути більш актуальними для корпоративних користувачів».

Чому це важливо знати

ChatGPT поступово перетворюється на цифрову істоту, яка знає тебе все краще — і не забуває. Це може бути зручно для тривалих проєктів, навчання чи медичних порад. Але водночас піднімає етичні питання щодо приватності, довіри та розмежування контекстів життя.

Пам’ять ШІ — це не нейтральне сховище. Вона зберігає не те, що важливо тобі, а те, що важливо алгоритму. Контекст розмов, патерни відповідей, твої вподобання — все це перетворюється на модель, яка визначатиме майбутні діалоги.

Коли персональний асистент перетворюється на цифрове дзеркало твоєї свідомості, кожне збережене слово стає частиною алгоритму, що формуватиме наступні відповіді. Ти не просто спілкуєшся — ти програмуєш власне майбутнє спілкування.

Питання не в тому, чи довіряти ШІ свої думки. Питання в тому, чи усвідомлюєш ти, що кожен діалог — це акт створення цифрового двійника, який завтра говоритиме твоїм голосом.

Для українського користувача — з огляду на війну, еміграцію, психологічні травми та залежність від онлайн-інструментів — питання контролю над даними стає ще більш чутливим і критично важливим.